JP7400823B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP7400823B2
JP7400823B2 JP2021546576A JP2021546576A JP7400823B2 JP 7400823 B2 JP7400823 B2 JP 7400823B2 JP 2021546576 A JP2021546576 A JP 2021546576A JP 2021546576 A JP2021546576 A JP 2021546576A JP 7400823 B2 JP7400823 B2 JP 7400823B2
Authority
JP
Japan
Prior art keywords
pixel
image
image processing
unit
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021546576A
Other languages
English (en)
Other versions
JPWO2021054089A1 (ja
JPWO2021054089A5 (ja
Inventor
昭生 岩佐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2021054089A1 publication Critical patent/JPWO2021054089A1/ja
Publication of JPWO2021054089A5 publication Critical patent/JPWO2021054089A5/ja
Application granted granted Critical
Publication of JP7400823B2 publication Critical patent/JP7400823B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/60Rotation of a whole image or part thereof
    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M41/00Means for regulation, monitoring, measurement or control, e.g. flow regulation
    • C12M41/30Means for regulation, monitoring, measurement or control, e.g. flow regulation of concentration
    • C12M41/36Means for regulation, monitoring, measurement or control, e.g. flow regulation of concentration of biomass, e.g. colony counters or by turbidity measurements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression

Description

本発明は、画像処理装置、画像処理方法およびプログラムに関する。
例えば、形態的特徴である分枝等のような線状の部分を含む対象物を撮像して得られた画像に対して画像処理を行う方法が提案されている(例、特許文献1参照)。このような画像処理においてノイズを低減する処理を行う際には、線状の部分についての情報を残しつつ当該処理を行う必要がある。
米国特許出願公開第2009/0154792号明細書
本発明の第1の態様によると、画像処理装置は、第1画像を画像処理して得られる第2画像において、前記第1画像の第1画素に対応する位置にある、前記第2画像の第2画素の画素値を設定する第1画像処理部を備え、前記第1画像処理部は、前記第1画素に対応して設定される複数の第1画素群であって、前記第1画像における所定の方向に対して互いに異なる複数の角度をなす複数の方向に沿って配置されるか、または、前記第1画像を所定の方向に対して互いに異なる複数の角度で移動させて得た複数の画像のそれぞれにおいて所定の方向に沿って配置される複数の第1画素群を設定する第1画素群設定部と、前記複数の第1画素群のそれぞれに含まれる画素の画素値の大きさに基づいて、複数の第1候補画素値を算出する第1算出部と、前記複数の第1候補画素値に基づいて、前記第2画像の第2画素の画素値を設定する第1画素値設定部とを備える。
本発明の第2の態様によると、画像処理方法は、第1画像を画像処理して得られる第2画像において、前記第1画像の第1画素に対応する位置にある、前記第2画像の第2画素の画素値を設定することを含み、前記第2画素の画素値の設定は、前記第1画素に対応して設定される複数の第1画素群であって、前記第1画像における所定の方向に対して互いに異なる複数の角度をなす複数の方向に沿って配置されるか、または、前記第1画像を異なる複数の角度で移動させて得た複数の画像のそれぞれにおいて所定の方向に沿って配置される複数の第1画素群を設定することと、前記複数の第1画素群のそれぞれに含まれる画素の画素値の大きさに基づいて、複数の第1候補画素値を算出することと、前記複数の第1候補画素値に基づいて、前記第2画像の第2画素の画素値を設定することとを備える。
本発明の第3の態様によると、プログラムは、第1画像を画像処理して得られる第2画像において、前記第1画像の第1画素に対応する位置にある、前記第2画像の第2画素の画素値を設定する第1画像処理を処理装置に行わせるためのプログラムであって、前記第1画像処理は、前記第1画素に対応して設定される複数の第1画素群であって、前記第1画像における所定の方向に対して互いに異なる複数の角度をなす複数の方向に沿って配置されるか、または、前記第1画像を異なる複数の角度で移動させて得た複数の画像のそれぞれにおいて所定の方向に沿って配置される複数の第1画素群を設定する第1画素群設定処理と、前記複数の第1画素群のそれぞれに含まれる画素の画素値の大きさに基づいて、複数の第1候補画素値を算出する第1算出処理と、前記複数の第1候補画素値に基づいて、前記第2画像の第2画素の画素値を設定する第1画素設定処理とを備える。
図1は、第1実施形態の画像処理装置の構成を示す概念図である。 図2は、第1実施形態に係るデータ処理部の構成を示す概念図である。 図3は、第1実施形態に係る撮像画像を示す概念図である。 図4は、第1実施形態に係る第1画像処理を説明するための概念図である。 図5は、第1実施形態に係る第2画像処理を説明するための概念図である。 図6は、第1実施形態に係る画像処理方法の流れを示すフローチャートである。 図7は、第1実施形態に係る第1画像処理の流れを示すフローチャートである。 図8は、第1実施形態に係る第2画像処理の流れを示すフローチャートである。 図9は、変形例2に係るデータ処理部の構成を示す概念図である。 図10は、変形例2に係る第1画像処理を説明するための概念図である。 図11は、1次元フィルタの角度が0°、30°、60°、90°、120°および150°の各場合における、撮像画像の線状の部分および1次元フィルタの位置を示す概念図である。 図12は、1次元フィルタの角度と、フィルタに対応する複数の画素の画素値の平均値とを示すグラフである。 図13は、1次元フィルタの角度と、フィルタに対応する複数の画素の画素値の平均値とを示すグラフである。 図14は、変形例2に係る画像処理方法の流れを示すフローチャートである。 図15は、第1画素が選択される範囲の設定を説明するための概念図である。 図16は、強調画像を表示するための表示画面の一例を示す概念図である。 図17は、パラメータを設定するための表示画面の一例を示す概念図である。 図18は、変形例7に係る画像処理方法の流れを示すフローチャートである。 図19は、変形例7に係る表示画面の一例を示す概念図である。 図20は、変形例7に係る表示画面の一例を示す概念図である。 図21は、変形例7に係る表示画面の一例を示す概念図である。 図22は、変形例8に係る表示画面の一例を示す概念図である。 図23は、プログラムの提供を説明するための概念図である。
以下、図を参照して本発明を実施するための形態について説明する。
-第1実施形態-
図1は、本実施形態の画像処理装置の構成を示す概念図である。画像処理装置1は、培養部100と、情報処理部40とを備える。培養部100は、培養室(培養チャンバー)10と、観察用試料台(ステージ)11と、駆動部12と、撮像部20とを備える。情報処理部40は、入力部41と、通信部42と、記憶部43と、出力部44と、制御部50とを備える。制御部50は、データ処理部51と、出力制御部52と、装置制御部53とを備える。
画像処理装置1は、培養装置として構成され、培養部100でのサンプル(例、細胞)の撮像により得られた画像データである撮像画像データがデータ処理部51に入力され処理される構成となっている。
本実施形態では、撮像画像データに対応する撮像画像から、直線、曲線、折れ線または交叉等を含む線状の部分を強調する画像処理を行う。ここで、「強調する」とは、線状の部分と他の部分(例、背景部分、線状以外の部分)を画素値により区別しやすくすることを指し、線状の部分の輝度が高まる場合に限定されない。以下では、細胞Ceが神経細胞であり、線状の部分として神経突起Nrに対応する部分を強調する例を用いて説明するが、上記のような線状の部分を含めば、強調する対象はこの例に限定されず、画像を構成する任意の要素(例、他の細胞、細胞以外)とすることができる。
なお、描画された画像等、撮像された画像以外の画像に対して上記画像処理を行ってもよい。
培養部100は、細胞Ceを培養する培養室10を備え、培養室10において培養された細胞Ceの撮像を撮像部20によって行う。
培養室10は、細胞Ceが培養されている培養容器Cを内部に格納する。培養容器Cは、例えば、ウェルプレート又はディッシュである。培養室10の内部には、制御部50に制御される不図示の温度調節器(例、ヒーター)及び温度センサが配置されている。培養室10の内部は、該温度調節器と該温度センサとにより予め設定された温度に維持される等、予め設定された環境で細胞Ceの培養が行われるように制御される。駆動部12は、アクチュエーターを備え、予め定められた時間に培養容器Cを移動させ、培養室10の内部にある観察用試料台11に載置する。さらに、駆動部12は、細胞Ceの撮像のため、撮像部20の焦点面に細胞Ceが配置されるように、撮像部20または観察用試料台11等を光軸方向の適切な位置(例、観察位置)に移動させる。
撮像部20は、CMOSまたはCCD等の撮像素子を含む撮像装置を備え、細胞Ce、特に細胞Ceの神経突起Nrを撮像する。撮像部20による撮像の方法は、細胞Ceを含む撮像画像において、神経突起Nrに対応する画素が、当該画素または当該画素の周辺の複数の画素の輝度値により他の部分と所望の精度で区別することができれば特に限定されない。例えば、撮像部20による撮像の方法は、蛍光観察法または位相差観察法等を用いることができる。蛍光観察法の場合、撮像部20はサンプルの蛍光画像を取得し、その蛍光画像が後述の画像解析に用いられるし、位相差観察法の場合は、撮像部20はサンプルの位相差画像を取得し、その位相差画像が後述の画像解析に用いられる。
撮像部20が蛍光観察法により撮像を行う場合、遺伝子導入により、細胞Ceに緑色蛍光タンパク質(GFP)等の蛍光タンパク質を発現させたり、神経突起Nrに局在するタンパク質と蛍光タンパク質とを融合させたタンパク質を発現させたりすることで蛍光染色を行うことができる。撮像後の細胞Ceの利用(例、培養、継代、ピックアップ)に問題が無ければ、免疫染色等の他の標識法を行ってもよい。
撮像部20が細胞Ceを撮像して得られた画素信号は、デジタル信号に変換され、画素と輝度値とが対応付けられた撮像画像データとして情報処理部40に入力され(図1の矢印A1)、記憶部43に記憶される。
情報処理部40は、画像処理装置1のユーザ(以下、単に「ユーザ」と呼ぶ)とのインターフェースとなる他、様々なデータに関する通信、記憶、演算等の処理を行う。
なお、情報処理部40は、培養部100と物理的に離れた情報処理装置として構成してもよい。また、画像処理装置1が用いるデータの少なくとも一部はネットワークでつながる遠隔のサーバ等に保存してもよい。
入力部41は、マウス、キーボード、各種ボタンまたはタッチパネル等の入力装置を備える。入力部41は、培養部100による撮像やデータ処理部51によるデータ処理に必要なデータ等を、ユーザから受け付ける。
通信部42は、インターネット等の無線や有線による接続により通信可能な通信装置を備え、画像処理装置1における制御や処理に関するデータを適宜送受信する。
記憶部43は、不揮発性の記憶媒体を備え、制御部50に処理を行わせるプログラムおよび、データ処理部51の処理に関する画像データ等を記憶する。
出力部44は、液晶モニタ等の表示装置を備え、データ処理部51の処理により得られた情報を示す画像等を出力する。
制御部50は、CPU等の処理装置により構成され、画像処理装置1を制御する動作の主体として機能し、記憶部43に搭載されているプログラムを実行することにより各種処理を行う。
制御部50のデータ処理部51は、撮像部20から入力された撮像画像データを取得して処理し、撮像画像における線状の部分が強調された画像を生成する。以下では、この画像を強調画像と呼ぶ。
図2は、データ処理部51の構成を示す概念図である。データ処理部51は、第1画像処理部61と、第2画像処理部62と、第1除去部64と、二値化部65とを備える。第1画像処理部61は、第1画素群設定部611と、第1算出部612と、第1画素値設定部613とを備える。第2画像処理部62は、第2画素群設定部621と、第2算出部と622と、第2画素値設定部623とを備える。第1画素群設定部611と、第2画素群設定部621は、設定部を構成する。
データ処理部51の第1画像処理部61は、撮像画像に対応する撮像画像データに対して画像処理を行い、第1強調画像に対応する第1強調画像データを生成する。以下では、第1画像処理部61によるこの画像処理を、第1画像処理と呼ぶ。ここで、第1強調画像とは、第1画像処理により撮像画像における線状の部分(例、神経突起Nr)が強調された強調画像である。第1画像処理部61は、撮像画像における各画素に対応する、第1強調画像の画素値を設定する。以下では、撮像画像において第1画像処理部61による処理の対象となる画素を第1画素と呼び、第1画素に対応する第1強調画像における画素を第2画素と呼ぶ。ここで、第1画素と第2画素が「対応する」とは、これらの画素が撮像画像における被写体の同じ位置からの光による輝度を示すことを指すが、当該位置は所望の解析の精度が得られれば一定のずれが許容される。
図3は、撮像画像の一例を示す概念図である。撮像画像G1は、複数の画素Pxからなる。図3の例では、ハッチングが濃い部分程、輝度が高い画素であることを示している。図3の撮像画像G1では、輝度が高い部分として、細胞体Soおよび神経突起Nrが示されている。一方、撮像画像G1には、撮像におけるノイズ等に起因する輝度を有する画素であるノイズ画素Pxnも散在している。この理由の一つは、撮像の際に、神経突起Nr等の線状の部分に対応する画素信号が弱いために十分な精度で撮像できないためである。特に、細胞等の撮像に良く用いられる蛍光顕微鏡でもこの傾向が見られる。
なお、撮像画像データにおける画像の表現方法は特に限定されず、例えば画素値が大きい程明度または彩度が高い部分としてもよいし、画素値が小さい程明度または彩度が高い部分としてもよい。
神経細胞の培養では、神経突起Nrの長さ(又は幅)および分枝の数等の数値を測定することにより、神経細胞を評価することが行われている。正確な神経細胞の評価のためには、撮像画像から神経突起を適切に抽出することが必要である。図3のようなノイズ画素Pxnを有する撮像画像G1では、線状の部分を精度よく抽出することが難しい場合がある。本実施形態の画像処理装置1は、撮像画像における線状の部分を強調する画像を生成することにより、神経突起Nrを適切に抽出することを容易にする。
なお、神経突起の評価以外にも、画像における線状の部分の利用、抽出または解析等を行う様々な用途において、本実施形態の画像処理装置1を利用することができる。また、細胞体Soについては、予め撮像画像から細胞体Soに対応する部分を検出し、当該部分をマスクして以下の第1画像処理等を行うことができる。細胞体Soの検出は、オープニング処理およびクロージング処理等により撮像画像のディテールを消去すること等により適宜行うことができる。
第1画像処理部61の第1画素群設定部611は、撮像画像G1の第1画素に対応する複数の第1画素群を設定する。
図4は、第1画像処理の説明をするための概念図である。第1画素群設定部611は、撮像画像G1に含まれる画素Pxから第1画素Px1を選択する。第1画素群設定部611は、第1画像処理部61により予め設定された、撮像画像G1において第1画素Px1が選択される領域(以下、対象領域と呼ぶ)に含まれる画素から第1画素Px1を選択して設定する。
対象領域は、撮像画像全体としてもよいが、例えば、撮像画像G1の辺縁部にある画素を第1画素Px1としたときに、後述の1次元フィルタに対応する画素が無い場合がある。従って、この場合、適宜撮像画像G1の周囲に仮想の画素を補充し、所望の精度で後述する画像処理が行われるようにしておくことが好ましい。対象領域は、後述する1次元フィルタに対応する画素が無い場合が生じないように、撮像画像G1から、1次元フィルタの長さの2分の1程度辺縁部を除いた部分に設定することができる。
第1画素群設定部611は、第1画素Px1を含み、基準方向に対して所定の角度をなす複数の方向に沿って配置されている画素群を第1画素群Pg1として設定する。この所定の角度を、以下では第1角度θ1と呼ぶ。基準方向は、図4では、撮像画像G1の左右方向としている(矢印A10参照)が、特に限定されず、いずれの方向でもよい。図4では、第1角度θ1が0°の場合の第1画素群Pg1に含まれる複数の画素Px11、Px12、Px1、Px13およびPx14を示した。第1画素群Pg1は、このように一方向に並び互いに隣接する複数の画素を含むことが好ましい。第1画素群設定部611は、第1角度θ1が45°および90°の場合、撮像画像G1においてそれぞれ斜め方向および縦方向に並び互いに隣接する複数の画素を第1画素群Pg1と設定することができる。
図4では、第1角度θ1が0°、30°および60°の場合の第1画素群Pg1に対応する撮像画像G1の部分領域を、それぞれ1次元フィルタF1、F11およびF12で模式的に示した。1次元フィルタF11およびF12に対応する第1画素群Pg1を設定する場合、これらの1次元フィルタと重なる画素や、これらの1次元フィルタに対応する直線が通る画素を第1画素群Pg1に含めることができる。しかし、このようにして設定された画素は一直線上に並ばないため、精度が少し落ちてしまう。
従って、実際の計算では、第1画素群設定部611は、撮像画像G1を基準方向に対して第1角度θ1をなす方向に回転させて得た画像において、第1画素に対応する画素を中心に所定の方向に沿って配置される複数の画素を、第1画素群Pg1として設定することが好ましい。この所定の方向は特に限定されず、基準方向等、任意の方向とすることができる。図4の例では、第1画素群設定部611は、1次元フィルタF1を固定しながら撮像画像G1をθ1だけ時計回りに回転させ、得られた画像における1次元フィルタF1の範囲にある縦1×横5ピクセルの画素を第1画素群Pg1として設定する。これにより、回転前の撮像画像G1において1次元フィルタF11に対応する第1画素群Pg1を、1次元フィルタを回転させて第1画素群Pg1を設定する場合よりも精密に設定することができる。
第1画素群設定部611は、複数の第1角度θ1について、それぞれ第1画素群Pg1を設定する。複数の第1角度θ1は、例えば1°~45°等の範囲から選択される所定の角度ごとに複数設定される。例えば、第1画素群設定部611は、複数の第1角度θ1を、1°ごとに0°から179°まで設定し、各第1角度θ1について第1画素群Pg1を設定することができる。
第1画素群Pg1を構成する画素の数は、2以上であれば特に限定されない。当該画素の数は、撮像画像G1における線状の部分の曲率または曲率半径等に基づいて設定することができる。
なお、第1画素群Pg1は、2画素×5画素の画素ブロック等、複数の列からなる画素群としてもよい。この場合、一方向に並ぶ画素数が、他の方向に並ぶ画素数の2倍を超えることが好ましい。
第1画像処理部61の第1算出部612は、第1画素群Pg1に含まれる画素の画素値に基づいて、第1候補画素値を算出する。第1候補画素値は、第1強調画像において、第1画素Px1に対応する第2画素に設定される画素値の候補となる値である。言い換えれば、第2画素に設定される画素値は、複数の第1候補画素値から選択される。
第1算出部612は、第1画素群Pg1に含まれる画素の画素値の平均値を算出し、第1候補画素値とする。例えば、第1算出部612は、1次元フィルタF1に対応する画素Px11、Px12、Px1、Px13およびPx14の画素の算術平均を算出し、1次元フィルタF1に対応する第1画素群Pg1の第1候補画素値とする。第1算出部612は、第1画素群設定部611が設定した各第1画素群Pg1について、第1候補画素値を算出する。第1算出部612は、複数の第1角度θ1のそれぞれに対応する第1画素群Pg1について、第1候補画素値を算出する。
なお、第1算出部612は、幾何平均等の、算術平均以外の平均により、第1画素群Pg1に含まれる画素の画素値の平均値を第1候補画素値として算出してもよい。あるいは、第1算出部612は、第1画素群Pg1に含まれる画素の画素値の和や、当該和を画素値として設定可能な数値範囲に合わせて適宜規格化等の調整を行った値を第1候補画素値として設定することができる。上記和または平均のように、第1画素群Pg1に含まれる画素の画素値の全体的な大きさに基づいて第1候補画素値を設定することができれば、第1算出部612により設定される第1候補画素値の算出方法は特に限定されない。
第1画像処理部61の第1画素値設定部613は、第1画素Px1について算出された複数の第1候補画素値から、第1画素Px1に対応する、第1強調画像における第2画素の画素値を設定する。
第1画素値設定部613は、第1画素Px1についての複数の第1候補画素値のうち、最も大きい値を対応する第2画素の画素値に設定することができる。このことは、第1画像処理において、複数の方向の1次元フィルタF,F11,F12のうち、画素値の最も高い画素が並んでいる方向に対応する1次元フィルタによる画素値を第1強調画像に反映させることになる。その結果、画素値が高い程画素が神経突起Nr等の線状の部分に対応する可能性が高い場合、平滑化を行うとともに当該線状の部分を強調することができる。第1画素値設定部613は、第1画素Px1についての複数の第1候補画素値のうち、最も小さい値を対応する第2画素の画素値に設定することができる。これにより、画素値が低い程画素が線状の部分に対応する可能性が高い場合、平滑化を行うとともに線状の部分を強調することができる。
なお、第2画素の画素値は、上記最も大きい値または最も小さい値の0.8倍~1.2倍、好ましくは0.9倍~1.1倍の範囲の値を設定してもよい。このような場合でも、ある程度の精度で線状の部分の強調を行うことができる。
第1画像処理部61は、ある第1画素Px1について上述の第1画素群設定部611、第1算出部612および第1画素値設定部613による第1画像処理を終えたら、撮像画像G1の対象領域における上記第1画素Px1とは異なる画素を第1画素Px1として、第1画像処理を行う。第1画像処理部61は、対象領域に含まれる各画素に対し、第1画像処理を行う。
なお、第1画素群設定部611および第1算出部612は、第1角度θ1を固定して、対象領域の各第1画素Px1について、当該第1角度θ1に対応する方向の1次元フィルタによる第1候補画素値を算出してもよい。この後、第1画素群設定部611および第1算出部612は、第1角度θ1を変えて再び固定し、同様に各第1画素Px1の第1候補画素値を算出する。この処理を繰り返し、第1候補画素値を各第1角度θ1および各第1画素Px1について算出した後、第1画素値設定部613が各第1画素Px1に対応する第2画素の画素値を算出することができる。このように、設定領域の各画素Pxについて対応する第2画素の画素値が算出できれば、計算の順序等は特に限定されない。
データ処理部51の第2画像処理部62は、撮像画像G1に対応する撮像画像データに対して画像処理を行い、2次元平滑化画像に対応する2次元平滑化画像データを生成する。以下では、第2画像処理部62によるこの画像処理を、第2画像処理と呼ぶ。ここで、2次元平滑化画像とは、少なくとも2方向に沿って配置される画素に対応する2次元フィルタにより撮像画像G1に平滑化処理を行って得られる画像である。2次元フィルタでは、一方向に並ぶ画素数が、他の方向に並ぶ画素数の2倍以下であることが好ましい。第2画像処理部62は、撮像画像G1における各画素に対応する、2次元平滑化画像の画素値を設定する。以下では、撮像画像G1における第1画素Px1に対応する2次元平滑化画像における画素を第3画素と呼ぶ。
第2画像処理部62の第2画素群設定部621は、撮像画像G1の第1画素Px1に対応する複数の第2画素群を設定する。
図5は、第2画像処理の説明をするための概念図である。第2画素群設定部621は、撮像画像G1に含まれる画素Pxから第1画素Px1を選択する。第2画素群設定部621は、対象領域に含まれる画素から第1画素Px1を選択して設定する。
第2画素群設定部621は、第1画素Px1を含み、2次元フィルタF2を基準方向に対して所定の角度の回転を含む移動をさせて得られた2次元フィルタに対応する画素群を第2画素群Pg2として設定する。言い換えれば、第2画素群Pg2は、少なくとも2つの方向に沿って配置された画素群を、当該少なくとも2つの方向を所定の角度回転させた少なくとも2つの方向に沿って配置された画素群である。第2画素群設定部621は、複数の上記所定の角度について、それぞれ複数の第2画素群Pg2を設定する。この所定の角度を、以下では第2角度θ2と呼ぶ。基準方向は、図5では、撮像画像G1の左右方向としている(矢印A20参照)が、特に限定されない。基準方向は、いずれの方向でもよく、上述の第1画像処理における基準方向と異なっていてもよい。
図5では、2次元フィルタF2(第2角度θ2=0°)と、2次元フィルタF2を約20°回転させて得られた2次元フィルタF21(第2角度θ2=約20°)が示されている。図5では、2次元フィルタF2は、縦5画素×横5画素の正方形の画素ブロックに対応し、2次元フィルタF2に対応する第2画素群Pg2は第1画素Px1を中心とするこの5×5の画素を含む。第2画素群Pg2に対応する2次元フィルタF2の形状は特に限定されない。第2画素群Pg2は、互いに隣接する複数の画素を含むことが好ましい。
図5では、第2角度θ2が0°および約20°の場合の第2画素群Pg2に対応する撮像画像G1の部分領域を、それぞれ2次元フィルタF2およびF21で模式的に示した。2次元フィルタF21に対応する第2画素群Pg2を設定する場合、2次元フィルタF21と重なる画素等を第2画素群Pg2に含めることができる。しかし、このようにして設定された画素は、第2画素群Pg2に対応する画素ブロックの形状がばらつくため、精度が少し落ちてしまう。
従って、実際の計算では、第2画素群設定部621は、撮像画像G1を基準方向に対して第2角度θ2をなす方向に回転させて得た画像において、第1画素に対応する画素を中心に少なくとも2方向に沿って配置される複数の画素を、第2画素群Pg2として設定することが好ましい。図5の例では、第2画素群設定部621は、2次元フィルタF2を固定しながら撮像画像G1をθ2だけ時計回りに回転させ、得られた画像における2次元フィルタF2の範囲にある縦5×横5ピクセルの画素を第2画素群Pg2として設定する。これにより、回転前の撮像画像G1において2次元フィルタF21に対応する第2画素群Pg2を、2次元フィルタF2を回転させて第2画素群Pg2を設定する場合よりも精密に設定することができる。
第2画素群設定部621は、複数の第2角度θ2について、それぞれ第2画素群Pg2を設定する。複数の第2角度θ2は、例えば1°~45°等の範囲から選択される所定の角度ごとに複数設定される。例えば、第2画素群設定部621は、複数の第2角度θ2を、1°ごとに0°から179°まで設定し、各第2角度θ2について第2画素群Pg2を設定することができる。
第2画像処理部62の第2算出部622は、第2画素群Pg2に含まれる画素の画素値に基づいて、第2候補画素値を算出する。第2候補画素値は、第2強調画像において、第1画素Px1に対応する第3画素に設定される画素値の候補となる値である。言い換えれば、第3画素に設定される画素値は、複数の第2候補画素値から選択される。
第2算出部622は、第2画素群Pg2に含まれる画素の画素値の平均値を算出し、第2候補画素値とする。例えば、第2算出部612は、2次元フィルタF2に対応する5×5の画素の画素値の算術平均を算出し、2次元フィルタF2に対応する第2画素群Pg2の第2候補画素値とする。第2算出部622は、第2画素群設定部621が設定した各第2画素群Pg2について、第2候補画素値を算出する。第2算出部622は、複数の第2角度θ2のそれぞれに対応する第2画素群Pg2について、第2候補画素値を算出する。 なお、第2算出部612は、幾何平均等の、算術平均以外の平均により、第2画素群Pg2に含まれる画素の画素値の平均値を第2候補画素値として算出してもよい。あるいは、第2算出部622は、第2画素群Pg2に含まれる画素の画素値の和や、当該和を画素値として設定可能な数値範囲に合わせて適宜規格化等の調整を行った値を第2候補画素値として設定することができる。上記和または平均のように、第2画素群Pg2に含まれる画素の画素値の全体的な大きさに基づいて第2候補画素値を設定することができれば、第2算出部622により設定される第2候補画素値の算出方法は特に限定されない。
第2画像処理部62の第2画素値設定部623は、第1画素Px1について算出された複数の第2候補画素値から、第1画素Px1に対応する、2次元平滑化画像における第3画素の画素値を設定する。
第2画素値設定部623は、第1画素Px1についての複数の第2候補画素値のうち、最も大きい値を対応する第3画素の画素値に設定することができる。このことは、第2画像処理において、複数の第2角度θ2に対応する2次元フィルタF2,F21のうち、全体的に画素値の最も高い画素を含む2次元フィルタによる画素値を2次元平滑化画像に反映させることになる。その結果、画素値が高い程輝度が高い場合、特定の方向に偏らない平滑化を効果的に行うことができる。第2画素値設定部623は、第1画素Px1についての複数の第2候補画素値のうち、最も小さい値を対応する第3画素の画素値に設定することができる。これにより、画素値が低い程輝度が高い場合、特定の方向に偏らない平滑化を効果的に行うことができる。
なお、第3画素の画素値は、上記最も大きい値または最も小さい値の0.8倍~1.2倍、好ましくは0.9倍~1.1倍の範囲の値を設定してもよい。このような場合でも、ある程度の精度で特定の方向に偏らない平滑化を行うことができる。
第2画像処理部62は、ある第1画素Px1について上述の第2画素群設定部621、第2算出部622および第2画素値設定部623による第2画像処理を終えたら、撮像画像G1の対象領域における上記第1画素Px1とは異なる画素を第1画素Px1として、第2画像処理を行う。第2画像処理部61は、対象領域に含まれる各画素に対し、第2画像処理を行う。
なお、第2画像処理の場合と同様、設定領域の各画素Pxについて対応する第3画素の画素値が算出できれば、計算の順序等は特に限定されない。
図2に戻って、第1除去部64は、2次元平滑化画像データに基づいて、第1強調画像における線状でない部分の少なくとも一部を除去し、第2強調画像に対応する第2強調画像データを生成する。ここで、「除去」とは、第1強調画像において、線状でない部分を示すことに寄与しない画素値の成分を除去することを指す。具体的には、第1除去部64は、第1強調画像の画素値から、2次元平滑化画像の画素値を引いた差分の絶対値を画素値とした画像を第2強調画像として生成することができる。これにより、第1強調画像から、方向依存性の低い輝度の広がりや、ノイズ等が除去され、線状の部分がさらに強調された強調画像である第2強調画像が得られる。
二値化部65は、第2強調画像に対し、第2強調画像の各部分に含まれる画素の画素値に基づいて、各部分ごとに適宜異ならせた複数の閾値により画素値の二値化を行う。二値化部65は、第2強調画像を複数の領域に分ける。これらの領域を分割領域と呼ぶ。二値化部65は、各分割領域について、分割領域に含まれる画素の画素値の算術平均等による平均値と、当該画素値の標準偏差とを算出する。二値化部65による二値化の閾値を二値化閾値Thと呼ぶ。二値化部65は、各分割領域における二値化閾値Thを、上記平均値をavg、上記標準偏差をσとして、以下の式(1)により算出する。
Th=avg+α×σ …(1)
ここで、αは定数である。このように各分割領域における画素値の平均値やばらつきに基づいて二値化閾値Thを定めることにより、画像全体にわたってより正確な線状の部分の強調を行うことができる。
上記二値化により得られた画像では、神経突起Nrに対応する部分と、神経突起Nrに対応しない部分とが、異なる値により区別されている。この画像を検出結果画像と呼び、検出結果画像に対応するデータを検出結果画像データと呼ぶ。二値化部65は、第2強調画像データに対して上記二値化を行って得られた検出結果画像データを記憶部43等に記憶させる。
なお、二値化部65は、第1強調画像データに対して上記二値化を行って得られたデータを検出結果画像データとして記憶部43等に記憶させてもよい。この場合、上述の第2画像処理および第1除去部64の処理を行う必要はない。第2画像処理および第1除去部64による処理を行わなくても、第1画像処理により線状の部分が所望の精度で強調され得るからである。また、データ処理部51は、二値化部65による二値化処理の前に、画像中の比較的暗い部分を除去するレベル補正等の画像処理を適宜行うことができる。
データ処理部51は、検出結果画像において、神経突起Nrの検出を行うとともに、交叉の検出または線状の部分の断片がどの細胞と接続されているか等の解析を適宜行うことができる。さらに、データ処理部51は、神経突起Nrの長さ等の解析を行い、この解析で得られたデータに基づいて、培養されたまたは培養されている細胞Ceの状態等を評価することができる。
図1に戻って、出力制御部52は、検出結果画像データに基づいて出力部44に出力する出力画像を生成し、出力部44に出力させる。出力制御部52は、検出結果画像を、出力部44の表示モニタに表示する。
制御部50の装置制御部53は、入力部41からの入力等に基づいて、培養部100の各部を制御する(矢印A2)。装置制御部53は、細胞培養に関する制御(例、温度又は湿度の管理をする培養室10の制御、駆動部12の制御)を実行したり、撮像部20に撮像を実行させる。
図6は、本実施形態に係る画像処理方法の流れを示すフローチャートである。ステップS101において、データ処理部51は、撮像部20の撮像により得られた撮像画像データを取得する。ステップS101が終了したら、ステップS103が開始される。ステップS103において、第1画像処理部61は、撮像画像データに対して第1画像処理を行い、第1強調画像データを生成する。ステップS103が終了したら、ステップS105が開始される。
ステップS105において、第2画像処理部62は、撮像画像データに対して第2画像処理を行い、2次元平滑化画像データを生成する。ステップS105が終了したら、ステップS107が開始される。ステップS107において、第1除去部64は、第1強調画像データおよび2次元平滑化画像データから、第2強調画像データを生成する。ステップS107が終了したら、ステップS109が開始される。
ステップS109において、二値化部65は、第2強調画像データに対し二値化を行い、検出結果画像データを生成する。ステップS109が終了したら、ステップS111が開始される。ステップS111において、出力制御部52は、検出結果画像を出力部44に表示する。ステップS111が終了したら、処理が終了される。
図7は、図6のフローチャートにおけるステップS103(第1画像処理)の流れを示すフローチャートである。ステップS101が終了したら、ステップS201が開始される。ステップS201において、第1画素群設定部611は、対象領域から、対応する第2画素の画素値が設定されていない第1画素Px1を選択する。ステップS201が終了したら、ステップS203が開始される。
ステップS203において、第1画素群設定部611は、基準方向に伸びる1次元フィルタF1に含まれる第1画素群Pg1を設定し、第1算出部612は、基準方向についての第1候補画素値を算出する。ステップS203が終了したら、ステップS205が開始される。ステップS205において、第1画素群設定部611は、1次元フィルタを回転させるか、撮像画像を回転させたデータを生成し、各第1角度θ1についての第1画素群Pg1を設定し、第1算出部612は、各第1角度θ1についての第1候補画素値を算出する。ステップS205が終了したら、ステップS207が開始される。
ステップS207において、第1画素値設定部613は、第1画素Px1についての第1候補画素値から、第1画素Px1に対応する第2画素の画素値を設定する。ステップS207が終了したら、ステップS209が開始される。
なお、ステップS203、S205およびS207の順番は、適宜変更してもよい。
ステップS209において、データ処理部51は、対象領域における全ての第1画素Px1について、当該第1画素Px1に対応する第2画素の画素値が設定されたか否かを判定する。データ処理部51は、全ての第1画素Px1について対応する第2画素の画素値が設定された場合、ステップS209を肯定判定し、ステップS105が開始される。データ処理部51は、対応する第2画素に画素値が設定されていない第1画素Px1がある場合、ステップS209を否定判定してステップS201が開始される。
図8は、図6のフローチャートにおけるステップS105(第2画像処理)の流れを示すフローチャートである。ステップS101が終了したら、ステップS301が開始される。ステップS301において、第2画素群設定部621は、対象領域から、対応する第3画素の画素値が設定されていない第1画素Px1を選択する。ステップS301が終了したら、ステップS303が開始される。
ステップS303において、第2画素群設定部621は、基準方向についての2次元フィルタF2に含まれる第2画素群Pg2を設定し、第2算出部622は、基準方向についての第2候補画素値を算出する。ステップS303が終了したら、ステップS305が開始される。ステップS305において、第2画素群設定部621は、2次元フィルタを回転させるか、撮像画像を回転させたデータを生成し、各第2角度θ2についての第2画素群Pg2を設定し、第2算出部622は、各第2角度θ2についての第2候補画素値を算出する。ステップS305が終了したら、ステップS307が開始される。
ステップS307において、第2画素値設定部623は、第1画素Px1についての第2候補画素値から、第1画素Px1に対応する第3画素の画素値を設定する。ステップS307が終了したら、ステップS309が開始される。
なお、ステップS303、S305およびS307の順番は、適宜変更してもよい。
ステップS309において、データ処理部51は、対象領域における全ての第1画素Px1について、当該第1画素Px1に対応する第3画素の画素値が設定されたか否かを判定する。データ処理部51は、全ての第1画素Px1について対応する第3画素の画素値が設定された場合、ステップS309を肯定判定し、ステップS107が開始される。データ処理部51は、対応する第3画素に画素値が設定されていない第1画素Px1がある場合、ステップS309を否定判定してステップS301が開始される。
上述の実施の形態によれば、次の作用効果が得られる。
(1)本実施形態の画像処理装置1は、撮像画像(第1画像)G1を画像処理して得られる強調画像(第2画像)において、撮像画像G1の第1画素Px1に対応する位置にある、強調画像の第2画素の画素値を設定する第1画像処理部61を備え、第1画像処理部61は、第1画素Px1に対応して設定される複数の第1画素群Pg1であって、撮像画像G1における所定の方向(画像の基準方向)に対して互いに異なる複数の角度(第1角度θ1)をなす複数の方向に沿って配置されるか、または、撮像画像G1を所定の方向(基準方向)に対して互いに異なる複数の角度(第1角度θ1)で回転させて得た複数の画像のそれぞれにおいて所定の方向に沿って配置される複数の第1画素群Pg1を設定する第1画素群設定部611と、複数の第1画素群Pg1のそれぞれに含まれる画素の画素値の大きさに基づいて、複数の第1候補画素値を算出する第1算出部612と、複数の第1候補画素値に基づいて、強調画像の第2画素の画素値を設定する第1画素値設定部613とを備える。これにより、画像における細胞の線状の部分を効果的に強調することができる。
(2)本実施形態の画像処理装置1において、第1算出部612は、複数の第1画素群Pg1のそれぞれに含まれる画素の画素値の和または平均に基づいて、複数の第1候補画素値を算出することができる。これにより、画素値が高い画素が並ぶ方向を検出し、より効果的に画像における線状の部分を強調することができる。
(3)本実施形態の画像処理装置1において、第1算出部612は、第1画素群Pg1について、平滑化フィルタF1,F11,F12を用いて第1候補画素値を算出する。これにより、平滑化フィルタの長さに基づいた線状の部分を検出し、より効果的に画像における線状の部分を強調することができる。
(4)本実施形態の画像処理装置1において、1次元フィルタF1,F11,F12は、1次元平滑化フィルタである。これにより、1次元フィルタの形状(例、長さ、太さを含む形)により線状の部分を検出し、より効果的に画像における線状の部分を強調することができる。
(5)本実施形態の画像処理装置1において、撮像画像G1を構成する画素から、第1画素Px1を設定する第1画素設定部611を備え、第1画素値設定部611は、複数の第1候補画素値のうち最も大きな値の0.8倍~1.2倍の値、または最も小さな値の0.8倍~1.2倍の値を、第2画素の画素値に設定することができる。これにより、画素値が高いまたは低い画素が並ぶ方向を検出し、より効果的に画像における線状の部分を強調することができる。
(6)本実施形態の画像処理装置1において、第2画素群設定部623は、撮像画像G1における所定の方向(基準方向)に対して異なる複数の角度(第2角度θ2)で2次元フィルタにおける画素が並ぶ少なくとも2つの方向を回転させて得られた少なくとも2つの方向に沿って配置されるか、または、異なる複数の角度(第2角度θ2)で回転させた撮像画像G1のそれぞれにおいて少なくとも2つの方向に沿って配置される複数の第2画素群Pg2を設定し、第2画像処理部62は、複数の第2画素群Pg1のそれぞれに含まれる画素の画素値の和または平均に基づいて、複数の第2候補画素値を算出する第2算出部622を備え、第2画素値算出部623は、複数の第2候補画素値に基づいて、第3画素の画素値を設定する。これにより、被写体における方向依存性の低い部分に対応する画素値を除去するための画像データを生成することができる。
(7)本実施形態の画像処理装置1は、2次元平滑化画像に基づいて、強調画像における線状でない部分の少なくとも一部を除去する第1除去部64を備える。これにより、被写体における方向依存性の低い部分に対応する画素値を除去し、さらに効果的に画像における線状の部分を強調することができる。
(9)本実施形態の画像処理装置1は、強調画像に対し、強調画像の各部分に含まれる画素の画素値に基づいて、異なる複数の二値化閾値Thにより画素値の二値化を行う二値化部64を備える。これにより、画像における各画素が線状の部分に対応するか否かを二値化によりわかりやすく示し、また解析しやすくことができる。
(10)本実施形態の画像処理装置1において、撮像画像G1は、神経突起Nrの画像である。これにより、画像における神経突起Nrに対応する部分を効果的に強調することができる。また、神経突起Nrが強調された画像を用いて神経突起Nrの長さ等の解析をより正確に行うことができる。
(11)本実施形態に係る撮像装置は、上述の画像処理装置1と、線状の部分を含む細胞などを撮像する撮像部20とを備える。これにより、撮像された画像における線状の部分を効果的に強調することができる。
(12)本実施形態に係る培養装置である上述の画像処理装置1は、細胞を培養する培養部100を備える。これにより、未分化状態又は分化状態に培養した細胞Ceを撮像した画像における線状の部分を効果的に強調することができる。
(13)本実施形態に係る画像処理方法は、撮像画像(第1画像)G1を画像処理して得られる強調画像(第2画像)において、撮像画像G1の第1画素Px1に対応する位置にある、撮像画像G1の第2画素の画素値を設定することを含み、第2画素の画素値の設定は、第1画素Px1に対応して設定される複数の第1画素群Pg1であって、撮像画像G1における所定の方向(基準方向)に対して異なる複数の角度(第1角度θ1)をなす複数の方向に沿って配置されるか、または、撮像画像G1を異なる複数の角度(第1角度θ1)で回転させて得た複数の画像のそれぞれにおいて所定の方向に沿って配置される複数の第1画素群Pg1を設定することと、複数の第1画素群Pg1のそれぞれに含まれる画素の画素値の大きさに基づいて、複数の第1候補画素値を算出することと、複数の第1候補画素値に基づいて、第2画素の画素値を設定することとを備える。これにより、画像における線状の部分を効果的に強調することができる。
次のような変形も本発明の範囲内であり、上述の実施形態と組み合わせることが可能である。以下の変形例において、上述の実施形態と同様の構造、機能を示す部位等に関しては、同一の符号で参照し、適宜説明を省略する。
(変形例1)
上述の実施形態の第2画像処理において、第2画像処理部62は、2次元フィルタまたは撮像画像G1を移動して回転させる処理を行わず、1つの2次元フィルタに含まれる画素から計算された第2候補画素値を、第3画素の画素値としてもよい。このような場合でも、2次元フィルタが元々特定の方向への偏りの小さい形状をしていれば、ある程度の精度で特定の方向に偏らない平滑化を行うことができるからである。
本変形例の画像処理装置1は、撮像画像G1を画像処理して得られる2次元平滑化画像において、第1画素Px1に対応する位置にある第3画素の画素値を設定する第2画像処理部62を備え、第2画像処理部62は、第1画素Px1に対応して設定され、少なくとも2つの方向に沿って配置される画素を含む第2画素群Pg2を設定する第2画素群設定部621と、当該第2画素群Pg2に含まれる画素の画素値の和または平均に基づいて、第3画素の画素値を設定する第2画素値設定部623とを備える。これにより、第2画素群Pg1を構成する画素ブロックの形状に基づいて撮像画像G1を平滑化し、画像における線状の部分を効果的に強調することができる。
(変形例2)
上述の実施形態において、画像処理装置1は、1次元フィルタを用いて撮像画像G1における第1画素Px1が線状の部分に対応しているか否かについての情報を生成する構成にしてもよい。以下では、この情報を、線状部分(例、神経突起Nr)に対する画素の対応情報と呼ぶ。
図9は、本変形例の画像処理装置におけるデータ処理部51aの構成を示す概念図である。データ処理部51aは、上述のデータ処理部51と比較すると、画素情報処理部63を備える点が異なっている。
画素情報処理部63は、第3画素群設定部631と、情報生成部632と、処理制御部633とを備える。画素情報処理部63は、1次元フィルタを用いて撮像画像データから情報を取得し、当該情報を処理する。
第3画素群設定部631は、撮像画像G1における第1画素Px1に対応する複数の第3画素群Pg3を設定する。第3画素群設定部631は、上述の第1画素群設定部631による複数の第1画素群Pg1の設定と同様、複数の角度に対応する1次元フィルタF1,F11,F12を用いて複数の第3画素群Pg3を設定する。
図10は、第3画素群Pg3の説明をするための概念図である。第3画素群設定部631は、撮像画像G1に含まれる画素Pxから第1画素Px1を選択する。第3画素群設定部631は、対象領域に含まれる画素から第1画素Px1を選択して設定する。
第3画素群設定部631は、第1画素Px1を含み、基準方向に対して所定の角度をなす複数の方向に沿って配置されている画素群を第3画素群Pg3として設定する。この所定の角度を、以下では第3角度θ3と呼ぶ。基準方向は、図10では、撮像画像G1の左右方向としている(矢印A30参照)が、特に限定されず、いずれの方向でもよい。図10では、第3角度θ3が0°の場合の第3画素群Pg3に含まれる複数の画素Px31、Px32、Px1、Px33およびPx34を示した。第3画素群Pg3は、このように一方向に並び互いに隣接する複数の画素を含むことが好ましい。
実際の計算では、第3画素群設定部631は、撮像画像G1を基準方向に対して第3角度θ3をなす方向への回転を含む移動をさせて得た画像において、第1画素に対応する画素を中心に所定の方向に沿って配置される複数の画素を、第3画素群Pg3として設定することが好ましい。この所定の方向は特に限定されず、基準方向等、任意の方向とすることができる。これにより、1次元フィルタF1に回転を含む移動をさせて第3画素群Pg3を設定する場合よりも精密に設定することができる。
第3画素群設定部631は、複数の第3角度θ3について、それぞれ第3画素群Pg3を設定する。複数の第3角度θ3は、例えば1°~45°等の範囲から選択される所定の角度ごとに複数設定される。例えば、第3画素群設定部631は、複数の第3角度θ3を、1°ごとに0°から179°まで設定し、各第3角度θ3について第3画素群Pg3を設定することができる。第3画素群設定部631は、対象領域の各第1画素Px1について、第3画素群Pg3を設定する。
情報生成部632は、上記対応情報を生成する。情報生成部632は、複数の第3画素群Pg3のそれぞれに含まれる画素の画素値の全体的な大きさを表す値である、画素値の和または平均を算出する。この平均は、適宜算術平均等を用いることができる。以下では、算出されたこの画素値の和または平均を、1次元フィルタ値と呼ぶ。
図11は、複数の第3角度θ3について、第3角度θ3に対応する1次元フィルタと、線状の部分LPとを示す概念図である。図11には、第3角度θ3が0°の際の1次元フィルタF100、第3角度θ3が30°の際の1次元フィルタF110、第3角度θ3が60°の際の1次元フィルタF120、第3角度θ3が90°の際の1次元フィルタF130、第3角度θ3が120°の際の1次元フィルタF140および第3角度θ3が150°の際の1次元フィルタF150を示す。
図11では、第1画素Px1は線状の部分LP上に位置しているため、線状の部分に対応する画素である。被写体からの光が強い程、撮像画像データにおいて高い画素値と設定されるとすると、線状の部分LPに対応する画素の画素値は、近傍の、線状の部分に対応しない画素の画素値よりも高くなっている。線状の部分LPと1次元フィルタが重なるように配置されると、1次元フィルタに対応する画素の画素値の和または平均値である1次元フィルタ値は最も高くなる。
図11では、第3角度θ3が0°、120°および150°の場合、1次元フィルタF100,F140,F150と線状の部分LPとの重なりは小さく、1次元フィルタ値は他の第3角度θ3の場合と比較して小さくなる。第3角度θ3が30°または90°の場合、1次元フィルタF110または1次元フィルタF130と線状の部分LPとは、1次元フィルタを構成する5画素中3画素程度の重なりがある。従って、1次元フィルタ値は、第3角度θ3が0°、120°または150°の場合よりも大きくなる。第3角度θ3が60°の場合、1次元フィルタF120と線状の部分LPは略重なっており、図11に示した場合では最も1次元フィルタ値が高くなる。
情報生成部632は、第3角度θ3と1次元フィルタ値とを対応させたデータを生成する。このデータを、以下ではフィルタ値データと呼ぶ。フィルタ値データは、適宜平滑化や、曲線による近似を行って生成してもよい。これにより、ノイズ等の影響を低減し、精度を高めることができる。
図12は、フィルタ値データから生成可能な、第1画素Px1における、第3角度θ3に対する1次元フィルタ値を示すグラフである。図12は、図11で示したような1次元フィルタ値に角度依存性がある場合を想定している。図12のグラフでは、1次元フィルタ値はVminからVmaxまでの値をとり、第3角度θ3が約60°のときに最も1次元フィルタ値が高くなる。情報生成部632は、最も1次元フィルタ値が高くなる第3角度θ3および当該第3角度θ3に係るピークP1のピーク幅を算出することができる。情報生成部632は、VmaxとVminの差や、S/N比等が所定の値以上であるか否か等に基づいてピークを検出することができる。
図13は、顕著なピークが無い場合の第3角度θ3に対する1次元フィルタ値を示すグラフである。図13では、S/N比に比べて1次元フィルタ値の変動が小さいため、ピークが検出されていない。
第3角度θ3に対する1次元フィルタ値を示すグラフでは、ピークの数により、第1画素Px1における被写体の特性を解析することができる。ピークの数が0の場合には、第1画素Px1は、線や交叉に対応しない部分となる。ピークの数が1つの場合には、第1画素Px1は線状の部分に対応することになる。ピークの数が2つの場合には、第1画素Px1は交叉に対応することになる。情報生成部632は、このような1次元フィルタ値の解析により、第1画素Px1が線状の部分に対応するか否かについての対応情報を生成する。情報生成部632は、撮像画像における各画素が線状の部分に対応するか否かを二値で示して各画素に紐づけた対応情報を生成し、記憶部43等に記憶させることができる。また、情報生成部632は、撮像画像における各画素が交叉に対応するか否かの情報も同様に生成してもよい。
情報生成部632は、対象領域における各第1画素Px1について、フィルタ値データおよび対応情報を生成する。
なお、1次元フィルタ値の算出では、最初、第3画素群設定部631は、複数の第3角度θ3の間隔を大きくして第3画素群Pg3を設定し、ピークが検出されたら、当該ピークおよびその近傍の第3角度θ3を間隔を小さくして第3画素群Pg3を設定することができる。これにより、情報生成部632は、精密にピークおよびその近傍の1次元フィルタ値を算出することができ、効率よく1次元フィルタ値の角度依存性を解析することができる。
処理制御部633(図9)は、対応情報に基づいて、第1画素群設定部611の第1画素群Pg1を設定する処理を制御する。処理制御部633は、対応情報に基づいて、第1画素Px1の位置により、第1画像処理において設定する第3角度θ3の個数を変化させる。処理制御部633は、線状の部分に対応しない画素では、線状の部分に対応する画素よりも、設定する第3角度θ3の個数を少なくすることができる。あるいは、処理制御部633は、線状の部分に対応しない画素では、第1画像処理を行わないように設定することができる。言い換えれば、処理制御部633は、第1画素群設定部611が、線状の部分に対応する画素から第1画素Px1を選択するように、第1画像処理を設定することができる。このように、線状の部分に対応する画素についてより精密に第1画像処理を行うように設定することにより、より効率的に画像における線状の部分を強調することができる。
なお、情報生成部632が撮像画像G1における各画素が交叉に対応するか否かの情報を生成した場合、処理制御部633は、交叉に対応する画素では第1画像処理を行わないようにする等、適宜当該情報に基づいて第1画像処理の条件を設定することができる。
図14は、本変形例の画像処理方法の流れを示すフローチャートである。ステップS401は、図6のフローチャートのステップS101に対応するため説明を省略する。ステップS401が終了したら、ステップS403が開始される。ステップS403において、情報生成部632は、撮像画像G1に含まれる画素が、線状の部分に対応しているか否かについての情報(対応情報)を生成する。ステップS403が終了したら、ステップS405が開始される。
ステップS405において、処理制御部633は、ステップS403で生成された対応情報に基づいて、第1画像処理の条件を設定する。ステップS405が終了したら、ステップS407が開始される。ステップS407において、第1画像処理部61は、ステップS403で設定された条件に基づいて、第1画像処理を行い、第1強調画像データを生成する。ステップS407が終了したら、ステップS409が開始される。ステップS409~S415は、図6のフローチャートにおけるステップ105~S111に対応するため説明を省略する。
(1)本変形例の画像処理装置において、第1画素Px1に対応して設定される複数の第3画素群Pg1であって、撮像画像(第1画像)G1の所定の方向(基準方向)に対して複数の角度(第3角度θ3)をなす複数の方向に沿って配置されるか、または、撮像画像G1を複数の角度(第3角度θ3)で回転させて得られた複数の画像のそれぞれにおいて所定の方向に並ぶ複数の第3画素群Pg3を設定する第3画素群設定部631と、複数の第3画素群Pg3のそれぞれに含まれる画素の画素値の和または平均に基づいて、第1画素Px1が撮像画像G1における線状の部分に対応しているか否かについての情報(対応情報)を生成する情報生成部632とを備える。これにより、生成された上記情報を利用して、より効率的に画像処理を行うことができる。
(2)本変形例の画像処理装置は、情報生成部632が生成した対応情報に基づいて、第1画素群設定部611の第1画素群Pg1を設定する処理を制御する処理制御部を備える。これにより、生成された上記情報を利用して、より効率的に第1画像処理を行うことができる。
(3)本変形例の画像処理装置において、第1画素群設定部611が複数の第1画素群Pg1を設定する際の複数の角度(第1角度θ1)の個数は、第1画素Px1の位置により異なり、処理制御部633は、対応情報に基づいて、撮像画像G1の各位置における上記個数を設定することができる。これにより、生成された上記情報を利用して、撮像画像における位置により第1画像処理の精密さを制御することができる。
(4)本変形例の画像処理装置において、処理制御部633は、対応情報に基づいて、撮像画像G1の各位置において、第1画素群設定部611が第1画素群Pg1を設定する処理を行うか否かを決定することができる。これにより、生成された上記情報を利用して、より一層効率的に、第1画像処理を行うことができる。
なお、データ処理部51aが、対応情報に基づいて、第1強調画像または第2強調画像における線状でない部分の少なくとも一部を除去する第2除去部を備える構成にしてもよい。第2除去部は、対応情報において線状の部分に対応しないとされた画素については、画素値を0等、被写体が存在しない場合に対応する値とする。これにより、画像における線状の部分をより一層強調することができる。
(変形例3)
上述の実施形態において、対象領域を、ユーザが入力部41を介して設定する構成にしてもよい。
図15は、対象領域R1を示す概念図である。ユーザは、撮像画像G1が表示された出力部44の表示画面を見ながら、例えば、入力部41としてのマウスをドラッグしたりすることにより、対象領域R1の範囲を入力することができる。
本変形例の画像処理装置は、第1画像処理部61が画像処理の対象とする第1画素Px1の位置または範囲を入力するための入力部41を備える。これにより、ユーザが画像処理の対象を設定することで、より効率的に画像における線状の部分を強調することができる。
(変形例4)
上述の実施形態では、撮像画像G1の被写体を細胞Ceとし、強調する線状の部分を神経突起Nrとして説明したが、線状の部分を含めば、強調する対象はこの例に限定されず、例えば血管とすることも好ましい。さらに、撮像画像G1の被写体を眼底とし、強調する対象の線状の部分を眼底における血管とすることがより好ましく、特に網膜の血管または脈絡膜血管とすることがより一層好ましい。
本変形例の画像処理装置において、撮像画像G1は、血管の画像である。これにより、血管の画像における線状の部分を効果的に強調することができる。
(変形例5)
上述の実施形態において、出力制御部52の制御により、ユーザが撮像画像G1および強調画像の少なくとも一つを選択して表示させるための表示画面を、出力部44が出力する構成にすることができる。この表示画面を第1表示画面と呼ぶ。強調画像は、第1強調画像でも第2強調画像でもよい。
図16は、本変形例の第1表示画面の一例を示す概念図である。第1表示画面70は、画像選択部71と、撮像画像G1および強調画像の少なくとも一つを表示する第1画像表示部72とを備える。画像選択部71は、コンボボックスにより構成されており、コンボボックスは、アイコン71aを選択する度に、リスト71bの表示または非表示が切り替えられる構成となっている。リスト71bは、第1入力要素71cと、第2入力要素71dと、第3入力要素71eとを備える。ユーザがマウス等を用いて第1入力要素71cをクリックすると、第1画像表示部72に入力画像である撮像画像G1が表示され、強調画像G2は表示されない。ユーザが第2入力要素71dをクリックすると、第1画像表示部72に強調画像G2が表示され、撮像画像G1は表示されない。ユーザが第3入力要素71eをクリックすると、第1画像表示部72に撮像画像G1および強調画像G2が表示される。
なお、表示する画像を選択できれば、画像選択部71はコンボボックスに限らず任意の画像要素を含んで構成することができる。
本変形例のようにユーザが適宜撮像画像G1または強調画像G2を選択して表示させることで、上述の実施形態の画像処理方法による効果をわかりやすくユーザに示すことができる。
(変形例6)
上述の実施形態において、複数の第1角度θ1の個数を、ユーザが設定できる構成としてもよい。出力制御部52の制御により、ユーザに複数の第1角度θ1の個数を設定させるための表示画面を、出力部44が出力する構成にすることができる。この表示画面を第2表示画面と呼ぶ。
図17は、本変形例の第2表示画面の一例を示す概念図である。第2表示画面80は、第1角度入力部81と、撮像画像G1を表示する第2画像表示部82と、第1実行部83とを備える。第1角度入力部81は、テキストボックス810を備える。
第1角度入力部81は、第1角度θ1の個数を入力するための要素である。ユーザは、キーボード等により、テキストボックス810に第1角度θ1の個数を示す数値を入力することができる。ユーザは、適宜第2画像表示部82に表示された撮像画像G1を見ながら入力を行うことができる。
なお、第1角度θ1の個数を入力できれば、入力のための画像要素はテキストボックスに特に限定されず、表示された数値の候補からユーザが選択してもよい。
第1実行部83は、ユーザが入力した第1角度θ1の個数を設定し、画像処理装置1に第1画像処理を開始させるためのボタンである。第1実行部83がユーザによりクリックされると、第1画素群設定部611は、例えば、180°を、テキストボックス810に入力された数値で割って得られた角度ごとに複数の第1角度θ1を設定し、第1画像処理を行う。
本変形例では、ユーザが適宜撮像画像G1を見ながら、第1角度θ1についてのパラメータ(設定情報)を設定することにより、より適切にパラメータを設定することができる。
なお、ユーザが、第1角度θ1、第2角度θ2または第3角度θ3についての条件を設定できれば、本変形例のような角度の個数を入力する場合に限られない。
(変形例7)
上述の実施形態において、第1画像処理について、ユーザが適宜、出力部44の表示画面を見て、第1画像処理についてのパラメータを入力または変更できる構成にすることができる。
図18は、本変形例の画像処理方法の流れを示すフローチャートである。ステップS501は、図6のフローチャートのステップS101と同様であるため、説明を省略する。ステップS501が終了したら、ステップS503が開始される。
ステップS503において、第1画像処理部61は、ユーザの入力に基づき、第1画像処理におけるパラメータを設定する。このパラメータを、第1パラメータと呼ぶ。第1パラメータは、第1画像処理における1次元フィルタF1,F11,F12の長さおよび太さを示す数値とすることができる。ユーザは、撮像画像G1を見て、さらに既に上述の第1画像処理から二値化までの処理が行われた場合には検出結果画像を見て、第1パラメータを入力することができる。ステップS503が終了したら、ステップS505が開始される。
なお、第2画像処理部62が、ユーザの入力に基づき、第2画像処理におけるパラメータである第2パラメータを設定する構成としてもよい。第2パラメータは、例えば、2次元フィルタの幅や形状を示す数値を含むことができる。あるいは、二値化部65が、ユーザの処理に基づき、上述の実施形態における二値化における式(1)のα等のパラメータ(例、数値)を変更できる構成としてもよい。このようにして二値化の条件を適切に設定することにより、精度よく神経突起Nr等の線状の部分の検出を行うことができる。
ステップS505において、第1画像処理部61は、ステップS503で設定された第1パラメータの数値を用いて、第1画像処理を行い、第1強調画像データを生成する。ステップS505が終了したら、ステップS507が開始される。ステップS507~ステップS513は、図6のフローチャートのステップS105~S111に対応するため、説明を省略する。ステップS513が終了したら、ステップS515が開始される。
ステップS515において、データ処理部51は、ユーザにより再度、第1画像処理等の上述の画像処理方法に係る処理を行う指示が入力部41を介して入力されたか否かを判定する。当該指示が入力された場合、データ処理部51は、ステップS515を肯定判定し、ステップS503が開始される。当該指示が入力されなかった場合、データ処理部51は、ステップS515を否定判定し、処理が終了される。
以下では、本変形例の画像処理方法について、出力部44に表示される表示画面の例を示すが、各表示画面における画像の態様、ならびに、ボタンまたはテキストボックス等の各表示要素の形状等は以下の各図に示されたものに限定されない。
図19は、第1パラメータを選択する際に、出力制御部52により出力部44に表示される画面の例であり、この画面を基本画面701とする。基本画面701は、画像表示部800と、第1入力要素表示部710と、動画操作部810とを備える。動画操作部810は、画像表示部800に動画が表示される場合に巻き戻しを行うための巻戻しボタン811と、再生を行うための再生ボタン812と、一時停止を行うための一時停止ボタン813と、早送りを行うための早送りボタン814とを備える。図19の基本画面701の画像表示部800には撮像画像G1が示されているが、画像表示部800に表示する画像は適宜変更可能である。
第1入力要素表示部710は、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理装置1に所定の動作を行わせるための入力要素である実行ボタン711およびパラメータ選択ボタン712を備える。
実行ボタン711は、データ処理部51が第1画像処理から二値化までの処理を実行し、表示画面を、神経突起Nrの検出結果を表示するための画面である結果表示画面へと遷移させるための入力要素である。実行ボタン711がクリックされると、出力制御部52は、図21の結果表示画面702を出力部44に表示させる。この際、ユーザがパラメータを変更しなかった場合は、予め設定された第1パラメータを用いて第1画像処理が行われることが好ましい。
パラメータ選択ボタン712は、第1パラメータの入力のための表示要素を表示するための入力要素である。パラメータ選択ボタン712がユーザによりクリックされると、第1テキストボックス713および第2テキストボックス714(図20)が第1入力要素表示部710に表示される。
図20は、第1テキストボックス713および第2テキストボックス714を示す概念図である。図20の基本画面701では、第1入力要素表示部710は、ユーザがキーボード等を用いて数値を入力可能な第1テキストボックス713および第2テキストボックス714を備える。第1テキストボックス713は、1次元フィルタF1,F11,F12の長さを画素数として入力可能に構成されている。第2テキストボックス714は、1次元フィルタF1,F11,F12の太さを画素数として入力可能に構成されている。
第1テキストボックス713および第2テキストボックス714が表示されているとき、パラメータ選択ボタン712は、色相、彩度または明度等の変化により、第1テキストボックス713および第2テキストボックス714が表示されていないときと異なる態様で表示される。図20では、この点をパラメータ選択ボタン712にハッチングをかけることにより示した。
なお、第1テキストボックス713および第2テキストボックス714を、基本画面701が表示された当初から表示してもよい。
図21は、結果表示画面の一例を示す概念図である。結果表示画面702は、出力制御部52により出力部44の表示画面に表示される。結果表示画面702は、画像表示部800と、第2入力要素表示部720と、動画操作部810とを備える。図21の画像表示部800には、検出結果画像G3が表示されている。
第2入力要素表示部720は、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理装置1に所定の動作を行わせるための入力要素である画像重畳ボタン721、再実行ボタン722および終了ボタン723を備える。
さらに、第2入力要素表示部720には、上述のパラメータ選択ボタン712が表示されており、図21の例では、ユーザによりパラメータ選択ボタン712が選択され、第1テキストボックス713および第2テキストボックス714が表示されている場合を示している。結果表示画面702では、第1テキストボックス713および第2テキストボックス714の初期設定値として、直前に行った第1画像処理において設定されていた値を表示することが好ましい。これにより、ユーザは、得られた神経突起Nrの検出結果と第1パラメータとの関係を把握しやすくなる。
画像重畳ボタン721は、画像表示部800に、撮像画像G1と検出結果画像G3との重畳画像を表示するための入力要素である。画像重畳ボタン721がクリックされると、出力制御部52は、結果表示画面702の画像表示部800に重畳画像を表示する。これにより、ユーザは、画像処理前の撮像画像G1と画像処理後の検出結果画像G3とを対比でき、より正確に上述の実施形態における画像処理方法の効果を把握できる。画像表示部800に重畳画像が表示されている状態で画像重畳ボタン721がクリックされると、撮像画像G1または検出結果画像G3のいずれか一方を表示する構成にすることができる。
再実行ボタン722は、データ処理部51が第1画像処理から二値化までの処理を再度実行し、表示画面を、再度の処理により得られた神経突起Nrの検出結果を表示するように結果表示画面702を更新するための入力要素である。再実行ボタン722がクリックされると、出力制御部52は、更新した結果表示画面702を出力部44に表示させる。この際、第1画像処理部61は、第1テキストボックス713および第2テキストボックス714に入力された第1パラメータを用いて第1画像処理を行う。
終了ボタン723は、終了ボタン723がクリックされることにより、本変形例の画像処理方法による処理を終了するためのボタンである。終了ボタン723がクリックされると、データ処理部51は、適宜処理を終了する。
本変形例の画像処理方法では、ユーザが適宜撮像画像G1、検出結果画像G3等を確認しつつ、上記画像処理方法におけるパラメータの設定を行うため、画像の態様に合わせて精度よく線状の部分の強調を行うことができる。
(変形例8)
上述の変形例7において、第1テキストボックス713および第2テキストボックス714に入力された数値が、上述の画像処理を行う上で適切でない場合には、表示画面に通知を表示する構成とすることができる。
図22は、当該通知の態様を示す概念図である。基本画面701の第1入力要素表示部715は、通知表示部715を備える。出力制御部52は、第1テキストボックス713および第2テキストボックス714に入力された数値が、所定の条件を満たさない場合には、通知表示部715に通知を表示する。この所定の条件とは、例えば、1次元フィルタF1,F11,F12の長さLが、1次元フィルタのF1,F11,F12の太さWの2倍以下である場合とすることができる。この場合、出力制御部52は、図22のように、「Lに対してWが大きすぎます」等の文字による通知を通知表示部715に表示することができる。
なお、上記通知の態様は特に限定されず、出力制御部52は、通知の内容を文字ではなく画像等により示してもよく、音声による警告等を行ってもよい。
(変形例9)
上述の実施形態の情報処理部40の情報処理機能を実現するためのプログラムをコンピュータにより読み取り可能な記録媒体に記録して、この記録媒体に記録された、上述した第1画像処理、第2画像処理および二値化等のデータ処理部51,51aによる処理等に関するプログラムをコンピュータシステムに読み込ませ、実行させてもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、光ディスク、メモリカード等の可搬型記録媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持するものを含んでもよい。また上記のプログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせにより実現するものであってもよい。
また、パーソナルコンピュータ(以下、PCと呼ぶ)等に適用する場合、上述した制御に関するプログラムは、CD-ROMなどの記録媒体やインターネット等のデータ信号を通じて提供することができる。図23はその様子を示す図である。PC950は、CD-ROM953を介してプログラムの提供を受ける。また、PC950は通信回線951との接続機能を有する。コンピュータ952は上記プログラムを提供するサーバーコンピュータであり、ハードディスク等の記録媒体にプログラムを格納する。通信回線951は、インターネット、パソコン通信などの通信回線、あるいは専用通信回線などである。コンピュータ952はハードディスクを使用してプログラムを読み出し、通信回線951を介してプログラムをPC950に送信する。すなわち、プログラムをデータ信号として搬送波により搬送して、通信回線951を介して送信する。このように、プログラムは、記録媒体や搬送波などの種々の形態のコンピュータ読み込み可能なコンピュータプログラム製品として供給できる。
上述した情報処理機能を実現するためのプログラムとして、撮像画像(第1画像)G1を画像処理して得られる強調画像(第2画像)において、撮像画像G1の第1画素Px1に対応する位置にある、強調画像の第2画素の画素値を設定する第1画像処理(図6のフローチャートのステップS103に対応)を処理装置(制御部50)に行わせるためのプログラムであって、第1画像処理は、第1画素Px1に対応して設定される複数の第1画素群Pg1であって、撮像画像G1における所定の方向(基準方向)に対して異なる複数の角度(第1角度θ1)をなす複数の方向に沿って配置されるか、または、撮像画像G1を異なる複数の角度(第1角度θ1)で移動させて得た複数の画像のそれぞれにおいて所定の方向に沿って配置される複数の第1画素群Pg1を設定する第1画素群設定処理と、複数の第1画素群Pg1のそれぞれに含まれる画素の画素値の大きさに基づいて、複数の第1候補画素値を算出する第1算出処理(第1画素群設定処理および第1算出処理は、ステップS203およびS205に対応)と、複数の第1候補画素値に基づいて、第2画素の画素値を設定する第1画素値設定処理(ステップS207に対応)とを備えるプログラムが含まれる。これにより、画像における線状の部分を効果的に強調することができる。
また、ウェブサーバ(以下、サーバともいう)とパーソナルコンピュータ(以下、ユーザ端末、又はPCと呼ぶ)等とを備える情報処理システムに適用する場合、上述した画像処理装置1の情報処理部40は、通信部42と、記憶部43と、出力部44と、データ処理部51とを備えるウェブサーバである。該情報処理システムは、クラウドコンピューティングによりユーザ端末に上記した画像(例、第1画像、第2画像、第3画像など)を含む解析結果をネットワークを介して出力する。例えば、情報処理システムは、サーバを備え、該サーバは、培養部100で撮像された上記第1画像などを取得する通信部(例、通信部42)と、上記画像(例、第1画像、第2画像、第3画像など)や上記画像解析に必要な情報を記憶する記憶部(例、記憶部43)と、上記データ処理部51と同等の機能を有するデータ処理部と、該データ処理部による画像の解析結果をユーザ端末に出力する出力部(例、出力部44)とを備える。
本発明は上記実施形態の内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特願2019-168631号(2019年9月17日出願)
1…画像処理装置、10…培養室、20…撮像部、40…情報処理部、43…記憶部、44…出力部、50…制御部、52…出力制御部、51,51a…データ処理部、100…培養部、61…第1画像処理部、62…第2画像処理部、63…画素情報処理部、64…第1除去部、65…第2除去部、70…第1表示画面、80…第2表示画面、611…第1画素群設定部、612…第1算出部、613…第1画素値設定部、621…第2画素群設定部、622…第2算出部、623…第2画素値設定部、701…基本画面、702…結果表示画面、800…画像表示部、Ce…細胞、F1,F11,F12,F100,F110,F120,F130,F140,F150…1次元フィルタ、F2,F21…2次元フィルタ、G1…撮像画像、G2…強調画像、G3…検出結果画像、LP…線状の部分、P1…ピーク、Pg1…第1画素群、Pg3…第3画素群、Px…画素、Px1…第1画素、R1…対象領域、So…細胞体、θ1…第1角度、θ2…第2角度、θ3…第3角度。

Claims (14)

  1. 撮像して得た第1画像を画像処理して得られる第2画像において、前記第1画像の第1画素に対応する位置にある、前記第2画像の第2画素の画素値を設定する第1画像処理部と、
    前記第1画像を画像処理して得られる第3画像において、前記第1画素に対応する位置にある、前記第3画像の第3画素の画素値を設定する第2画像処理部と
    前記第1画像処理部で処理された前記第2画素の画素値と前記第2画像処理部で処理された前記第3画素の画素値とに基づき強調画像を生成する第3画像処理部とを備え、
    前記第1画像処理部は、
    前記第1画素に対応して設定され、一方向に沿って配置される画素を含む第1画素群を設定する第1画素群設定部と、
    前記複数の第1画素群のそれぞれに含まれる画素の画素値の大きさに基づいて、前記複数の第1画素群のそれぞれの第1候補画素値を算出する第1算出部と、
    前記複数の第1候補画素値に基づいて、前記第2画像の第2画素の画素値を設定する第1画素値設定部とを備え、
    前記第2画像処理部は、
    前記第1画素に対応して設定され、少なくとも2つの方向に沿って配置される画素を含む第2画素群を設定する第2画素群設定部と、
    複数の前記第2画素群のそれぞれに含まれる画素の画素値の大きさに基づいて、複数の前記第2画素群のそれぞれの第2候補画素値を算出する第2算出部と
    複数の前記第2候補画素値に基づいて、前記第3画像の第3画素の画素値を設定する第2画素値設定部とを備え
    画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    前記第1画素群設定部は、前記第1画像と前記第1画素群との相対位置が互いに異なる複数の角度をなす関係であって、前記第1画像のそれぞれにおいて複数の方向に沿って配置される複数の前記第1画素群を設定し、
    前記第2画素群設定部は、前記第1画像と前記第2画素群との相対位置が互いに異なる複数の角度をなす関係であって、前記第1画像のそれぞれにおいて前記少なくとも2つの方向に沿って配置される複数の前記第2画素群を設定し、
    前記第1算出部は、複数の前記第1画素群のそれぞれに含まれる画素の画素値の和または平均に基づいて、複数の前記第1候補画素値を算出し、
    前記第2算出部は、複数の前記第2画素群のそれぞれに含まれる画素の画素値の和または平均に基づいて、複数の前記第2候補画素値を算出する、画像処理装置。
  3. 請求項1に記載の画像処理装置において、
    前記第1算出部は、前記第1画素群について、1次元フィルタを用いて前記第1候補画素値を算出し、
    前記第2算出部は、前記第1画素群について、2次元フィルタを用いて前記第2候補画素値を算出する、画像処理装置。
  4. 請求項2または請求項3に記載の画像処理装置において、
    前記第1画像処理部は、前記第1候補画素に基づき前記第2画像における線状の部分が強調された第1強調画像を生成し、
    前記第2画像処理部は、前記第2候補画素値に基づき前記第3画像における画素値が特定方向に偏らない2次元平滑化画像を生成し、
    前記第3画像処理部は、前記第1強調画像の画素値と前記2次元平滑化画像の画素値に基づいて、前記第1強調画像の線状の部分が強調された第2強調画像を生成する、
    画像処理装置。
  5. 請求項1に記載の画像処理装置において、
    前記第1画素値設定部は、複数の前記第1候補画素値のうち最も大きな値の0.8倍~1.2倍の値、または最も小さな値の0.8倍~1.2倍の値を、前記第2画素の画素値に設定する画像処理装置。
  6. 請求項1に記載の画像処理装置において、
    第1画素群設定部は、前記第1画素に対応して設定される複数の前記第1画素群であって、前記第1画像における所定の方向に対して互いに異なる複数の角度をなす複数の方向に沿って配置されるか、または、前記第1画像を所定の方向に対して互いに異なる複数の角度で移動させて得た複数の画像のそれぞれにおいて所定の方向に沿って配置される複数の前記第1画素群を設定し、
    前記第2画素群設定部は、前記第1画像における所定の方向に対して異なる複数の角度で前記少なくとも2つの方向を回転させて得られた少なくとも2つの方向に沿って配置されるか、または、異なる複数の角度で回転させた前記第1画像のそれぞれにおいて前記少なくとも2つの方向に沿って配置される複数の前記第2画素群を設定する、
    画像処理装置。
  7. 請求項6に記載の画像処理装置において、
    前記第3画像処理部は、前記第3画像に基づいて、前記第2画像における線状でない部分の少なくとも一部を除去する第1除去部を備える画像処理装置。
  8. 請求項1に記載の画像処理装置において、
    前記第1画素に対応して設定される複数の第3画素群であって、前記第1画像の所定の方向に対して複数の角度をなす複数の方向に沿って配置されるか、または、前記第1画像を複数の角度で回転させて得られた複数の画像のそれぞれにおいて所定の方向に並ぶ複数の前記第3画素群を設定する第3画素群設定部と、
    複数の前記第3画素群のそれぞれに含まれる画素の画素値の和または平均に基づいて、前記第1画素が前記第1画像における線状の部分に対応しているか否かについての対応情報を生成する情報生成部と、
    前記情報生成部が生成した前記対応情報に基づいて、前記第1画素群設定部の前記第1画素群を設定する処理を制御する処理制御部を備える画像処理装置。
  9. 請求項8に記載の画像処理装置において、
    前記第1画素群設定部が前記複数の第1画素群を設定する際の前記複数の角度の個数は、前記第1画素の位置により異なり、
    前記処理制御部は、前記対応情報に基づいて、前記第1画像の各位置における前記個数を設定する画像処理装置。
  10. 請求項9に記載の画像処理装置において、
    前記処理制御部は、前記対応情報に基づいて、前記第1画像の各位置において、前記第1画素群設定部が前記第1画素群を設定する処理を行うか否かを決定する画像処理装置。
  11. 請求項8に記載の画像処理装置において、
    前記情報生成部が生成した前記対応情報に基づいて、前記第2画像における線状でない部分の少なくとも一部を除去する第2除去部を備える画像処理装置。
  12. 請求項4に記載の画像処理装置において、
    前記第3画像処理部は、前記第2強調画像に対し、前記第2強調画像の各部分に含まれる画素の画素値に基づいて、異なる複数の閾値により画素値の二値化を行う二値化部を備える画像処理装置。
  13. 請求項1から12までのいずれか一項に記載の画像処理装置において、
    前記第1画像処理部が画像処理の対象とする前記第1画素の位置または範囲を入力するための入力部を備える画像処理装置。
  14. 請求項1から13までのいずれか一項に記載の画像処理装置において、
    前記第1画像は、神経突起または血管の画像である画像処理装置。
JP2021546576A 2019-09-17 2020-08-28 画像処理装置 Active JP7400823B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019168631 2019-09-17
JP2019168631 2019-09-17
PCT/JP2020/032732 WO2021054089A1 (ja) 2019-09-17 2020-08-28 画像処理装置、画像処理方法およびプログラム

Publications (3)

Publication Number Publication Date
JPWO2021054089A1 JPWO2021054089A1 (ja) 2021-03-25
JPWO2021054089A5 JPWO2021054089A5 (ja) 2022-05-23
JP7400823B2 true JP7400823B2 (ja) 2023-12-19

Family

ID=74883444

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021546576A Active JP7400823B2 (ja) 2019-09-17 2020-08-28 画像処理装置

Country Status (5)

Country Link
US (1) US20220270226A1 (ja)
EP (1) EP4032968A4 (ja)
JP (1) JP7400823B2 (ja)
CN (1) CN114651274A (ja)
WO (1) WO2021054089A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001283215A (ja) 2000-01-24 2001-10-12 Hitachi Medical Corp 画像処理装置
JP2009226141A (ja) 2008-03-25 2009-10-08 Institute Of National Colleges Of Technology Japan 画像処理装置および画像処理方法
JP2016212092A (ja) 2015-05-13 2016-12-15 御木本製薬株式会社 角層細胞標本の解析方法
JP2017006296A (ja) 2015-06-19 2017-01-12 国立大学法人 東京大学 画像処理装置、画像処理方法、プログラム及び記録媒体
JP2019074496A (ja) 2017-10-19 2019-05-16 清水建設株式会社 ひび割れ検出装置、ひび割れ検出方法、および、コンピュータプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007065221A1 (en) 2005-12-07 2007-06-14 Commonwealth Scientific And Industrial Research Organisation Linear feature detection method and apparatus
JP7118680B2 (ja) 2018-03-26 2022-08-16 キヤノン株式会社 トナー

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001283215A (ja) 2000-01-24 2001-10-12 Hitachi Medical Corp 画像処理装置
JP2009226141A (ja) 2008-03-25 2009-10-08 Institute Of National Colleges Of Technology Japan 画像処理装置および画像処理方法
JP2016212092A (ja) 2015-05-13 2016-12-15 御木本製薬株式会社 角層細胞標本の解析方法
JP2017006296A (ja) 2015-06-19 2017-01-12 国立大学法人 東京大学 画像処理装置、画像処理方法、プログラム及び記録媒体
JP2019074496A (ja) 2017-10-19 2019-05-16 清水建設株式会社 ひび割れ検出装置、ひび割れ検出方法、および、コンピュータプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Changming Sun et al.,Fast Linear Feature Detection Using Multiple Directional Non-Maximum Suppression,The 18th International Conference on Pattern Recognition,米国,IEEE,2006年,pp.1-4

Also Published As

Publication number Publication date
WO2021054089A1 (ja) 2021-03-25
JPWO2021054089A1 (ja) 2021-03-25
EP4032968A4 (en) 2023-11-08
EP4032968A1 (en) 2022-07-27
CN114651274A (zh) 2022-06-21
US20220270226A1 (en) 2022-08-25

Similar Documents

Publication Publication Date Title
JP6348504B2 (ja) 生体試料の分割画面表示及びその記録を取り込むためのシステム及び方法
JP5804220B1 (ja) 画像処理装置および画像処理プログラム
JP2008234053A (ja) データ処理プログラム、データ処理装置、及びデータ処理方法
US8175364B2 (en) Medical image display device and program that generates marker and changes shape of region of interest to contact marker
TWI828109B (zh) 用於組織分割之機器學習模型的交互式訓練
US10762369B2 (en) Image analysis and processing pipeline with real-time feedback and autocapture capabilities, and visualization and configuration system
JP5744631B2 (ja) 診療支援装置、診療支援方法
CN108801601A (zh) 菲涅尔透镜杂散光噪声的测试方法、设备及存储介质
CN108352062A (zh) 用于组织识别的方法和设备
US20160275661A1 (en) Data interpretation overlay mechanism
JP7400823B2 (ja) 画像処理装置
CN112805670A (zh) 用于数字病理学的眼睛跟踪的图像查看器
US11710250B2 (en) Electronic device, method, and storage medium for setting processing procedure for controlling apparatus
US9558561B2 (en) Semiautomatic drawing tool for image segmentation
JP2020009217A (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
JPWO2018128091A1 (ja) 画像解析プログラム及び画像解析方法
WO2020149376A1 (ja) 画像処理装置、画像処理方法およびプログラム
WO2016204241A1 (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
US20230266819A1 (en) Annotation data collection using gaze-based tracking
JP7099923B2 (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
US11029653B2 (en) Dynamic and geo-fenced manipulation of insects with device screens
JP7197316B2 (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
WO2021049332A1 (ja) 画像処理装置、画像処理方法およびプログラム
JPWO2013161155A1 (ja) 画像計測装置、画像計測方法、および、画像計測用プログラム
JP2023026925A (ja) 画像処理方法、プログラムおよび記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220311

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231120

R150 Certificate of patent or registration of utility model

Ref document number: 7400823

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150