JP7416074B2 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JP7416074B2
JP7416074B2 JP2021545218A JP2021545218A JP7416074B2 JP 7416074 B2 JP7416074 B2 JP 7416074B2 JP 2021545218 A JP2021545218 A JP 2021545218A JP 2021545218 A JP2021545218 A JP 2021545218A JP 7416074 B2 JP7416074 B2 JP 7416074B2
Authority
JP
Japan
Prior art keywords
pixel group
pixel
image
unit
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021545218A
Other languages
English (en)
Other versions
JPWO2021049332A1 (ja
JPWO2021049332A5 (ja
Inventor
隆彦 吉田
萌伽 信田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Publication of JPWO2021049332A1 publication Critical patent/JPWO2021049332A1/ja
Publication of JPWO2021049332A5 publication Critical patent/JPWO2021049332A5/ja
Priority to JP2023220283A priority Critical patent/JP2024038142A/ja
Application granted granted Critical
Publication of JP7416074B2 publication Critical patent/JP7416074B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/457Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by analysing connectivity, e.g. edge linking, connected component analysis or slices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M1/00Apparatus for enzymology or microbiology
    • C12M1/34Measuring or testing with condition measuring or sensing means, e.g. colony counters
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M3/00Tissue, human, animal or plant cell, or virus culture apparatus
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • C12Q1/04Determining presence or kind of microorganism; Use of selective media for testing antibiotics or bacteriocides; Compositions containing a chemical indicator therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M41/00Means for regulation, monitoring, measurement or control, e.g. flow regulation
    • C12M41/30Means for regulation, monitoring, measurement or control, e.g. flow regulation of concentration
    • C12M41/36Means for regulation, monitoring, measurement or control, e.g. flow regulation of concentration of biomass, e.g. colony counters or by turbidity measurements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10064Fluorescence image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Organic Chemistry (AREA)
  • Wood Science & Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Zoology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • Biotechnology (AREA)
  • Molecular Biology (AREA)
  • Microbiology (AREA)
  • Genetics & Genomics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biochemistry (AREA)
  • Sustainable Development (AREA)
  • Analytical Chemistry (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Virology (AREA)
  • Cell Biology (AREA)
  • Geometry (AREA)
  • Medicinal Chemistry (AREA)
  • Toxicology (AREA)
  • Biophysics (AREA)
  • Immunology (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置、画像処理方法およびプログラムに関する。
分枝等を適宜備える線状の部分を含む対象物を撮像して得られた画像に対して画像処理を行う方法が提案されている(特許文献1参照)。このような画像処理では、抽出された画素群がどのように線状の部分に対応するかを解析する必要がある。
日本国特許第6015113号公報
本発明の第1の態様によると、画像処理装置は、線状部分を含む対象物を示す第1画像の画像データを撮像部から取得し、前記撮像部において前記第1画像に相当する複数の画素群を設定するに際し、前記画像データに基づき、互いに連結されていない第1画素群および第2画素群を含む前記複数の画素群を設定する画素群設定部と、前記第1画素群に対する前記第2画素群の接続度合を算出するために、前記複数の画素群のうち、前記第1画素群と、前記第1画素群から所定の範囲内にある画素を含む前記第2画素群との組の設定を行う組設定部と、前記組設定部にて設定された前記組の前記接続度合を算出する算出部とを備え、前記所定の範囲は、前記第1画素群と前記第2画素群との間の第1距離に基づいて設定された探索範囲である、または前記第1画素群に対応する第1線分と前記第2画素群に対応する第2線分とがなす第1角度に基づいて設定された探索範囲であり、前記算出部は、前記第1距離または前記第1角度を算出し、前記第1距離または前記第1角度を用いて前記接続度合を算出する。
本発明の第2の態様によると、画像処理方法は、線状部分を含む対象物を示す第1画像の画像データを撮像部から取得し、前記撮像部において前記第1画像に相当する複数の画素群を設定するに際し、前記画像データに基づき、互いに連結されていない第1画素群および第2画素群を含む前記複数の画素群を設定する工程と、前記第1画素群に対する前記第2画素群の接続度合を算出するために、前記複数の画素群のうち、前記第1画素群と、前記第1画素群から所定の範囲内にある画素を含む前記第2画素群との組の設定を行う工程と、前記組設定を行う工程にて設定された前記組の前記接続度合を算出する工程とを含み、前記所定の範囲は、前記第1画素群と前記第2画素群との間の第1距離に基づいて設定された探索範囲である、または前記第1画素群に対応する第1線分と前記第2画素群に対応する第2線分とがなす第1角度に基づいて設定された探索範囲であり、前記算出する工程は、前記第1距離または前記第1角度を算出し、前記第1距離または前記第1角度を用いて前記接続度合を算出する。
本発明の第3の態様によると、プログラムは、画像処理装置に次の処理を実行させるためのプログラムであって、線状部分を含む対象物を示す第1画像の画像データを撮像部から取得し、前記撮像部において前記第1画像に相当する複数の画素群を設定するに際し、前記画像データに基づき、互いに連結されていない第1画素群および第2画素群を含む前記複数の画素群を設定する画素群設定処理と、前記第1画素群に対する前記第2画素群の接続度合を算出するために、前記複数の画素群のうち、前記第1画素群と、前記第1画素群から所定の範囲内にある画素を含む前記第2画素群との組の設定を行う組設定処理と、前記組設定処理にて設定された前記組の前記接続度合を算出する算出処理とを含み、前記所定の範囲は、前記第1画素群と前記第2画素群との間の第1距離に基づいて設定された探索範囲である、または前記第1画素群に対応する第1線分と前記第2画素群に対応する第2線分とがなす第1角度に基づいて設定された探索範囲である。
図1は、第1実施形態の画像処理装置の構成を示す概念図である。 図2は、第1実施形態におけるデータ処理部の構成を示す概念図である。 図3は、第1実施形態における確率分布画像を示す概念図である。 図4は、第1実施形態における検出結果画像を示す概念図である。 図5(A)および(B)は、第1実施形態における交叉の検出を説明するための概念図である。 図6は、第1実施形態における探索範囲を説明するための概念図である。 図7は、第1実施形態における接続度合の算出を説明するための概念図である。 図8(A)は、第1実施形態におけるグループ分けの方法を説明するための概念図であり、図8(B)は、図8(A)に対応する連結グラフである。 図9(A)は、第1実施形態におけるグループ分けの方法を説明するための概念図であり、図9(B)は、図9(A)に対応する連結グラフである。 図10(A)は、第1実施形態におけるグループ分けの方法を説明するための概念図であり、図10(B)は、図10(A)に対応する連結グラフであり、図10(C)は、グループ分け後の重み付き連結グラフである。 図11は、第1実施形態に係る画像処理方法の流れを示すフローチャートである。 図12は、第1実施形態に係る画像処理方法の流れを示すフローチャートである。 図13は、第1実施形態に係る画像処理方法の流れを示すフローチャートである。 図14(A)および14(B)は、変形例1における画素群の設定を説明するための概念図である。 図15(A)および15(B)は、変形例2における探索範囲の設定を説明するための概念図である。 図16は、変形例3における画素群の間の距離と接続度合との関係を示すグラフである。 図17(A)は、変形例4における交叉における接続度合の設定を説明するための概念図であり、図17(B)は図17(A)に対応する連結グラフである。 図18は、変形例7に係るデータ処理部の構成を示す概念図である。 図19は、変形例8におけるプログラムの提供を説明するための概念図である。 図20は、変形例9に係る品質評価システムの構成を示す概念図である。 図21(A)は、変形例9に係る情報処理装置の構成を示す概念図であり、図21(B)は、変形例9に係る端末装置の構成を示す概念図である。 図22は、変形例10に係る画像処理方法の流れを示すフローチャートである。 図23は、変形例10に係る画像処理方法の流れを示すフローチャートである。 図24は、変形例10における表示画面の一例を示す概念図である。 図25は、変形例10における表示画面の一例を示す概念図である。 図26は、変形例10における表示画面の一例を示す概念図である。 図27は、変形例10における表示画面の一例を示す概念図である。 図28は、変形例10における表示画面の一例を示す概念図である。 図29は、変形例10における表示画面の一例を示す概念図である。 図30は、変形例10における表示画面の一例を示す概念図である。 図31は、変形例10における表示画面の一例を示す概念図である。
以下、図を参照して本発明を実施するための形態について説明する。
-第1実施形態-
図1は、本実施形態の画像処理装置の構成を示す概念図である。画像処理装置1は、培養部100と、情報処理部40とを備える。培養部100は、培養室(培養チャンバー)10と、観察用試料台(ステージ)11と、駆動部12と、撮像部20とを備える。情報処理部40は、入力部41と、通信部42と、記憶部43と、出力部44と、制御部50とを備える。制御部50は、データ処理部51と、出力制御部52と、装置制御部53とを備える。
画像処理装置1は、培養装置として構成され、培養部100でのサンプル(例、細胞)の撮像により得られた画像データである撮像画像データがデータ処理部51に入力され処理される構成となっている。
本実施形態では、撮像画像データに対応する撮像画像から、直線、曲線または交叉等を含む線状の部分を抽出対象として抽出する。以下では、細胞Ceが神経細胞であり、神経突起Nrに対応する部分を抽出する例を用いて説明するが、上記のような線状の部分を含めば、抽出対象はこの例に限定されず、画像を構成する任意の要素とすることができる。 なお、描画された画像等、撮像された画像以外の画像から抽出を行ってもよい。
培養部100は、細胞Ceを培養する培養室10を備え、培養室10において培養された細胞Ceの撮像を行う。
培養室10は、細胞Ceが培養されている培養容器Cを内部に格納する。培養容器Cは、例えば、ウェルプレート又はディッシュである。培養室10の内部には、制御部50に制御される不図示の温度調節器(例、ヒーター)及び温度センサが配置されており、該温度調整器と該温度センサとにより予め設定された温度に維持される等、予め設定された環境で細胞の培養が行われるように制御される。駆動部12は、アクチュエーターを備え、予め定められた時間に培養容器Cを移動させ、培養室10の内部にある観察用試料台11に載置する。さらに、駆動部12は、細胞Ceの撮像のため、撮像部20の焦点面に細胞Ceが配置されるように、撮像部20または観察用試料台11等を適切な位置(例、観察位置)に移動させる。
撮像部20は、CMOSやCCD等の撮像素子を含む撮像装置を備え、細胞Ce、特に細胞Ceの神経突起Nrを撮像する。撮像部20による撮像の方法は、細胞Ceを含む撮像画像において、神経突起Nrに対応する画素が、当該画素または当該画素の周辺の複数の画素の輝度値により他の部分と所望の精度で区別することができれば特に限定されない。例えば、撮像部20による撮像の方法は、蛍光観察法や位相差観察法等を用いることができる。
撮像部20が蛍光観察法により撮像を行う場合、遺伝子導入により、細胞CeにGFP等の蛍光タンパク質を発現させたり、神経突起Nrに局在するタンパク質と蛍光タンパク質とを融合させたタンパク質を発現させたりすることで蛍光染色を行うことができる。撮像後の細胞Ceの利用(例、培養、継代、ピックアップ)に問題が無ければ、免疫染色等の他の標識法を行ってもよい。
撮像部20が細胞Ceを撮像して得られた画素信号は、デジタル信号に変換され、画素と輝度値とが対応付けられた撮像画像データとして情報処理部40に入力され(図1の矢印A1)、記憶部43に記憶される。
情報処理部40は、画像処理装置1のユーザ(以下、単に「ユーザ」と呼ぶ)とのインターフェースとなる他、様々なデータに関する通信、記憶、演算等の処理を行う。
なお、情報処理部40は、培養部100と物理的に離れた情報処理装置として構成してもよい。また、画像処理装置1が用いるデータの少なくとも一部は遠隔のサーバ等に保存してもよい。
入力部41は、マウス、キーボード、各種ボタンまたはタッチパネル等の入力装置を備える。入力部41は、培養部100による撮像やデータ処理部51によるデータ処理に必要なデータ等を、ユーザから受け付ける。
通信部42は、インターネット等の無線や有線による接続により通信可能な通信装置を備え、画像処理装置1における制御や処理に関するデータを適宜送受信する。
記憶部43は、不揮発性の記憶媒体を備え、制御部50に処理を行わせるプログラムおよび、データ処理部51の処理に関する画像データ等を記憶する。
出力部44は、液晶モニタ等の表示装置を備え、データ処理部51の処理により得られた情報を示す画像等を出力する。
制御部50は、CPU等の処理装置により構成され、画像処理装置1を制御する動作の主体として機能し、記憶部43に搭載されているプログラムを実行することにより各種処理を行う。
制御部50のデータ処理部51は、撮像部20から入力された撮像画像データを処理し、抽出対象に対応する複数の画素群を抽出し、抽出された複数の画素群がどの細胞体に接続されているかに基づいて複数の画素群をグループ分けする。
図2は、データ処理部51の構成を示す概念図である。データ処理部51は、検出結果画像生成部511と、画素群設定部512と、組設定部513と、算出部514と、決定部600と、画像生成部700とを備える。決定部600は、実行部601と、終了判定部602とを備える。
データ処理部51の検出結果画像生成部511は、記憶部43に記憶されている撮像画像データを画像処理し、後述する検出結果画像に対応する検出結果画像データを生成し取得する。以下において、検出結果画像生成部511が、撮像画像データから後述の確率分布画像に対応する確率分布画像データを生成し、確率分布画像データから検出結果画像データを生成する例を説明する。しかし、この例に限定されず、撮像画像データから確率分布画像データを介さずに検出結果画像データを生成してもよい。
図3は、確率分布画像Gpを示す概念図である。確率分布画像Gpでは、確率分布画像Gpの各画素Pxの輝度は、画素Pxが抽出対象の神経突起Nrに対応する確率と対応付けられている。図3では、1つの細胞体Soと細胞体Soから伸びる1本の神経突起Nrに対応する画素が示されているが、確率分布画像Gpは、複数の細胞体Soと複数の神経突起Nrとの画像を含むことが好ましく、以下もその例を用いて説明する。確率分布画像Gpでは、画像中の全ての画素Pxに対し、上記確率の値または上記確率に対応した値が設定されている。図3に示された神経突起Nrに対応する画素以外の画素についても、このような値が設定されている。実際には神経突起Nrに対応していない画素が上記確率を示す正の値を有することも多く、図3中の画素Pxはこのような例を示している。図3の確率分布画像Gpでは、ハッチングが濃い部分程、当該部分に対応する画素Pxが神経突起Nrに対応する画像部分である可能性が高いことを示している。確率分布画像Gpは、各画素Pxに対して上記確率が1次元の輝度値として対応し、グレースケール画像として表現されることが好ましいが、上記確率と輝度値とが対応付けられれば確率分布画像Gpの態様は特に限定されない。
検出結果画像生成部511は、撮像画像データに対し、所定のアルゴリズム(以下、第1アルゴリズムと呼ぶ)による処理を行うことで、各画素Pxについて、抽出対象である神経突起Nrに対応する確率を算出する。第1アルゴリズムは、学習済みの機械学習である。この機械学習は、神経細胞を撮像して得られた複数の画像と、当該複数の画像における神経突起に対応する部分を示す画像とを演算装置に入力して学習させた深層学習である。
なお、第1アルゴリズムは、上記確率と輝度値とが対応付けられれば特に限定されず、深層学習以外の機械学習や、機械学習以外のアルゴリズムを用いてもよい。
検出結果画像生成部511は、確率分布画像データに対して、所定のアルゴリズム(以下、第2アルゴリズムと呼ぶ)による処理を行うことで、各画素Pxが神経Nrに対応するか否かを示す検出結果画像に対応する検出結果画像データを生成する。
図4は、検出結果画像Gdを示す概念図である。検出結果画像Gd(例、第1画像)は、輝度値により、各画素Pxが神経突起Nrに対応するか否かを示す画像である。例えば、図4のように、検出結果画像Gdを二値化画像とし、図の黒に対応する輝度値により画素Px1が神経突起Nrに対応することを示し、図の白に対応する輝度値により画素Px2が神経突起Nrに対応しないことを示すことができる。また、検出結果画像Gdにおいて、各画素Pxが細胞体Soに対応するか否かは、検出結果画像データとは別の画像データ等により表現され判断されていることが好ましい。
なお、輝度値により各画素Pxが神経突起Nrに対応するか否かを示すことができれば、検出結果画像Gdによるその表現方法は特に限定されない。
以下では、検出結果画像Gdにおいて、抽出対象に対応する互いに連結された複数の画素からなる画素群を、断片Sと呼ぶ。図4の検出結果画像Gdには、1つの神経突起Nrに対応する2つの断片SaおよびSbを示した。断片Sは、断片Sの幅が均一であることが好ましいが、これに限定されず、場所(検出結果画像Gdの画素の位置)によって任意の幅を持った線状の画素群とすることができる。以下では、特に図4で示されたような幅1ピクセルの線を、適宜、細線と呼ぶ。断片Saと断片Sbとは2画素以上離れている。このように、検出結果画像Gdでは、被写体の細胞Ceとは異なり、神経突起Nrに対応する部分が、必ずしも連結されていない。この理由の一つは、撮像の際に、神経突起Nr等の線状の部分に対応する画素の信号が弱いために十分な精度で撮像できないためである。特に、細胞等の撮像によく用いられる蛍光顕微鏡でもこの傾向がみられる。このような場合、断片Sがどの神経突起Nrに対応するかを決定しないと、検出結果画像Gdを用いて神経突起Nrを解析する際に神経突起Nrの正確な長さや数などを算出することができず、取得した画像における神経突起Nrから適切に情報を取得することができない。
2つの画素、または、2つの断片Sが斜め方向にのみ隣接している際に、これらの画素同士または断片S同士について、連結とするか非連結とするかは特に限定されず、上記のような神経突起Nrを解析する際の解析アルゴリズムにおける連結性の定義等に合わせて適宜設定することができる。
検出結果画像データを生成するための第2アルゴリズムは、検出結果画像Gdに後述の断片Sが残れば特に限定されず、次のようなアルゴリズム等を用いることができる。例えば、上記第2アルゴリズムは、確率分布画像Gpの輝度値を所定の閾値に基づいて二値化し、当該閾値以上の輝度値を有する画素を神経突起Nrに対応する画素とし、当該閾値未満の輝度値を有する画素を神経突起Nrに対応しない画素とすることを含む。あるいは、上記第2アルゴリズムは、断片Sに対する骨格抽出等の処理を含めてもよい。検出結果画像生成部511は、例えばLauらの文献("Simultaneously Identifying All True Vessels From Segmented Retinal Images" IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING, Vol.60, No. 7, July 2013)に示された方法により各断片Sに対し骨格抽出処理を行うことができる。
検出結果画像生成部511は、検出結果画像データを取得した後、制御部50のCPUに接続されたメモリまたは記憶部43等に、上記CPUから参照可能に検出結果画像データを記憶させる(以下、「記憶部43等に記憶させる」と記載する)。
なお、画像処理装置1は、検出結果画像データを取得できれば、画像処理装置1が撮像や培養を行う構成でなくともよい。データ処理部51が、通信部42等から検出結果画像データを取得し、上記のようにメモリまたは記憶部43等に参照可能に検出結果画像を記憶させてもよい。
画素群設定部512は、検出結果画像Gdを構成する複数の画素Pxから、互いに連結されていない複数の断片S(例、第1画素群、第2画素群)を設定し取得する。画素群設定部512が設定する少なくとも2つの断片Sには、互いに連結しておらず、検出結果画像Gdにおける下記の三叉または交叉等の他の画素群を介して連結することもない断片Sが含まれる。画素群設定部512は、検出結果画像Gdから、三叉または交叉を検出し、三叉または交叉を除去する処理を行った後、複数の断片Sを設定する。ここで、交叉とは、4以上の線状の画素群が接続される分枝を指す。
図5(A)および5(B)は、複数の画素群における交叉を検出および除去する処理を説明するための概念図である。画素群設定部512は、検出結果画像Gdの部分の画像である第1部分画像Gs1に対応するデータを生成する。第1部分画像Gs1は、中心画素Pxcを中心とし、Nを自然数として一辺が2N+1ピクセルの正方形の画素領域に対応する画像である。Nの値は、図5(A)では5であるが、対象物の特性または、検出結果画像Gdにある断片Sの幅または長さの平均値等に基づいて適宜設定される。
画素群設定部512は、第1部分画像Gs1から、中心画素Pxcを中心とした半径Mの円に対応する画素領域を、神経突起Nrに対応しない、言い換えれば断片Sに含まれない画素とした第2部分画像Gs2に対応するデータを生成する。この半径Mの円に対応する画素領域を除去画素領域Reと呼ぶ。MはNより小さい正の数である。除去画素領域Reは、図5(B)ではMを1とし、半径Mの円の少なくとも一部を含む画素からなる3×3の正方形の画素領域となっている。このときに、もし第1部分画像Gs1の上記除去画素領域Reに対応する部分に三叉または交叉が含まれていれば、三叉または交叉が除去されることにより、断片Scは第2部分画像Gs2において複数の断片Sとなる。これにより、第2部分画像Gs1よりも第2部分画像Gs2において断片Sの数が増える。図5(B)では、除去画素領域Reにより断片Scが複数の断片Sc1、Sc2、Sc3およびSc4に分離されている。
画素群設定部512は、第2部分画像Gs2における断片Sの数から、第1部分画像Gs2における断片Sの数を引いて得られた差が2以上の場合、除去画素領域Reに交叉を検出したとして、検出結果画像Gdの第1部分画像Gs1の部分を第2部分画像Gs2に置き換える。画素群設定部512は、検出結果画像Gd上において中心画素Pxcを適宜1ピクセルごと等移動させて、順次第1部分画像Gs1および第2部分画像Gs2を生成し、交叉が検出されたら検出結果画像Gdの第1部分画像Gs1の部分を第2部分画像Gs2に置き換えることを繰り返す。画素群設定部512は、検出結果画像Gdの全体がそれまでに生成された第1部分画像Gs1または第2部分画像Gs2によりカバーされたら、得られた検出結果画像Gdに対応するデータを記憶部43等に記憶させる。
なお、三叉または交叉の除去を行うことができれば、第1部分画像Gs1、第2部分画像Gs2、および除去画素領域Reの大きさおよび形状等は特に限定されない。
画素群設定部512は、三叉または交叉を除去した後の検出結果画像Gdにおける各画素の輝度値に基づいて、各断片Sがどの画素Pxを含むかを示すデータを生成する。例えば、画素群設定部512は、断片Sに含まれる複数の画素Px1を互いに連結している画素ごとにグループ化する。画素群設定部512は、生成されたデータを、記憶部43等に記憶させる。
組設定部513は、画素群設定部512により設定された複数の断片Sのうち、ある断片Sと、当該断片Sから探索範囲R内にある画素を含む断片Sとの組の設定を行う。組設定部513が設定する組には、互いに連結していない断片Sの組が少なくとも一つ含まれ、さらにその組は三叉または交叉等が除去される前の検出結果画像Gdにおいて三叉または交叉等の他の画素群を介して連結することもない。画素群設定部512が設定した複数の断片Sのうち、後述の探索範囲Rが設定されている断片S(設定される探索範囲Rの基準となる断片)を第1断片とし、他の断片(設定される探索範囲Rの基準ではない断片)を第2断片とする。
図6は、組の設定を説明するための概念図である。組設定部513は、検出結果画像Gdに含まれる断片Sの両端にある画素を抽出する。以下、断片Sの両端にある画素を端画素Tと呼ぶ。組設定部513は、断片Sが細線である場合、各断片Sに対応する細線の両端にある画素をそれぞれ端画素Tに設定する。組設定部513は、断片Sが細線でない場合は、例えば断片Sに対応する曲線または線分に沿って両端に近い画素等を端画素Tに設定することができる。図6では、第1断片S1の両端にある画素が端画素T11およびT12に設定されている。
組設定部513は、端画素T11およびT12のそれぞれを中心とした所定の範囲の領域(画素領域)を第1断片S1の探索範囲R1およびR2として設定する。探索範囲Rの形状は特に限定されず、例えば円に対応する画素領域または矩形等にすることができる。探索範囲Rを円に対応する画素領域とした場合、当該円の半径は、例えば、検出結果画像Gdに含まれる断片Sの長さの算術平均等の平均の半分程度とすることができるが、特に限定されない。
組設定部513は、断片S1の探索範囲Rに含まれる、第2断片(図6の例では第2断片S2,S3,S4)の端画素Tを検出する。図6では、探索範囲R1に含まれる、第2断片S2の端画素T21が検出される。組設定部513は、第1断片S1と第2断片S2との組を、接続度合を算出する対象となる断片ペアとして設定する。一方、第2断片S3およびS4は、探索範囲Rに含まれる画素を有していないため、第1断片S1と第2断片S3、第1断片S1と第2断片S4との組は、断片ペアとして設定されない。
図6のように、探索範囲Rを円に対応する画素領域とした場合には、組として設定された第1断片S1と第2断片S2との距離w(第1距離)は、探索範囲Rの半径rよりも小さくなる。従って、組設定部513は、断片S同士の距離(例、2つの端画素Tの距離)に基づいて、断片ペアを設定することになる。
組設定部513は、画素群設定部512が設定した複数の断片Sを構成する各断片Sについて断片ペアの設定を行う。図6の例では、組設定部513は、断片S2、S3およびS4のそれぞれについて、端画素Tに探索範囲Rを設定して探索範囲R内の他の断片Sの端画素Tをそれぞれ検出する。組設定部513は、断片S2、S3およびS4と、検出された端画素Tを含む断片Sとの断片ペアをそれぞれ設定する。組設定部513は、既に設定された断片ペアとの重複がある場合には重複する断片ペアの設定を行う必要はない。これにより、算出部514は、組設定部513により断片ペアが設定されるため、探索範囲Rに基づいて検出されなかった組については後述の接続度合の算出処理を行わない。組設定部513は、設定された断片ペアを記憶部43等に記憶させる。
算出部514は、断片ペアに含まれる2つの断片Sの間の接続度合を算出する。以下では、断片ペアに含まれる2つの断片を第1断片S1および第2断片S2と呼んで説明する。言い換えれば、算出部514は、第1断片S1に対する第2断片S2の接続度合を算出する。ここで、接続度合は、2つの断片Sが、対象物の同一の線状の部分、言い換えれば同一の神経突起Nrに対応する確率を示し、2つの断片Sの形状および配置に基づく接続しやすさを含む。接続度合は、数値等により表され、接続度合同士の比較ができれば記号等で表してもよい。算出部514は、算出した接続度合を記憶部43等に記憶させる。また、上記のように、例えば、算出部514は、組設定部513により設定される断片ペアが無い場合、接続度合の算出処理を行わない。
次に、図7は、接続度合の算出を説明するための概念図である。算出部514は、第1断片S1に対応する第1線分L1と、第2断片S2に対応する第2線分L2とを設定する。算出部514は、例えば、第1断片S1の端画素T1を固定し、端画素T1を通る線分の傾きを変えていった場合に、第1断片S1に含まれる最も多くの画素を当該線分が通るときの当該線分を第1線分L1とすることができる。このように、第1画素群に相当する第1断片S1は第1線分L1を有する。同様に、算出部514は、第2断片S2の端画素T2を固定し、端画素T2を通る線分の傾きを変えていった場合に、第2断片S2に含まれる最も多くの画素を当該線分が通るときの当該線分を第2線分L2とすることができる。あるいは、算出部514は、第1断片S1の両端の画素を結ぶ線分を第1線分L1、第2断片S2の両端の画素を結ぶ線分を第2線分L2としてもよい。このように、第2画素群に相当する第2断片S2は第2線分L2を有する。
算出部514は、第1断片S1の端画素T1と第2断片S2の端画素T2とを結ぶ線分である第3線分L3を設定する。算出部514は、端画素T1と端画素T2との間の距離である第3線分L3の長さを算出する。以下、この長さを第1断片S1と第2断片S2との間の距離である断片間距離wとする。
なお、第1線分L1は、端画素T1を通らなくともよく、例えば第1断片S1の形状によっては、端画素T1よりも第1断片S1の重心に近い画素を通る方がより第1断片S1の形状を反映する場合もある。従って、第1線分L1は、適宜第1断片S1に含まれる適当な2画素を通るように設定したりすることもできる。第2線分L2についても同様である。このようにして得られた第1断片S1に対応する第1線分L1および第2断片S2に対応する第2線分L2を通る線分を第3線分L3としてもよい。また、同様に、第1断片S1および第2断片S2の形状等により、適宜、第3線分L3は、第1断片S1に含まれる任意の点と第2断片S2に含まれる任意の点をつなぐ線分とすることができる。
次に、算出部514は、第1線分L1と第2線分L2とがなす角度である第1角度θ1を算出する。算出部514は、第1線分L1と第3線分L3とがなす角度である第2角度θ2を算出する。算出部514は、第2線分L2と第3線分L3とがなす角度である第3角度θ3を算出する。これらの角度は、第1線分L1、第2線分L2および第3線分L3の傾き等を用いて計算することができる。
算出部514は、第1断片S1に対する第2断片S2の接続度合DCを、以下の式(1)により算出する。以下、「*」は積を示す。
DC=c0*|w|+c1*sinθ2+c2*sinθ3+c3*(1+cosθ1)…(1)
ここで、c0、c1、c2およびc3は、正の定数であり、抽出対象の特性等に基づいて適宜設定される。
なお、式(1)は、後述のグループ分けの際にプリム法等の最適化法を用いる際に、接続度合DCがエッジの重みとなるよう、接続度合が正になるように設定した。しかし、接続度合DCは、上記断片間距離w、第1角度θ1、第2角度θ2および第3角度θ3の少なくとも一つを用いれば、後述のグループ分けの際のアルゴリズムに合わせて適宜設定することができる。非限定的な例では、接続度合DCは、式(1)の右辺の第1項(断片間距離w)のみまたは第4項(第1角度θ1)のみとしてもよいし、第1項および第4項のみとしてもよいし、第1項、第2項(第2角度θ2)および第3項(第3角度θ3)のみとしてもよいし、第1項、第2項および第4項のみとしてもよいし、第1項、第3項および第4項のみとしてもよいし、第2項、第3項および第4項のみとしてもよい。
決定部600は、算出部514によって算出された接続度合に基づいて、画素群設定部512が設定した複数の断片Sのグループ分けを決定する。このグループ分けでは、同一の細胞体Soから伸びる神経突起Nrに対応する断片Sが、同一のグループに属するように設定される。この際、全部の断片Sが1つのグループに属することも起こり得るし、一部の断片Sが事前に定められた各細胞体Soに対応するいずれのグループに属しないことも起こり得る。
決定部600によるグループ分けのアルゴリズムは、算出された接続度合を用いれば特に限定されない。以下では、各断片Sをノード、接続度合をノードを結ぶエッジの重みとする重み付き連結グラフの最小全域木を、プリム法を用いて求めることによりグループ分けを行う例を説明する。
なお、クラスカル法またはブルーフカ法を用いて最小全域木を求めてもよい。
決定部600の実行部601は、グループ分けのアルゴリズムを実行し、最小全域木を求める。実行部601は、各断片Sをノードとし、断片ペアの2つの断片Sの間の接続度合を当該2つの断片Sに対応する2つのノード間のエッジの重みとして、重み付き連結グラフに対応するデータを生成する。
図8(A)は、グループ分けの初期段階を説明するための概念図であり、図8(B)は、図8(A)に対応する重み付き連結グラフGである。以降の各図に記載される重み付き連結グラフは例示であり、本発明を限定するものではない。細胞体So1には断片S5が接続されている。細胞体So2には断片S6が接続されている。実行部601は、各細胞体Soに接続されている断片S5、S6に対応するノードN5,N6をルートノードとし、ルートノードに対応する断片S以外の断片Sをノードとする。実行部601は、抽出されたノードの間にエッジを設定する。
図8(B)では、断片S5、S6、S7およびS8のそれぞれに対応するノードN5、N6、N7およびN8が設定されている。断片S5と断片S7、断片S5と断片S8、断片S6と断片S7、および、断片S6と断片S8は、それぞれ断片ペアであり、接続度合を重みとしたエッジE57、E58、E67、E68が設定されている。図8(B)の例では、エッジE57の重みは20、エッジE58の重みは15、エッジ67の重みは10、エッジ68の重みは30に設定されている。仮想ノードNVは、グラフ全体が一つの連結されたグラフとなるように仮想的に設定されるノードである。仮想ノードNVとルートノードN5との間に仮想エッジEV1、仮想ノードNVとルートノードN6との間に仮想エッジEV2が設定されている。
実行部601は、ルートノードを決定ノードに設定し、ルートノード以外のノードを、未決定ノードに設定する。断片S5およびS6と、断片S5およびS6にそれぞれ対応するノードN5およびN6は、異なる細胞体Soに接続される断片に対応するため、異なるグループに属すものとし、異なるハッチングにより示した。断片S7およびS8にそれぞれ対応するノードN7およびN8は、未決定ノードである。
実行部601は、決定ノードと未決定ノードをつなぐエッジの中から、最も重みの小さいエッジにつながれている未決定ノードを、決定ノードとして設定することを繰り返す。図8(A)および8(B)の段階では、実行部601は、決定ノードN5またはN6と、未決定ノードN7またはN8とをつなぐエッジE57、E58、E67およびE68の中から、最も重みの小さいエッジE67を選択し、エッジE67につながれている未決定ノードN7を、決定ノードとして設定する。
図9(A)は、ノードN7が決定ノードに設定された後の段階を説明するための概念図であり、図9(B)は、図9(A)に対応する重み付き連結グラフGである。ノードN7が決定ノードとして設定された後、ノードN7とノードN8の間のエッジE78を含む重み付き連結グラフGが作成される。図9(B)の例では、エッジE78の重みは50である。このように、決定ノードが設定される毎に、新たに設定された決定ノードと未決定ノードをつなぐエッジを含む重み付き連結グラフが作成される。実行部601は、選択されたエッジE67でつながれた決定ノードN6および決定ノードN7が同一のグループに属するように設定する。図9(A)および9(B)では、決定ノードN6およびN7、ならびに決定ノードN6およびN7にそれぞれ対応する断片S6およびS7が同一のグループに属することを同一のハッチングにより示した。次に、実行部601は、決定ノードN5、N6またはN7と、未決定ノードN8とをつなぐエッジE58、E68およびE78の中から、最も重みの小さいエッジE58を選択し、エッジE58につながれている未決定ノードN8を、決定ノードとして設定する。
図10(A)は、ノードN8が決定ノードに設定された後の段階を説明するための概念図であり、図10(B)は、図10(A)に対応する重み付き連結グラフGである。実行部601は、選択されたエッジE58でつながれた決定ノードN5と決定ノードN8が同一のグループに属するように設定する。図10(A)および10(B)では、決定ノードN5およびN8、ならびに決定ノードN5およびN8にそれぞれ対応する断片S5およびS8が同一のグループに属することを同一のハッチングにより示した。
図10(C)において、重み付き連結グラフGから未決定ノードがなくなったら、実行部601は、これまでのエッジの探索において選択されたエッジE58およびE67と、決定ノードと仮想ノードNVとを含む重み付き連結グラフG1を、最小全域木として設定する。重み付き連結グラフG1は、複数のルートノードN5、N6を統合した仮想的なノードNVが設定されているため連結とみなすことができる。また、実行部601は、重み付き連結グラフG1に対応するデータから、各断片Sのグループ分けの結果を示すデータであるグループ分けデータを生成する。実行部601は、グループ分けデータを記憶部43等に記憶させる。データ処理部51等により、検出結果画像Gdは、グループ分けデータに基づいて、適宜形態解析等に供され、神経突起長の算出等が行われる。
図2に戻って、決定部600の終了判定部602は、実行部601により選択されたエッジの重みの和(以下、判定パラメータと呼ぶ)を算出し、判定パラメータが所定の閾値(以下、判定閾値と呼ぶ)以上となった場合に、実行部601による上記最小全域木を求める処理を終了する。判定閾値は、エッジの重みである接続度合の平均値、対象物の特性または検出結果画像Gdに含まれる断片Sの数等に基づいて適宜設定することができる。これにより、他の断片Sと離れすぎている断片Sまたは、接続される細胞体Soが検出結果画像Gd内に存在しない断片等の、グループ分けの必要のない断片Sがグループ分けされてしまうことを抑制することができる。
画像生成部700は、検出結果画像Gdにおける各断片Sのグループ分けの結果を示す画像である出力画像に対応する画像データ(以下、出力画像データと呼ぶ)を生成する。出力画像の態様は、特に限定されず、検出結果画像Gdを画像処理した画像または、文字によりグループ分けの結果を示すことができる。検出結果画像Gdを画像処理した出力画像を生成する場合、断片Sをグループごとに区別して示すことができる。例えば、出力画像では、断片Sをグループごとに色相、明度および彩度の少なくとも一つが異なるようにすることができ、例えばグループごとにRGB等の輝度値が異なるようにすることができる。
図1に戻って、制御部50の出力制御部52は、出力部44を制御し、出力画像を出力する。
制御部50の装置制御部53は、入力部41からの入力等に基づいて、培養部100の各部を制御する(矢印A2)。装置制御部53は、細胞培養に関する制御(例、温度又は湿度の管理をする培養室10の制御、駆動部12の制御)を実行したり、撮像部20に撮像を実行させる。
図11は、本実施形態に係る画像処理方法の流れを示すフローチャートである。ステップS101において、検出結果画像生成部511は、撮像部20の撮像により得られた撮像画像データを取得する。ステップS101が終了した後、ステップS103が開始される。ステップS103において、検出結果画像生成部511は、撮像画像データを画像処理し、確率分布画像データを取得する。ステップS103が終了した後に、ステップS105が開始される。
ステップS105において、検出結果画像生成部511は、確率分布画像データを画像処理し、検出結果画像データを取得する。ステップS105が終了した後、ステップS107が開始される。ステップS107において、画素群設定部512は、複数の断片Sを設定する。ステップS107が終了した後、ステップS109が開始される。
ステップS109において、組設定部513は、組(断片ペア)を設定し、各組に対応する接続度合を設定する。ステップS109が終了した後、ステップS111が開始される。ステップS111において、決定部600は、各断片Sのグループ分けを決定する。ステップS111が終了した後、ステップS113が開始される。ステップS113において、出力制御部52は、グループ分けの結果を示す情報を出力する。例えば、出力制御部52は、同一グループに属する断片を示す名称、番号若しくは記号によるラベル等の情報または同一グループに属する断片を同じ輝度値等で表した出力画像を出力したりする。ステップS113が終了した後、処理が終了される。
図12は、図11のフローチャートにおけるステップS109の流れを示すフローチャートである。ステップS107が終了した後、ステップS1091が開始される。ステップS1091において、組設定部513は、断片Sを選択する。ステップS1091が終了した後、ステップS1093が開始される。ステップS1093において、組設定部513は、選択された断片Sに探索範囲Rを設定する。ステップS1093が終了した後、ステップS1095が開始される。
ステップS1095において、組設定部513は、選択された断片Sと、選択された断片Sの探索範囲R内に含まれる画素を含む断片Sとの組を設定する。ステップS1095が終了した後、ステップS1097が開始される。ステップS1097において、算出部514は、接続度合を算出し、組と接続度合とを紐づけて記憶部43等に記憶させる。ステップS1097が終了した後、ステップS1099が開始される。
ステップS1099において、組設定部513は、検出結果画像Gdの全ての断片Sが選択されたか否かを判定する。組設定部513は、全ての断片Sが選択された場合、ステップS1099を肯定判定し、ステップS111が開始される。組設定部513は、選択されていない断片Sがある場合、ステップS1099を否定判定してステップS1091が開始される。
図13は、図11のフローチャートにおけるステップS111の流れを示すフローチャートである。ステップS109が終了した後に、ステップS1111が開始される。ステップS1111において、実行部601は、ルートノードを決定ノードとして設定する。ステップS1111が終了したら、ステップS1112が開始される。ステップS1112において、実行部601は、ルートノード以外のノードおよびエッジを設定する。ステップS1112が終了したら、ステップS1113が開始される。
ステップS1113において、実行部601は、決定ノードと未決定ノードをつなぐ最も重みの小さいエッジを探索し、探索で得られたエッジにつながる未決定ノードを決定ノードに設定する。ステップS1113が終了した後に、ステップS1114が開始される。ステップS1114において、実行部601は、未決定ノードが存在するか否かを判定する。実行部601は、未決定ノードが存在する場合、ステップS1114を肯定判定し、ステップS1115が開始される。実行部601は、未決定ノードが存在しない場合、ステップS1114を否定判定し、ステップS1116が開始される。
ステップS1115において、終了判定部602は、判定パラメータが判定閾値未満か否かを判定する。終了判定部602は、判定パラメータが判定閾値未満の場合、ステップS1115を肯定判定し、ステップS1113が開始される。終了判定部602は、判定パラメータが判定閾値以上の場合、ステップS1114を否定判定し、ステップS1116が開始される。ステップS1116において、実行部601は、探索で得られたエッジにより互いにつながれている複数のノードを1つのグループとして、グループ分けの情報を設定する。ステップS1116が終了した後、ステップS113が開始される。
上述の実施の形態によれば、次の作用効果が得られる。
(1)本実施形態の画像処理装置1は、検出結果画像Gdを構成する複数の画素Pxから、互いに連結されていない第1断片S1および第2断片S2、S3、S4を含む複数の断片Sを取得する画素群設定部512と、第1断片S1に対する接続度合を設定するために、複数の断片Sのうち、第1断片S1と、第1断片S1から探索範囲R内にある画素を含む第2断片S2との組の設定を行う組設定部513とを備える。これにより、画像処理装置1は、途切れた画素断片も含め、抽出された断片S等の画素群がどのように線状の部分に対応するかを正確に解析することができる。
(2)本実施形態の画像処理装置1は、第1断片S1と第2断片S2との間の断片間距離wまたは第1角度θ1を算出する算出部514を備え、算出部514は、断片間距離wまたは第1角度θ1を用いて接続度合を算出する。これにより、画像処理装置1は、2つの画素群の位置関係に基づいて、これらの画素群がどのように線状の部分に対応するかを正確に解析することができる。
(3)本実施形態の画像処理装置1において、算出部514は、第1断片S1に含まれる点および第2断片S2に含まれる点を通る第3線分L3と第1線分L1とがなす第2角度θ2、および第3線分L3と第2線分L2とがなす第3角度θ3の少なくとも一つの角度を算出し、第2角度θ2および第3角度θ3の少なくとも一つに基づいて接続度合を算出することができる。これにより、画像処理装置1は、2つの画素群のより詳細な位置関係に基づいて、これらの画素群がどのように線状の部分に対応するかをさらに正確に解析することができる。
(4)本実施形態の画像処理装置1において、算出部514は、第3線分L3のうち最も短い線分と、第1線分L1とがなす角度、および当該線分と第2線分L2とがなす角度の少なくとも一つの角度を算出し、当該少なくとも一つの角度に基づいて接続度合を算出することができる。これにより、画像処理装置1は、2つの画素群のより詳細な位置関係に基づいて、これらの画素群がどのように線状の部分に対応するかをより一層正確に解析することができる。
(5)本実施形態の画像処理装置1において、組設定部513は、複数の断片Sを構成するそれぞれの断片Sについて組の設定を行い、算出部514は、それぞれの組について接続度合を算出し、算出された接続度合に基づいて、複数の断片Sのグループ分けを決定する決定部600を備える。これにより、画像処理装置1は、画像全体にわたって、途切れた画素断片も含め、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(6)本実施形態の画像処理装置1において、決定部600は、複数の断片Sのそれぞれをノード、接続度合をエッジの重みとして、プリム法、クラスカル法またはブルーフカ法により求めた最小全域木に基づき、ノードがいずれのグループに属するかを順次決定する。これにより、画像処理装置1は、効率よく最適な画素群のグループ分けを行うことができる。
(7)本実施形態の画像処理装置1において、決定部600は、プリム法、クラスカル法またはブルーフカ法においてエッジを選択する際、選択された複数のエッジに対応する数値の和に基づいて、最小全域木を求める処理を終了するか否かを判定する終了判定部602を備える。これにより、画像処理装置1は、グループ分けの必要のない画素群がグループ分けされてしまうことを抑制することができる。
(8)本実施形態の画像処理装置1は、グループ分けの結果を示す出力画像を生成する画像生成部700を備える。これにより、画像処理装置1は、抽出された画素群がどのように線状の部分に対応するかの情報を提供することができる。
(9)本実施形態の画像処理装置1は、画素群設定部512は、複数の断片Sを取得する前に、検出結果画像Gdを構成する画素から、三叉または交叉に対応する画素を除外して複数の断片Sに含まれない画素とする。これにより、画像処理装置1は、三叉または交叉を含む画像についても、途切れた画素断片も含め、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(10)本実施形態の画像処理装置1において、検出結果画像Gdは、対象物を撮像して得られた画像に画像処理を行って得られた画像であって、検出結果画像Gdの各画素について当該各画素が線状の構造に対応するか否かを画素値により示す二値化画像であり、画素群設定部512は、画素値に基づいて複数の断片Sを取得する。これにより、画像処理装置1は、途切れた画素断片も含め、撮像された画像から抽出された画素群がどのように被写体の線状の部分に対応するかを正確に解析することができる。
(11)本実施形態の画像処理装置1において、検出結果画像Gdは、神経突起Nrに対応する複数の画素Px1を示す画像であり、接続度合は、第1断片S1と第2断片S2とが同一の神経細胞から伸びる神経突起の一部に対応する可能性を示す数値である。これにより、画像処理装置1は、途切れた画素断片も含め、撮像された画像から抽出された画素群がどのように神経突起Nrに対応するかを正確に解析することができる。
(12)本実施形態の画像処理装置1は、検出結果画像Gdから、第1断片S1および第2断片S2を取得する画素群設定部512と、第1断片S1および第2断片S2を通る第3線分L3と第1線分L1とがなす第2角度θ2を算出する算出部514と、第2角度θ2に基づいて、第1断片S1と第2断片S2とが連結される線状の領域に対応するか否かを決定する決定部600とを備える。これにより、画像処理装置1は、第1断片S1と第2断片S2との位置関係に基づいて、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。また、画像処理装置1は、第2角度θ2を用いることで、第1断片S1および第2断片S2を構成する細線が平行にずれている場合、一方の細線が極端に短い場合、第1断片S1および第2断片S2が曲がった断片の場合等についても正確にグループ分けをすることができる。
(13)本実施形態の画像処理装置1において、算出部514は、第3線分L3と第2線分L2とがなす第3角度θ3を算出し、決定部600は、第2角度θ2および第3角度θ3に基づいて、第1断片S1と第2断片S2とが連結される線状の領域に対応するか否かを決定する。これにより、画像処理装置1は、2つの断片Sのより詳細な位置関係に基づいて、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(14)本実施形態の画像処理装置1において、決定部600は、第1断片S1に対応する第1線分L1と第2断片S2に対応する第2線分L2とがなす第1角度θ1、および第2角度θ2に基づいて、第1断片S1と第2断片S2とが連結される線状の領域に対応するか否かを決定することができる。これにより、画像処理装置1は、2つの断片Sのさらに詳細な位置関係に基づいて、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(15)本実施形態の画像処理装置1において、決定部600は、第1角度θ1に基づいて、第1断片S1と第2断片S2とが連結される線状の領域に対応するか否かを決定することができる。これにより、画像処理装置1は、2つの断片Sが並ぶ方向に基づいて、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(16)本実施形態の画像処理装置1において、決定部600は、第1角度θ1、第2角度θ2および第3角度θ3に基づいて、第1断片S1と第2断片S2とが連結される線状の領域に対応するか否かを決定することができる。これにより、画像処理装置1は、2つの断片Sのより一層詳細な位置関係に基づいて、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(17)本実施形態に係る撮像装置は、上述の画像処理装置1と、撮像部20とを備える。これにより、撮像装置は、途切れた画素断片も含め、撮像された画像から抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(18)本実施形態に係る培養装置である上述の画像処理装置1は、細胞を培養する培養部100を備える。これにより、培養装置は、途切れた画素断片も含め、培養された細胞の画像から抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(19)本実施形態に係る画像処理方法は、検出結果画像Gdを構成する複数の画素Pxから、互いに連結されていない第1断片S1および第2断片S2、S3、S4を含む複数の断片Sを取得することと、第1断片S1に対する接続度合を設定するために、複数の断片Sのうち、第1断片S1と、第1断片S1から探索範囲R内にある画素を含む第2断片S2との組の設定を行うこととを含む。これにより、画像処理方法は、途切れた画素断片も含め、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(20)本実施形態に係る画像処理方法は、検出結果画像Gdから、第1断片S1および第2断片S2を取得することと、第1断片S1に含まれる点および第2断片S2に含まれる点を通る第3線分L3と第1線分L1とがなす第2角度θ2を算出することと、第2角度θ2に基づいて、第1断片S1と第2断片S2とが連結される線状の領域に対応するか否かを決定することとを含む。これにより、画像処理方法は、2つの断片Sの位置関係に基づいて、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
次のような変形も本発明の範囲内であり、上述の実施形態と組み合わせることが可能である。
(変形例1)
上述の実施形態において、画素群設定部512は、検出結果画像Gdに含まれる複数の画素Pxから、互いに連結されていない複数の画素断片からなる画素群を、1つの断片Sとして設定してもよい。
図14(A)および14(B)は、複数の画素断片からなる画素群(例、複数の画素群)の例を示す図である。図14(A)の画素群Sg1は、画素断片SS1、画素断片SS2および画素断片SS3を備える。画素断片SS2は例えば細線を割り当てることが難しい円状の画素に対応している。画素群設定部512は、このような画素断片SS2が存在する場合でも、これらの画素断片SS1,SS2およびSS3が線状に並ぶ場合、これらを1つの画素群Sg1として設定することができる。例えば、画素断片同士が互いに所定の距離内にあり、画素断片SS1またはSS3に対応する線分から所定の距離より短い距離に画素断片SS2がある場合、画素断片SS2を画素群Sg1を構成する画素断片とすることができる。上記所定の距離は、画素群Sg1を構成する画素が線状に並ぶように予め設定しておくことができる。
図14(B)の画素群Sg2は、画素断片SS4、SS5、SS6およびSS7を備える。画素群設定部512は、このように画素断片が並ぶ場合でも、例えば、画素断片同士が互いに所定の距離内にあり、それぞれの画素断片SS4~7が画素断片SS4~7の少なくとも一つに対応する線分から所定の距離にある場合、これらを画素群Sg2を構成する画素断片として設定することができる。
データ処理部51は、複数の画素断片からなる画素群Sg1またはSg2を1つの断片Sとして処理することができる。例えば、算出部514は、画素群Sg1の両端の画素を上述の実施形態の端画素T1およびT2とすることができ、上述の実施形態の定義に沿って第1線分L1、第2線分L2、第1角度θ1、第2角度θ2、第3角度θ3および断片間距離wを設定することができる。従って、上述の実施形態において断片Sの少なくとも一部をそれぞれ複数の画素断片を含む画素群としても、同様に組の設定およびグループ分け等の処理をすることができる。
本変形例の画像処理装置において、画素群設定部512は、検出結果画像Gdを構成する複数の画素Pxから、複数の断片Sを構成する画素群として、互いに連結された複数の画素Px1により構成される画素群、または、互いに連結されていない複数の画素群SS1~3、または4~7により構成される画素群Sg1またはSg2を取得する。これにより、検出結果画像Gdが、少ない画素により構成される画素断片を多く含む場合に、抽出された画素群がどのように線状の部分に対応するかを効率よく解析することができる。
(変形例2)
組設定部513は、上述の実施形態とは異なる方法で探索範囲Rを設定してもよい。以下の変形例2-1、2-2において、探索範囲の縦横の長さは、検出結果画像Gdに含まれる断片Sに対応する線分の長さの算術平均等の平均、または当該平均に基づいた値とすることができる。
(変形例2-1)
図15(A)は、本変形例の探索範囲R3の設定方法を説明するための概念図である。組設定部513は、断片S101の画素の重心C1を中心とした矩形又は円形の画素領域を探索範囲R3として設定する。組設定部513は、断片S101と、探索範囲R3内に含まれる画素を有する断片S102およびS103のそれぞれとの組を断片ペアとして設定することができる。
(変形例2-2)
図15(B)は、本変形例の探索範囲R4の設定方法を説明するための概念図である。組設定部513は、断片S201の画素に外接する矩形Rtの中心C2を中心とした矩形又は円形の画素領域を探索範囲R4として設定する。組設定部513は、断片S201と、探索範囲R4内に含まれる画素を有する断片S202およびS203のそれぞれとの組を断片ペアとして設定することができる。
上記変形例2の画像処理装置1において、組設定部513は、複数の断片Sのうち、断片S101と、断片S101の重心に対応して設定された探索範囲R3内にある画素を含む断片S102およびS103との組、または、断片S201と、断片S201に外接する矩形Rtの中心に対応して設定された探索範囲R4内にある画素を含む断片S202およびS203との組を設定する。これにより、画像処理装置1は、断片S101またはS201の形状により探索範囲の位置がばらつくことを抑制し、抽出された画素群がどのように線状の部分に対応するかをより正確に解析することができる。
(変形例3)
上述の実施形態において、算出部514は、断片ペアに含まれる第1断片S1と第2断片S2との間の検出結果画像における距離が、所定の距離よりも長い場合には、接続度合の算出方法を変えてもよい。以下では、この所定の距離を距離閾値DISTと呼ぶ。ここで定義される第1断片S1と第2断片S2との間の距離は、断片間距離wとしてもよいし、あるいは、第1断片S1と第2断片S2に基づいて定義される任意の距離とすることができ、検出結果画像における該任意の距離に対応する画素数により定義してもよい。
組設定部513は、第1断片S1と第2断片S2との間の距離が距離閾値DISTよりも小さい値の場合、上述の式(1)により第1断片S1に対する第2断片S2の接続度合DCを設定する。
DC=c0*|w|+c1*sinθ2+c2*sinθ3+c3*(1+cosθ1)…(1)
組設定部513は、第1断片S1と第2断片S2との間の距離がDIST以上の場合、以下の式(2)により第1断片S1に対する第2断片S2の接続度合DCを設定する。
DC=c0*|w|+c1+c2+2*c3 …(2)
図16は、本変形例における、第1断片S1と第2断片S2との間の距離(横軸)と、第1断片S1に対する第2断片S2の接続度合(縦軸)との関係を示すグラフである。図16では、上述の式(1)で算出される接続度合に対応する領域V1と、上述の式(2)で算出される接続度合に対応する領域V2とをハッチングにより示した。第1断片S1と第2断片S2との間の距離が距離閾値DIST未満の場合と、距離閾値DIST以上の場合を比較すると、境界値DC1=c0*DIST+c1+c2+2*c3を除いて接続度合の値の重なりはない。従って、第1断片S1と第2断片S2との間の距離が距離閾値DIST以上の場合の接続度合は、距離閾値DIST未満の場合の接続度合以上の値となる。これにより、前者の場合は、後者の場合よりも第1断片S1と第2断片S2が異なるグループに属する可能性を高くすることができる。
なお、算出部514は、断片ペアに含まれる第1断片S1および第2断片S2の間に、他の断片Sに含まれる画素が存在する際に、同様に、接続度合の算出方法を変えてもよい。組設定部513は、第1断片S1および第2断片S2の間、例えば第3線分L3上に、他の断片Sに含まれる画素が存在しない場合、上述の式(1)により第1断片S1に対する第2断片S2の接続度合DCを設定する。組設定部513は、第1断片S1および第2断片S2の間に、他の断片Sに含まれる画素が存在する場合、上述の式(2)により第1断片S1に対する第2断片S2の接続度合DCを設定する。これにより、第1断片S1および第2断片S2の間に、他の断片Sに含まれる画素が存在する際に、第1断片S1と第2断片S2が異なるグループに属する可能性を高くすることができる。
本変形例の画像処理装置において、算出部514は、第1断片S1と第2断片S2との間に画素群設定部512が取得した他の画素群があるという第1条件を満たす場合、または、第1断片S1と第2断片S2との間の距離または画素数が距離閾値DISTに基づいて定まる第2条件を満たす場合、第1条件および第2条件の両方を満たさない場合とは異なる方法で接続度合を算出する。これにより、画像処理装置1は、2つの画素群の配置の態様に対応して、抽出された画素群がどのように線状の部分に対応するかをより正確に解析することができる。
(変形例4)
上述の実施形態において、画素群設定部512が交叉を検出した場合、算出部514は、交叉を挟んで向かい合う断片Sが、同じグループに属するように接続度合を設定することができる。
図17(A)および(B)は、本変形例の接続度合の設定を説明するための概念図である。図17(A)は、交叉が検出され除去された後、交叉に接続されていた4つの断片S301、S302、S303およびS304を示す図である。画素群設定部512は、交叉を除去した後、断片S301、S302、S303およびS304が、除去された交叉に接続されていた断片であることを示す情報を記憶部43等に記憶させておく。例えば、画素群設定部512は、交叉に接続されていた断片を1つの交叉画素群と設定する交叉画素群設定部を含み、組設定部513および算出部514等は交叉画素群を他の断片Sに対して1つの断片Sのように処理してもよい。算出部514は、当該情報を参照した後、向かい合う2つの断片S301とS302とが接続される確率、および、向かい合う2つの断片S303とS304とが接続される確率を、交叉に接続されていた断片同士の他の2断片が接続する確率よりも小さくなるように接続度合を設定する。
図17(B)は、断片S301~304に対応する重み付き連結グラフG2である。断片S301、S302、S303およびS304のそれぞれに対応するノードをN301、N302、N303およびN304とする。算出部514は、ノードN301とN302とをつなぐエッジ、および、ノードN303とN304とをつなぐエッジの重みを0と設定する。算出部514は、これら2つのエッジを除く、ノードN301~N304の間をつなぐ他のエッジEの重みを最大(MAXCOST)に設定する。算出部514は、他の断片Sについての接続度合を計算する前に、交叉に対応する4領域に対してどの断片Sが向かい合うか計算し、向かい合うと判定された2つの断片Sが接続される確率が高くなるように接続度合を設定する。このような接続度合の設定の後にグループ分けを行うことで、グループ分けの際に向かい合うと判定された2つの断片Sを確実に接続できる。
なお、向かい合う2つの断片Sが同じグループにグループ分けされやすくなれば、エッジの重みの具体的な値は特に限定されない。また、交叉画素群設定部は、断片S301~S304のいずれかから一定の範囲内にある画素を含む断片を、交叉画素群を構成する断片として設定してもよい。
本変形例に係る画像処理装置において、算出部514は、交叉に対応する画素を除外して生成され、交叉を挟んで向かい合う断片Sの組が、連結された線状の領域の一部に対応するように接続度合を算出する。これにより、画像処理装置は、交叉を含む抽出された画素群がどのように線状の部分に対応するかをより正確に解析することができる。
本変形例に係る画像処理装置において、画素群設定部512は、断片S301から一定範囲内に他の3つの画素群S302、S303およびS304がある場合、断片S301および3つの画素群S302、S303およびS304を含む4つの断片Sをまとめて交叉画素群とする交叉画素群設定部を含み、算出部514は、交叉を挟んで向かい合う断片Sの組が連結された線状の領域の一部に対応するように接続度合を算出することができる。これにより、画像処理装置は、交叉を含む抽出された画素群がどのように線状の部分に対応するかをより正確に解析することができる。
(変形例5)
上述の実施形態において、算出部514は、さらに以下の変形例5-1~5-4に示された少なくとも一つの断片Sの特性に基づいて接続度合を算出することができる。
(変形例5-1)
算出部514は、第1断片S1および第2断片S2のそれぞれに含まれる画素の輝度の算術平均等の平均値に基づいて、接続度合を算出してもよい。この場合の輝度は、検出結果画像Gdの他、撮像画像または確率分布画像Gpの輝度を用いることができる。第1断片S1の画素の輝度の平均値と、第2断片S2の画素の輝度の平均値との差が小さい程、接続度合を小さくし、第1断片S1と第2断片S2とが同じグループになりやすいように設定することができる。
(変形例5-2)
算出部514は、第1断片S1の幅および第2断片S2の幅に基づいて、接続度合を算出してもよい。この場合の幅は、例えば、第1断片S1および第2断片S2のそれぞれに対応する線分に垂直な直線が通る画素の数等により設定することができる。算出部514は、第1断片S1の幅と、第2断片S2の幅との差が小さい程、接続度合を小さくし、第1断片S1と第2断片S2とが同じグループになりやすいように設定することができる。
(変形例5-3)
算出部514は、第1断片S1に対応する曲線の曲率、および、第2断片S2に対応する曲線の曲率に基づいて、接続度合を算出してもよい。この場合の曲率は、第1断片S1および第2断片S2のそれぞれに対して公知のフィッティング方法等により算出された曲線等についてのものを用いることができる。算出部514は、第1断片S1に対応する曲線の曲率と、第2断片S2に対応する曲線の曲率との差が小さい程、接続度合を小さくし、第1断片S1と第2断片S2とが同じグループになりやすいように設定することができる。
(変形例5-4)
算出部514は、第1断片S1に対応する折れ線のうち少なくとも一部の直線部分の長さ、および、第2断片S2に対応する折れ線のうち少なくとも一部の直線部分の長さに基づいて、接続度合を算出してもよい。この場合、第1断片S1における最も第2断片側、および、第2断片S2における最も第1断片側の直線部分の長さを用いることが好ましい。この直線部分の長さが長い方が、より正確に第1角度θ1等を算出することができ、より正確にグループ分けを行うことができる。折れ線は、第1断片S1および第2断片S2のそれぞれに対して、公知のフィッティング方法等により算出された折れ線を用いることができる。算出部514は、第1断片S1に対応する上記直線部分の長さと、第2断片S2に対応する上記直線部分の長さとの差が小さい程、接続度合を小さくし、第1断片S1と第2断片S2とが同じグループになりやすいように設定することができる。
本変形例の画像処理装置において、算出部514は、第1断片S1および第2断片S2を構成する複数の画素Pxの輝度の平均値、第1断片S1および第2断片S2の幅、第1断片S1および第2断片S2に曲線を対応させた場合の曲線の曲率、ならびに、第1断片S1または第2断片S2を折れ線に対応させた場合の折れ線を構成する線分の長さの少なくとも一つに基づいて、接続度合を算出する。これにより、画像処理装置は、これらの特性(例、幅、曲率など)に基づいて、抽出された画素群がどのように線状の部分に対応するかをより正確に解析することができる。
(変形例6)
上述の実施形態では、撮像画像の被写体を細胞Ceとし、抽出対象の線状部分を神経突起Nrとして説明したが、線状の部分を含めば、抽出対象はこの例に限定されず、例えば血管とすることも好ましい。
さらに、撮像画像の被写体を眼底とし、抽出対象の線状部分を眼底における血管とすることがより好ましく、特に網膜の血管または脈絡膜血管とすることがより一層好ましい。眼底画像では、抽出対象の線状部分を血管とし、検出結果画像生成部511が、撮像画像から、各画素が血管に対応する確率を輝度値に対応させた確率分布画像Gpを生成し、この確率分布画像Gpから検出結果画像Gdを生成する。生成された検出結果画像Gdに対して画素群設定部511、組設定部512、算出部514および決定部600が上述の処理を行うことで、互いに接続される血管を適切に抽出することができる。この場合、実行部601は、最小全域木の仮想ノードでないルートノードとして、断片化された血管の種類等を、検出結果画像Gdの一部の画素に対して設定することができる。ここで、血管の種類とは、動脈または静脈等を含むことができる。脈絡膜血管に対応する断片Sをグループ分けする場合は、複数の渦静脈をルートノードとして設定することもでき、各ルートノードに対応する渦静脈と接続されているか否か等に基づいて断片Sをグループ分けすることができる。
本変形例の画像処理装置において、検出結果画像Gdは、血管に対応する複数の画素Px1を示す画像であり、接続度合は、第1断片S1と第2断片S2とが同一の血管の一部に対応する可能性を示す数値である。これにより、画像処理装置は、途切れた画素断片も含め、撮像された画像から抽出された画素群がどのようにルートノードごとに分けられた血管の一部に対応するかを正確に解析することができる。
(変形例7)
上述の実施形態において、データ処理部は、画素群設定部512により設定された2つの断片Sについて、第2角度θ2および第3角度θ3の少なくとも一つを算出し、算出された第2角度θ2および第3角度θ3が予め定められた所定の範囲にあるか否かに基づいて2つの断片Sが対象物における同一の線状部分に対応するか否かを決定してもよい。
図18は、本変形例の画像処理装置におけるデータ処理部51aの構成を示す概念図である。データ処理部51aは、検出結果画像生成部511と、画素群設定部512と、算出部514aと、決定部600aと、画像生成部700とを備える。算出部514aは、画素群設定部512が設定した断片Sのうち、2つの断片Sについて第2角度θ2および第3角度θ3の少なくとも一つを算出する。決定部600aは、算出された第2角度θ2および第3角度θ3の少なくとも一つが、記憶部43等に記憶されていた上記所定の範囲を示す数値範囲に含まれる場合、上記2つの断片Sが同一の神経突起Nrに対応すると決定する。上記所定の範囲は、2つの断片Sが線状に並ぶように適宜設定される。本変形例の方法によっても、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(変形例8)
上述の実施形態の情報処理部40の情報処理機能を実現するためのプログラムをコンピュータにより読み取り可能な記録媒体に記録して、この記録媒体に記録された、上述した断片S、断片ペアおよび接続度合の設定等のデータ処理部51による処理等に関するプログラムをコンピュータシステムに読み込ませ、実行させてもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、光ディスク、メモリカード等の可搬型記録媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持するものを含んでもよい。また上記のプログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせにより実現するものであってもよい。
また、パーソナルコンピュータ(以下、PCと呼ぶ)等に適用する場合、上述した制御に関するプログラムは、CD-ROMなどの記録媒体やインターネット等のデータ信号を通じて提供することができる。図19はその様子を示す図である。PC950は、CD-ROM953を介してプログラムの提供を受ける。また、PC950は通信回線951との接続機能を有する。コンピュータ952は上記プログラムを提供するサーバーコンピュータであり、ハードディスク等の記録媒体にプログラムを格納する。通信回線951は、インターネット、パソコン通信などの通信回線、あるいは専用通信回線などである。コンピュータ952はハードディスクを使用してプログラムを読み出し、通信回線951を介してプログラムをPC950に送信する。すなわち、プログラムをデータ信号として搬送波により搬送して、通信回線951を介して送信する。このように、プログラムは、記録媒体や搬送波などの種々の形態のコンピュータ読み込み可能なコンピュータプログラム製品として供給できる。
上述した情報処理機能を実現するためのプログラムとして、検出結果画像Gdを構成する複数の画素Pxから、互いに連結されていない第1断片S1および第2断片S2を含む複数の断片Sを設定する画素群設定処理(図11のフローチャートのステップS107に対応)と、第1断片S1に対する接続度合を設定するために、複数の断片Sのうち、第1断片S1と、第1断片S1から所定の範囲内にある画素を含む第2S2との組の設定を行う組設定処理(図12のフローチャートのステップS1095に対応)とを処理装置に行わせるためのプログラムが含まれる。これにより、途切れた画素断片も含め、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
上述した情報処理機能を実現するためのプログラムとして、検出結果画像Gdから、互いに連結されていない第1断片S1および第2断片S2を取得する画素群設定処理(図11のフローチャートのステップS107に対応)と、第1断片S1に対応する第1線分L1および第2断片S2に対応する第2線分L2を通る第3線分L3と第1線分L1とがなす第2角度θ2を算出する算出処理(図12のフローチャートのステップS1097に対応)と、第2角度θ2に基づいて、第1断片S1と第2断片S3とが連結される線状の領域に対応するか否かを決定する決定処理(図11のフローチャートのステップS111に対応)とを処理装置に行わせるためのプログラムが含まれる。これにより、第1断片S1と第2断片S2との位置関係に基づいて、抽出された画素群がどのように線状の部分に対応するかを正確に解析することができる。
(変形例9)
上述の実施形態において、データ処理部51による処理がネットワークを介しクラウドコンピューティングにより提供されてもよい。
図20は、本変形例に係る品質評価システム300の構成を示す概念図である。品質評価システム300は、情報処理装置310と、端末装置320と、ゲートウェイ端末330とを備える。品質評価システム300は、培養する細胞等の、観察装置340の観察対象の画像をデータ処理することにより観察対象の品質を評価する。このような観察対象としては、神経突起を有する神経細胞等、線状部分を含むものが好ましい。
本変形例では、情報処理装置310、端末装置320およびゲートウェイ端末330が、ネットワーク9を介して互いに通信可能に接続される。ネットワーク9は、インターネット、移動体通信網、またはローカルエリアネットワーク等とすることができ、これらの複数種類のネットワークが組み合わされたネットワークとしてもよい。
ゲートウェイ端末330は、観察装置340で撮像された撮像画像をネットワーク9を介し情報処理装置310へと送信する。ゲートウェイ端末330として、図20には3つのゲートウェイ端末331,332および333が示されているが、品質評価システムにおけるゲートウェイ端末330の個数は特に限定されない。ゲートウェイ端末331、332および333は、それぞれ観察装置341、342および343と無線または有線により通信可能に接続されている。観察装置340は、例えば細胞等である観察対象の管理者により扱われる。観察装置340の個数は、図20では3個となっているが、1以上の任意の個数とすることができる。
観察装置340は、観察対象の画像を撮像することができればその構成は特に限定されない。観察装置340は、例えば上述の培養部100を備えることができる。観察装置340は、撮像により得た撮像画像データをゲートウェイ端末330に送信する通信装置を備えるか、または観察装置とは一体でなく構成された、観察装置340の制御用PC等により撮像画像データをゲートウェイ端末330に送信することができる。観察装置340は、例えば、培養における温度、気圧、光源の照度および酸素濃度等を検出する検出器を備え、検出により得たデータをゲートウェイ端末330に送信することもできる。
ゲートウェイ端末330は、典型的にはプロトコルまたはアドレス体系を相互に変換可能に構成された汎用のゲートウェイであるが、特にこれに限定されない。ゲートウェイ端末330は、ゲートウェイの機能を有するPC等でもよい。ゲートウェイ端末330は、情報処理装置310の解析精度を向上させる観点から、複数のゲートウェイ端末330により構成されることが好ましいが、単一のゲートウェイ端末から構成されてもよい。この場合、一つのゲートウェイ端末330と複数の観察装置340とが通信可能に接続される。
図21(A)は、情報処理装置310の構成を示す概念図である。情報処理装置310は、制御部311と、記憶部312と、通信部313とを備える。本変形例の情報処理装置310は、クラウドコンピューティングによる、観察装置340の観察対象の品質評価を行うためのウェブサーバとするが、特にこれに限定されない。情報処理装置310は、PC等の任意のコンピュータにより構成されてもよい。
制御部311は、CPU等の処理装置により構成され、情報処理装置310を制御する動作の主体として機能し、記憶部312に搭載されているプログラムを実行することにより各種処理を行う。制御部311は、上述のデータ処理部51を備え、観察装置340からネットワーク9を介して受信して取得された撮像画像データに対し、上述した断片S、断片ペアおよび接続度合の設定等の処理(例、解析処理、第1アルゴリズムの処理、接続度合の算出処理)を行う。制御部311は、当該処理で得た検出結果画像Gdにおける各断片Sのグループ分けの結果を示す情報、または同一グループに決定された断片Sを同色または同一輝度等で表示する出力画像の出力画像データを通信部313を介して端末装置320に送信する。
情報処理装置310の記憶部312は、不揮発性の記憶媒体を備え、情報処理装置310における処理に用いられるデータおよびプログラム、ならびにデータ処理部51の処理により得られたデータ等を記憶する。情報処理装置310の通信部313は、ネットワーク9を介して通信可能な通信装置を備え、観察装置340から送信された撮像画像データ等を受信したり、制御部311で生成された情報等を端末装置320へと送信したりする。
図21(B)は、端末装置320の構成を示す概念図である。端末装置320は、観察装置340の観察対象の品質評価者等により扱われる。端末装置320は、PC、スマートフォンまたはタブレット等の任意のコンピュータを含んで構成することができる。端末装置320は、通信部321と、出力部322と、入力部323とを備える。
端末装置320の通信部321は、ネットワーク9を介して通信可能な通信装置を備え、情報処理装置310から送信された、データ処理部51の処理により得られた情報等を受信する。この情報は、同一グループに属する断片Sの位置情報や同一グループに属する断片を同色で着色した出力画像を含むことができる。また、当該情報は、事前に三叉または交叉の検出処理により、三叉または交叉を取り除いている場合には、三叉または交叉を取り除く前の検出結果画像を含んでもよい。画像端末装置320の出力部322は、液晶モニタ等の表示装置を備え、データ処理部51の処理により得られた情報を示す画像等を出力する。ユーザ(例、品質評価者)は、出力部322に表示された画像等を見たり、当該画像等をデータ解析することにより、観察装置340の観察対象を評価することができる。例えば、観察対象が神経細胞の場合は、上記データ解析では、神経突起の長さや数を定量することができる。品質評価者による評価は端末装置320の不図示の入力部から入力され、入力されたデータが通信部321を介して情報処理装置310に送信され、情報処理装置310の記憶部312に記憶される構成としてもよい。なお、制御部311が受信する撮像画像データは、端末装置320に備わる入力部323を用いてユーザによって情報処理装置310へ送信されてもよい。
(変形例10)
上述の実施形態において、三叉および交叉の検出および除去、断片Sの設定、断片ペアおよび接続度合の設定、ならびにグループ分けの決定について、ユーザが適宜、出力部44の表示画面を見て、これらについてのパラメータを入力または変更できる構成にすることができる。以下では、三叉または交叉を交点と呼び、交点の検出および除去を交点除去処理と呼ぶ。また、断片Sの設定、断片ペアおよび接続度合の設定、ならびにグループ分けの決定を割り当て処理と呼ぶ。
図22は、本変形例の画像処理方法の流れを示すフローチャートである。ステップ201~S205は、図11のフローチャートのステップS101~S105と同様であるため、説明を省略する。ステップS205が終了したら、ステップS207が開始される。
ステップS207において、画素群設定部512は、検出結果画像Gdにおける交点の除去を行う。
図23は、ステップS207の交点の除去の流れを示すフローチャートである。ステップS205が終了したら、ステップS2071が開始される。ステップS2071において、出力制御部52は、検出結果画像Gdを出力部44の表示画面に表示する。ステップS2071が終了したら、ステップS2072が開始される。ステップS2072において、画素群設定部512は、交点除去処理におけるパラメータを設定する。この交点除去処理におけるパラメータを、交点検出パラメータと呼ぶ。交点検出パラメータは、除去画素領域Re(図5(B))の大きさを示す数値、特に除去画素領域Reの横方向または縦方向の画素数(幅)等を含むことができる。
ユーザは、撮像画像または検出結果画像Gdを見て、さらに、交点除去処理を行ったうえで再度交点除去処理を行う場合には既に得られた後述する交点除去結果画像を見て、入力部41を介し交点検出パラメータを入力することができる。例えば、ユーザは、検出結果画像Gdにおける断片Sの断片幅と同程度になるように除去画素領域Reの幅を設定したり、検出結果画像Gdにおいて断片Sの形状における凹凸が多い場合には除去画素領域Reの幅を長めに設定したりすることができる。あるいは、ユーザは、交点除去結果画像における交点の誤検出が多いときは、除去画素領域Reの幅を小さくし、交点除去処理において検出されなかった交点が多いときには、除去画素領域Reの幅を大きくするように設定することができる。画素群設定部512は、ユーザの入力部41を介した入力に基づいて、交点検出パラメータを設定する。ステップS2072が終了したら、ステップS2073が開始される。
ステップS2073において、画素群設定部512は、ステップS2072で設定された交点検出パラメータを用いて、上述の実施形態と同様の方法で、上述の交点除去処理を行う。ステップS2073が終了したら、ステップS2074が開始される。ステップS2074において、出力制御部52は、交点除去処理に供された後の検出結果画像を出力部44の表示画面に表示する。この交点除去処理に供された後の検出結果画像を、交点除去結果画像と呼ぶ。ステップS2074が終了したら、ステップS2075が開始される。
ステップS2075において、データ処理部51は、ユーザにより再度の交点除去処理を行う指示が入力部41を介して入力されたか否かを判定する。当該指示が入力された場合、データ処理部51は、ステップS2075を肯定判定し、ステップS2072が開始される。当該指示が入力されなかった場合、データ処理部51は、ステップS2075を否定判定し、ステップS209が開始される。
図22に戻って、ステップS209において、データ処理部51は、割り当て処理におけるパラメータを設定する。この割り当て処理におけるパラメータを、割り当てパラメータと呼ぶ。割り当てパラメータは、上述の実施形態の式(1)における断片間距離wを含む項の重みc0、第2角度θ2を含む項の重みc1、第3角度θ3を含む項の重みc2および第1角度θ1を含む項の重みc3を含むことができる。さらに、割り当てパラメータは、上述の変形例4のように交叉に対応する4つの断片Sに対して向かい合う断片S同士が互いに接続されるよう接続度合を設定する処理を行うか否かを、二値等により示すことができる。この二値により示す変数を、fとする。この他、割り当てパラメータは、割り当て処理に用いられる任意のパラメータを含むことができる。例えば、上述の変形例5のように、接続度合の算出に、断片Sの幅の差や断片間の輝度の差を用いた場合には、接続度合を計算する式における断片Sの幅の差を含む項の重みc4、断片間の輝度差を含む項の重みc5を割り当てパラメータに含めることができる。算出部514は、接続度合の算出において、断片間距離wが所定の値以上の場合には、断片間距離wを含む項を無くして接続度合の算出を行うことができる。この所定の値Dを割り当てパラメータに含めることができる。
ユーザは、撮像画像、検出結果画像Gdまたは交点除去結果画像を見て、さらに割り当て処理を行ったうえで再度割り当て処理を行う場合には既に得られた後述する割り当て結果画像を見て、入力部41を介し割り当てパラメータを入力することができる。例えば、ユーザは、交点検出パラメータの値の2倍程度に上記所定の値Dを設定することができる。ユーザは、検出結果画像Gdにおける断片Sの曲率が小さいときは、上記重みc1、c2およびc3の値を高く設定することができ、断片Sの曲率が大きいときやノイズが多い場合は重みc1、c2およびc3の値を低くして、重みc0の値を高く設定することができる。あるいは、ユーザは、断片Sの幅のばらつきが大きい場合には、断片Sの幅を含む項の重みc4の値を高く設定し、ばらつきが小さい場合には、当該重みc4の値を低く、例えば0と設定する。データ処理部51は、ユーザの入力部41を介した入力に基づいて、割り当てパラメータを設定する。ステップS209が終了したら、ステップS211が開始される。
ステップS211において、データ処理部51は、ステップS209で設定された割り当てパラメータを用いて、上述の実施形態と同様の方法で、上述の割り当て処理を行う。ステップS211が終了したら、ステップS213が開始される。ステップS213において、出力制御部52は、割り当て処理により得られた上述の出力画像を出力部44の表示画面に表示する。以下では、この出力画像は、断片Sをグループごとに色彩、明度および彩度の少なくとも一つが異なるようにした画像とし、割り当て結果画像と呼ぶ。ステップS213が終了したら、ステップS215が開始される。
ステップS215において、データ処理部51は、ユーザにより再度の割り当て処理を行う指示が入力部41を介して入力されたか否かを判定する。当該指示が入力された場合、データ処理部51は、ステップS215を肯定判定し、ステップS207が開始される。当該指示が入力されなかった場合、データ処理部51は、ステップS215を否定判定し、処理が終了される。
なお、データ処理部51がステップS215を肯定判定した後、ステップS209を開始してもよい。
以下では、上述の交点除去処理について、出力部44に表示される表示画面の例を示すが、各表示画面における画像の態様、ならびに、ボタンおよびアイコンの形状等は以下の各図に示されたものに限定されない。
図24は、交点除去処理を行う前に出力部44に表示される画面の例であり、この画面を第1基本画面701とする。第1基本画面701は、画像表示部800、第1入力要素表示部710と、動画操作部810とを備える。第1入力要素表示部710は、第1表示設定ボタン711,交点検出パラメータ選択ボタン712および交点除去実行ボタン713を備える。動画操作部810は、画像表示部800に動画が表示される場合に巻き戻しを行うための巻戻しボタン811と、再生を行うための再生ボタン812と、一時停止を行うための一時停止ボタン813と、早送りを行うための早送りボタン814とを備える。図24の第1基本画面701の画像表示部800には検出結果画像Gdが示されているが、画像表示部800に表示する画像は適宜変更可能である。
第1入力要素表示部710は、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理装置1に所定の動作を行わせるための入力要素であるボタン711,712および713を備える。
第1表示設定ボタン711は、表示画面を、画像表示部800に表示する画像を設定するための画面である第1表示設定画面へと遷移させるための入力要素である。第1表示設定ボタン711がクリックされると、出力制御部52は、図25の第1表示設定画面702を出力部44に表示させる。
交点検出パラメータ選択ボタン712は、表示画面を、交点検出パラメータを入力するための画面である交点検出パラメータ選択画面へと遷移させるための入力要素である。交点検出パラメータ選択ボタン712がクリックされると、出力制御部52は、図26の交点検出パラメータ選択画面703を出力部44に表示させる。
交点除去実行ボタン713は、画素群設定部512が交点除去処理を実行し、表示画面を、交点除去処理の結果を表示するための画面である第1結果表示画面へと遷移させるための入力要素である。交点除去実行ボタン713がクリックされると、出力制御部52は、図27の第1結果表示画面704を出力部44に表示させる。
図25は、第1表示設定画面702の例を示す図である。第1表示設定画面702は、画像表示部800、第1画像選択部720と、動画操作部810とを備える。第1画像選択部720は、第1撮像画像表示ボタン721と、第1検出結果画像表示ボタン722と、第1交点除去結果画像表示ボタン723と、第1確定ボタン724を備える。これらのボタンがクリックされる前は、出力制御部52は、それまで第1基本画面701等で表示されていた画像を画像表示部800に表示することができる。
第1画像選択部710には、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理部800に表示する画像の選択を行わせるための入力要素であるボタン721,722、723および724を備える。
第1撮像画像表示ボタン721は、第1撮像画像表示ボタン721をクリックすることにより、画像表示部800に撮像画像を表示させるための入力要素である。以下では、撮像画像として蛍光顕微鏡で撮像された細胞Ceの蛍光画像を表示する構成としている。第1撮像画像表示ボタン721がクリックされると、出力制御部52は、画像表示部800に撮像画像を表示させる。
第1検出結果画像表示ボタン722は、第1検出結果画像表示ボタン722をクリックすることにより、画像表示部800に検出結果画像Gdを表示させるための入力要素である。第1検出結果画像表示ボタン722がクリックされると、出力制御部52は、画像表示部800に検出結果画像を表示させる。
第1交点除去結果画像表示ボタン723は、第1交点除去結果画像表示ボタン723をクリックすることにより、画像表示部800に交点除去結果画像Gkを表示させるための入力要素である。第1交点除去結果画像表示ボタン722がクリックされると、出力制御部52は、画像表示部800に交点除去結果画像Gkを表示させる。図25の例では、第1交点除去結果画像表示ボタン722がクリックされた後に表示された交点結果画像Gkを示す。
第1確定ボタン724は、第1確定ボタン724をクリックすることにより、第1基本画面701へと表示画面を遷移させるための入力要素である。第1確定ボタン724がクリックされると、出力制御部52は、表示画面を第1基本画面701に遷移させた後、第1基本画面701の画面表示部800に、第1表示設定画面702の画像表示部800に表示されていた画像をそのまま表示する。
図26は、交点検出パラメータ選択画面703の例を示す図である。交点検出パラメータ選択画面703は、画像表示部800、第1パラメータ入力部730と、動画操作部810とを備える。第1パラメータ入力部730は、テキストボックス731と、第2確定ボタン732とを備える。出力制御部52は、交点検出パラメータ選択画面703の画像表示部800に、それまで第1基本画面701の画像表示部800で表示されていた画像を表示することができる。図26の例では、細胞Ceの撮像画像である蛍光画像Gfを示す。
テキストボックス731は、交点検出パラメータを入力するための入力要素である。ユーザは、テキストボックス731にキーボード等を用いて数値を入力することができる。テキストボックス731の上方には、交点検出パラメータの種類を示す「R」の文字が表示されている。
なお、交点検出パラメータを入力することができれば、テキストボックス以外の任意の入力要素を第1パラメータ入力部731に配置することができる。
第2確定ボタン732は、第2確定ボタン732をクリックすることにより、第1基本画面701へと表示画面を遷移させるための入力要素である。第2確定ボタン732がクリックされると、画素群設定部512は、テキストボックス731に入力された数値を交点検出パラメータとして設定する。また、出力制御部52は、表示画面を第1基本画面701に遷移させる。
図27は、第1結果表示画面704の例を示す図である。第1結果表示画面704は、画像表示部800、第1判定入力部740と、動画操作部810とを備える。第1判定入力部740は、第1終了ボタン741と、第1再実行ボタン742とを備える。出力制御部52は、第1結果表示画面704の画像表示部800に、交点除去処理で得た交点除去結果画像Gkを表示する。ユーザは、交点除去結果画像Gkを見て、交点除去処理を終了するか、交点除去処理を再度行うかを入力することができる。
第1判定入力部740には、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理装置1に所定の動作を行わせるための入力要素であるボタン741および742を備える。
第1終了ボタン741は、第1終了ボタン741がクリックされることにより、交点除去処理を終了し、割り当て処理の設定および実行へと進むためのボタンである。第1終了ボタン741がクリックされると、出力制御部52は、割り当て処理の設定を行うための画面である図28の第2基本画面705を出力部44に表示する。
第1再実行ボタン742は、第1再実行ボタン742がクリックされることにより、交点除去処理を再度行うためのボタンである。第1再実行ボタン742がクリックされると、出力制御部52は、第1基本画面701を出力部44に表示する。
以下では、上述の割り当て処理について、出力部44に表示される表示画面の例を示すが、各表示画面における画像の態様、ならびに、ボタンおよびアイコンの形状等は以下の各図に示されたものに限定されない。
図28は、割り当て処理を行う前に出力部44に表示される画面の例であり、この画面を第2基本画面705とする。第2基本画面705は、画像表示部800、第2入力要素表示部750と、動画操作部810とを備える。第2入力要素表示部750は、第2表示設定ボタン751と、割り当てパラメータ選択ボタン752と、割り当て実行ボタン753とを備える。図28の画像表示部800には検出結果画像Gdが示されているが、第2基本画面705の画像表示部800に表示する画像は適宜変更可能である。
第2入力要素表示部750には、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理装置1に所定の動作を行わせるための入力要素であるボタン751,752および753を備える。
第2表示設定ボタン751は、表示画面を、画像表示部800に表示する画像を設定するための画面である第2表示設定画面へと遷移させるための入力要素である。第2表示設定ボタン751がクリックされると、出力制御部52は、図29の第2表示設定画面706を出力部44に表示させる。
割り当てパラメータ選択ボタン752は、表示画面を、割り当てパラメータを入力するための画面である割り当てパラメータ選択画面へと遷移させるための入力要素である。割り当てパラメータ選択ボタン752がクリックされると、出力制御部52は、図30の割り当てパラメータ選択画面707を出力部44に表示させる。
割り当て実行ボタン753は、データ処理部51が割り当て処理を実行し、表示画面を、割り当て処理の結果を表示するための画面である第2結果表示画面へと遷移させるための入力要素である。割り当て実行ボタン753がクリックされると、出力制御部52は、図31の第2結果表示画面708を出力部44に表示させる。
図29は、第2表示設定画面706の例を示す図である。第2表示設定画面706は、画像表示部800、第2画像選択部760と、動画操作部810とを備える。第2画像選択部760は、第2撮像画像表示ボタン761と、第2検出結果画像表示ボタン762と、第2交点除去結果画像表示ボタン763と、割り当て結果画像表示ボタン764と、第3確定ボタン765を備える。これらのボタンがクリックされる前は、出力制御部52は、それまで第2基本画面705等で表示されていた画像を画像表示部800に表示することができる。
第2画像選択部760には、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理部800に表示する画像の選択を行わせるための入力要素であるボタン761,762、763、764および765を備える。
第2撮像画像表示ボタン761は、第2撮像画像表示ボタン761をクリックすることにより、画像表示部800に撮像画像を表示させるための入力要素である。第2撮像画像表示ボタン761がクリックされると、出力制御部52は、画像表示部800に撮像画像を表示させる。
第2検出結果画像表示ボタン762は、第2検出結果画像表示ボタン762をクリックすることにより、画像表示部800に検出結果画像Gdを表示させるための入力要素である。第2検出結果画像表示ボタン762がクリックされると、出力制御部52は、画像表示部800に検出結果画像Gdを表示させる。
第2交点除去結果画像表示ボタン763は、第2交点除去結果画像表示ボタン763をクリックすることにより、画像表示部800に交点除去結果画像Gkを表示させるための入力要素である。第2交点除去結果画像表示ボタン763がクリックされると、出力制御部52は、画像表示部800に交点除去結果画像Gkを表示させる。
割り当て結果画像表示ボタン764は、割り当て結果画像表示ボタン764をクリックすることにより、画像表示部800に上述の割り当て結果画像Grを表示させるための入力要素である。割り当て結果画像表示ボタン764がクリックされると、出力制御部52は、画像表示部800に割り当て結果画像Grを表示させる。図29の割り当て結果画像Grでは、同一グループの神経突起が同一の色相等で示されることを一点鎖線で模式的に示した。
第3確定ボタン765は、第3確定ボタン765をクリックすることにより、第2基本画面705へと表示画面を遷移させるための入力要素である。第3確定ボタン765がクリックされると、出力制御部52は、表示画面を第2基本画面705に遷移させた後、第2基本画面705の画像表示部800に、第2表示設定画面706の画像表示部800に表示されていた画像をそのまま表示する。
図30は、割り当てパラメータ選択画面707の例を示す図である。割り当てパラメータ選択画面707は、画像表示部800、第2パラメータ入力部770と、動画操作部810とを備える。第2パラメータ入力部770は、第1テキストボックス771と、第2テキストボックス772と、第3テキストボックス773と、第4テキストボックス774と、第5テキストボックス775と、第6テキストボックス776と、第7テキストボックス777と、第8テキストボックス778と、第4確定ボタン779とを備える。出力制御部52は、割り当てパラメータ選択画面707の画像表示部800に、それまで第2基本画面705の画像表示部800で表示されていた画像を表示することができる。図30の例では、蛍光画像Gfを示す。
第1テキストボックス771、第2テキストボックス772、第3テキストボックス773、第4テキストボックス774、第5テキストボックス775、第6テキストボックス776、第7テキストボックス777および第8テキストボックス778は、それぞれ、割り当てパラメータc0、c1、c2、c3、c4、c5、Dおよびfを入力するための入力要素である。ユーザは、第2パラメータ入力部770の各テキストボックス771~778にキーボード等を用いて数値を入力することができる。第2パラメータ入力部770の各テキストボックス771~778の上方には、割り当てパラメータの種類を示す文字が表示されている。
なお、割り当てパラメータを入力することができれば、テキストボックス以外の任意の入力要素をパラメータ入力部731に配置することができる。
第4確定ボタン779は、第4確定ボタン779をクリックすることにより、第2基本画面705へと表示画面を遷移させるための入力要素である。第4確定ボタン779がクリックされると、データ処理部51は、各テキストボックス771~778に入力された数値を割り当てパラメータとして設定する。また、出力制御部52は、表示画面を第2基本画面705に遷移させる。
図31は、第2結果表示画面708の例を示す図である。第2結果表示画面708は、画像表示部800、第2判定入力部780と、動画操作部810とを備える。第2判定入力部780は、第2終了ボタン781と、第2再実行ボタン782と、第3再実行ボタン783とを備える。出力制御部52は、第2結果表示画面708の画像表示部800に、割り当て処理で得た割り当て結果画像Grを表示する。ユーザは、割り当て結果画像Grを見て、割り当て処理を終了するか、交点除去処理または割り当て処理を再度行うかを入力することができる。
第2判定入力部780には、ユーザがマウスまたはタッチパッド等によりカーソルを合わせてクリック等することにより画像処理装置1に所定の動作を行わせるための入力要素であるボタン781、782および783を備える。
第2終了ボタン781は、第2終了ボタン781がクリックされることにより、割り当て処理を終了するためのボタンである。第2終了ボタン781がクリックされると、データ処理部52は、適宜処理を終了する。
第2再実行ボタン782は、第2再実行ボタン782がクリックされることにより、交点除去処理を再度行うためのボタンである。第2再実行ボタン782がクリックされると、出力制御部52は、第1基本画面701を出力部44に表示する。
第3再実行ボタン782は、第3再実行ボタン783がクリックされることにより、割り当て処理を再度行うためのボタンである。第3再実行ボタン783がクリックされると、出力制御部52は、第2基本画面705を出力部44に表示する。
本変形例の画像処理方法では、ユーザが交点除去処理の結果や割り当て処理の結果を確認しつつ、これらの処理についてのパラメータを調整することができる。これにより、それぞれの具体的な撮像画像に対して、断片S等の画素群がどのように線状の部分に対応するかを正確に、解析することができる。また、上述のような画面遷移により、必要に応じて交点除去処理の結果や割り当て処理の結果を示す画像を見ながら上記パラメータの入力を行うことができるため、効率よく上記解析を行うことができる。
本発明は上記実施形態の内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
次の優先権基礎出願の開示内容は引用文としてここに組み込まれる。
日本国特願2019-164505号(2019年9月10日出願)
1…画像処理装置、9…ネットワーク、10…培養室、20…撮像部、40…情報処理部、43…記憶部、44…出力部、50…制御部、51,51a…データ処理部、100…培養部、300…品質評価システム、310…情報処理装置、320…端末装置、330,331,332,333…ゲートウェイ端末、340,341,342,343…観察装置、511…検出結果画像生成部、512…画素群設定部、513…組設定部、514,514a…算出部、600,600a…決定部、601…実行部、602…終了判定部、700…画像生成部、701…第1基本画面、702…第1表示設定画面、703…交点検出パラメータ選択画面、704…第1結果表示画面、705…第2基本画面、706…第2表示設定画面、707…割り当てパラメータ選択画面、708…第2結果表示画面、C1…断片の重心、C2…矩形の中心、Ce…細胞、D…断片間距離、E,E12,E34,E57,E58,E67,E68…エッジ、N5,N6,N7,N8,N301,N302,N303,N304…ノード、G,G1,G2…重み付き連結グラフ、Gd…検出結果画像、Gp…確率分布画像、L1…第1線分、L2…第2線分、L3…第3線分、Nr…神経突起、Px,Px1,Px2…画素、R,R1,R2,R3,R4…探索範囲、Rt…矩形、S,Sa,Sb,Sc,S1,S2,S3,S4,S5,S6,S7,S8,S101,S102,S103,S201、S202,S203,S301,S302,S303,S304…断片、Sg1,Sg2…画素群、SS1,SS2,SS3,SS4,SS5,SS6,SS7…画素断片、So,So1,So2…細胞体、T,T1,T2,T11,T12,T21…端画素、w…断片間距離、θ1…第1角度、θ2…第2角度、θ3…第3角度。

Claims (16)

  1. 線状部分を含む対象物を示す第1画像の画像データを撮像部から取得し、前記撮像部において前記第1画像に相当する複数の画素群を設定するに際し、前記画像データに基づき、互いに連結されていない第1画素群および第2画素群を含む前記複数の画素群を設定する画素群設定部と、
    前記第1画素群に対する前記第2画素群の接続度合を算出するために、前記複数の画素群のうち、前記第1画素群と、前記第1画素群から所定の範囲内にある画素を含む前記第2画素群との組の設定を行う組設定部と、
    前記組設定部にて設定された前記組の前記接続度合を算出する算出部とを備え、
    前記所定の範囲は、前記第1画素群と前記第2画素群との間の第1距離に基づいて設定された探索範囲である、または前記第1画素群に対応する第1線分と前記第2画素群に対応する第2線分とがなす第1角度に基づいて設定された探索範囲であり、
    前記算出部は、前記第1距離または前記第1角度を算出し、前記第1距離または前記第1角度を用いて前記接続度合を算出する
    画像処理装置。
  2. 請求項1に記載の画像処理装置において、
    前記算出部は、前記第1画素群に含まれる点および前記第2画素群に含まれる点を通る第3線分と前記第1線分とがなす第2角度、および前記第3線分と前記第2線分とがなす第3角度の少なくとも一つの角度を算出し、前記第2角度および前記第3角度の少なくとも一つに基づいて前記接続度合を算出する画像処理装置。
  3. 請求項2に記載の画像処理装置において、
    前記算出部は、前記第3線分のうち最も短い第4線分と、前記第1線分とがなす第4角度、および前記第4線分と前記第2線分とがなす第5角度の少なくとも一つの角度を算出し、前記第4角度および前記第5角度の少なくとも一つに基づいて前記接続度合を算出する画像処理装置。
  4. 請求項1に記載の画像処理装置において、
    前記組設定部は、前記複数の画素群を構成するそれぞれの画素群について前記組の設定を行い、
    前記算出部は、それぞれの前記組について前記接続度合を算出し、
    算出された前記接続度合に基づいて、前記複数の画素群のグループ分けを決定する決定部を備える画像処理装置。
  5. 請求項4に記載の画像処理装置において、
    前記決定部は、前記複数の画素群のそれぞれをノード、前記接続度合をエッジの重みとして、プリム法、クラスカル法またはブルーフカ法により求めた最小全域木に基づき、前記ノードがいずれのグループに属するかを順次決定する画像処理装置。
  6. 請求項に記載の画像処理装置において、
    前記決定部は、前記プリム法、前記クラスカル法または前記ブルーフカ法においてエッジを選択する際、選択された複数のエッジに対応する数値の和に基づいて、前記最小全域木を求める処理を終了するか否かを判定する終了判定部を備える画像処理装置。
  7. 請求項4から6までのいずれか一項に記載の画像処理装置において、
    前記グループ分けの結果を示す第2画像を生成する画像生成部を備える画像処理装置。
  8. 請求項2から7までのいずれか一項に記載の画像処理装置において、
    前記画素群設定部は、前記複数の画素群を設定する前に、前記第1画像を構成する画素から、交叉に対応する画素を除外して、前記交叉を挟んで向かい合う断片を交叉画素群として設定し、
    前記算出部は、前記交叉画素群の断片同士の組が、連結された線状の領域の一部に対応するように前記接続度合を算出する画像処理装置。
  9. 請求項に記載の画像処理装置において、
    前記画素群設定部は、前記第1画素群から一定範囲内に他の3つの画素群がある場合、前記第1画素群および前記3つの画素群を含む4つの画素群をまとめて前記交叉画素群とする交叉画素群設定部を含み、
    前記算出部は、前記交叉を挟んで向かい合う前記交叉画素群の組が連結された線状の領域の一部に対応するように前記接続度合を算出する画像処理装置。
  10. 請求項2から9までのいずれか一項に記載の画像処理装置において、
    前記算出部は、前記第1画素群または前記第2画素群を構成する複数の画素の輝度の平均値、前記第1画素群または前記第2画素群の幅、前記第1画素群または前記第2画素群に曲線を対応させた場合の前記曲線の曲率、および、前記第1画素群または前記第2画素群を折れ線に対応させた場合の前記折れ線を構成する線分の長さの少なくとも一つに基づいて、前記接続度合を算出する画像処理装置。
  11. 請求項1から10までのいずれか一項に記載の画像処理装置において、
    前記組設定部は、前記複数の画素群のうち、前記第1画素群と、前記第1画素群の端にある画素または前記第1画素群の重心または前記第1画素群に外接する矩形の中心に対応して設定された前記所定の範囲内にある画素を含む前記第2画素群との組を設定する画像処理装置。
  12. 請求項1から11までのいずれか一項に記載の画像処理装置において、
    前記第1画像は、前記対象物を撮像して得られた画像に画像処理を行って得られた画像であって、前記第1画像の各画素について当該各画素が線状の構造に対応するか否かを画素値により示す二値化画像であり、
    前記画素群設定部は、前記画素値に基づいて前記複数の画素群を設定する、画像処理装置。
  13. 請求項1から12までのいずれか一項に記載の画像処理装置において、
    前記第1画像は、神経突起に対応する複数の画素を示す画像であり、
    前記接続度合は、前記第1画素群と前記第2画素群とが同一の神経細胞から伸びる神経突起の一部に対応する可能性を示す数値である画像処理装置。
  14. 請求項1から12までのいずれか一項に記載の画像処理装置において、
    前記第1画像は、血管に対応する複数の画素を示す画像であり、
    前記接続度合は、前記第1画素群と前記第2画素群とが同一の血管の一部に対応する可能性を示す数値である画像処理装置。
  15. 線状部分を含む対象物を示す第1画像の画像データを撮像部から取得し、前記撮像部において前記第1画像に相当する複数の画素群を設定するに際し、前記画像データに基づき、互いに連結されていない第1画素群および第2画素群を含む前記複数の画素群を設定する工程と、
    前記第1画素群に対する前記第2画素群の接続度合を算出するために、前記複数の画素群のうち、前記第1画素群と、前記第1画素群から所定の範囲内にある画素を含む前記第2画素群との組の設定を行う工程と、
    前記組設定を行う工程にて設定された前記組の前記接続度合を算出する工程とを含み、
    前記所定の範囲は、前記第1画素群と前記第2画素群との間の第1距離に基づいて設定された探索範囲である、または前記第1画素群に対応する第1線分と前記第2画素群に対応する第2線分とがなす第1角度に基づいて設定された探索範囲であり、
    前記算出する工程は、前記第1距離または前記第1角度を算出し、前記第1距離または前記第1角度を用いて前記接続度合を算出する
    画像処理方法。
  16. 画像処理装置に次の処理を実行させるためのプログラムであって、
    線状部分を含む対象物を示す第1画像の画像データを撮像部から取得し、前記撮像部において前記第1画像に相当する複数の画素群を設定するに際し、前記画像データに基づき、互いに連結されていない第1画素群および第2画素群を含む前記複数の画素群を設定する画素群設定処理と、
    前記第1画素群に対する前記第2画素群の接続度合を算出するために、前記複数の画素群のうち、前記第1画素群と、前記第1画素群から所定の範囲内にある画素を含む前記第2画素群との組の設定を行う組設定処理と、
    前記組設定処理にて設定された前記組の前記接続度合を算出する算出処理とを含み、
    前記所定の範囲は、前記第1画素群と前記第2画素群との間の第1距離に基づいて設定された探索範囲である、または前記第1画素群に対応する第1線分と前記第2画素群に対応する第2線分とがなす第1角度に基づいて設定された探索範囲である、
    プログラム。
JP2021545218A 2019-09-10 2020-08-28 画像処理装置、画像処理方法およびプログラム Active JP7416074B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023220283A JP2024038142A (ja) 2019-09-10 2023-12-27 画像処理方法、画像処理装置およびプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019164505 2019-09-10
JP2019164505 2019-09-10
PCT/JP2020/032731 WO2021049332A1 (ja) 2019-09-10 2020-08-28 画像処理装置、画像処理方法およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023220283A Division JP2024038142A (ja) 2019-09-10 2023-12-27 画像処理方法、画像処理装置およびプログラム

Publications (3)

Publication Number Publication Date
JPWO2021049332A1 JPWO2021049332A1 (ja) 2021-03-18
JPWO2021049332A5 JPWO2021049332A5 (ja) 2022-05-24
JP7416074B2 true JP7416074B2 (ja) 2024-01-17

Family

ID=74865656

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021545218A Active JP7416074B2 (ja) 2019-09-10 2020-08-28 画像処理装置、画像処理方法およびプログラム
JP2023220283A Pending JP2024038142A (ja) 2019-09-10 2023-12-27 画像処理方法、画像処理装置およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023220283A Pending JP2024038142A (ja) 2019-09-10 2023-12-27 画像処理方法、画像処理装置およびプログラム

Country Status (5)

Country Link
US (1) US20220270347A1 (ja)
EP (1) EP4029927A4 (ja)
JP (2) JP7416074B2 (ja)
CN (1) CN114600161A (ja)
WO (1) WO2021049332A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100119113A1 (en) 2008-11-10 2010-05-13 Andreas Kuleschow Method and apparatus for detecting objects
JP2013236564A (ja) 2012-05-11 2013-11-28 Nikon Corp 細胞評価装置、細胞評価方法およびプログラム
WO2015041177A1 (ja) 2013-09-18 2015-03-26 株式会社ニコン 画像解析装置、画像解析方法、画像解析プログラム、細胞の製造方法、細胞の培養方法、および細胞の製造装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6015113B2 (ja) 1979-07-16 1985-04-17 株式会社東芝 高周波加熱装置
WO2007065221A1 (en) * 2005-12-07 2007-06-14 Commonwealth Scientific And Industrial Research Organisation Linear feature detection method and apparatus
JP5413408B2 (ja) * 2011-06-09 2014-02-12 富士ゼロックス株式会社 画像処理装置、プログラム及び画像処理システム
JP5951367B2 (ja) * 2012-01-17 2016-07-13 シャープ株式会社 撮像装置、撮像画像処理システム、プログラムおよび記録媒体
JP5413501B1 (ja) * 2012-12-07 2014-02-12 富士ゼロックス株式会社 画像処理装置、画像処理システム及びプログラム
JP7036638B2 (ja) 2018-03-19 2022-03-15 アルプスアルパイン株式会社 入力装置
JP7383880B2 (ja) * 2019-01-16 2023-11-21 株式会社ニコン 画像生成装置、撮像装置、培養装置、画像生成方法およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100119113A1 (en) 2008-11-10 2010-05-13 Andreas Kuleschow Method and apparatus for detecting objects
JP2013236564A (ja) 2012-05-11 2013-11-28 Nikon Corp 細胞評価装置、細胞評価方法およびプログラム
WO2015041177A1 (ja) 2013-09-18 2015-03-26 株式会社ニコン 画像解析装置、画像解析方法、画像解析プログラム、細胞の製造方法、細胞の培養方法、および細胞の製造装置

Also Published As

Publication number Publication date
JPWO2021049332A1 (ja) 2021-03-18
EP4029927A1 (en) 2022-07-20
CN114600161A (zh) 2022-06-07
WO2021049332A1 (ja) 2021-03-18
US20220270347A1 (en) 2022-08-25
JP2024038142A (ja) 2024-03-19
EP4029927A4 (en) 2023-09-13

Similar Documents

Publication Publication Date Title
US11151423B2 (en) Predictive models for visually classifying insects
JP6303332B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
KR102663375B1 (ko) 음성 및 영상 자동 포커싱 방법 및 장치
CN106934337A (zh) 视觉对象和事件检测以及使用扫视的预测系统
Bassyouni et al. Augmented reality meets artificial intelligence in robotics: A systematic review
Hussain et al. Exudate regeneration for automated exudate detection in retinal fundus images
JP7416074B2 (ja) 画像処理装置、画像処理方法およびプログラム
CN110163851A (zh) 图像上亮斑的识别方法、装置及计算机存储介质
Bajčeta et al. Retinal blood vessels segmentation using ant colony optimization
WO2020149376A1 (ja) 画像処理装置、画像処理方法およびプログラム
Yin et al. Dual-branch U-Net architecture for retinal lesions segmentation on fundus image
JP7005463B2 (ja) 学習装置、学習方法及びプログラム
EP3815599A1 (en) Ophthalmic image processing device, oct device, ophthalmic image processing program, and method of building mathematical model
JP7099923B2 (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
JP7197316B2 (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
JP7466702B2 (ja) プロトタイプオプションの発見による解釈可能な模倣学習
Mukherjee et al. Personalization of industrial human–robot communication through domain adaptation based on user feedback
US20210127205A1 (en) Device and method of performing automatic audio focusing on multiple objects
KR101601660B1 (ko) 깊이 영상을 이용한 손 영역 분류 방법 및 그 장치
WO2020139662A1 (en) Method and apparatus for measuring plant trichomes
JP7400823B2 (ja) 画像処理装置
JP2020018249A (ja) コロニー識別システム、コロニー識別方法およびコロニー識別プログラム
JP6331914B2 (ja) アルゴリズム生成装置、アルゴリズム生成方法及びアルゴリズム生成用コンピュータプログラム
del Olmo Lianes et al. Technical upgrade of an open-source liquid handler to support bacterial colony screening
Nagpal et al. Reimagining Cucumber Disease Diagnosis in the Era of Federated Learning CNN

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231218

R150 Certificate of patent or registration of utility model

Ref document number: 7416074

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150