JP7242882B2 - 情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラム - Google Patents

情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラム Download PDF

Info

Publication number
JP7242882B2
JP7242882B2 JP2021548317A JP2021548317A JP7242882B2 JP 7242882 B2 JP7242882 B2 JP 7242882B2 JP 2021548317 A JP2021548317 A JP 2021548317A JP 2021548317 A JP2021548317 A JP 2021548317A JP 7242882 B2 JP7242882 B2 JP 7242882B2
Authority
JP
Japan
Prior art keywords
image
semantic segmentation
output
information processing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021548317A
Other languages
English (en)
Other versions
JPWO2021059572A1 (ja
Inventor
泰士 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2021059572A1 publication Critical patent/JPWO2021059572A1/ja
Application granted granted Critical
Publication of JP7242882B2 publication Critical patent/JP7242882B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/776Validation; Performance evaluation
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M1/00Apparatus for enzymology or microbiology
    • C12M1/34Measuring or testing with condition measuring or sensing means, e.g. colony counters
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • C12Q1/04Determining presence or kind of microorganism; Use of selective media for testing antibiotics or bacteriocides; Compositions containing a chemical indicator therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/16Image acquisition using multiple overlapping images; Image stitching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Organic Chemistry (AREA)
  • Wood Science & Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Zoology (AREA)
  • Biotechnology (AREA)
  • General Engineering & Computer Science (AREA)
  • Microbiology (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Genetics & Genomics (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Sustainable Development (AREA)
  • Medicinal Chemistry (AREA)
  • Quality & Reliability (AREA)
  • Toxicology (AREA)
  • Biophysics (AREA)
  • Immunology (AREA)
  • Image Analysis (AREA)

Description

本開示の技術は、情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラムに関する。
入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させ、判別されたクラスが色等で区分けされた出力画像を、学習済みモデルから出力させることが行われている。また、出力画像に基づいて、入力画像に映る物体の個数等の統計情報を導出することが行われている。
特表2016-534709号公報には、セマンティックセグメンテーションを実施する学習済みモデルに、培養中の複数の細胞を撮影した細胞画像を入力画像として与える技術が記載されている。特表2016-534709号公報では、学習済みモデルにクラスとして細胞を判別させている。また、出力画像に基づいて、細胞の個数、サイズ等を統計情報として導出している。そして、出力画像および統計情報を出力している。
学習済みモデルによるセマンティックセグメンテーションのクラスの判別精度は100%とはいかず、クラスが誤って判別されることがある。しかしながら、ユーザは、出力画像および統計情報のうち、統計情報のほうを注目しがちで、統計情報のベースとなった出力画像を、セマンティックセグメンテーションの妥当性を確認するために一々チェックしない場合が多い。このため、学習済みモデルによるセマンティックセグメンテーションの妥当性がないことが見過ごされるおそれがあった。
本開示の技術は、学習済みモデルによるセマンティックセグメンテーションの妥当性がないことを確実に報せることが可能な情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラムを提供することを目的とする。
上記目的を達成するために、本開示の情報処理装置は、入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させた結果、学習済みモデルから出力された出力画像を取得する取得部と、出力画像に基づいて、セマンティックセグメンテーションの妥当性を評価する評価部と、セマンティックセグメンテーションの妥当性がないと評価部において評価した場合、セマンティックセグメンテーションの妥当性がない旨を表す評価結果を表示する制御を行う表示制御部と、を備える。
評価部は、出力画像から画像特徴量を算出し、画像特徴量を用いてセマンティックセグメンテーションの妥当性を評価することが好ましい。
入力画像は、撮影対象を分割した複数の領域のうちの1つの領域が撮影された画像であり、評価部は、複数の領域毎に撮影された複数の入力画像に対応する複数の出力画像を繋ぎ合わせて、撮影対象の全体を表す全体画像を生成し、撮影対象を複数の領域に分割して撮影したことに起因する、全体画像の周期性ノイズの強度を、画像特徴量として算出することが好ましい。
出力画像に基づいて、入力画像に映る物体の統計情報を導出する導出部を備え、表示制御部は、セマンティックセグメンテーションの妥当性がないと評価部において評価した場合、評価結果と併せて、統計情報の信頼性が低い旨を表す警告を表示する制御を行うことが好ましい。
セマンティックセグメンテーションの妥当性がないと評価された出力画像を出力する制御を行う出力制御部を備えることが好ましい。
セマンティックセグメンテーションの妥当性がないと評価された出力画像のクラスの修正指示を受け付ける受付部を備えることが好ましい。
セマンティックセグメンテーションの妥当性がないと評価された出力画像のクラスを修正する修正部を備えることが好ましい。
セマンティックセグメンテーションの妥当性がないと評価された出力画像のクラスが修正された修正済み出力画像を学習用データとして利用し、学習済みモデルを再学習させる再学習部を備えることが好ましい。
入力画像は、培養中の複数の細胞を撮影した細胞画像であることが好ましい。
評価部は、細胞、または細胞の構造物を含む少なくとも2種のクラスの面積比を、画像特徴量として算出することが好ましい。
評価部は、面積比と比較してセマンティックセグメンテーションの妥当性の評価に用いる閾値を、細胞の種類、および/または、細胞の培養日数に応じて変更することが好ましい。
本開示の情報処理装置の作動方法は、入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させた結果、学習済みモデルから出力された出力画像を取得する取得ステップと、出力画像に基づいて、セマンティックセグメンテーションの妥当性を評価する評価ステップと、セマンティックセグメンテーションの妥当性がないと評価ステップにおいて評価した場合、セマンティックセグメンテーションの妥当性がない旨を表す評価結果を表示する制御を行う表示制御ステップと、を備える。
本開示の情報処理装置の作動プログラムは、入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させた結果、学習済みモデルから出力された出力画像を取得する取得部と、出力画像に基づいて、セマンティックセグメンテーションの妥当性を評価する評価部と、セマンティックセグメンテーションの妥当性がないと評価部において評価した場合、セマンティックセグメンテーションの妥当性がない旨を表す評価結果を表示する制御を行う表示制御部として、コンピュータを機能させる。
本開示の技術によれば、学習済みモデルによるセマンティックセグメンテーションの妥当性がないことを確実に報せることが可能な情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラムを提供することができる。
情報処理装置等を示す図である。 ウェルを分割した複数の領域を示す図である。 情報処理装置を構成するコンピュータを示すブロック図である。 情報処理装置のCPUの処理部を示すブロック図である。 入力画像および出力画像の例を示す図である。 入力画像および出力画像の例を示す図である。 導出部の処理を示す図である。 評価条件を示す図である。 評価部の処理を示す図である。 評価部の処理を示す図である。 解析結果表示画面を示す図である。 解析結果表示画面上に評価結果表示画面が重畳表示された状態を示す図である。 情報処理装置の処理手順を示すフローチャートである。 情報処理装置の処理手順を示すフローチャートである。 細胞核の面積を細胞質の面積で除算した面積比と比較する閾値を、細胞の種類に応じて変更する例を示す図である。 細胞核の面積を細胞質の面積で除算した面積比と比較する閾値を、細胞の培養日数に応じて変更する例を示す図である。 細胞核の面積を細胞質の面積で除算した面積比と比較する閾値を、細胞の種類および培養日数に応じて変更する例を示す図である。 第3実施形態の評価部を示す図である。 第3実施形態の評価条件を示す図である。 第3実施形態の評価部の処理を示す図である。 第3実施形態の評価部の処理を示す図である。 修正画面を示す図である。 全体画像の中から、クラスを誤って判別している誤判別領域を推定し、誤判別領域情報に基づいて評価を行う態様を示す図である。 学習済みモデルによるセマンティックセグメンテーションの妥当性がないと評価された出力画像のクラスを修正する態様を示す図である。 再学習部を示すブロック図である。 評価用モデルを用いて、学習済みモデルによるセマンティックセグメンテーションの妥当性を評価する態様を示す図である。
[第1実施形態]
図1において、情報処理装置10は、例えばデスクトップ型のパーソナルコンピュータであり、撮影装置11で撮影された入力画像12を受け取る。撮影装置11は、例えば位相差顕微鏡、明視野顕微鏡等である。撮影装置11には、細胞13(図5および図6も参照)を培養するための複数のウェル14が形成されたウェルプレート15がセットされる。撮影装置11は、培養中の複数の細胞13を撮影した細胞画像を入力画像12として撮影する。
図2に示すように、撮影装置11は、ウェル14を分割した複数の領域20毎に入力画像12を撮影する。このため、図1に矢印で示すように、撮影装置11は、互いに直交する2方向に移動可能である。複数の領域20の数は、例えば数千である。なお、ウェル14は、本開示の技術に係る「撮影対象」の一例である。
図3において、情報処理装置10を構成するコンピュータは、ストレージデバイス30、メモリ31、CPU(Central Processing Unit)32、通信部33、ディスプレイ34、および入力デバイス35を備えている。これらはバスライン36を介して相互接続されている。
ストレージデバイス30は、情報処理装置10を構成するコンピュータに内蔵、またはケーブル、ネットワークを通じて接続されたハードディスクドライブである。もしくはストレージデバイス30は、ハードディスクドライブを複数台連装したディスクアレイである。ストレージデバイス30には、オペレーティングシステム等の制御プログラム、各種アプリケーションプログラム、およびこれらのプログラムに付随する各種データ等が記憶されている。なお、ハードディスクドライブに代えてソリッドステートドライブを用いてもよい。
メモリ31は、CPU32が処理を実行するためのワークメモリである。CPU32は、ストレージデバイス30に記憶されたプログラムをメモリ31へロードして、プログラムにしたがった処理を実行することにより、コンピュータの各部を統括的に制御する。
通信部33は、LAN(Local Area Network)等のネットワークを介した各種情報の伝送制御を行うネットワークインターフェースである。ディスプレイ34は各種画面を表示する。情報処理装置10を構成するコンピュータは、各種画面を通じて、入力デバイス35からの操作指示の入力を受け付ける。入力デバイス35は、キーボード、マウス、タッチパネル等である。
図4において、情報処理装置10のストレージデバイス30には、作動プログラム40が記憶されている。作動プログラム40は、コンピュータを情報処理装置10として機能させるためのアプリケーションプログラムである。すなわち、作動プログラム40は、本開示の技術に係る「情報処理装置の作動プログラム」の一例である。ストレージデバイス30には、入力画像12、学習済みモデル41、出力画像42、統計情報43、および評価条件44も記憶されている。
作動プログラム40が起動されると、情報処理装置10を構成するコンピュータのCPU32は、メモリ31等と協働して、リードライト(以下、RW(Read Write)と略す)制御部50、処理部51、導出部52、評価部53、および表示制御部54として機能する。
RW制御部50は、ストレージデバイス30への各種データの記憶、およびストレージデバイス30内の各種データの読み出しを制御する。例えば、RW制御部50は、撮影装置11からの入力画像12を受け取り、ストレージデバイス30に記憶する。また、RW制御部50は、入力画像12および学習済みモデル41をストレージデバイス30から読み出し、処理部51に出力する。
処理部51は、入力画像12を学習済みモデル41に与える。そして、入力画像12に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデル41に実施させ、学習済みモデル41から出力画像42を出力させる。処理部51は、出力画像42をRW制御部50に受け渡す。RW制御部50は、出力画像42をストレージデバイス30に記憶する。なお、学習済みモデル41は、例えばU-Net(U-Shaped Neural Network)、SegNet、ResNet(Residual Network)等の畳み込みニューラルネットワークである。
RW制御部50は、出力画像42をストレージデバイス30から読み出し、導出部52および評価部53に出力する。すなわち、RW制御部50は、本開示の技術に係る「取得部」の一例である。
また、RW制御部50は、評価条件44をストレージデバイス30から読み出し、評価部53に出力する。
導出部52は、出力画像42に基づいて、細胞13の統計情報43を導出する。導出部52は、統計情報43をRW制御部50に出力する。RW制御部50は、統計情報43をストレージデバイス30に記憶する。
評価部53は、出力画像42および評価条件44に基づいて、学習済みモデル41によるセマンティックセグメンテーションの妥当性を評価する。評価部53は、妥当性の評価結果55を表示制御部54に出力する。
RW制御部50は、出力画像42および統計情報43をストレージデバイス30から読み出し、表示制御部54に出力する。
表示制御部54は、ディスプレイ34への各種画面の表示を制御する。各種画面には、出力画像42および統計情報43を表示する画面である解析結果表示画面70(図11および図12参照)、評価部53の評価結果55を表示する画面である評価結果表示画面80(図12参照)等が含まれる。
図5および図6において、出力画像42は、凡例60に示すように、クラス1の細胞核61、クラス2の細胞質62、クラス3の死細胞63、およびクラス4の培地64がそれぞれ判別されて色分けされた画像である。細胞核61および細胞質62によって細胞13が構成される。なお、細胞核61、細胞質62、死細胞63、および培地64は、本開示の技術に係る「物体」の一例である。
図5は、学習済みモデル41によるセマンティックセグメンテーションのクラスの判別が正しかった場合を示す。対して図6は、学習済みモデル41によるセマンティックセグメンテーションのクラスの判別が誤っていた場合を示す。具体的には二点鎖線の丸囲い65に示すように、クラス3と判別すべき死細胞63が、クラス2の細胞質62と誤って判別されている。また、図示は省略したが、学習済みモデル41は、ウェル14を複数の領域20に分割して撮影したことに起因する周期性ノイズを、クラス1の細胞核61またはクラス2の細胞質62と誤って判別することもある。こうした学習済みモデル41によるセマンティックセグメンテーションのクラスの誤判別は、学習済みモデル41の学習フェーズにおいて、学習用データとして与えられなかったタイプの入力画像12が入力された場合にしばしば起こる。このように、学習済みモデル41は、セマンティックセグメンテーションのクラスの判別を誤る場合がある。
図7に示すように、導出部52は、図2で示した複数の領域20毎の複数の入力画像12に対応する複数の出力画像42_1、42_2、42_3、・・・、42_N毎に、細胞13の個数(以下、細胞数)を計数する。導出部52は、例えば、細胞核61の個数を計数することで、各出力画像42_1~42_Nに映る細胞数を計数する。導出部52は、各出力画像42_1~42_Nに映る細胞数の総和を、統計情報43として出力する。なお、Nは出力画像42の全枚数を表す自然数である。
図8において、評価条件44は、細胞核61の面積を細胞質62の面積で除算した面積比(細胞核61の面積/細胞質62の面積)の平均が0.3~0.5の範囲外であった場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価する、という内容である。面積比は、本開示の技術に係る「画像特徴量」の一例である。また、細胞核61および細胞質62は、本開示の技術に係る「細胞の構造物」の一例である。さらに、0.3~0.5は、本開示の技術に係る「閾値」の一例である。なお、細胞核61の面積は、セマンティックセグメンテーションによって細胞核61と判別された画素の総数である。細胞質62の面積も同様に、セマンティックセグメンテーションによって細胞質62と判別された画素の総数である。
この評価条件44は、細胞核61と細胞質62の面積比がおおよそ0.3~0.5の範囲内にある、という統計的な事実に依拠している。また、0.3~0.5の範囲から面積比の平均が外れた場合は、図6で示したように学習済みモデル41がセマンティックセグメンテーションのクラスの判別を誤った確率が高い、という考えに依拠している。
図9および図10に示すように、評価部53は、各出力画像42_1~42_Nについて、細胞核61と細胞質62の面積比を算出する。そして、算出した面積比の総和をNで除算して、面積比の平均を算出する。
評価部53は、算出した面積比の平均と、評価条件44の面積比の平均の範囲0.3~0.5とを比較する。図9に示すように、評価部53は、算出した面積比の平均が、評価条件44の面積比の平均の範囲内であった場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性があると評価する。評価部53は、セマンティックセグメンテーションの妥当性がある旨の評価結果55を出力する。対して、図10に示すように、評価部53は、算出した面積比の平均が、評価条件44の面積比の平均の範囲外であった場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価する。評価部53は、セマンティックセグメンテーションの妥当性がない旨の評価結果55を出力する。
図11および図12に示すように、表示制御部54は、解析結果表示画面70をディスプレイ34に表示する制御を行う。解析結果表示画面70には、出力画像42および統計情報43が表示される。出力画像42の下部には、クラスの凡例60が表示される。凡例60の下部には、戻しボタン71および送りボタン72が設けられている。戻しボタン71は、複数の出力画像42_1~42_Nのうち、表示する1枚の出力画像42を戻す場合に選択される。送りボタン72は、複数の出力画像42_1~42_Nのうち、表示する1枚の出力画像42を送る場合に選択される。解析結果表示画面70は、確認ボタン73が選択された場合、表示が消える。
図11は、学習済みモデル41によるセマンティックセグメンテーションの妥当性がある旨の評価結果55が、評価部53から出力された場合を示す。対して図12は、学習済みモデル41によるセマンティックセグメンテーションの妥当性がない旨の評価結果55が、評価部53から出力された場合を示す。この場合、表示制御部54は、解析結果表示画面70上に評価結果表示画面80を重畳表示させる。
評価結果表示画面80には、学習済みモデル41によるセマンティックセグメンテーションの妥当性がない旨を表す評価結果55が表示される。また、評価結果表示画面80には、統計情報43の信頼性が低い旨を表す警告81が表示される。評価結果表示画面80は、確認ボタン82が選択された場合、表示が消える。
次に、上記構成による作用について、図13および図14のフローチャートを参照して説明する。まず、情報処理装置10において作動プログラム40が起動されると、図4で示したように、情報処理装置10のCPU32は、RW制御部50、処理部51、導出部52、評価部53、および表示制御部54として機能される。
図13に示すように、RW制御部50により、ストレージデバイス30から入力画像12および学習済みモデル41が読み出される(ステップST100)。入力画像12および学習済みモデル41は、RW制御部50から処理部51に出力される。
処理部51において、学習済みモデル41に入力画像12が与えられる。そして、入力画像12に映る物体のクラスを判別した出力画像42が学習済みモデル41から出力される(ステップST110)。出力画像42は、処理部51からRW制御部50に出力され、RW制御部50によってストレージデバイス30に記憶される(ステップST120)。これらのステップST100~ST120は、複数の領域20毎の複数の入力画像12について行われる。このため、ストレージデバイス30には、最終的には出力画像42_1~42_Nが記憶される。
図14に示すように、RW制御部50により、ストレージデバイス30から出力画像42(出力画像42_1~42_N)が読み出される(ステップST200)。出力画像42は、RW制御部50から導出部52および評価部53に出力される。なお、ステップST200は、本開示の技術に係る「取得ステップ」の一例である。
図7で示したように、出力画像42に基づいて、導出部52により統計情報43が導出される(ステップST210)。統計情報43は、導出部52からRW制御部50に出力され、RW制御部50によってストレージデバイス30に記憶される。
また、図9および図10で示したように、出力画像42および評価条件44に基づいて、評価部53により、学習済みモデル41によるセマンティックセグメンテーションの妥当性が評価される(ステップST220)。学習済みモデル41によるセマンティックセグメンテーションの妥当性の評価結果55は、評価部53から表示制御部54に出力される。なお、ステップST220は、本開示の技術に係る「評価ステップ」の一例である。
学習済みモデル41によるセマンティックセグメンテーションの妥当性がある旨の評価結果55が、評価部53から出力された場合(ステップST230でYES)、図11で示したように、表示制御部54により、解析結果表示画面70がディスプレイ34に表示される(ステップST240)。
対して、学習済みモデル41によるセマンティックセグメンテーションの妥当性がない旨の評価結果55が、評価部53から出力された場合(ステップST230でNO)、図12で示したように、表示制御部54により、解析結果表示画面70上に評価結果表示画面80が重畳表示される(ステップST250)。なお、ステップST250は、本開示の技術に係る「表示制御ステップ」の一例である。
以上説明したように、情報処理装置10は、取得部としてのRW制御部50と、評価部53と、表示制御部54とを備える。RW制御部50は、学習済みモデル41から出力された出力画像42をストレージデバイス30から読み出すことで、出力画像42を取得する。評価部53は、出力画像42に基づいて、学習済みモデル41によるセマンティックセグメンテーションの妥当性を評価する。表示制御部54は、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価部53において評価した場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性がない旨を表す評価結果55を含む評価結果表示画面80をディスプレイ34に表示する制御を行う。したがって、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないことを確実に報せることが可能となる。
評価部53は、出力画像42から、細胞核61の面積を細胞質62の面積で除算した面積比を画像特徴量として算出する。そして、面積比を用いて学習済みモデル41によるセマンティックセグメンテーションの妥当性を評価する。したがって、出力画像42の画像特徴量以外で評価する場合と比べて、評価結果55の信頼性を高めることができる。また、面積比は簡単に算出することができるため、妥当性の評価を簡単に済ませることができる。
また、情報処理装置10は、出力画像42に基づいて、入力画像12に映る物体の統計情報43を導出する導出部52を備えている。表示制御部54は、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価部53において評価した場合、評価結果55と併せて、統計情報43の信頼性が低い旨を表す警告81を表示する制御を行う。したがって、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないことに加えて、統計情報43の信頼性が低いことも報せることができる。信頼性が低い統計情報43が誤って参照されることを効果的に防止することができる。
ここで、細胞培養の分野は、iPS(Induced Pluripotent Stem)細胞等の出現により、最近脚光を浴びている。このため、学習済みモデル41による細胞画像内の物体のクラスの判別に妥当性がないことを確実に報せる技術が要望されている。本開示の技術では、培養中の複数の細胞13を撮影した細胞画像を入力画像12としている。したがって、本開示の技術は、最近の要望に応えることができる技術であるといえる。
[第2実施形態]
細胞核61の面積を細胞質62の面積で除算した面積比は、細胞13の種類によって異なると考えられる。同様に、面積比は、細胞13の培養日数によっても異なると考えられる。そこで、図15~図17に示す第2実施形態では、面積比と比較して学習済みモデル41によるセマンティックセグメンテーションの妥当性の評価に用いる閾値を、細胞13の種類、および/または、細胞13の培養日数に応じて変更する。
図15に示す表85は、閾値を細胞13の種類に応じて変更する例である。細胞13の種類には、神経細胞、心筋細胞、肝細胞等が例示されている。閾値は、神経細胞の場合には0.3~0.5、心筋細胞の場合には0.2~0.5、肝細胞の場合には0.4~0.6がそれぞれ例示されている。なお、この場合は、学習済みモデル41が、複数種類の細胞13を対象としたモデルであることを前提としている。
図16に示す表86は、閾値を細胞13の培養日数に応じて変更する例である。閾値は、細胞13の培養日数が1日目の場合には0.1~0.3、2日目の場合には0.2~0.4、3日目の場合には0.3~0.5がそれぞれ例示されている。
図17に示す表87は、閾値を細胞13の種類および培養日数に応じて変更する例である。細胞の種類には、図15で示した表85と同じく、神経細胞、心筋細胞、肝細胞等が例示されている。例えば神経細胞の閾値は、培養日数が1日目の場合には0.2~0.3、2日目の場合には0.22~0.33、3日目の場合には0.24~0.38がそれぞれ例示されている。
このように、第2実施形態では、面積比と比較して学習済みモデル41によるセマンティックセグメンテーションの妥当性の評価に用いる閾値を、細胞13の種類、および/または、細胞13の培養日数に応じて変更する。したがって、細胞13の種類、および/または、細胞13の培養日数に適応した、学習済みモデル41によるセマンティックセグメンテーションの妥当性の評価が可能となる。
[第3実施形態]
図6の説明においてもふれたが、学習済みモデル41は、ウェル14を複数の領域20に分割して撮影したことに起因する周期性ノイズを、クラス1の細胞核61またはクラス2の細胞質62と誤って判別することもある。そこで、図18~図21に示す第3実施形態では、ウェル14の全体を表す全体画像98を生成し、全体画像98の周期性ノイズの強度を、画像特徴量として算出する。
図18において、第3実施形態の評価部90は、合成部95、強度算出部96、および比較部97を有する。合成部95は、ウェル14を分割した複数の領域20毎の入力画像12に対応する複数の出力画像42_1~42_Nを繋ぎ合わせて、ウェル14の全体を表す全体画像98を生成する。こうして断片的な出力画像42_1~42_Nを繋ぎ合わせて全体画像98を生成する処理は、タイリングとも呼ばれる。合成部95は、全体画像98を強度算出部96に出力する。
強度算出部96は、全体画像98に対してフーリエ変換を施し、全体画像98のフーリエスペクトル102(図20および図21参照)を生成する。強度算出部96は、生成したフーリエスペクトル102から、ウェル14を複数の領域20に分割して撮影したことに起因する、全体画像98の周期性ノイズの強度AMを算出する。周期性ノイズの周波数F(図20および図21参照)は、領域20のサイズ、数等から予め求めることができる。強度算出部96は、求めた周波数Fのフーリエスペクトル102の強度を、周期性ノイズの強度AMとして算出する。強度算出部96は、周期性ノイズの強度AMを比較部97に出力する。
比較部97は、周期性ノイズの強度AMと、予め設定された閾値THとの大小を比較する。そして、この比較結果に応じた評価結果55を出力する。
図19に示すように、第3実施形態の評価条件100は、周期性ノイズの強度AMが閾値TH以上の場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価する、という内容である。
図20に示すように、評価部90は、周期性ノイズの強度AMが閾値TH未満であった場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性があると評価する。評価部90は、セマンティックセグメンテーションの妥当性がある旨の評価結果55を出力する。対して、図21に示すように、評価部90は、周期性ノイズの強度AMが閾値TH以上であった場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価する。評価部90は、セマンティックセグメンテーションの妥当性がない旨の評価結果55を出力する。
このように、第3実施形態では、合成部95により、複数の出力画像42_1~42_Nが繋ぎ合わされて全体画像98が生成される。そして、強度算出部96により、全体画像98の周期性ノイズの強度AMが、画像特徴量として算出される。したがって、学習済みモデル41により、周期性ノイズがクラス1の細胞核61またはクラス2の細胞質62と誤って判別された場合に、セマンティックセグメンテーションの妥当性がないと評価することができる。
なお、面積比を画像特徴量として算出する上記第1、第2実施形態と、本第3実施形態とを複合して実施してもよい。この場合、評価部は、面積比の平均が、評価条件44の面積比の平均の範囲外であった場合、および/または、周期性ノイズの強度AMが閾値TH以上であった場合に、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価する。
[第4実施形態]
図22に示す第4実施形態では、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を表示する制御を行う。また、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42のクラスの修正指示を受け付ける。
図22において、第4実施形態の表示制御部110は、修正画面111をディスプレイ34に表示する制御を行う。表示制御部110は、例えば、解析結果表示画面70の表示を消した後に、解析結果表示画面70に代えて修正画面111を表示する。修正画面111には、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42が表示される。すなわち、表示制御部110は、本開示の技術に係る「出力制御部」の一例である。図22は、図6で示した、クラス3と判別すべき死細胞63が、クラス2の細胞質62と誤って判別された出力画像42が表示された例を示す。
クラスの凡例60の下部の戻しボタン112および送りボタン113は、解析結果表示画面70の戻しボタン71および送りボタン72と同様に、表示する1枚の出力画像42を戻す場合と送る場合にそれぞれ選択される。戻しボタン112および送りボタン113の下部には、修正ボタン群114が設けられている。修正ボタン群114には、学習済みモデル41によって誤って判別されたクラスを、本来のクラスに修正するための各種ボタンが配されている。
ユーザは、修正ボタン群114の各種ボタンを操作して、学習済みモデル41によって誤って判別されたクラスを、本来のクラスに修正した後、OKボタン115を選択する。OKボタン115が選択された場合、受付部120において、出力画像42のクラスの修正指示が受け付けられる。この修正指示に応じてクラスが修正された修正済み出力画像42Cは、RW制御部50によりストレージデバイス30に記憶される。なお、キャンセルボタン116が選択された場合は、修正画面111の表示が消える。
このように、第4実施形態では、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を表示する制御を行う。また、受付部120により、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42のクラスの修正指示を受け付ける。したがって、クラスが修正された修正済み出力画像42Cを、元の入力画像12とともに、学習済みモデル41を再学習するための学習用データとして利用することができる。修正済み出力画像42Cにより学習済みモデル41を再学習させることで、学習済みモデル41のクラスの判別精度をより高めることができる。結果的に、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価されてしまう確率を低減することができる。
修正画面111をディスプレイ34に表示するタイミングとしては、上記の解析結果表示画面70の表示を消した後に限らない。学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42をストレージデバイス30に記憶しておき、ユーザの求めに応じて修正画面111をディスプレイ34に表示してもよい。
なお、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を出力する形態としては、上記で例示した、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を表示する形態に限らない。学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を、ストレージデバイス30に記憶させるためにRW制御部50に出力する形態でもよい。あるいは、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を、情報処理装置10とネットワークで接続された他の装置に送信する形態でもよい。
複数台の情報処理装置10から、ネットワークを介して、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を送信してもらい、当該出力画像42を一括管理する装置を設けてもよい。
[第5実施形態]
図23および図24に示す第5実施形態では、全体画像98の中から、クラスを誤って判別している誤判別領域を推定する。そして、誤判別領域のクラスを修正することで出力画像42を修正する。
図23において、推定部130には、全体画像98が入力される。推定部130は、推定条件131にしたがって、全体画像98の中から、クラスを誤って判別している誤判別領域を推定する。推定条件131は、内部に細胞核61がない細胞質62、および周囲に細胞質62がない細胞核61を誤判別領域とする、という内容である。推定部130は、誤判別領域の推定結果である誤判別領域情報132を、評価部133に出力する。なお、誤判別領域情報132は、全体画像98における誤判別領域の座標の情報である。
第5実施形態の評価部133は、誤判別領域情報132に基づいて、全体画像98内の誤判別領域の面積割合を画像特徴量として算出する。この場合の評価条件134は、全体画像98内の誤判別領域の面積割合が、予め設定された閾値以上であった場合、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価する、という内容である。評価部133は、全体画像98内の誤判別領域の面積割合が閾値未満であった場合は、セマンティックセグメンテーションの妥当性がある旨の評価結果55を出力する。対して、評価部133は、全体画像98内の誤判別領域の面積割合が閾値以上であった場合は、セマンティックセグメンテーションの妥当性がない旨の評価結果55を出力する。
図24において、修正部140は、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42を修正して修正済み出力画像42Cとする。具体的には、修正部140は、出力画像42内の誤判別領域のクラスを、一律培地64とする。修正済み出力画像42Cは、RW制御部50によりストレージデバイス30に記憶される。
このように、第5実施形態では、修正部140により、学習済みモデル41によるセマンティックセグメンテーションの妥当性がないと評価された出力画像42のクラスを修正する。したがって、上記第4実施形態のようにクラスの修正を全てユーザに委ねる場合と比べて、ユーザの負担を軽減することができる。また、上記第4実施形態と同じく、修正済み出力画像42Cを、学習済みモデル41を再学習するための学習用データとして利用することができ、学習済みモデル41のクラスの判別精度をより高めることができる。
なお、修正部140でクラスを自動修正した後に、ユーザによるクラスの修正指示を受け付けてもよい。ユーザは、修正部140で修正しきれなかったクラスを修正すればよいので、この場合もユーザの負担を軽減することができる、という効果を発揮する。
[第6実施形態]
図25に示す第6実施形態では、上記第4実施形態および上記第5実施形態の修正済み出力画像42Cを学習用データとして利用し、学習済みモデル41を再学習させる。
図25において、再学習部145は、処理部146、精度評価部147、および更新部148を有する。処理部146は、再学習用入力画像149を学習済みモデル41に与えて、学習済みモデル41から再学習用出力画像150を出力させる。処理部146は、再学習用出力画像150を精度評価部に出力する。
再学習用入力画像149は、修正済み出力画像42Cの元の出力画像42を学習済みモデル41から出力させた場合に、処理部51において学習済みモデル41に入力された入力画像12である。この再学習用入力画像149と修正済み出力画像42Cとで、学習用データ151が構成される。
精度評価部147は、修正済み出力画像42Cと再学習用出力画像150とを比較し、学習済みモデル41のクラスの判別精度を評価する。精度評価部147は、損失関数を用いて学習済みモデル41のクラスの判別精度を評価する。損失関数は、修正済み出力画像42Cと再学習用出力画像150とのクラスの指定の差異の程度を表す関数である。損失関数の算出値が0に近いほど、学習済みモデル41のクラスの判別精度が高いことを示す。精度評価部147は、損失関数による学習済みモデル41のクラスの判別精度の評価結果を更新部148に出力する。
更新部148は、精度評価部147からの評価結果に応じて、学習済みモデル41を更新する。例えば、更新部148は、学習係数を伴う確率的勾配降下法等により、学習済みモデル41の各種パラメータの値を変化させる。学習係数は、パラメータの値の変化幅を示す。すなわち、学習係数が比較的大きい値であるほど、パラメータの値の変化幅は大きくなり、学習済みモデル41の更新度合いも大きくなる。
再学習部145は、これら処理部146による学習済みモデル41への再学習用入力画像149の入力と精度評価部147への再学習用出力画像150の出力、精度評価部147による学習済みモデル41のクラスの判別精度の評価、および更新部148による学習済みモデル41の更新を、学習済みモデル41のクラスの判別精度が予め設定されたレベルとなるまで、繰り返し続ける。そして、再学習部145は、クラスの判別精度が予め設定されたレベルとなった学習済みモデル41をRW制御部50に出力する。RW制御部50は、再学習部145からの学習済みモデル41をストレージデバイス30に記憶し、これを読み出して処理部51に出力する。
再学習部145は、例えばミニバッチデータを用いたミニバッチ学習を学習済みモデル41に行わせる。ミニバッチデータは、修正済み出力画像42Cと再学習用入力画像149を分割した複数の分割画像(例えば元の画像の1/100のサイズの枠で分割した1万枚の分割画像)のうちの一部(例えば100枚)で構成される。再学習部145は、こうしたミニバッチデータを複数組(例えば100組)作成し、各組を順次学習済みモデル41に与えて学習させる。
このように、第6実施形態では、再学習部145によって、セマンティックセグメンテーションの妥当性がないと評価された出力画像42のクラスが修正された修正済み出力画像42Cを学習用データ151として利用し、学習済みモデル41を再学習させる。したがって、学習済みモデル41の再学習を他の装置で実施する場合と比べて、学習済みモデル41のクラスの判別精度を手軽に高めることができる。また、クラスの判別精度が高められた学習済みモデル41を、すぐに処理部51に与えて用いることができる。
上記各実施形態では、画像特徴量を用いて、学習済みモデル41によるセマンティックセグメンテーションの妥当性を評価しているが、これに限らない。図26に示す評価部155のように、評価用モデル156を用いて、学習済みモデル41によるセマンティックセグメンテーションの妥当性を評価してもよい。評価用モデル156は、出力画像42が入力された場合に、評価結果55を出力する機械学習モデルである。評価用モデル156は、出力画像42と評価結果55とのペアを学習用データとして与えられて学習されたモデルである。こうすれば、画像特徴量を算出する処理を省略することができる。
画像特徴量は、例示した面積比、周期性ノイズの強度AMに限らない。細胞13の円形度といった、細胞13の形状に関するパラメータを画像特徴量としてもよい。細胞13の形状に関するパラメータを画像特徴量とする場合は、上記第2実施形態を適用して、学習済みモデル41によるセマンティックセグメンテーションの妥当性の評価に用いる閾値を、細胞13の種類、および/または、細胞13の培養日数に応じて変更してもよい。
統計情報43は、上記で例示した細胞13の個数に限らない。細胞13の全体画像98に占める総面積でもよいし、画像特徴量として例示した、細胞核61の面積を細胞質62の面積で除算した面積比でもよい。
上記各実施形態では、入力画像12として、培養中の複数の細胞13を撮影した細胞画像を例示し、クラスとして細胞核61、細胞質62等を例示したが、これに限定されない。細胞の構造物の一種である核小体をクラスとしてもよい。また、生細胞、死細胞、分化細胞、未分化細胞等をクラスとしてもよい。この場合は、例えば、分化細胞の面積を未分化細胞の面積で除算した面積比を、画像特徴量として算出する。さらに、複数の細胞13を1つのウェル14で培養する場合は、複数の細胞13の各々をクラスとしてもよい。
また、道路を撮影した衛星動画像を入力画像12とし、車をクラスとして、車の台数を統計情報43として導出してもよい。あるいは、街頭を撮影した動画像を入力画像12とし、人をクラスとして、人数を統計情報43として導出してもよい。
情報処理装置10を構成するコンピュータのハードウェア構成は種々の変形が可能である。情報処理装置10を、処理能力および信頼性の向上を目的として、ハードウェアとして分離された複数台のコンピュータで構成することも可能である。例えば、情報処理装置10の処理部51の機能と、導出部52および評価部53の機能とを、2台のコンピュータに分散して担わせる。この場合は2台のコンピュータで情報処理装置10を構成する。
このように、情報処理装置10のコンピュータのハードウェア構成は、処理能力、安全性、信頼性等の要求される性能に応じて適宜変更することができる。さらに、ハードウェアに限らず、作動プログラム40等のアプリケーションプログラムについても、安全性および信頼性の確保を目的として、二重化したり、あるいは、複数のストレージデバイスに分散して格納することももちろん可能である。
上記各実施形態において、例えば、RW制御部50、処理部51、146、導出部52、評価部53、90、133、155、表示制御部54、110、合成部95、強度算出部96、比較部97、受付部120、推定部130、修正部140、精度評価部147、および更新部148といった各種の処理を実行する処理部(Processing Unit)のハードウェア的な構造としては、次に示す各種のプロセッサ(Processor)を用いることができる。各種のプロセッサには、上述したように、ソフトウェア(作動プログラム40)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU32に加えて、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。
1つの処理部は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、および/または、CPUとFPGAとの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。
複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントおよびサーバ等のコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)等に代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサの1つ以上を用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子等の回路素子を組み合わせた電気回路(circuitry)を用いることができる。
以上の記載から、以下の付記項1に記載の発明を把握することができる。
[付記項1]
入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させた結果、前記学習済みモデルから出力された出力画像を取得する取得プロセッサと、
前記出力画像に基づいて、前記セマンティックセグメンテーションの妥当性を評価する評価プロセッサと、
前記セマンティックセグメンテーションの妥当性がないと前記評価プロセッサにおいて評価した場合、前記セマンティックセグメンテーションの妥当性がない旨を表す評価結果を表示する制御を行う表示制御プロセッサと、
を備える情報処理装置。
本開示の技術は、上述の種々の実施形態と種々の変形例を適宜組み合わせることも可能である。また、上記各実施形態に限らず、要旨を逸脱しない限り種々の構成を採用し得ることはもちろんである。さらに、本開示の技術は、プログラムに加えて、プログラムを非一時的に記憶する記憶媒体にもおよぶ。
以上に示した記載内容および図示内容は、本開示の技術に係る部分についての詳細な説明であり、本開示の技術の一例に過ぎない。例えば、上記の構成、機能、作用、および効果に関する説明は、本開示の技術に係る部分の構成、機能、作用、および効果の一例に関する説明である。よって、本開示の技術の主旨を逸脱しない範囲内において、以上に示した記載内容および図示内容に対して、不要な部分を削除したり、新たな要素を追加したり、置き換えたりしてもよいことはいうまでもない。また、錯綜を回避し、本開示の技術に係る部分の理解を容易にするために、以上に示した記載内容および図示内容では、本開示の技術の実施を可能にする上で特に説明を要しない技術常識等に関する説明は省略されている。
本明細書において、「Aおよび/またはB」は、「AおよびBのうちの少なくとも1つ」と同義である。つまり、「Aおよび/またはB」は、Aだけであってもよいし、Bだけであってもよいし、AおよびBの組み合わせであってもよい、という意味である。また、本明細書において、3つ以上の事柄を「および/または」で結び付けて表現する場合も、「Aおよび/またはB」と同様の考え方が適用される。
本明細書に記載された全ての文献、特許出願および技術規格は、個々の文献、特許出願および技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。

Claims (12)

  1. 入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させた結果、前記学習済みモデルから出力された出力画像を取得する取得部と、
    前記出力画像から画像特徴量を算出し、前記画像特徴量を用いて前記セマンティックセグメンテーションの妥当性を評価する評価部と、
    前記セマンティックセグメンテーションの妥当性がないと前記評価部において評価した場合、前記セマンティックセグメンテーションの妥当性がない旨を表す評価結果を表示する制御を行う表示制御部と、
    を備え
    前記入力画像は、撮影対象を分割した複数の領域のうちの1つの領域が撮影された画像であり、
    前記評価部は、複数の前記領域毎に撮影された複数の前記入力画像に対応する複数の前記出力画像を繋ぎ合わせて、前記撮影対象の全体を表す全体画像を生成し、前記撮影対象を複数の前記領域に分割して撮影したことに起因する、前記全体画像の周期性ノイズの強度を、前記画像特徴量として算出する、
    情報処理装置。
  2. 前記出力画像に基づいて、前記入力画像に映る前記物体の統計情報を導出する導出部を備え、
    前記表示制御部は、前記セマンティックセグメンテーションの妥当性がないと前記評価部において評価した場合、前記評価結果と併せて、前記統計情報の信頼性が低い旨を表す警告を表示する制御を行う請求項1に記載の情報処理装置。
  3. 前記セマンティックセグメンテーションの妥当性がないと評価された前記出力画像を出力する制御を行う出力制御部を備える請求項1または請求項2に記載の情報処理装置。
  4. 前記セマンティックセグメンテーションの妥当性がないと評価された前記出力画像のクラスの修正指示を受け付ける受付部を備える請求項に記載の情報処理装置。
  5. 前記セマンティックセグメンテーションの妥当性がないと評価された前記出力画像のクラスを修正する修正部を備える請求項または請求項に記載の情報処理装置。
  6. 前記セマンティックセグメンテーションの妥当性がないと評価された前記出力画像のクラスが修正された修正済み出力画像を学習用データとして利用し、前記学習済みモデルを再学習させる再学習部を備える請求項または請求項に記載の情報処理装置。
  7. 前記入力画像は、培養中の複数の細胞を撮影した細胞画像である請求項1から請求項のいずれか1項に記載の情報処理装置。
  8. 前記評価部は、前記細胞、または前記細胞の構造物を含む少なくとも2種のクラスの面積比を、前記画像特徴量として算出する請求項7に記載の情報処理装置。
  9. 前記評価部は、前記面積比と比較して前記セマンティックセグメンテーションの妥当性の評価に用いる閾値を、前記細胞の種類、および/または、前記細胞の培養日数に応じて変更する請求項に記載の情報処理装置。
  10. 前記評価部は、前記全体画像の中から、前記クラスを誤って判別している誤判別領域を推定し、前記全体画像内の前記誤判別領域の面積割合を前記画像特徴量として算出する請求項1から請求項9のいずれか1項に記載の情報処理装置。
  11. 入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させた結果、前記学習済みモデルから出力された出力画像を取得する取得ステップと、
    前記出力画像から画像特徴量を算出し、前記画像特徴量を用いて前記セマンティックセグメンテーションの妥当性を評価する評価ステップと、
    前記セマンティックセグメンテーションの妥当性がないと前記評価ステップにおいて評価した場合、前記セマンティックセグメンテーションの妥当性がない旨を表す評価結果を表示する制御を行う表示制御ステップと、
    を備え
    前記入力画像は、撮影対象を分割した複数の領域のうちの1つの領域が撮影された画像であり、
    前記評価ステップにおいては、複数の前記領域毎に撮影された複数の前記入力画像に対応する複数の前記出力画像を繋ぎ合わせて、前記撮影対象の全体を表す全体画像を生成し、前記撮影対象を複数の前記領域に分割して撮影したことに起因する、前記全体画像の周期性ノイズの強度を、前記画像特徴量として算出する、
    情報処理装置の作動方法。
  12. 入力画像に映る物体の種類であるクラスの判別を画素単位で行うセマンティックセグメンテーションを学習済みモデルに実施させた結果、前記学習済みモデルから出力された出力画像を取得する取得部と、
    前記出力画像から画像特徴量を算出し、前記画像特徴量を用いて前記セマンティックセグメンテーションの妥当性を評価する評価部と、
    前記セマンティックセグメンテーションの妥当性がないと前記評価部において評価した場合、前記セマンティックセグメンテーションの妥当性がない旨を表す評価結果を表示する制御を行う表示制御部として、
    コンピュータを機能させる情報処理装置の作動プログラムであって、
    前記入力画像は、撮影対象を分割した複数の領域のうちの1つの領域が撮影された画像であり、
    前記評価部は、複数の前記領域毎に撮影された複数の前記入力画像に対応する複数の前記出力画像を繋ぎ合わせて、前記撮影対象の全体を表す全体画像を生成し、前記撮影対象を複数の前記領域に分割して撮影したことに起因する、前記全体画像の周期性ノイズの強度を、前記画像特徴量として算出する、
    情報処理装置の作動プログラム
JP2021548317A 2019-09-27 2020-04-22 情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラム Active JP7242882B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019177219 2019-09-27
JP2019177219 2019-09-27
PCT/JP2020/017405 WO2021059572A1 (ja) 2019-09-27 2020-04-22 情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラム

Publications (2)

Publication Number Publication Date
JPWO2021059572A1 JPWO2021059572A1 (ja) 2021-04-01
JP7242882B2 true JP7242882B2 (ja) 2023-03-20

Family

ID=75166939

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021548317A Active JP7242882B2 (ja) 2019-09-27 2020-04-22 情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラム

Country Status (4)

Country Link
US (1) US20220189149A1 (ja)
EP (1) EP4036211A4 (ja)
JP (1) JP7242882B2 (ja)
WO (1) WO2021059572A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020121678A1 (ja) * 2018-12-14 2020-06-18 富士フイルム株式会社 ミニバッチ学習装置とその作動プログラム、作動方法、および画像処理装置
JP7096362B2 (ja) * 2018-12-14 2022-07-05 富士フイルム株式会社 ミニバッチ学習装置とその作動プログラムおよび作動方法
JP6983451B1 (ja) * 2021-04-22 2021-12-17 株式会社Anamorphosis Networks 計数方法、計数システム、及び計数のためのコンピュータプログラム
JPWO2022239316A1 (ja) * 2021-05-11 2022-11-17
WO2022270179A1 (ja) * 2021-06-24 2022-12-29 富士フイルム株式会社 情報処理装置、情報処理方法、及びプログラム
CN117597430A (zh) * 2021-07-29 2024-02-23 株式会社岛津制作所 细胞图像分析方法
WO2023181129A1 (ja) * 2022-03-22 2023-09-28 株式会社ニコン 画像処理方法、及び画像処理装置
WO2023188417A1 (ja) * 2022-03-31 2023-10-05 ファナック株式会社 作業分析装置
CN117409194A (zh) * 2022-07-06 2024-01-16 北京字跳网络技术有限公司 图像语义分割模型优化方法、装置、电子设备及存储介质
CN116150800B (zh) * 2022-12-02 2024-03-29 深圳市众志天成科技有限公司 一种基于大数据的计算机信息安全监控系统及方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006349533A (ja) 2005-06-16 2006-12-28 Olympus Corp 画像処理装置および画像処理プログラム
WO2018189875A1 (ja) 2017-04-14 2018-10-18 株式会社日立ハイテクノロジーズ 撮像装置および形態特徴データ表示方法
US20190295260A1 (en) 2016-10-31 2019-09-26 Konica Minolta Laboratory U.S.A., Inc. Method and system for image segmentation using controlled feedback

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8442309B2 (en) * 2009-06-04 2013-05-14 Honda Motor Co., Ltd. Semantic scene segmentation using random multinomial logit (RML)
WO2012166840A2 (en) * 2011-06-01 2012-12-06 The Board Of Trustees Of The Leland Stanford Junior University Learning of image processing pipeline for digital imaging devices
CN105849274B (zh) 2013-10-28 2020-01-21 分子装置有限公司 用于显微图像中的单独细胞的分类和识别的方法和系统
GB2543030A (en) * 2015-09-23 2017-04-12 Pathxl Ltd Pattern driven image processing method & apparatus for tissue recognition
US10229322B2 (en) * 2017-04-06 2019-03-12 Ants Technology (Hk) Limited Apparatus, methods and computer products for video analytics
US20200085382A1 (en) * 2017-05-30 2020-03-19 Arterys Inc. Automated lesion detection, segmentation, and longitudinal identification
CN107563383A (zh) * 2017-08-24 2018-01-09 杭州健培科技有限公司 一种医学影像辅助诊断及半监督样本生成系统
CN108345890B (zh) * 2018-03-01 2022-10-28 腾讯科技(深圳)有限公司 图像处理方法、装置和相关设备
CN109145939B (zh) * 2018-07-02 2021-11-02 南京师范大学 一种小目标敏感的双通道卷积神经网络语义分割方法
DE102018217903A1 (de) * 2018-10-18 2020-04-23 Leica Microsystems Cms Gmbh Inferenz Mikroskopie
US10818386B2 (en) * 2018-11-21 2020-10-27 Enlitic, Inc. Multi-label heat map generating system
CN109598727B (zh) * 2018-11-28 2021-09-14 北京工业大学 一种基于深度神经网络的ct图像肺实质三维语义分割方法
CN110490081B (zh) * 2019-07-22 2022-04-01 武汉理工大学 一种基于聚焦权重矩阵与变尺度语义分割神经网络的遥感对象解译方法
CN110689623B (zh) * 2019-08-20 2020-12-18 重庆特斯联智慧科技股份有限公司 基于增强现实显示的游客导览系统及方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006349533A (ja) 2005-06-16 2006-12-28 Olympus Corp 画像処理装置および画像処理プログラム
US20190295260A1 (en) 2016-10-31 2019-09-26 Konica Minolta Laboratory U.S.A., Inc. Method and system for image segmentation using controlled feedback
WO2018189875A1 (ja) 2017-04-14 2018-10-18 株式会社日立ハイテクノロジーズ 撮像装置および形態特徴データ表示方法

Also Published As

Publication number Publication date
EP4036211A4 (en) 2022-11-09
US20220189149A1 (en) 2022-06-16
EP4036211A1 (en) 2022-08-03
WO2021059572A1 (ja) 2021-04-01
JPWO2021059572A1 (ja) 2021-04-01

Similar Documents

Publication Publication Date Title
JP7242882B2 (ja) 情報処理装置、情報処理装置の作動方法、情報処理装置の作動プログラム
CN110826519B (zh) 人脸遮挡检测方法、装置、计算机设备及存储介质
CN108520504B (zh) 一种基于生成对抗网络端到端的模糊图像盲复原方法
US11023806B2 (en) Learning apparatus, identifying apparatus, learning and identifying system, and recording medium
CN108229526B (zh) 网络训练、图像处理方法、装置、存储介质和电子设备
JP6362333B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US11669729B2 (en) Model training method and apparatus
WO2013116865A1 (en) Systems, methods, and media for updating a classifier
CN110879982A (zh) 一种人群计数系统及方法
US8571315B2 (en) Information processing apparatus, information processing method, and program
CN105678395B (zh) 神经网络的建立方法及系统和神经网络的应用方法及系统
JP7032913B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラム
JP2020160543A (ja) 情報処理システムおよび情報処理方法
JP6832252B2 (ja) 超解像装置およびプログラム
CN115272797A (zh) 分类器的训练方法、使用方法、装置、设备及存储介质
Zhao et al. Coarse–fine surrogate model driven multiobjective evolutionary fuzzy clustering algorithm with dual memberships for noisy image segmentation
US11900249B2 (en) Mini-batch learning apparatus, operation program of mini-batch learning apparatus, operation method of mini-batch learning apparatus, and image processing apparatus
JP2018185265A (ja) 情報処理装置、制御方法、及びプログラム
JP7138780B2 (ja) 画像処理装置とその作動方法および作動プログラム、運用装置とその作動方法および作動プログラム、並びに機械学習システム
US10467750B2 (en) Display control apparatus, display control method, and recording medium
JPWO2011033744A1 (ja) 画像処理装置、画像処理方法および画像処理用プログラム
WO2020116129A1 (ja) 前処理装置、前処理方法及び前処理プログラム
Shah et al. Kidney tumor segmentation and classification on abdominal CT scans
CN110473161A (zh) 创建图像链的方法
JP2021182320A (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230308

R150 Certificate of patent or registration of utility model

Ref document number: 7242882

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150