JP6898955B2 - 情報処理装置 - Google Patents

情報処理装置 Download PDF

Info

Publication number
JP6898955B2
JP6898955B2 JP2019013230A JP2019013230A JP6898955B2 JP 6898955 B2 JP6898955 B2 JP 6898955B2 JP 2019013230 A JP2019013230 A JP 2019013230A JP 2019013230 A JP2019013230 A JP 2019013230A JP 6898955 B2 JP6898955 B2 JP 6898955B2
Authority
JP
Japan
Prior art keywords
classification
image
sample
result
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019013230A
Other languages
English (en)
Other versions
JP2020123044A (ja
Inventor
喜美子 松岡
喜美子 松岡
茂樹 横山
茂樹 横山
平田 耕一
耕一 平田
一博 舘田
一博 舘田
満夫 賀来
満夫 賀来
Original Assignee
ケーディーアイコンズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ケーディーアイコンズ株式会社 filed Critical ケーディーアイコンズ株式会社
Priority to JP2019013230A priority Critical patent/JP6898955B2/ja
Publication of JP2020123044A publication Critical patent/JP2020123044A/ja
Application granted granted Critical
Publication of JP6898955B2 publication Critical patent/JP6898955B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Description

本発明は、感染症の治療を支援する技術に関する。
感染症の治療を支援する技術がある。例えば、特許文献1には、病原微生物に対して抗菌薬を優先的に選択すべきことを示す優先指数を、症例データをもとに判定する技術が開示されている。
特開2004−206555号公報
感染症にかかった際は早期に治療を施すことが望ましいが、病原菌の菌種を特定するためには培養及び機械検査等の作業が必要なため1日以上を要することが普通である。そこで、グラム染色された検体の画像から短時間で検体に含まれる細菌の菌種を絞り込んで早期の治療に取り掛かることも行われているが、適切に菌種を絞り込むことは経験が必要な難しい作業である。
そこで、本発明は、グラム染色された検体の画像から菌種を絞り込む作業を支援することを目的とする。
本発明は、グラム染色された検体の画像に含まれる細菌の画像に基づき人が行った当該細菌の分類の結果と当該細菌の画像の特徴との関係を学習して細菌の画像から当該細菌を分類する分類手段が検体の画像について分類した結果を、当該検体の画像に対応付けて記憶する記憶部と、グラム染色された新たな検体の画像を取得する取得部と、取得された前記新たな検体の画像について前記分類手段が分類した結果と類似する分類の結果に対応付けて記憶されている検体の画像を、当該新たな検体の画像から細菌を分類する作業を行う作業者の端末に、当該新たな検体の画像の分類結果を入力する入力欄の画像と共に出力する出力部とを備える情報処理装置を提供する。
また、前記記憶部は、前記検体の画像に対応付けて、当該検体の画像について人が行った細菌の分類結果を記憶し、前記出力部は、出力対象の前記検体の画像について人が行った分類結果を当該検体の画像と共に出力してもよい
また、前記記憶部は、前記検体の画像に写っている検体に含まれる細菌の同定結果を当該画像に対応付けて記憶し、前記出力部は、出力対象の画像に対応付けて記憶されている前記同定結果を当該画像と共に出力してもよい
また、前記分類手段には、互いに異なる機械学習の手法により分類を行う第1分類手段及び第2分類手段が含まれ、前記出力部は、前記検体の画像に対する前記第1分類手段による分類結果と類似する前記分類に対応付けて記憶されている前記検体の画像と、当該検体の画像に対する前記第2分類手段による分類結果と類似する前記分類に対応付けて記憶されている前記検体の画像とを出力してもよい。
また、同一の検体について異なる箇所の複数の画像が撮影された場合に、当該複数の画像から、前記分類手段による分類結果が所定の条件を満たすものを特定する特定部を備え、前記取得部は、前記特定部により特定された画像を前記新たにグラム染色された検体の画像として取得してもよい。
また、前記条件は、前記分類手段による分類が不能な細菌の割合が閾値未満となる場合に満たされてもよい。
また、前記分類手段には、互いに異なる機械学習の手法により分類を行う第1分類手段及び第2分類手段が含まれ、前記条件は、前記検体の画像に対する前記第1分類手段による分類結果と当該検体の画像に対する前記第2分類手段による分類結果との差分が所定のレベル未満となる場合に満たされてもよい。
本発明によれば、グラム染色された検体の画像から菌種を絞り込む作業を支援することができる。
実施例に係る医療情報システムの全体構成を表す図 サーバ装置のハードウェア構成を表す図 ユーザ装置のハードウェア構成を表す図 医療情報システムにおいて実現される機能構成を表す図 細菌分類画面の一例を表す図 検体画像記憶部が記憶する情報の一例を表す図 新たな検体画像のための細菌分類画面の一例を表す図 記憶処理における動作の手順の一例を表す図 出力処理における動作の手順の一例を表す図 同定結果入力画面の一例を表す図 変形例の検体画像記憶部が記憶する情報の一例を表す図 変形例において実現される機能構成を表す図 変形例において記憶される情報の一例を表す図 変形例の細菌分類画面の一例を表す図 変形例において実現される機能構成を表す図
[1]実施例
図1は実施例に係る医療情報システム1の全体構成を表す。医療情報システム1は、自システムのユーザである医師や看護師などの医療従事者に対して医療に関する情報を提供するためのシステムである。医療情報システム1は、本実施例では、感染症の治療に用いる治療薬を決定する際の参考となる情報(以下「参考情報」という)をユーザに提供する。
医療情報システム1は、ネットワーク2と、サーバ装置10と、ユーザ装置20とを備える。ネットワーク2は、装置間のデータのやり取りを仲介するシステムであり、例えば、医療施設内に設けられたLAN(Local Area Network)である。ネットワーク2にはサーバ装置10及びユーザ装置20が接続されている。なお、ネットワーク2と各装置の接続は図1では有線接続で表されているが、無線接続であってもよい。
ユーザ装置20は、ユーザによる情報の入力を受け付けたり、サーバ装置10から提供される情報を表示したりする情報処理装置であり、ユーザが医療情報を利用する際のインターフェースとして機能する。サーバ装置10は、ユーザ装置20から送られてくる情報を処理する情報処理装置であり、処理した情報を医療情報としてユーザ装置を介してユーザに提供する装置である。サーバ装置10は、この医療情報のひとつとして、前述した参考情報をユーザに提供する。
図2はサーバ装置10のハードウェア構成を表す。サーバ装置10は、制御部11と、記憶部12と、通信部13とを備えるコンピュータである。制御部11は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)及びリアルタイムクロックを備えている。
CPUは、RAMをワークエリアとして用いてROMや記憶部12に記憶されたプログラムを実行することによって記憶部12及び通信部13の動作を制御する。リアルタイムクロックは、現在の日時を算出する分類機能を有している。記憶部12は、ハードディスク等を備え、制御部11が制御に用いるデータやプログラムなどを記憶する。通信部13は、ネットワーク2を介して通信を行うための通信回路を備え、ネットワーク2を介したデータの送信及び受信を行う。
図3はユーザ装置20のハードウェア構成を表す。ユーザ装置20は、制御部21と、記憶部22と、通信部23と、表示部24と、操作部25とを備えるコンピュータである。制御部21は制御部11と同種のハードウェアである。記憶部22は記憶部12と同種のハードウェアであり、通信部23は通信部13と同種のハードウェアである。表示部24は、例えば液晶ディスプレイを有し、制御部21が行う制御に基づいて表示面に画像を表示する。操作部25は、キーボード及びマウス等の操作子を備え、ユーザの操作に応じてその操作の内容を表す操作データを制御部21に供給する。
サーバ装置10及びユーザ装置20の各記憶部には、医療情報をユーザに提供する機能を実現するためのプログラムが記憶されており、このプログラムが実行されることで以下に述べる機能が実現される。なお、医療情報等の各種の情報はデータ化してやり取りされるが、以下では、データを送信し又は受信することを単にそのデータが示す情報を送信し又は受信するとも言う。
図4は医療情報システム1において実現される機能構成を表す。サーバ装置10は、検体画像取得部101と、検体画像記憶部102と、検体画像出力部103と、分類結果取得部104と、分類部105と、類似分類画像抽出部106とを備える。ユーザ装置20は、検体画像入力部201と、検体画像表示部202と、分類結果入力部203と、類似分類画像表示部204とを備える。
ユーザ装置20の検体画像入力部201は、グラム染色された検体の画像をサーバ装置10に入力する。検体とは、検査の対象となる物体のことであり、例えば患者から採取される血液、体液及び細胞等のことである。グラム染色とは、スライドグラスに塗抹した検体に染色及び脱色等を施すことで、紫色〜濃紺色に染まるグラム陽性菌と淡赤色〜紅色に染まるグラム陰性菌とを見分ける手法のことである。
グラム染色した検体を顕微鏡で1000倍程度に拡大してデジタルカメラで撮影した画像がグラム染色された検体の画像である。以下では「検体画像」と言えばグラム染色されて拡大して撮影された検体の画像のこと言うものとする。検体画像を示す検体画像データがユーザ装置20に取り込まれると、検体画像入力部201は、取り込まれた検体画像データに検体に関する基礎情報(患者名、患者番号、検体の種類及び採取日時等)を付加してサーバ装置10に送信することで、検体画像の入力を行う。
サーバ装置10の検体画像取得部101は、送信されてきた検体画像データを受け取ることで、検体画像入力部201により入力された、グラム染色された検体の画像を取得する。検体画像取得部101は本発明の「取得部」の一例である。検体画像取得部101は、取得した検体の画像を示す検体画像データを検体画像記憶部102に供給する。検体画像記憶部102は、供給された検体画像データが示す検体の画像を記憶する。
検体画像出力部103は、検体画像記憶部102に記憶されている検体画像を出力する。検体画像出力部103は、例えば、ユーザ装置20から特定の患者の検体画像の一覧を要求されると、その患者の患者番号を含む検体画像データを検体画像記憶部102から読み出してユーザ装置20に対して出力する。ユーザ装置20の検体画像表示部202は、サーバ装置10から出力されてきた検体画像を表示する。
検体画像の表示は、例えば感染症患者の診療において感染症の原因となる細菌の大まかな種類を分類するために行われる。検体画像表示部202は、検体画像に含まれる細菌の画像からその細菌を分類するための画面を表示する。
図5は細菌分類画面の一例を表す。図5の例では、検体画像表示部202は、検体が採取された患者の患者番号及びその患者の検体の複数のサムネイル画像を細菌分類画面に表示している。
また、検体画像表示部202は、選択されたサムネイル画像(輪郭が太くなっている画像)を拡大した検体画像B1と、分類結果を入力する入力欄C1とを表示している。入力欄C1は、「グラム陽性球菌」、「グラム陰性球菌」、「グラム陽性桿菌」、「グラム陰性桿菌」及び「不明」という5つの種類のそれぞれに分類される細菌の割合を入力する欄となっている。図5の例では、「グラム陽性球菌」が20%、「グラム陰性桿菌」が80%で、残りの種類は0%と入力されている。
割合の入力は、通常は医療従事者によって行われる。分類の割合は、例えば分類毎の細菌の面積を合計した値の割合を表す。ここでいう面積は、検体画像において細菌と思われる領域の面積のことであり、検体画像全体の面積のことではない。そのため、全ての細菌が分類可能であれば、割合の合計は100%となる。但し、細菌と思われるが分類が不能な形状及び色の領域がある場合は、「不明」として分類される。
なお、分類の割合は、分類毎の細菌の個数の割合を表していてもよい。その場合は、検体画像において細菌と思われる物体の個数が対象となる。面積及び個数のいずれの場合も、細菌分類画面で入力される割合は、人が画像を目で見て判断する値なので、1%単位まで正確に表される必要はない。本実施例では、人による分類結果が10%単位で表されるものとする。こうして分類された結果は、次のように役立てられる。
例えばグラム陽性球菌には、ブドウ球菌及び肺炎球菌等が含まれる。グラム陽性球菌が多く見つかった場合は、セフェム系抗生物質を投与することが考えられる。また、グラム陰性球菌には、淋菌及び骨膜炎菌等が含まれる。グラム陰性球菌が多く見つかった場合は、レボフロキサシン系又はβラクタム系の抗生物質を投与することが考えられる。また、グラム陰性球菌には、炭疽菌等が含まれる。グラム陰性球菌が多く見つかった場合は、ペニシリンを投与することが考えられる。
また、グラム陽性桿菌には、大腸菌、赤痢菌及び緑膿菌等が含まれる。グラム陽性桿菌が多く見つかった場合は、ホスホマイシン又はセフェム系抗生物質を投与することが考えられる。このように、検体に含まれる細菌を上記の4種類に分類することができれば、患者に対して迅速な治療を施すことができる。その結果、細菌が同定されるまで1日以上待ってから治療するよりも、重篤な症状になる前に回復させることが期待できる。
検体画像表示部202は、細菌分類画面において各分類の割合が入力された状態で入力ボタンが押されると、入力された割合及び分類を対応付けた分類結果入力データを、表示した検体画像の検体画像データを共に分類結果入力部203に供給する。分類結果入力部203は、供給された検体画像データ及び分類結果入力データをサーバ装置10に送信することで、検体画像に含まれる細菌の画像に基づき人が行った分類の結果をサーバ装置10に入力する。
サーバ装置10の分類結果取得部104は、送信されてきた検体画像データ及び分類結果入力データを受け取ることで、分類結果入力部203により入力された分類の結果を取得する。分類結果取得部104は、受け取った検体画像データ及び分類結果入力データを検体画像記憶部102に供給する。
検体画像記憶部102は、供給された検体画像データを既に記憶しているので、その検体画像データに対応付けて供給された分類結果入力データを記憶する。こうして記憶された分類結果入力データは、グラム染色された検体の画像に含まれる細菌の画像(特に細菌の画像の色及び形状等)に基づき人が行った細菌の分類の結果を示すデータである。
図5の説明で述べた細菌の分類は前述したとおり医療従事者によって行われるが、検体画像に含まれる細菌は立体的な形を2次元で捉えたものであるため細菌の向きによって形が変化する。また、他の細菌及び赤血球等と重なって見えることもあるため、正確な形状を把握することが難しく、正しく分類を行うためには多くの経験が必要である。しかし、いつも経験豊富な医療従事者が分類の作業をできるわけではない。
そこで、医療情報システム1においては、細菌分類の経験不足を補うために、機械による分類結果を活用する。サーバ装置10の分類部105は、検体画像に含まれる細菌の画像の特徴からその細菌を分類する。分類部105は、例えば、周知の画像処理技術及びパターン認識技術を用いて検体画像からの細菌の分類を行う。本実施例では、分類部105は、SVM(Support Vector Machine)と呼ばれる学習式のパターン認識技術を用いる。
検体画像記憶部102には、上記のとおり人が行った分類結果が検体画像に対応付けて記憶されている。分類部105は、検体画像記憶部102から人が行った分類結果を読み出して、例えばRGB色空間フィルタ、グレースケール化、二値化、モルフォロジー演算及びエッジ検出等の画像処理を行い、画像中の細菌を表す領域を認識する。続いて、分類部105は、細菌領域の特徴量として、例えば面積、縦横比、色及び円形度等を算出する。
分類部105は、各検体画像において算出された特徴量と、人が行った分類結果との関係から、各細菌分類と特徴量との関係を学習し、学習した関係を示すアルゴリズムを生成する。生成されたアルゴリズムは、特徴量を入力すると細菌の分類を出力するものである。分類部105は、こうして生成したアルゴリズムを用いて、記憶されている検体画像の全てについて細胞を分類する分類処理を行う。なお、細菌を表す領域の認識方法、特徴量の算出方法及びアルゴリズムの生成方法は、上述した方法以外の周知の方法が用いられてもよい。
分類部105は、認識された細菌領域毎に細菌を分類し、検体画像全体における細菌の分類毎の割合を算出する。分類部105は、例えば、分類毎の細菌の面積を合計した値の割合を算出する。なお、分類部105は、分類毎の細菌の個数の割合を算出してもよい。面積及び個数のどちらを用いるかは、上述した人が行う分類と同じ方を選ぶことが望ましい。
分類部105は、算出した割合を分類処理の結果として示す分類結果データを、分類に用いた検体画像を示す検体画像データに対応付けて検体画像記憶部102に記憶させる。以上のとおり、検体画像記憶部102は、人が細菌の画像に基づいて行った細菌の分類の結果とその細菌の画像の特徴との関係を学習した分類部105が検体画像について分類した結果をその検体画像に対応付けて記憶する。分類部105は本発明の「分類手段」の一例であり、検体画像記憶部102は本発明の「記憶部」の一例である。
また、検体画像記憶部102は、学習で用いられた検体画像、すなわち、人が分類を行った検体画像に対応付けて、その検体画像について人が行った分類結果も記憶する。つまり、検体画像記憶部102は、人が行った分類結果(以下「第1分類結果」という)と、分類部105により行われた分類結果(以下「第2分類結果」という)とを、その分類の対象となった検体画像に対応付けて記憶する。
図6は検体画像記憶部102が記憶する情報の一例を表す。図6の例では、検体画像記憶部102は、検体に関する基礎情報と、検体画像と、第1分類結果と、第2分類結果とを対応付けて記憶している。第1分類結果及び第2分類結果は、それぞれ「グラム陽性球菌」、「グラム陰性球菌」、「グラム陽性桿菌」、「グラム陰性桿菌」及び「不明」という5つの分類の割合(%)を並べて表されている。
例えば「20、0、0、80、0」及び「30、10、50、0、10」という第1分類結果には、「15、0、0、85、0」及び「40、0、60、0、0」という第2分類結果が対応付けて記憶されている。分類部105は、検体画像の解像度次第で細かい単位(1%単位等)で割合を算出することができるが、本実施例では、計算を簡単にするため、人の分類よりも少しだけ細かい5%単位で割合を算出するようにしている。
第2分類結果は、図6の例で表されているように、必ずしも第1分類結果と完全に同じにはなるわけではない。しかし、分類部105は、第1分類結果に基づいて分類を学習しているので、分類結果の大まかな傾向は第1分類結果及び第2分類結果で共通することになる。ここまでは、実際の細菌の分類業務を支援する準備のために用いられる構成の説明である。続いて、実際に患者の検体画像から細菌を分類して治療方針を立てる際に用いられる構成を説明する。
分類部105には、検体画像取得部101から取得された新たな検体の画像を示す検体画像データが供給される。分類部105は、検体画像取得部101により取得された新たな検体の画像について細菌を分類する。具体的には、分類部105は、新たな検体の画像についても上述した画像処理を施して特徴量を算出し、算出した特徴量を上記アルゴリズムに入力して細菌の分類を出力させる分類処理を行う。
分類部105は、分類処理の結果を示す分類結果データを、分類処理に用いた検体画像データと共に類似分類画像抽出部106に供給する。類似分類画像抽出部106は、供給された分類結果データが示す結果、すなわち、検体画像取得部101により取得された新たな検体の画像について分類部105が分類した結果(以下「新分類結果」という)、と類似する分類に対応付けて検体画像記憶部102に記憶されている検体の画像を抽出して(読み出して)出力する。類似分類画像抽出部106は本発明の「出力部」の一例である。
類似分類画像抽出部106は、例えば、供給された分類結果データが示す新分類結果との数値の差分が小さい方から所定の個数だけの第2分類結果を、新分類結果に類似する第2分類結果(以下「類似分類結果」という)として特定する。数値の差分とは、例えば、5つの分類の数値のそれぞれの差分の絶対値を合計した値である。なお、差分の算出方法はこれに限らず、例えば、5つの分類の数値の差分をそれぞれ二乗した値を合計して算出してもよい。
また、類似分類画像抽出部106は、類似分類結果が所定の個数になる前に差分の合計値が閾値以上になった場合は類似するとは言えないので、所定の個数に足りなくても類似分類結果の特定を終わらせてもよい。類似分類画像抽出部106は、特定した類似分類結果に対応付けて検体画像記憶部102に記憶されている検体の画像を抽出する。また、類似分類画像抽出部106は、特定した類似分類結果に対応付けて検体画像記憶部102に記憶されている第1分類結果及び検体の基礎情報も抽出する。
類似分類画像抽出部106は、抽出した第1分類結果及び基礎情報を、新部類結果及び特定した類似分類結果と、抽出した検体画像と共にユーザ装置20に対して出力する。ユーザ装置20の類似分類画像表示部204は、サーバ装置10から出力されてきた検体画像、基礎情報、第1分類結果及び第2分類結果(新分類結果及び類似分類結果)を表示する。類似分類画像表示部204は、検体画像等を、例えば、新たな検体画像の細菌を分類するための画面に含めて表示する。
図7は新たな検体画像のための細菌分類画面の一例を表す。図7の例では、類似分類画像表示部204は、新たな検体画像B11と、検体画像B11の分類結果を入力する入力欄C11と、検体画像B11の第2分類結果D11(新分類結果のこと)とを表示している。第2分類結果D11は「70、10、10、10、0」という分類の割合を表している。
また、類似分類画像表示部204は、「分類結果が類似する検体画像」として、検体画像B12及びB13を表示し、検体画像B12及びB13の第1分類結果C12及びC13と、検体画像B12及びB13の第2分類結果D12及びD13(類似分類結果のこと)とを表示している。第2分類結果D12は「70、10、10、10、0」という分類の割合を表し、第2分類結果D13は「70、10、15、5、0」という分類の割合を表している。
第2分類結果D12は第2分類結果D11と完全に一致しており、第2分類結果D13は第2分類結果D11との差分が10となっている。本実施例では前述したとおり第1分類結果が10%単位で第2分類結果が5%単位なので、「10」という差分は「0」の次に小さい差分となる。なお、分類結果が類似する検体画像が他にもある場合は、類似分類画像表示部204は、画面のスクロール又は切り替え等をさせることで残りの類似する検体画像を表示する。
以上のとおり、新たな検体画像に対する機械による分類結果である第2分類結果が出力されることで、新たな検体画像を分類する際の参考になる。また、新たな検体画像と分類結果が類似する検体画像(図7の例では検体画像B12及びB13)が表示されることで、新たな検体画像と細菌の色、形及び配分が似ていると思われるそれらの検体画像も参考にしながら分類を行うことができる。
また、類似する検体画像の第1分類結果が出力されることで、類似する検体画像に対して人が判断した分類結果を参考にすることもできる。また、類似する検体画像の第2分類結果が出力されることで、検体画像が新たな検体画像に類似する度合いを考慮しながら参考にすることができる(図7の例であれば、新たな検体画像B11と第2分類結果が完全に同一の検体画像B12を最も参考にする等)。
また、類似分類画像表示部204は、各検体画像に含まれる検体に関する基礎情報を表示するための基礎情報ボタンE11、E12、E13を表示している。これらの基礎情報ボタンが押されると、類似分類画像表示部204は、対応する検体の基礎情報を表示する。このように検体の基礎情報が出力されることで、例えば検体の種類(血液又は尿等)の同異を考慮して分類を行うことができる。なお、図7に表す表示方法は一例であり、表示領域の広さに応じてスクロール及び画面切り替えを活用して各情報を表示させればよい。
医療情報システム1は、以上の構成に基づき、検体画像の分類結果を記憶する記憶処理と、分類結果が類似する検体画像等を出力する出力処理とを行う。
図8は記憶処理における動作の手順の一例を表す。図8に表す手順は、例えばユーザがユーザ装置20に対して検体画像を入力する操作を行うことを契機に開始される。記憶処理において入力される検体画像は、迅速な治療が必要な患者の検体画像であってもよいし、過去に撮影された検体画像であってもよい。
まず、ユーザ装置20(検体画像入力部201)は、検体画像及び基礎情報の入力操作を受け付けると(ステップS11)、入力された検体画像及び基礎情報をサーバ装置10に送信する(ステップS12)。サーバ装置10(検体画像取得部101)は、送信されてきた検体画像及び基礎情報を取得する(ステップS13)。次に、サーバ装置10(検体画像記憶部102)は、取得された検体画像を記憶する(ステップS14)。
続いて、サーバ装置10(検体画像出力部103)は、ユーザ装置20からの要求に応答して、自装置に記憶されている検体画像をユーザ装置20に対して出力する(ステップS21)。ユーザ装置20(検体画像表示部202)は、サーバ装置10から出力されてきた検体画像を表示する(ステップS22)。次に、ユーザ装置20(検体画像表示部202)は、表示した検体画像に対する分類の入力操作を受け付ける(ステップS23)。
続いて、ユーザ装置20(分類結果入力部203)は、受け付けられた入力操作による分類結果(第1分類結果)をサーバ装置10に送信する(ステップS24)。サーバ装置10(分類結果取得部104及び検体画像記憶部102)は、送信されてきた第1分類結果を検体画像に対応付けて記憶する(ステップS25)。次に、サーバ装置10(分類部105)は、記憶された検体画像の特徴からその検体画像に含まれる細菌を分類する分類処理を行う(ステップS31)。
そして、サーバ装置10(検体画像記憶部102)は、分類処理による第2分類結果を検体画像に対応付けて記憶する(ステップS32)。なお、ステップS11〜S14までの動作(検体画像の記憶)と、ステップS21〜S25までの動作(第1分類結果の記憶)と、ステップS31、S32の動作(第2分類結果の記憶)は、図8に表すように連続して行われてもよいし、それぞれ別のタイミングで行われてもよい。
図9は出力処理における動作の手順の一例を表す。図9に表す手順は、例えばユーザがユーザ装置20に対して新たな検体画像を入力する操作を行うことを契機に開始される。出力処理では、迅速な治療が必要な患者の検体画像が入力される。ステップS41からS43までは、ステップS11からS13までの動作を同じである。次に、サーバ装置10(分類部105)は、取得された新たな検体画像に含まれる細菌を分類する分類処理を行う(ステップS44)。
続いて、サーバ装置10(類似分類画像抽出部106)は、新たな検体画像の分類結果(新分類結果)と類似する分類に対応付けて記憶されている検体画像を抽出し(ステップS45)、出力した検体画像をユーザ装置20に対して出力する(ステップS46)。ユーザ装置20(類似分類画像表示部204)は、出力されてきた検体画像、すなわち、新たな検体画像と分類結果が類似する検体画像等を表示する(ステップS47)。
本実施例では、上記のとおり、グラム染色された検体の画像から菌種を絞り込む作業を行う際に、上記の各情報(新分類結果、類似分類結果、新たな検体画像に分類結果が類似する検体画像及び検体の基礎情報)が出力される。そして、出力された各情報を作業者が参考にすることで、菌種を絞り込む作業を支援することができる。
[2]変形例
上述した実施例は本発明の実施の一例に過ぎず以下のように変形させてもよい。また、上述した実施例及び以下に示す各変形例は必要に応じて組み合わせて実施してもよい。
[2−1]出力情報
実施例では、新たな検体画像が取得された際に、図7に表す各情報が出力されたが、出力される情報はこれに限らない。例えば、検体画像に含まれる細菌については、通常は、培養された後に同定試験にかけられて菌種が同定されるので、その同定結果が出力されてもよい。
本変形例では、例えば、検体画像表示部202が、検体画像に写っている検体に含まれる細菌の同定結果を入力する入力画面を表示する。なお、細菌の同定は検体を用いて行うが、同定が行われる部分(培養される部分)と検体画像に写っている部分(グラム染色された部分)とは、厳密に言えば検体のうちの異なる部分である。しかし、検体自体は共通のものが用いられるので、含まれている細菌も概ね共通すると言える。
図10は同定結果入力画面の一例を表す。図10の例では、検体画像表示部202は、同定結果入力画面に、検体画像B1と、同定結果の入力欄C2とを表示している。入力欄C2には、菌名及び一致率が同定結果として入力される。細菌の同定試験は利用施設内又は検査会社で行われ、その同定結果がユーザ(主に医療従事者)に通知される。ユーザは、通知された同定結果を、ユーザ装置20を操作して入力する。
なお、同定結果がデータで提供される場合には、提供されたデータをユーザ装置20に読み込ませて同定結果が入力されてもよい。同定結果が入力された状態で入力ボタンが押されると、入力された同定結果を示す同定結果データが例えば分類結果入力部203によってサーバ装置10に送信される。
検体画像記憶部102は、送信されてきた同定結果データが示す同定結果、すなわち、検体画像に写っている検体に含まれる細菌の同定結果をその検体画像に対応付けて記憶する。
図11は本変形例で記憶される情報の一例を表す。図11の例では、検体画像記憶部102は、図6に表す各情報に加えて、同定結果を検体画像に対応付けて記憶している。
本変形例では、類似分類画像抽出部106が、特定した類似分類結果に対応付けて記憶されている検体画像、すなわち、出力対象の検体画像に対応付けて記憶されている同定結果を抽出し、その検体画像と共にユーザ装置20に対して出力する。類似分類画像表示部204は、出力されてきた検体画像及び類似分類結果等に加え、同定結果を表示する。このように同定結果が出力されることで、ユーザは、検体に実際に含まれていた菌種まで参考にして分類を行うことができる。
[2−2]分類部
分類部105は、実施例では、SVMと呼ばれる機械学習の手法を用いたが、これに限らない。分類部105は、例えば、ニューラルネットワーク(Neural Network)、その階層をさらに深くした深層学習(Deep Learning)、クラスタ分析又はベイジアンネットワーク等の機械学習の手法を用いてもよい。
また、分類部105は、2以上の機械学習の手法を用いてそれぞれ分類を行ってもよい。
図12は本変形例において実現される機能構成を表す。図12では、図4に表す分類部105に代えて、第1分類部151及び第2分類部152を有する分類部105aを備えるサーバ装置10aが表されている。第1分類部151及び第2分類部152は、いずれも検体画像に含まれる細菌の画像の特徴からその細菌を分類する機能であるが、用いる分類方法が互に異なっている。
例えば、第1分類部151は、実施例と同じくSVMを機械学習の手法として用いて、第2分類部152は、深層学習を機械学習の手法として用いるものとする。第1分類部151は本発明の「第1分類手段」の一例であり、第2分類部152は本発明の「第2分類手段」の一例である。第1分類部151及び第2分類部152は、それぞれ実施例で述べた分類部105と同じ動作を行う。
その結果、検体画像記憶部102は、検体画像に対応付けて、その検体画像に写っている細菌の第1分類部151による分類結果(以下「第1結果」という)及び第2分類部152による分類結果(以下「第2結果」という)を記憶する。
図13は本変形例において記憶される情報の一例を表す。図13の例では、検体画像記憶部102は、図6に表す第2分類結果に代えて、第1結果及び第2結果を検体画像及び第1分類結果に対応付けて記憶している。
例えば「20、0、0、80、0」という第1分類結果には、「15、0、0、85、0」第1結果と、「25、0、0、75、0」第2結果とが対応付けて記憶されている。このように、第1結果及び第2結果は、同じ検体画像を分類した結果であるが、用いられる機械学習の手法が異なるため、必ずしも同じ結果にはならない。そのため、第1分類部151及び第2分類部152が新たな検体画像について細菌をそれぞれ分類した場合、異なる分類結果になることがある。
そこで、類似分類画像抽出部106は、第1分類部151による分類結果と類似する分類に対応付けて記憶されている検体画像(以下「第1類似画像」という)と、第2分類部152による分類結果と類似する分類に対応付けて記憶されている検体画像(以下「第2類似画像」という)とをそれぞれ出力する。ここで、類似分類画像抽出部106は、第1類似画像及び第2類似画像を区別可能な態様で出力する。
類似分類画像表示部204は、出力されてきた第1類似画像及び第2類似画像を表示する。
図14は本変形例の細菌分類画面の一例を表す。図14の例では、類似分類画像表示部204は、新たな検体画像B11と、検体画像B11に第1結果が類似する検体画像(第1類似画像)として検体画像B12及びB13と、検体画像B11に第2結果が類似する検体画像(第2類似画像)として検体画像B22及びB23とを表示している。
図14の例では、上段領域F1に検体画像B12及びB13が表示され、下段領域F2に検体画像B22及びB23が表示されている。このように、表示領域を異ならせることで、第1類似画像及び第2類似画像が区別可能な態様で表されている。なお、区別可能な態様はこれに限らない。例えば、第1類似画像及び第2類似画像の枠又は背景を異ならせることで区別可能としてもよいし、第1類似画像及び第2類似画像にそれぞれタグの画像を付すことで区別可能としてもよい。
本変形例では、第1類似画像及び第2類似画像が出力されることで、より参考になりそうな類似画像を選んで参考にすることができる。なお、類似分類画像抽出部106は、実施例と同様に、各類似画像についての第1分類結果及び第2分類結果(新分類結果及び類似分類結果)も出力している。例えば第1分類結果及び第2分類結果の差分が小さいほど、人による分類結果と機械による分類結果とが近いことになり、機械による分類の精度が高いと考えられる。
そこで、ユーザは、第1類似画像及び第2類似画像のうち、第1分類結果及び第2分類結果の差分が小さい方の類似画像を参考にすればよい。このように、本変形例においては、分類結果が出力されない場合に比べて、第1類似画像及び第2類似画像のうち、より参考になる方の類似画像を判断しやすくなっている。
[2−3]分類結果
実施例では、「グラム陽性球菌」、「グラム陰性球菌」、「グラム陽性桿菌」、「グラム陰性桿菌」及び「不明」という5つの種類に細菌が分類されたが、これに限らない。例えば、単なる「不明」ではなく、「グラム陽性不明」及び「グラム陰性不明」というように、色による分類は行ったが形状による分類が不明であることを表す分類が行われてもよい。
また、「球菌不明」及び「桿菌不明」というように、形状による分類は行ったが色による分類が不明であることを表す分類が行われてもよい。また、「グラム陽性」、「グラム陰性」、及び「不明」という色に基づく3つの種類に細菌が分類されてもよいし、「球菌」、「桿菌」、及び「不明」という形状に基づく3つの種類に細菌が分類されてもよい。要するに、グラム染色された検体の画像を用いて可能な細菌の分類であれば、どのような分類が行われてもよい。
また、実施例では、上記のとおり分類される細菌の面積の割合又は個数の割合が分類結果として表されたが、これに限らず、例えば各分類の細菌の有無だけが分類結果として表されてもよい。この場合、例えば「グラム陽性球菌:あり」、「グラム陰性球菌:なし」、「グラム陽性桿菌:あり」、「グラム陰性桿菌:なし」というような分類結果が表されることになる。このように各分類の細菌の有無が分かるだけでも、迅速な治療に役立てることができる。
[2−4]分類結果の類似判断
実施例では、類似する分類結果を判断するため、各分類の割合の数値の差分を用いたが、これに限らない。例えば上記変形例のように各分類の細菌の有無だけが分類結果として表される場合は、各分類の細菌の「あり」と「なし」の組合せが全て一致する場合だけ分類結果が類似すると判断されてもよいし、1つだけ異なる場合までは類似すると判断されてもよい。要するに、分類結果の表し方に応じて類似の判断がされればよい。
[2−5]検体画像
検体画像記憶部102が記憶する検体画像は、基本的には、医療情報システム1が情報を提供する医療施設の患者から採取された検体の画像であり、診察の際に治療方針を決めるために採取された検体の画像である。従って、いずれの検体画像も、図9に表す新たな検体画像として取得され、その分類結果が治療方針を決める際の参考として用いられる。
但し、これに限定する必要はなく、例えば分類がされていないが過去に採取された検体の検体画像が残っているのであれば、人及び分類部105に分類させた上で検体画像記憶部102に記憶させてもよい。また、他の医療施設で採取された検体の検体画像であっても、検体画像記憶部102に記憶させてもよい。検体画像が少ない医療施設では、こうして記憶された検体画像を増やすことで、分類の参考になる検体画像が出力されやすいようにしてもよい。
[2−6]検体画像の特定
検体画像は、上述したように検体を1000倍程度に拡大した画像である。そのため、スライドグラス上の検体の量はわずかであるが、どの部分を撮影するかによって含まれる細菌が異なり、分類のしやすさも異なってくる。そこで、検体画像として適当な箇所の画像を取得することを支援する処理が行われてもよい。
図15は本変形例において実現される機能構成を表す。図15では、図4に表す各部に加えて検体画像特定部107を備えるサーバ装置10bが表されている。検体画像特定部107は、同一の検体について異なる箇所の複数の検体画像が撮影された場合に、それらの複数の検体画像から、分類部105による分類結果が所定の条件を満たすものを特定する。検体画像特定部107は本発明の「特定部」の一例である。
分類部105は、実施例で述べたように、「不明」という分類が不能な細菌の割合も算出する。所定の条件としては、この「不明」の割合が閾値未満となる場合に満たされる条件が用いられる。本変形例では、サーバ装置10bを、検体画像を特定するための画像特定モードで動作させることができる。画像特定モードでは、ユーザが同じ検体について撮影した複数の検体画像を入力する操作を行うと、検体画像取得部101が、取得したそれら複数の検体画像を示す検体画像データを、検体画像記憶部102ではなく一旦検体画像特定部107に供給する。
検体画像特定部107は、供給された複数の検体画像を分類部105に供給し、分類処理を行うよう指示する。分類部105は、供給された複数の検体画像について分類処理を行い、その分類結果を検体画像特定部107に供給する。検体画像特定部107は、供給された分類結果に含まれる「不明」の割合が閾値未満である検体画像を、上記条件を満たす検体画像として特定する。
検体画像特定部107は、特定した検体画像を示す検体画像データのみを検体画像取得部101に供給する。検体画像取得部101は、供給された検体画像データが示す検体画像、すなわち、検体画像特定部107により特定された検体画像を新たにグラム染色された検体画像として取得する。検体画像取得部101は、こうして取得した検体画像を示す検体画像データを検体画像記憶部102に供給する。
分類部105による分類結果が「不明」の割合が大きい検体画像は、画像に含まれている細菌の色又は形状が分類に適していない可能性が高い。本変形例では、そのような検体画像は新たな検体画像として取得されないので、検体画像の特定が行われない場合に比べて、人が分類しやすいようにすることができる。また、検体画像の特定を人が行う手間も省くことができる。
なお、所定の条件は上記条件に限らない。例えば、複数の検体画像のうち、「不明」の割合が小さい方から所定の順番までの画像である場合に満たされる条件が用いられてもよい。この場合、人が分類しやすい方から順番に所定の枚数の検体画像を取得させることができる。また、分類部105による分類結果として、図12に表す第1分類部151による第1結果と、第2分類部152による第2結果とが用いられてもよい。
その場合、所定の条件としては、例えば、第1結果と第2結果との差分が所定のレベル未満となる場合に満たされる条件が用いられる。例えば、第1結果が「15、0、0、85、0」で第2結果が「20、0、5、75、0」である場合、各分類の差分の絶対を合計した(20−15)+(0−0)+(5−0)+(85−75)+(0−0)=20が第1結果と第2結果との差分として算出される。
所定のレベルとして例えば「15」という閾値が定められた場合、「20」という差分が算出された検体画像は、条件を満たすので検体画像特定部107によって特定される。なお、差分の求め方はこれに限らず、例えば各分類の割合の差分を二乗してから合計したり、各分類の割合の差分が所定の範囲を超えるものは異常値として合計しないようにしたりしてもよい。
いずれの場合も、第1結果と第2結果との差分が十分に小さい場合、すなわち、第1分類部151及び第2分類部152のどちらを用いても同じような分類結果が安定して得られる検体画像が特定されることになる。こうして特定される検体画像は、特定されない検体画像に比べて、細菌が分類しやすい状態で含まれていると考えられる。よって、本変形によれば、第1結果及び第2結果という2つの分類結果を用いない場合に比べて、さらに人が分類しやすいようにすることができる。
[2−7]出力方法
2つの出力部(検体画像出力部103及び類似分類画像抽出部106)は、実施例ではユーザ装置20に対して検体画像等を出力したが、これに限らない。各出力部は、例えば、サーバ装置10にディスプレイ等の表示手段が接続されている場合に、その表示手段に対して検体画像等を出力してもよい。また、各出力部は、ユーザの電子メールアドレスやSNS(Social Networking Service)のアカウントなどのユーザに対応する宛先に対して検体画像等を出力してもよい。要するに、出力された検体画像等をユーザが確認できるようになっていれば、方法で検体画像等が出力されてもよい。
[2−8]発明のカテゴリ
本発明は、サーバ装置及びユーザ装置という各情報処理装置の他、図4に示す各手段を実現する他の装置としても捉えられる。また、それらの装置を備える医療情報システムのようなシステムとしても捉えられる。また、本発明は、各情報処理装置が実施する処理を実現するための情報処理方法としても捉えられるし、各情報処理装置を制御するコンピュータを機能させるためのプログラムとしても捉えられる。このプログラムは、それを記憶させた光ディスク等の記録媒体の形態で提供されてもよいし、インターネット等のネットワークを介してコンピュータにダウンロードさせ、それをインストールして利用可能にするなどの形態で提供されてもよい。
1…医療情報システム、10…サーバ装置、20…ユーザ装置、101…検体画像取得部、102…検体画像記憶部、103…検体画像出力部、104…分類結果取得部、105、105a…分類部、106…類似分類画像抽出部、107…検体画像特定部、151…第1分類部、152…第2分類部、201…検体画像入力部、202…検体画像表示部、203…分類結果入力部、204…類似分類画像表示部。

Claims (7)

  1. グラム染色された検体の画像に含まれる細菌の画像に基づき人が行った当該細菌の分類の結果と当該細菌の画像の特徴との関係を学習して細菌の画像から当該細菌を分類する分類手段が検体の画像について分類した結果を、当該検体の画像に対応付けて記憶する記憶部と、
    グラム染色された新たな検体の画像を取得する取得部と、
    取得された前記新たな検体の画像について前記分類手段が分類した結果と類似する分類の結果に対応付けて記憶されている検体の画像を、当該新たな検体の画像から細菌を分類する作業を行う作業者の端末に、当該新たな検体の画像の分類結果を入力する入力欄の画像と共に出力する出力部と
    を備える情報処理装置。
  2. 前記記憶部は、前記検体の画像に対応付けて、当該検体の画像について人が行った細菌の分類結果を記憶し、
    前記出力部は、出力対象の前記検体の画像について人が行った分類結果を当該検体の画像と共に出力する
    請求項1に記載の情報処理装置。
  3. 前記記憶部は、前記検体の画像に写っている検体に含まれる細菌の同定結果を当該画像に対応付けて記憶し、
    前記出力部は、出力対象の画像に対応付けて記憶されている前記同定結果を当該画像と共に出力する
    請求項1又は2に記載の情報処理装置。
  4. 前記分類手段には、互いに異なる機械学習の手法により分類を行う第1分類手段及び第2分類手段が含まれ、
    前記出力部は、前記検体の画像に対する前記第1分類手段による分類結果と類似する前記分類に対応付けて記憶されている前記検体の画像と、当該検体の画像に対する前記第2分類手段による分類結果と類似する前記分類に対応付けて記憶されている前記検体の画像とを出力する
    請求項1から3のいずれか1項に記載の情報処理装置。
  5. 同一の検体について異なる箇所の複数の画像が撮影された場合に、当該複数の画像から、前記分類手段による分類結果が所定の条件を満たすものを特定する特定部を備え、
    前記取得部は、前記特定部により特定された画像を前記新たにグラム染色された検体の画像として取得する
    請求項1から4のいずれか1項に記載の情報処理装置。
  6. 前記条件は、前記分類手段による分類が不能な細菌の割合が閾値未満となる場合に満たされる
    請求項5に記載の情報処理装置。
  7. 前記分類手段には、互いに異なる機械学習の手法により分類を行う第1分類手段及び第2分類手段が含まれ、
    前記条件は、前記検体の画像に対する前記第1分類手段による分類結果と当該検体の画像に対する前記第2分類手段による分類結果との差分が所定のレベル未満となる場合に満たされる
    請求項5に記載の情報処理装置。
JP2019013230A 2019-01-29 2019-01-29 情報処理装置 Active JP6898955B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019013230A JP6898955B2 (ja) 2019-01-29 2019-01-29 情報処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019013230A JP6898955B2 (ja) 2019-01-29 2019-01-29 情報処理装置

Publications (2)

Publication Number Publication Date
JP2020123044A JP2020123044A (ja) 2020-08-13
JP6898955B2 true JP6898955B2 (ja) 2021-07-07

Family

ID=71992703

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019013230A Active JP6898955B2 (ja) 2019-01-29 2019-01-29 情報処理装置

Country Status (1)

Country Link
JP (1) JP6898955B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022019138A1 (ja) * 2020-07-20 2022-01-27 キヤノン株式会社 画像処理装置、画像処理方法、および、プログラム
JP7090302B1 (ja) 2021-04-02 2022-06-24 カーブジェン株式会社 システム、携帯端末装置、プログラム、又は方法
CN114459865B (zh) * 2022-02-14 2023-09-15 吉林大学 一种多功能使用便捷的革兰氏染色装置
EP4276767A1 (en) 2022-05-12 2023-11-15 Uniwersytet Jagiellonski A method and a system for identifying polyculture bacteria on microscopic images using deep learning

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08315144A (ja) * 1995-05-16 1996-11-29 Hitachi Ltd パターン分類装置及びそのパターン分類方法
JP2000353246A (ja) * 1999-06-11 2000-12-19 Hitachi Ltd パターン認識装置
JP5393310B2 (ja) * 2009-07-13 2014-01-22 メディア株式会社 口腔内細菌マップ作成システム
WO2017046799A1 (en) * 2015-09-17 2017-03-23 S.D. Sight Diagnostics Ltd Methods and apparatus for detecting an entity in a bodily sample
JP6669795B2 (ja) * 2018-03-15 2020-03-18 株式会社ホロン 走査型電子顕微鏡および検査装置

Also Published As

Publication number Publication date
JP2020123044A (ja) 2020-08-13

Similar Documents

Publication Publication Date Title
JP6898955B2 (ja) 情報処理装置
AU2020200835B2 (en) System and method for reviewing and analyzing cytological specimens
Linder et al. A malaria diagnostic tool based on computer vision screening and visualization of Plasmodium falciparum candidate areas in digitized blood smears
WO2019103440A1 (ko) 피검체의 의료 영상의 판독을 지원하는 방법 및 이를 이용한 장치
DK2973397T3 (en) Tissue-object-based machine learning system for automated assessment of digital whole-slide glass
Li et al. Automated detection of retinal exudates and drusen in ultra-widefield fundus images based on deep learning
US10395091B2 (en) Image processing apparatus, image processing method, and storage medium identifying cell candidate area
CN110796661B (zh) 基于卷积神经网络的真菌显微图像分割检测方法及系统
US20200311931A1 (en) Method for analyzing image of biopsy specimen to determine cancerous probability thereof
JP6761717B2 (ja) 情報処理装置及びプログラム
JP4864709B2 (ja) 分散プロット分布を用いてスライドの染色品質を決定するシステム
Horvath et al. Machine-assisted interpretation of auramine stains substantially increases through-put and sensitivity of microscopic tuberculosis diagnosis
US20040014165A1 (en) System and automated and remote histological analysis and new drug assessment
Kapruwan et al. Artificial Intelligence Enabled Diagnostic Digital Cytopathology System for Cervical Intraepithelial Neoplasia Detection: Advantages and Challenges
JP6769847B2 (ja) 情報処理装置
Al-Ghraibah et al. Automated detection of leukemia in blood microscopic images using image processing techniques and unique features: Cell count and area ratio
JP2023526412A (ja) 情報処理方法、電子装置、及びコンピュータ記憶媒体
Levi et al. Implementation of FocalPoint GS location‐guided imaging system: Experience in a clinical setting
Zachariou et al. Extracting and classifying salient fields of view from microscopy slides of tuberculosis bacteria
WO2017010612A1 (ko) 의료 영상 분석 기반의 병리 진단 예측 시스템 및 방법
JPH08315144A (ja) パターン分類装置及びそのパターン分類方法
KR102330216B1 (ko) Ai학습 분석을 이용한 골연령 및 건강상태 판독방법
WO2021246013A1 (ja) 画像診断方法、画像診断支援装置、及び計算機システム
Azeroual et al. Convolutional Neural Network for Segmentation and Classification of Glaucoma.
CN113470818A (zh) 疾病预测方法、装置、系统、电子设备及计算机可读介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200128

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200330

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200525

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20201110

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210201

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20210201

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20210208

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20210209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210601

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210611

R150 Certificate of patent or registration of utility model

Ref document number: 6898955

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150