JP2019530048A - 病理データ捕捉 - Google Patents

病理データ捕捉 Download PDF

Info

Publication number
JP2019530048A
JP2019530048A JP2019502598A JP2019502598A JP2019530048A JP 2019530048 A JP2019530048 A JP 2019530048A JP 2019502598 A JP2019502598 A JP 2019502598A JP 2019502598 A JP2019502598 A JP 2019502598A JP 2019530048 A JP2019530048 A JP 2019530048A
Authority
JP
Japan
Prior art keywords
processing device
microscope
pathological image
pathological
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019502598A
Other languages
English (en)
Other versions
JP6811837B2 (ja
Inventor
ケー. バラール,ジョエル
ケー. バラール,ジョエル
Original Assignee
ヴェリリー ライフ サイエンシズ エルエルシー
ヴェリリー ライフ サイエンシズ エルエルシー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴェリリー ライフ サイエンシズ エルエルシー, ヴェリリー ライフ サイエンシズ エルエルシー filed Critical ヴェリリー ライフ サイエンシズ エルエルシー
Publication of JP2019530048A publication Critical patent/JP2019530048A/ja
Application granted granted Critical
Publication of JP6811837B2 publication Critical patent/JP6811837B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/02Objectives
    • G02B21/025Objectives with variable magnification
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/40ICT specially adapted for the handling or processing of patient-related medical or healthcare data for data related to laboratory analysis, e.g. patient specimen analysis
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 病理学データ捕捉を改善することである。
【解決手段】 病理データ捕捉のための方法は、拡大病理画像を形成するために顕微鏡によって病理試料を拡大することを含む。また方法は、顕微鏡に光学的に結合されたデジタルカメラによって拡大病理画像を記録すること、およびマイクロフォンによって顕微鏡のユーザからの音声注釈を記録することも含む。拡大病理画像および音声注釈は、デジタルカメラおよびマイクロフォンに電気的に結合された処理装置へ転送される。処理装置は、拡大病理画像および音声注釈を記憶媒体に記録すること、拡大病理画像および音声注釈を記録時間に関してインデックス化すること、およびユーザの音声注釈を拡大病理画像内の1または複数の特定の位置にタグ付けすることを含む動作を実行する。
【選択図】図1

Description

[0001] 本開示は一般に、病理学において役立つシステム/方法に関する。
[0002] 病理学は、病気の研究および診断に関する医学の分科である。最も多くの場合、病理学は、体液、身体組織、および細胞試料の分析および検査に関与する。総合的な研究および調査の分野として、病理学は、(1)病因、(2)発病、(3)形態変化、および(4)形態変化の影響という4つの疾病様相に関連する。
[0003] 病理学の分野は、古代まで遡る。以前の社会の多くは、解剖/検査の結果として生体状態の初歩的理解を捉えた。古代ギリシャの時代から、病気の因果関係の研究は人類文化に現れていた。病理学を通した病気に関する人類の理解は、時代の進化とともに段階的に進歩し続けており、たとえば病理学における進歩の多くは、中世イスラムによるものである。
[0004] しかし、現代の病理学は、微生物学の出現とともに、1800年代後半に確固たる研究分野として現れたばかりである。昨今、病理学は、数々の副分科に分かれた重要な医療行為である。これらの副分科の全てにおいて、正確な診断を確実にするために、複数の医師による共同研究が重要であり得る。また、病理学者の指導は、研修生が、起こり得る多くの異型症状に精通するために、膨大な数の試料を検査することを必要とする。
[0005] 本発明の非限定的および非包括的な実施形態が、以下の図面を参照して説明され、図面において、類似の参照番号は、特に記載されない限り、様々な図にわたり同様の部分を指す。図面は必ずしも一定の縮尺を有さず、説明される原理を示すことに重点が置かれる。
[0006]本開示の実施形態に係る、病理データ捕捉のためのシステムを示す。 [0007]本開示の実施形態に係る、病理データベースを示す。 [0008]本開示の実施形態に係る、図2の病理データベースにおける画像エントリを示す。 [0009]本開示のいくつかの実施形態に係る、病理データ捕捉の方法を示すフローチャートである。
[0010] 本明細書において、病理データ捕捉のための装置および方法の実施形態が説明される。以下の説明において、実施形態の徹底した理解を提供するために、数多くの具体的な細部が記載される。しかし当業者が理解するように、本明細書で説明される技術は、具体的な細部の1または複数を伴わず、あるいは他の方法、構成要素、材料などによって実施することができる。他の例において、周知の構造、材料、または動作は、特定の態様の不明瞭化を避けるために詳しく示されず、または説明されない。
[0011] 本明細書を通して、「1つの実施形態」または「実施形態」への言及は、実施形態と関連して説明される特定の特徴、構造、または特性が、本発明の少なくとも1つの実施形態に含まれることを意味する。したがって、本明細書にわたる様々な箇所における「1つの実施形態において」または「実施形態において」という表現は、必ずしも全てが同じ実施形態を参照するわけではない。また、特定の特徴、構造、または特性は、1または複数の実施形態において任意の適切な方法で組み合わせられてよい。
[0012] 本開示は、病理学者のワークフローに(これを中断することなく)スライドのデジタル化を安価に取り入れることによって、病理学データ捕捉を改善するものである。現代の病理学において、病理試料は場合によって、デジタルデータベースを作成するために高解像度で走査される。これは、走査の複雑性に依存して長時間を要し、その結果、膨大な量のデータが収集され得る。また、試料の大部分は、診断または指導に無関係であり得る(たとえば、試料が数センチメートル大であり、異常細胞がわずか1mmの面積である場合、試料全体のデジタル化は、メモリの浪費である)。したがって、熟練した病理学者が検査することを選択した拡大画像/ビデオのみを、病理学者の音声注釈とともに記録することによって、病気の診断/特定に関係する情報のみを含むデータベースが作成される。
[0013] 図1は、本開示の実施形態に係る、病理データ捕捉のためのシステム100を示す。システム100は、顕微鏡101、デジタルカメラ103、マイクロフォン105、コントローラ107、処理装置109、ネットワーク111、およびストレージ121を含む。システム100は、病理学者が見ているものの継続的な記録を提供し、結果として生じる高解像度画像の自動モザイキングを実行し、スライド変位を捕捉し、再構成されたモザイク画像に病理学者によって提供された診断情報付きの注釈を付ける。
[0014] 顕微鏡101はデジタルカメラ103を収容し、デジタルカメラ103は、顕微鏡101に光学的に結合され、顕微鏡101によって生成された拡大病理画像を継続的に捕捉する。いくつかの実施形態において、デジタルカメラ103は顕微鏡101に収容されず、付加型であってもよい。ただし、当業者が理解するように、デジタルカメラ103は、本開示の教示に従って数々の方法で顕微鏡101に結合され得る。注目すべき点は、顕微鏡101は多数の様々な倍率設定を有し、その全てがデジタルカメラ103によって記録され得ることである。また、マイクロフォン105は、ユーザ/病理学者の音声注釈を受け取るために結合される。
[0015] 処理装置109(すなわちデスクトップコンピュータ)は、拡大病理画像を受信するためにデジタルカメラ103に電気的に結合され、病理学者(すなわち絵の人物)からの音声注釈を受け取るためにマイクロフォン105に電気的に結合される。注目すべき点は、いくつかの実施形態において、システム100内の全てのデバイスは無線通信し得ることである。処理装置109は、処理装置109によって実行されると処理装置109に、拡大病理画像および音声注釈を記憶媒体(たとえばハードドライブ、RAM、ROM、フラッシュメモリなど)に記録すること、および拡大病理画像および音声注釈を記録時間に関してインデックス化することを含む動作を実行させる論理を含む。処理装置109としてデスクトップコンピュータが図示されるが、他のコンピューティングデバイスが処理装置109として用いられてもよい。たとえば、タブレット、電話機、ラップトップ、遠隔サーバ、顕微鏡101に組み込まれたプロセッサ/マイクロコントローラなどは全て、処理装置109としての機能を果たすことができる。
[0016] 図示した実施形態において、拡大病理画像および音声注釈はデータベースを形成し、データベースは、ネットワーク111を介して遠隔またはローカルサーバへアップロードされ得る。図示するように、処理装置109は、ネットワーク111にもストレージ121にも電気的に結合され得る。他の実施形態において、処理装置109は、クラウド内の遠隔サーバに存在してもよく、多数のデバイス/システムに分散されてもよい。ただし、図示するように、処理装置109はローカルに存在してもよい。
[0017] 顕微鏡101は、ステージの位置を追跡するための第1の機械電気変換器113を含むステージを有する。ステージの位置は、第1の機械電気変換器113から処理装置109へ伝送され得る。同様に、第2の機械電気変換器115は、顕微鏡101の倍率設定を測定するために顕微鏡101に結合される。倍率設定は、第2の機械電気変換器115から処理装置109へ伝送され得る。ただし、他の実施形態または同じ実施形態において、倍率設定は、外部ビデオカメラによって捕捉されてもよい。
[0018] 図示したように、コントローラ107は、処理装置109に結合される。コントローラ107は、デジタルカメラ103の画像/ビデオ捕捉を制御し、マイクロフォン105からの音声注釈を記録し、顕微鏡ステージの位置を調整し、顕微鏡101の照明設定を調整する(たとえば照明器を明るく/暗くし、偏光させ、上部照明させ、下部照明させるなど)ために用いられ得る。図示した実施形態において、コントローラ107は処理装置109に有線接続されているが、他の実施形態において、コントローラ107は無線で処理装置109と通信してよい。いくつかの実施形態において、コントローラ107は、処理装置109において実行している仮想コントローラであってよく、マイクロフォン105を介して音声命令を受信し、あるいは処理装置109に接続されたマウス/キーボードを介して運動命令を受け取ってよい。1つの実施形態において、ユーザは、マイクロフォン105に命令を言述し、処理装置109内の仮想/埋め込み型コントローラが命令を実行する。たとえば、ユーザが、「オーケー、顕微鏡、顕微鏡の照明を点灯し、録画および音声記録を開始せよ」、「音声記録を停止せよ」、「録画を停止せよ」、「顕微鏡ステージを1フレーム左へ動かせ」、「直線偏光に変更せよ」などと発言してよい。これらの実施形態および他の実施形態において、顕微鏡105は、デジタルカメラ103および/または顕微鏡101に統合されてよく、あるいは個別のデバイスであってよい。マイクロフォン105は、デジタルカメラ103と同期して記録を開始してよく、あるいはデジタルカメラ103がオンになると手動または自動でオンにされ得る。あるいは、マイクロフォン105は、記録を開始する前のキーワード(たとえば「オーケー、顕微鏡」)を受動的に聞き取ってよい。
[0019] デジタルカメラ103は、継続的にオン状態であるか、あるいは新たなスライドが検査される時に病理学者によってオンにされ得る。デジタルカメラ103は、モーショントリガ式であってもよい(すなわち、スライドが動きを開始し、および/または顕微鏡101の倍率または焦点レベルが変更されると記録を開始する)。あるいは、顕微鏡101の対眼レンズに存在センサ(光学式またはその他)が付加されてよく、デジタルカメラ103は、顕微鏡101を覗いている病理学者の存在が検出されると自動的にオンにされる。
[0020] 顕微鏡101は、視線検出ハードウェアおよびソフトウェア(顕微鏡101の対眼レンズからユーザの目への2本の点線として図示)を備え、または装備してよい。したがってシステム100は、関心領域(たとえば画像内の癌細胞)を決定するためにユーザの視線を追跡してよく、関心領域は、記録時間、倍率設定、および拡大病理画像に関してインデックス化され得る。たとえば、病理学者が領域を見ている時間は、その領域に関心が高いという確信および/または表示に対するプロキシとして用いられ得る。
[0021] 1つの実施形態において、デジタルカメラ103は、拡大病理画像を含むビデオを出力し、処理装置109は、処理装置109に、複数の高解像度画像を形成するためにビデオ内のフレームを縫い合わせさせる論理を更に含む。これは、様々な倍率における試料の関連部分のみの網羅的な拡大病理画像を生成するために用いられ得る(図3を参照)。また、この実施形態において、病理学者が見る試料の一部のみが高解像度画像を縫い合わせるために用いられるので、画像データベースの形成が病理学者のワークフローを妨げることはない。ビデオおよび音声注釈は、同時に記録され、あるいはタイムスタンプされて個別に記録され、後に結合されてもよい。
[0022] 図2は、本開示の実施形態に係る、病理データベース201を示す。病理データベース201は、図1のシステム100を用いて作成され、ストレージ121(たとえばハードドライブ、ソリッドステートドライブなど)に格納され得る。図示した実施形態に示すように、病理データベース201は、デジタルカメラ(たとえばデジタルカメラ103)によって捕捉された病理画像(たとえばビデオフレーム)を含む。病理画像は、それらのフレーム番号、記録時間、病理学者の音声注釈(転写)、顕微鏡ステージ位置、それらが採取された倍率、および病理学者の視線の位置に関してインデックス化される。当業者が理解するように、図1に示すシステムは、任意の数の次元および入力によってデータベースを作成するために用いられてよく、ここに図示される次元/入力に限定されることはない。
[0023] 図示するように、顕微鏡(たとえば顕微鏡101)に光学的に結合されたデジタルカメラ(たとえばデジタルカメラ103)は、病理試料の画像をデジタルビデオまたは静止フレームとして記録することを開始してよい。ビデオの各フレームは、捕捉時間に関してインデックス化される。たとえば図示した実施形態において、フレーム1は記録の最初の3マイクロ秒に捕捉され、フレーム2は、記録の4マイクロ秒〜7マイクロ秒に捕捉された。マイクロフォン(たとえばマイクロフォン105)は、顕微鏡のユーザの音声注釈も記録してよい。音声注釈は、テキストに変換され、および/またはそれぞれの記録時間およびビデオフレームにインデックス化され得る。図示した実施形態において、フレーム1が捕捉されている間(記録の最初の3マイクロ秒間)、病理学者は「this」という言葉を発し、後続フレームにおいて、病理学者は「looks like lymphatic tissue and may be benign」と述べた。1つの実施形態において、(たとえば後に特定の地理的領域におけるウイルスの発生を明らかにし得る)地理情報を伴う患者に関する他のメタデータも収集され、病理データベースに含められ得る。
[0024] またシステムは、顕微鏡ステージの位置も記録し、記録時間および拡大病理画像に関してこれをインデックス化してよい。図示した実施形態において、ステージの位置は、ステージの下側左手にある(0,0)点からX、Y座標を用いて測定され、ステージの移動はミクロン単位で測定される。しかし他の実施形態において、ステージ軸は異なって配向されてよく(たとえば、(0,0)点がステージの下側右手に位置し)、測定の単位は異なってよく(たとえばmm、cmなど)、ステージのZ位置も記録されてよい。また、「ステージ位置」は、試料における特定の位置を識別するために用いられるために幅広く解釈されなくてはならず、当業者が理解するように、これは数々の方法で実現され得る。1つの実施形態において、ステージ位置は、顕微鏡ハードウェアに対してではなく、撮像されているスライドの寸法に対して光学的に決定される。図示したように、特定のフレームが閲覧された倍率もまた、記録時間、転写テキスト、ステージ位置、および視線象限に関して記録される。
[0025] ユーザの視線もまた、図示および説明された他の次元/入力に関してインデックス化され得る。図示した実施形態において、ユーザ/病理学者の視線は、象限において測定され、すなわちユーザが見る画像は4つの副画像に副分割され、システムは、ユーザが記録時間にどの副画像を見ていたかを記録する。これは、顕微鏡にインストールされたハードウェア/ソフトウェア、および他の外部システムによって実現されてよく、当業者が理解するように、視線を検出するための多数の様々な方法が存在する。また、図示した実施形態は、病理学者/顕微鏡ユーザが見ていた所を非常に大まかに示すが、他の実施形態において、ユーザが見ていた所の正確な座標が記録される。
[0026] 1つの実施形態において、拡大病理画像および音声注釈をインデックス化することは、拡大病理画像における関心領域にユーザの音声注釈をタグ付けすることを含んでよい。たとえば上述した実施形態において、病理学者の「良性」という診断は、40倍の倍率におけるステージ位置座標(136,47)に関連付けられ、彼/彼女は象限3および4を覗いていた。これによって、病理学者の作業結果を調べる人間は、「良性」という決定が行われた時に病理学者が見ていた所を正確に知ることができる。また、病理学者の作業結果を調べる人間は、検査の履歴(その時点までにスライドがどの程度検査されたか)を知る。図示した実施形態において、処理装置は、処理装置によって実行されると処理装置に、病理学者の音声注釈をテキストに変換させる論理を更に含んでよく、テキストは、上述した様々な次元/入力の中でも特に、記録時間および拡大病理画像に関してインデックス化される。他の実施形態または同じ実施形態において、病理学者は、収集された病理画像を調べ、関心領域を示すために画像に直接注釈を付けてよい(たとえば、デジタル画像の癌細胞に丸を付ける、未知の細胞形成の付近に星印を付けるなど)。
[0027] 最後に、注目すべき点は、複数の病理学者が病理試料を検査し、注釈を付けてよいことである。両方の病理学者からの情報が捕捉されるように、追加のデータベースの行および/または列が追加され得る。両方の病理学者の入力は、試料/スライドに関して既知であることについて真実のデータ/拡張を生成するために比較され得る。病理試料に関する情報の冗長性は、病理データベースにおける診断をより堅牢なものにし得る。
[0028] 図3は、本開示の実施形態に係る、図2の病理データベース内の画像エントリを示す。図示した実施形態において、同じ病理試料のいくつかの倍率が示される。この実施形態において、病理学者は、撮像システム(たとえば図1のシステム100)を用いて、様々な倍率で病理試料のいくつかの部分を見た。重要な点は、病理学者は全ての倍率で試料全体を見たのではなかったことである。たとえば、20倍では試料全体が可視であるが、試料のわずかな部分しか診断を下すために関係しないので、病理学者は、試料の一部に対してしか拡大しようと思わなかった。したがって病理学者は、その部分を40倍の倍率で見るために拡大した。その後病理学者は、画像の40倍部分に含まれる2つの離れた箇所に対して更に拡大し、これらを60倍の倍率で見た。病理試料のこれらの小さな部分のみが診断に関係する部分であることはあり得る。カメラは、病理学者による行動の全てを捕捉していたので、40倍および60倍の倍率における試料の不完全な写真を捕捉した。しかし、作業結果を調べる人間は診断に関連する試料部分を見る(また、病理学者の音声注釈の記録を聞き、または転写テキストを閲覧する)ことができるので、これによって、病理学者の作業結果を調べる人間の、診断が下された理由を理解する能力が影響されることはない。
[0029] また、1つの実施形態において、様々な倍率における欠陥をより視覚的にアピールするものとするため、処理装置は、未撮像の欠陥に関する画像データを生成してよい。これによって、捕捉画像を調べる者は、未撮像部分による視覚的不連続性を伴わず、試料の撮像部分を滑らかに移動することができる。この実施形態において、生成された画像データは、実際の画像データではないものとして明確に識別され得る(たとえば、生成された画像データは、赤線で囲まれ、グレイスケールで現れ、部分的に透明で現れ、あるいは「生成データ」といった言葉が重ねられるなど)。1つの実施形態において、画像データを生成するために、機械学習アルゴリズムが用いられる。
[0030] 図4は、本開示のいくつかの実施形態に係る、病理データ捕捉の方法400を示すフローチャートである。プロセスブロック401〜411の一部または全てが方法400に示される順序は、限定的なものと見なされてはならない。本開示の利益を得る当業者が理解するように、方法400の一部は、図示されたもの以外の様々な順序で、または並行して実行されてもよい。
[0031] ブロック401は、拡大病理画像を形成するために顕微鏡によって病理試料を拡大することを示す。上述したように、病理学者は、従来の顕微鏡によって病理試料を検査してよく、あるいは本明細書で説明されるシステム(たとえば、図示された顕微鏡101に組み込まれた全ての部品を有する図1のシステム100)に特に適合されたカスタム顕微鏡によって病理試料を見てもよい。
[0032] ブロック403は、顕微鏡に光学的に結合されたデジタルカメラによって拡大病理画像を記録することを示す。論じられる顕微鏡は、病理学者が見ている試料の一部のビデオまたは静止フレームを絶えず記録するデジタルカメラを含んでよい。1つの実施形態において、処理装置は、ビデオ内のフレームを縫い合わせ、複数の高解像度画像を形成する(図2を参照)。
[0033] ブロック405は、マイクロフォンを有する顕微鏡のユーザからの音声注釈を記録することを示す。病理学者が拡大病理画像を見ている時、病理学者は同時に、彼/彼女が見たものに音声で注釈を付けてよい。たとえば病理学者は、拡大病理画像の特定の一部に注目し、画像に関する彼/彼女の総合的な印象を言述してよい。たとえば病理学者は、「試料のこの部分における細胞はわずかに異型であるが、黒色腫ではないようだ」といったようなことを発言し、マイクロフォンがこの音声を記録してよい。ただし、場合によっては音声注釈の記録は非同期的であってよく、病理学者は、見ながら発言することはせず、スライドの検査が完了すると、全体報告を書き取らせる。
[0034] ブロック407は、デジタルカメラおよびマイクロフォンに電気的に結合された処理装置へ拡大病理画像および音声注釈を転送することを示す。拡大病理画像および音声注釈の転送は、リアルタイムで(すなわち、マイクロフォンおよびカメラが画像データおよび音声データを捕捉すると同時に)生じてよく、あるいは病理学者が全ての記録を完了した後に生じてもよい。当業者が理解するように、画像および音声データの両方の転送を容易にするための多数の様々な方法が存在し、これらの技術のいずれも、本開示の教示に従って用いられ得る。
[0035] ブロック409は、処理装置を用いて、拡大病理画像および音声注釈を記憶媒体に記録することを含む動作を実行することを示す。記憶媒体は、RAM、ROM、フラッシュメモリ、ハードディスクなどであってよい。処理装置は、情報をローカルに(たとえば、処理装置に含まれ、または有線/無線で接続されたハードドライブに)格納してよく、あるいは、インターネットまたはローカルエリアネットワークを介して、処理装置とは別の遠隔サーバへこの情報をアップロードしてもよい。1つの実施形態において、処理装置は、拡大病理画像および音声注釈の両方を用いてデータベースを形成する。また処理装置は、任意の自然言語処理技術を用いて音声をテキストに変換してよく、テキストは、記録時間および拡大病理画像に関してインデックス化され得る。
[0036] ブロック411は、処理装置を用いて、拡大病理画像および音声注釈を記録時間に関してインデックス化することを含む動作を実行することを示す。1つの実施形態において、拡大病理画像および音声注釈のインデックス化は、拡大病理画像内の特定の位置にユーザの音声注釈をタグ付けすることを含む。その結果、病理学者の作業結果を調べる者は、診断の背後にある論理的根拠を明確に知る/聞くことができる。
[0037] 1つの実施形態において、病理学者が見ていた位置に関する情報を提供するために、顕微鏡ステージの位置が記録される。これもまた、病理学者が特定の診断を下した理由を決定するために役立ち得る。ステージ位置は、試料におけるスケールバーなどによって光学的に決定され得る。倍率もまた、有用な位置情報を提供し得る。顕微鏡の倍率は処理装置へ転送されてよく、処理装置は、倍率を記録時間、拡大病理画像、および顕微鏡ステージの位置に関してインデックス化する。この光学情報は、病理試料に関する画像の位置を決定するために、顕微鏡ステージの物理的位置とは別に、あるいはそれとともに用いられ得る。
[0038] 1つの実施形態において、カメラがオンになったことを通知するために、ステージの運動データが用いられ得る。たとえば、ステージが静止している時、カメラはビデオを捕捉しないが、画像(単一フレーム)を捕捉する。逆に、ステージが動いている時、カメラはビデオを収集してよい。運動のX、Y、およびZベクトルは、個別に扱われ得る(たとえば、ビデオはステージがX、Y方向に動いている時に捕捉されるが、ステージがZ方向に動いている時はそうではない)。
[0039] 1つの実施形態において、処理装置は、拡大病理画像から画像アーチファクトを除去するように構成され得る。ステージの運動(X、Y、Z)が記録されると、計算された運動が記録された運動と比較されてよく、その相違が、ビデオデータの品質を査定するために用いられてよく、両方が一致する場合、ビデオデータの信頼度が高い。しかし、強い相違がある場合、ビデオデータはアーチファクトを含み、対応するフレームはタグ付けされ、更なる処理、モザイキングなどには用いないようにすることができる。
[0040] 1つの実施形態において、処理装置は更に、関心領域を決定するためにユーザの視線を追跡し、関心領域は、記録時間、倍率設定、および拡大病理画像に関してインデックス化される。これによって、病理学者の作業結果を調べる者は、拡大病理画像の重要な部分を明確に識別することができる。
[0041] 上述したプロセスは、コンピュータソフトウェアおよびハードウェアの観点から説明される。説明された技術は、機械によって実行されると機械に上述した動作を実行させる、有形または非一時的機械(たとえばコンピュータ)可読記憶媒体において具体化される機械実行可能命令を構成してよい。また、プロセスは、たとえば特定用途向け集積回路(「ASIC」)などのハードウェアにおいて具体化され得る。
[0042] 有形非一時的機械読取可能記憶媒体は、機械(たとえばコンピュータ、ネットワークデバイス、パーソナルデジタルアシスタント、製造用具、1または複数のプロセッサのセットを有する任意のデバイスなど)によってアクセス可能な形式で情報を提供(すなわち格納)する任意のメカニズムを含む。たとえば機械可読記憶媒体は、記録可能/非記録可能媒体(たとえば読取専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、磁気ディスク記憶媒体、光記憶媒体、フラッシュメモリデバイスなど)を含む。
[0043] 発明の概要において説明したものを含む、本発明に関して示した実施形態の上記説明は、包括的であるもの、あるいは本発明を開示した形式そのものに限定するものとして意図されない。本発明の特定の実施形態および例が本明細書において例示目的で説明されたが、当業者が認識するように、様々な修正が本発明の範囲内で可能である。
[0044] これらの修正は、上記の詳細な説明の観点から、本発明になされ得る。以下のクレームにおいて用いられる用語は、本発明を、本明細書に開示された特定の実施形態に限定するものと解釈されてはならない。正しくは、本発明の範囲は、以下のクレームによってその全体が決定されるべきであり、クレームは、確立されたクレーム解釈の方針に従って解釈されるべきである。
排他的所有権または特権が主張される本発明の実施形態は、以下のように定義される。

Claims (20)

  1. 病理データ捕捉のための方法であって、
    拡大病理画像を形成するために顕微鏡によって病理試料を拡大することと、
    前記顕微鏡に光学的に結合されたデジタルカメラによって前記拡大病理画像を記録することと、
    前記顕微鏡のユーザからの音声注釈を記録することと、
    前記デジタルカメラに電気的に結合された処理装置へ前記拡大病理画像および前記音声注釈を転送することと
    を備え、前記処理装置は、
    前記拡大病理画像および前記音声注釈を記憶媒体に記録することと、
    前記拡大病理画像および前記音声注釈を記録時間に関してインデックス化し、前記ユーザの前記音声注釈を、前記拡大病理画像内の1または複数の特定の位置にタグ付けすることと
    を含む動作を実行する、方法。
  2. 前記処理装置は更に、関心領域を決定するために前記ユーザの視線を追跡し、前記関心領域は、記録時間、前記拡大病理画像に関してインデックス化され、前記1または複数の特定の位置は、前記関心領域を含む、請求項1に記載の方法。
  3. 前記処理装置を用いて前記音声注釈をテキストに変換することを更に備え、前記テキストは、前記記録時間および前記拡大病理画像に関してインデックス化される、請求項1に記載の方法。
  4. 顕微鏡ステージの位置を記録し、前記顕微鏡ステージの前記位置を前記処理装置へ転送することを更に備え、前記顕微鏡ステージの前記位置は、前記記録時間および前記拡大病理画像に関してインデックス化される、請求項1に記載の方法。
  5. 前記顕微鏡の倍率を記録し、前記倍率を前記処置装置へ転送することを更に備え、前記処理装置は、前記倍率レベルを、前記記録時間、前記拡大病理画像、および前記顕微鏡ステージの前記位置に関してインデックス化する、請求項4に記載の方法。
  6. 前記拡大病理画像および前記音声注釈によってデータベースを形成することを更に備える、請求項1に記載の方法。
  7. 前記データベースは遠隔サーバをホストとすることを更に備え、前記遠隔サーバは前記処理装置とは異なり、前記処理装置は、前記拡大病理画像および前記音声注釈を前記遠隔サーバへ転送するためにネットワークに電気的に結合される、請求項6に記載の方法。
  8. 前記拡大病理画像はビデオに含まれ、前記処理装置は、前記ビデオ内のフレームを縫い合わせて複数の高解像度画像を形成する、請求項1に記載の方法。
  9. 前記複数の高解像度画像は、未撮像の欠陥を含み、前記処理装置は、前記未撮像の欠陥に関する画像データを生成する、請求項8に記載の方法。
  10. 前記画像データを生成するために、機械学習アルゴリズムが用いられる、請求項9に記載の方法。
  11. 病理データ捕捉のためのシステムであって、
    複数の倍率設定を含む顕微鏡と、
    前記顕微鏡に光学的に結合され、前記顕微鏡によって生成された拡大病理画像を継続的に捕捉するデジタルカメラと、
    ユーザの音声注釈を受け取るために結合されたマイクロフォンと、
    前記拡大病理画像を受信するために前記デジタルカメラに電気的に結合され、前記音声注釈を受け取るために前記マイクロフォンに電気的に結合された処理装置と
    を備え、前記処理装置は、前記処理装置によって実行されると前記処理装置に、
    前記拡大病理画像および前記音声注釈を記憶媒体に記録することと、
    前記拡大病理画像および前記音声注釈を記録時間に関してインデックス化し、前記ユーザの前記音声注釈を、前記拡大病理画像内の1または複数の関心領域にタグ付けすることと
    を含む動作を実行させる論理を含む、システム。
  12. 前記顕微鏡は、ステージの位置を追跡するための第1の機械電気変換器を含む前記ステージを有し、前記ステージの位置は、前記第1の機械電気変換器から前記処理装置へ伝送され、前記処理装置は、前記処理装置によって実行されると前記処理装置に、
    前記ステージの前記位置を、前記記録時間および前記拡大病理画像に関してインデックス化すること
    を含む動作を実行させる論理を更に含む、請求項11に記載のシステム。
  13. 前記顕微鏡は、前記顕微鏡の前記倍率設定を測定するための第2の機械電気変換器を更に備え、前記倍率設定は、前記第2の機械電気変換器から前記処理装置へ伝送され、前記処理装置は、前記処理装置によって実行されると前記処理装置に、
    前記倍率設定を、前記記録時間および前記ステージの前記位置に関してインデックス化すること
    を含む動作を実行させる論理を更に含む、請求項12に記載のシステム。
  14. 前記処理装置は、前記処理装置によって実行されると前記処理装置に、
    前記音声注釈をテキストに変換すること
    を含む動作を実行させる論理を更に含み、前記テキストは、前記記録時間および前記拡大病理画像に関してインデックス化される、請求項11に記載のシステム。
  15. 前記デジタルカメラは、前記拡大病理画像を含むビデオを出力し、前記処理装置は、前記処理装置によって実行されると、前記処理装置に、
    前記ビデオ内のフレームを縫い合わせて複数の高解像度画像を形成すること
    を含む動作を実行させる論理を更に含む、請求項11に記載のシステム。
  16. 前記複数の高解像度画像は、未撮像の欠陥を含み、前記処理装置は、前記処理装置によって実行されると、前記処理装置に、
    前記未撮像の欠陥に関する画像データを生成すること
    を含む動作を実行させる論理を更に含む、請求項15に記載のシステム。
  17. 前記画像データを生成することは、機械学習アルゴリズムを用いて前記画像データを生成することを含む、請求項16に記載のシステム。
  18. 前記処理装置は、前記処理装置によって実行されると、前記処理装置に、
    前記1または複数の関心領域を決定するために前記ユーザの視線を追跡すること
    を含む動作を実行させる論理を更に含み、前記1または複数の関心領域は、記録時間、前記倍率設定、および拡大病理画像に関してインデックス化される、請求項11に記載のシステム。
  19. 前記拡大病理画像および前記音声注釈はデータベースを形成する、請求項11に記載のシステム。
  20. 前記処理装置はネットワークに電気的に結合され、前記データベースは遠隔サーバをホストとする、請求項19に記載のシステム。

JP2019502598A 2016-08-01 2017-07-28 病理データ捕捉 Active JP6811837B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/225,247 US10203491B2 (en) 2016-08-01 2016-08-01 Pathology data capture
US15/225,247 2016-08-01
PCT/US2017/044541 WO2018026666A1 (en) 2016-08-01 2017-07-28 Pathology data capture

Publications (2)

Publication Number Publication Date
JP2019530048A true JP2019530048A (ja) 2019-10-17
JP6811837B2 JP6811837B2 (ja) 2021-01-13

Family

ID=59558536

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019502598A Active JP6811837B2 (ja) 2016-08-01 2017-07-28 病理データ捕捉

Country Status (5)

Country Link
US (2) US10203491B2 (ja)
EP (1) EP3491558A1 (ja)
JP (1) JP6811837B2 (ja)
CN (1) CN109564778A (ja)
WO (1) WO2018026666A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019204503A (ja) * 2018-05-17 2019-11-28 オリンパス株式会社 情報処理装置、情報処理方法およびプログラム
WO2022070423A1 (ja) * 2020-10-02 2022-04-07 オリンパス株式会社 情報処理装置、情報処理装置の作動方法、及びプログラム

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10203491B2 (en) * 2016-08-01 2019-02-12 Verily Life Sciences Llc Pathology data capture
US11636627B2 (en) * 2016-08-28 2023-04-25 Augmentiqs Medical Ltd. System for histological examination of tissue specimens
CA3078541A1 (en) * 2017-10-31 2019-05-09 Luminultra Technologies Ltd. Decision support system and method for water treatment
JP2019202131A (ja) * 2018-05-17 2019-11-28 オリンパス株式会社 情報処理装置、情報処理方法およびプログラム
DE102018217901A1 (de) * 2018-10-18 2020-04-23 Leica Microsystems Cms Gmbh Optimierung von Arbeitsabläufen von Mikroskopen
DE102018217903A1 (de) * 2018-10-18 2020-04-23 Leica Microsystems Cms Gmbh Inferenz Mikroskopie
WO2020096098A1 (ko) * 2018-11-09 2020-05-14 주식회사 루닛 어노테이션 작업 관리 방법, 이를 지원하는 장치 및 시스템
WO2020121382A1 (ja) * 2018-12-10 2020-06-18 オリンパス株式会社 情報処理装置、情報処理方法、及びプログラム
JP6927443B2 (ja) * 2019-01-10 2021-09-01 カシオ計算機株式会社 診断支援装置、診断支援方法及びプログラム
WO2020154203A1 (en) * 2019-01-22 2020-07-30 Applied Materials, Inc. Capture and storage of magnified images
WO2020186029A1 (en) 2019-03-14 2020-09-17 Applied Materials, Inc. Identifying fiducial markers in microscope images
US11255785B2 (en) 2019-03-14 2022-02-22 Applied Materials, Inc. Identifying fiducial markers in fluorescence microscope images
TW202312185A (zh) * 2019-05-23 2023-03-16 康宣科技有限公司 通過語音記錄及處理一組織之影像資訊的方法及系統
CN110441901A (zh) * 2019-08-14 2019-11-12 东北大学 一种可实时追踪注视位置的光学显微镜系统及方法
EP4035127A4 (en) 2019-09-24 2023-10-18 Applied Materials, Inc. INTERACTIVE TRAINING OF A MACHINE LEARNING MODEL FOR TISSUE SEGMENTATION
US20210182531A1 (en) 2019-12-17 2021-06-17 Applied Materials, Inc. Registration techniques for multiplexed fluorescence in-situ hybridization images
CN111654653B (zh) * 2020-02-29 2022-05-10 杭州市中医院 一种病理取材记录仪
AU2021316902A1 (en) * 2020-07-27 2023-03-23 Agilent Technologies, Inc. Annotation data collection using gaze-based tracking
EP4377973A1 (en) * 2021-07-28 2024-06-05 PAIGE.AI, Inc. Systems and methods for processing electronic images of pathology data and reviewing the pathology data
US11994665B2 (en) * 2021-07-28 2024-05-28 PAIGE.AI, Inc. Systems and methods for processing electronic images of pathology data and reviewing the pathology data

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06265794A (ja) * 1993-03-12 1994-09-22 Olympus Optical Co Ltd 顕微鏡画像観察記録システム
JPH09218354A (ja) * 1996-02-13 1997-08-19 Olympus Optical Co Ltd 顕微鏡情報システム
JPH1172716A (ja) * 1997-08-28 1999-03-16 Nikon Corp 顕微鏡デジタル写真撮影システム
JP2003222801A (ja) * 2002-01-29 2003-08-08 Olympus Optical Co Ltd 顕微鏡画像撮影装置
JP2014527640A (ja) * 2011-07-13 2014-10-16 コーニンクレッカ フィリップス エヌ ヴェ デジタル病理画像の焦点面を自動調節する方法
JP2016038542A (ja) * 2014-08-11 2016-03-22 キヤノン株式会社 画像処理方法および画像処理装置

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6005964A (en) 1996-01-24 1999-12-21 The Board Of Trustees Of The University Of Illinois Automatic machine vision microscope slide inspection system and method
CA2342414A1 (en) 2001-03-29 2002-09-29 Motic Instruments Inc. Digital imaging microscope
US7116440B2 (en) 2003-02-28 2006-10-03 Aperio Technologies, Inc. Image processing and analysis framework
US7083106B2 (en) * 2003-09-05 2006-08-01 Cytyc Corporation Locally storing biological specimen data to a slide
JP2007510199A (ja) * 2003-10-08 2007-04-19 ライフスパン バイオサイエンス,インク. 自動顕微鏡スライド組織サンプルマッピング及び画像取得
WO2005121863A1 (en) 2004-06-11 2005-12-22 Nicholas Etienne Ross Automated diagnosis of malaria and other infections
WO2007039373A1 (en) * 2005-10-05 2007-04-12 International Business Machines Corporation A method and apparatus for data capture using a voice activated workstation
CN1972377A (zh) * 2005-11-25 2007-05-30 鸿富锦精密工业(深圳)有限公司 具数码相机的便携式电子装置
JP4558047B2 (ja) 2008-01-23 2010-10-06 オリンパス株式会社 顕微鏡システム、画像生成方法、及びプログラム
US20110122242A1 (en) 2009-10-26 2011-05-26 Texas Instruments Incorporated Digital microscopy equipment with image acquisition, image analysis and network communication
EP2493387A4 (en) * 2009-10-30 2017-07-19 The Johns Hopkins University Visual tracking and annotation of clinically important anatomical landmarks for surgical interventions
US8600143B1 (en) 2010-05-20 2013-12-03 Kla-Tencor Corporation Method and system for hierarchical tissue analysis and classification
JP5654801B2 (ja) * 2010-08-19 2015-01-14 株式会社ミツトヨ 画像測定装置及び画像測定方法
EP2450936B1 (en) * 2010-11-03 2013-03-13 Carl Zeiss NTS Ltd. Microscope system, method for operating a charged-particle microscope
JP5351873B2 (ja) 2010-11-18 2013-11-27 東芝テック株式会社 商品処理支援システム、プログラム、および携帯情報端末
US8478044B2 (en) * 2011-06-08 2013-07-02 Siemens Corporation System and method for image segmentation by optimizing weighted curvature
DE102012005126A1 (de) 2012-03-14 2013-09-19 Alexander Peter Johannes Jarczyk Medizintechnische Diagnosevorrichtung und medizintechnisches Diagnoseverfahren
WO2013165576A1 (en) 2012-05-02 2013-11-07 Aperio Technologies, Inc. Real-time focusing in line scan imaging
US9575304B2 (en) 2012-06-25 2017-02-21 Huron Technologies International Inc. Pathology slide scanners for fluorescence and brightfield imaging and method of operation
JP2014021583A (ja) * 2012-07-13 2014-02-03 Sony Corp 情報処理装置、情報処理方法、および情報処理プログラム
US20140340499A1 (en) * 2013-05-14 2014-11-20 Life Technologies Corporation Systems and methods for sample image capture using integrated control
WO2015006858A1 (en) * 2013-07-17 2015-01-22 Timothy Nelson Systems and methods for monitoring movement of disease field
CN103760179B (zh) * 2014-01-22 2016-05-11 杭州一二八医院 细胞显微成像方法、图像处理方法以及成像分析系统
WO2015114485A1 (en) 2014-01-30 2015-08-06 Koninklijke Philips N.V. A context sensitive medical data entry system
JP2016033620A (ja) * 2014-07-31 2016-03-10 キヤノン株式会社 画像取得装置
WO2016036573A1 (en) * 2014-09-05 2016-03-10 Diagnostic Instruments, Inc. Microscope accessory
US11154212B2 (en) * 2014-09-11 2021-10-26 The Medical College Of Wisconsin, Inc. Systems and methods for estimating histological features from medical images using a trained model
US10203491B2 (en) * 2016-08-01 2019-02-12 Verily Life Sciences Llc Pathology data capture

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06265794A (ja) * 1993-03-12 1994-09-22 Olympus Optical Co Ltd 顕微鏡画像観察記録システム
JPH09218354A (ja) * 1996-02-13 1997-08-19 Olympus Optical Co Ltd 顕微鏡情報システム
JPH1172716A (ja) * 1997-08-28 1999-03-16 Nikon Corp 顕微鏡デジタル写真撮影システム
JP2003222801A (ja) * 2002-01-29 2003-08-08 Olympus Optical Co Ltd 顕微鏡画像撮影装置
JP2014527640A (ja) * 2011-07-13 2014-10-16 コーニンクレッカ フィリップス エヌ ヴェ デジタル病理画像の焦点面を自動調節する方法
JP2016038542A (ja) * 2014-08-11 2016-03-22 キヤノン株式会社 画像処理方法および画像処理装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019204503A (ja) * 2018-05-17 2019-11-28 オリンパス株式会社 情報処理装置、情報処理方法およびプログラム
WO2022070423A1 (ja) * 2020-10-02 2022-04-07 オリンパス株式会社 情報処理装置、情報処理装置の作動方法、及びプログラム
JP7487325B2 (ja) 2020-10-02 2024-05-20 株式会社エビデント 情報処理装置、情報処理装置の作動方法、及びプログラム

Also Published As

Publication number Publication date
EP3491558A1 (en) 2019-06-05
JP6811837B2 (ja) 2021-01-13
US10203491B2 (en) 2019-02-12
CN109564778A (zh) 2019-04-02
US20190113732A1 (en) 2019-04-18
US20180031817A1 (en) 2018-02-01
WO2018026666A1 (en) 2018-02-08
US10545327B2 (en) 2020-01-28

Similar Documents

Publication Publication Date Title
JP6811837B2 (ja) 病理データ捕捉
US11501871B2 (en) Enhanced pathology diagnosis
US11927738B2 (en) Computational microscopy based-system and method for automated imaging and analysis of pathology specimens
US11636627B2 (en) System for histological examination of tissue specimens
TW202112299A (zh) 圖像處理方法、電子設備和電腦可讀儲存介質
WO2013099124A1 (en) Image processing apparatus, image processing system, image processing method, and program
KR101925603B1 (ko) 병리 영상의 판독을 보조하는 방법 및 이를 이용한 장치
CN108369648A (zh) 用于增强型数字显微镜的系统、介质、方法和设备
JP2007289657A (ja) 画像記録装置、画像記録方法、および画像記録プログラム
CN103091827B (zh) 高清自动识别比对显微镜及痕迹自动识别比对方法
US20230266819A1 (en) Annotation data collection using gaze-based tracking
JP2017526011A (ja) 広視野顕微鏡スキャンにおける埋め込み画像のためのシステムおよび方法
CN111951261A (zh) 离体生物样本检查过程的控制方法、计算机设备和控制系统
Ashman et al. A Camera-Assisted Pathology Microscope to Capture the Lost Data in Clinical Glass Slide Diagnosis
US20220351428A1 (en) Information processing apparatus, information processing method, and computer readable recording medium
Hu et al. Target segmentation and tracking of medical endoscopic images
EP4342168A1 (en) Image capturing method
JP2021157720A (ja) アノテーション装置、アノテーションプログラム、およびアノテーションシステム
JP2021109053A (ja) 映像生体組織評価システム
JP2007072970A (ja) 表情画像記録検索装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190314

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190314

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200303

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200526

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201008

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20201008

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20201015

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20201016

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201215

R150 Certificate of patent or registration of utility model

Ref document number: 6811837

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250