JP7125987B2 - 医療画像処理装置 - Google Patents

医療画像処理装置 Download PDF

Info

Publication number
JP7125987B2
JP7125987B2 JP2020532194A JP2020532194A JP7125987B2 JP 7125987 B2 JP7125987 B2 JP 7125987B2 JP 2020532194 A JP2020532194 A JP 2020532194A JP 2020532194 A JP2020532194 A JP 2020532194A JP 7125987 B2 JP7125987 B2 JP 7125987B2
Authority
JP
Japan
Prior art keywords
region
medical image
interest
notification information
detection state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020532194A
Other languages
English (en)
Other versions
JPWO2020021864A1 (ja
Inventor
正明 大酒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020021864A1 publication Critical patent/JPWO2020021864A1/ja
Application granted granted Critical
Publication of JP7125987B2 publication Critical patent/JP7125987B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14—Display of multiple viewports
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00043—Operational features of endoscopes provided with output arrangements
    • A61B1/00045—Display arrangement
    • A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002—Operational features of endoscopes
    • A61B1/00043—Operational features of endoscopes provided with output arrangements
    • A61B1/00055—Operational features of endoscopes provided with output arrangements for alerting the user
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045—Control thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37—Details of the operation on graphic patterns
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03—Recognition of patterns in medical or anatomical images
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00—Aspects of interface with display user
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00—Specific applications
    • G09G2380/08—Biomedical applications
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Veterinary Medicine (AREA)
  • Computer Hardware Design (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Endoscopes (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、医療画像の解析結果を用いる医療画像処理装置に関する。
医療分野においては、内視鏡画像、X線画像、CT（Computed Tomography）画像、MR（Magnetic Resonanse）画像などの医療画像を用いて、患者の病状の診断や経過観察などの画像診断が行われている。このような画像診断に基づいて、医師などは治療方針の決定などを行っている。
近年、医療画像を用いた画像診断においては、医療画像を医療画像処理装置によって解析して臓器内の病変や腫瘍など注意して観察すべき関心領域を自動的に認識処理することが行われつつある。特に、ディープラーニングなどの機械学習を行うことによって、過去の医療画像から関心領域に関する情報を学習し、学習により取得した情報に基づいて医療画像処理装置が関心領域を認識処理する精度が飛躍的に向上している。
例えば、下記特許文献１には、関心領域を検出した場合にアラートを表示する内視鏡（医療画像処理装置）が記載されている。また、下記特許文献１には、関心領域が画面外に出た場合であっても、アラートの表示を継続させる構成が記載されている。
特開２０１１－１６０８４８号公報
しかしながら、上記特許文献１記載の装置では、検査負荷が大きいといった問題があった。つまり、上記特許文献１記載の装置では、関心領域の検出状態（関心領域を検出している検出状態であるか関心領域を検出していない未検出状態であるかなど）が変化してからの経過時間を把握できないため、関心領域が画面外に出てしまったなどにより未検出状態となった場合に、関心領域を画面内に戻して検出状態とするためにどの程度遡るべきか判らない。このため、関心領域を画面内に戻して未検出状態から検出状態へと戻す（移行させる）ための負荷が大きくなってしまう。
本発明は、上記背景を鑑みてなされたものであり、検査負荷を軽減きる医療画像処理装置を提供することを目的としている。
上記課題を解決するために、本発明の医療画像処理装置は、
観察対象を撮像して得られる医療画像を取得する医療画像取得部と、
医療画像から、関心領域を検出する関心領域検出部と、
関心領域が検出された旨を報知する報知情報及び医療画像を、表示部に表示させる表示制御部と、を備え、
表示制御部は、関心領域の検出状態及び検出状態が変化してからの経過時間を用いて、報知情報の表示態様を変化させる。
表示制御部は、関心領域の検出状態が関心領域が検出されている検出状態から関心領域が検出されていない未検出状態へと移行してからの経過時間を参照して、報知情報の表示態様を変化させるものでもよい。
表示制御部は、関心領域の検出状態が関心領域が検出されていない未検出状態から関心領域が検出されている検出状態へと移行した場合に、第１表示態様で報知情報を表示させ、関心領域の検出状態が検出状態から未検出状態へと移行した場合に、第２表示態様で報知情報を表示させるものでもよい。
請求項１または２記載の医療画像処理装置。
関心領域の検出状態が関心領域が検出されている検出状態においては、医療画像に重ねて関心領域が表示されるものでもよい。
表示制御部は、関心領域の検出状態が検出状態から未検出状態へと移行してからの経過時間を報知情報として表示させるものでもよい。
報知情報は、経過時間に応じて長さが変化する円形または直線のタイムバーの形態で表示されるものでもよい。
報知情報は、経過時間が文字または数字の形態で表示されるものでもよい。
報知情報は、経過時間に応じて色相または濃淡を変化させる形態で表示されるものでもよい。
表示部の画面内には、医療画像を表示する第１領域と報知情報を表示する第２領域とが設けられていてもよい。
第１領域の外周部に第２領域が設けられていてもよい。
表示制御部は、関心領域が検出されている検出状態においては、医療画像内における関心領域の検出位置を、報知情報の表示態様により示すものでもよい。
表示制御部は、関心領域が検出されていない未検出状態においては、関心領域の検出位置のうち最新の検出位置を、報知情報の表示態様によって示すものでもよい。
表示制御部は、報知情報の表示位置によって検出位置を示すものでもよい。
本発明によれば、関心領域の検出状態が変化してからの経過時間を把握できるようにしたので、検査負荷を軽減きる。
医療画像処理装置と内視鏡装置などを示すブロック図である。 内視鏡装置を示すブロック図である。 医療画像解析処理部の機能を示すブロック図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 報知情報の表示態様を示す説明図である。 医療画像処理装置を含む診断支援装置である。 医療画像処理装置を含む医療業務支援装置である。 報知情報の表示態様を示す説明図である。
図１に示すように、医療画像処理装置１０は、医療画像取得部１１、医療画像解析処理部１２、表示部１３、表示制御部１５、入力受信部１６、統括制御部１７、及び、保存部１８を備える。
医療画像取得部１１は、内視鏡装置２１等から直接、または、ＰＡＣＳ（Picture Archiving and Communication System）２２等の管理システムもしくはその他情報システムを介して、被写体像を含む医療画像を取得する。医療画像は静止画像または動画（いわゆる検査動画）である。医療画像が動画である場合、医療画像取得部１１は、検査後に動画を構成するフレーム画像を静止画像として取得することができる。また、医療画像が動画である場合、医療画像の表示には、動画を構成する１つの代表フレームの静止画像を表示することのほか、動画を１または複数回、再生することを含む。また、医療画像取得部１１が取得する医療画像には、内視鏡装置２１等の医療装置を用いて医師が撮影した画像の他、内視鏡装置２１等の医療装置が医師の撮影指示に依らず自動的に撮影した画像を含む。なお、本実施形態では、医療画像処理装置１０及び内視鏡装置２１ともに医療画像を用いて画像処理を行うことから、医療画像処理装置１０及び内視鏡装置２１はいずれも本発明の医療画像処理装置に相当する。
医療画像取得部１１は、複数の医療画像を取得し得る場合、これらの医療画像のうち１または複数の医療画像を選択的に取得できる。また、医療画像取得部１１は、複数の互いに異なる検査において取得した複数の医療画像を取得できる。例えば、過去に行った検査で取得した医療画像と、最新の検査で取得した医療画像と、の一方または両方を取得できる。すなわち、医療画像取得部１１は、任意に医療画像を取得できる。
本実施形態においては、被写体像を含む医療画像を複数取得する。より具体的には、１回の特定の検査において撮影した医療画像を取得し、かつ、１回の特定の検査において撮影した医療画像が複数ある場合には、一連の医療画像のうち複数の医療画像を取得する。また、本実施形態においては、医療画像処理装置１０は、内視鏡装置２１と接続し、内視鏡装置２１から医療画像を取得する。すなわち、本実施形態において医療画像は、内視鏡画像である。
表示部１３は、医療画像取得部１１が取得した医療画像、及び、医療画像解析処理部１２の解析結果を表示するディスプレイである。医療画像処理装置１０が接続するデバイス等が含むモニタまたはディスプレイを共用し、医療画像処理装置１０の表示部１３として使用できる。表示制御部１５は、表示部１３における医療画像及び解析結果の表示態様を制御する。
入力受信部１６は、医療画像処理装置１０に接続するマウス、キーボード、その他操作デバイスからの入力を受け付ける。医療画像処理装置１０の各部の動作はこれらの操作デバイスを用いて制御できる。
統括制御部１７は、医療画像処理装置１０の各部の動作を統括的に制御する。入力受信部１６が操作デバイスを用いた操作入力を受信した場合には、統括制御部１７は、その操作入力にしたがって医療画像処理装置１０の各部を制御する。
保存部１８は、医療画像処理装置１０が含むメモリ等の記憶デバイス（図示しない）、または、内視鏡装置２１等の医療装置もしくはＰＡＣＳ２２が含む記憶デバイス（図示しない）に、医療画像の静止画等を保存する。
図２に示すように、本実施形態において医療画像処理装置１０が接続する内視鏡装置２１は、白色の波長帯域の光もしくは特定の波長帯域の光の少なくともいずれかを照射して被写体を撮影することにより画像を取得する内視鏡３１、内視鏡３１を介して被写体内に照明光を照射する光源装置３２、プロセッサ装置３３、及び、内視鏡３１を用いて撮影した内視鏡画像等を表示する表示部３４を有する。内視鏡３１が照明光に使用する特定の波長帯域の光は、例えば、緑色波長帯域よりも短波長帯域の光、特に可視域の青色帯域または紫色帯域の光である。
プロセッサ装置３３は、医療画像取得部３５、医療画像解析処理部３６、表示制御部３７を備えている。医療画像取得部３５は、内視鏡３１から出力される医療画像を取得する。医療画像解析処理部３６は、医療画像取得部３５で取得した医療画像に対して、解析処理を行う。医療画像解析処理部３６での処理内容は、医療画像処理装置１０の医療画像解析処理部１２での処理内容と同様である。表示制御部３７は、医療画像解析処理部３６で得られた医療画像を表示部３４に表示する。プロセッサ装置３３は医療画像処理装置１０と接続される。なお、表示部３４は表示部１３と同等であり、医療画像取得部３５は医療画像取得部１１と同様であり、医療画像解析処理部３６は医療画像解析処理部１２と同様であり、表示制御部３７は表示制御部１５と同様である。
医療画像解析処理部３６は、医療画像取得部１１が取得した医療画像を用いて解析処理をする。図３に示すように、医療画像解析処理部３６は、関心領域検出部４１と、表示態様決定部４２と、を含む。関心領域検出部４１では、医療画像から関心領域４７（図４～図６、図１６、図１７、図２０参照）を検出する関心領域検出処理を行う。関心領域検出処理としては、例えば、ＮＮ（Neural Network）、ＣＮＮ（Convolutional Neural Network）、Adaboost、ランダムフォレストなどを用いてもよい。また、関心領域検出処理として、医療画像の色情報、画素値の勾配等で得られる特徴量を元に、関心領域４７の検出を行ってもよい。なお、画素値の勾配等は、例えば、被写体の形状（粘膜の大局的な起伏または局所的な陥凹もしくは隆起等）、色（炎症、出血、発赤、または萎縮に起因した白化等の色）、組織の特徴（血管の太さ、深さ、密度、もしくはこれらの組み合わせ等）、または、構造の特徴（ピットパターン等）等によって、変化が表れる。
なお、関心領域検出部４１で検出される関心領域４７は、例えば、がんに代表される病変部、良性腫瘍部、炎症部（いわゆる炎症の他、出血または萎縮等の変化がある部分を含む）、加熱による焼灼跡もしくは着色剤、蛍光薬剤等による着色によってマーキングしたマーキング部、または、生体検査（いわゆる生検）を実施した生検実施部を含む領域である。すなわち、病変を含む領域、病変の可能性がある領域、生検等の何らかの処置をした領域、クリップやかん子などの処置具、または、暗部領域（ヒダ（襞）の裏、管腔奥のため観察光が届きにくい領域）など病変の可能性にかかわらず詳細な観察が必要である領域等が関心領域４７になり得る。内視鏡装置２１においては、関心領域検出部４１は、病変部、良性腫瘍部、炎症部、マーキング部、または、生検実施部のうち少なくともいずれかを含む領域を関心領域４７として検出する。
表示態様決定部４２は、関心領域４７が検出されたことを報知するための報知情報の表示態様、並びに、医療画像４３（図４～図１７参照）の表示態様を決定する。表示制御部３７は、決定された表示態様に従って報知情報並びに医療画像４３を表示部３４に表示する。
図４～図９に示すように、本実施形態では、例えば表示部３４に表示される表示画面４４（以下単に画面と称する場合がある）に、医療画像４３を表示するための第１領域４５と、報知情報を表示するための第２領域４６とが設けられており、表示態様決定部４２は、これら第１、第２領域４５、４６に表示する画像の表示態様を決定する。なお、図４～図９は、内視鏡検査に伴って順次取得される一連の医療画像４３を画面内（第１領域４５内）に表示した表示画面４４を取得順に並べたものであり、図４、図５、図６は、関心領域４７が検出されている検出状態を示し、図７、図８、図９は、関心領域４７が検出されていない未検出状態を示している。
第１領域４５には、検出状態においては、医療画像４３に重ねて関心領域４７が表示される（図４、図５、図６参照）。また、第１領域４５には、未検出状態においては、医療画像４３のみが表示される（図７、図８、図９参照）。
なお、本実施形態では、関心領域４７をハッチングすることにより医療画像４３に重ねて表示している（図４、図５、図６参照）が、本発明はこれに限定されない。関心領域４７を着色することにより医療画像４３に重ねて表示してもよい。また、関心領域４７の輪郭のみを着色して強調することにより医療画像４３に重ねて表示してもよい。このように、関心領域４７を医療画像４３に重ねて表示する際の表示形態は適宜変更できる。さらに、関心領域４７を医療画像４３に重ねて表示する形態に限定されず、例えば、関心領域４７を枠で囲むなどにより強調してもよい。また、本発明は、後述する第２領域４６の表示態様（報知情報の表示態様）に主な特徴が存在するため、第１領域４５については、検出状態であっても関心領域４７を表示または強調せず、医療画像４３のみを表示する構成としてもよい。もちろん、関心領域４７を表示または強調する状態と、関心領域４７を表示せずに医療画像４３のみを表示する状態とを、ユーザー（内視鏡検査を行う医師など）の選択操作により切り替える構成としてもよい。
第２領域４６には、検出状態においては、医療画像４３に関心領域４７が存在することを示す報知情報が表示される（図４、図５、図６参照）。本実施形態では、報知情報は、バー４８（タイムバー）の形態で表示される。このバー４８は、未検出状態から検出状態へと移行したときに最長の状態で表示が開始され、検出状態から未検出状態へと移行するまでの間、最長の状態での表示が維持される。また、このバー４８は、検出状態から未検出状態へと移行すると、時間の経過に伴って長さが減少する（図７、図８、図９参照）。すなわち、第２領域４６には、検出状態から未検出状態に移行した場合に、時間の経過に伴って長さが減少するバー４８が表示される。なお、バー４８は、未検出状態へと移行してから一定時間が経過すると長さが０となって消失する（非表示となる、図９参照）。また、バー４８の消失前に検出状態へと移行した場合には、バー４８の長さが最長へと戻る（図４、図５、図６参照）
以上のように、関心領域４７の検出状態及び検出状態が変化してからの経過時間に基づいて第２領域４６の表示態様（報知情報の表示態様）を変化させることによって、ユーザーは、検出状態であるか否か及び未検出状態となってからの経過時間を知ることができる。これにより、例えば、画面外に出てしまった関心領域４７を再度画面内に戻すなどの際に、どの程度遡るべきかが直感的に判り易く、容易に関心領域４７を画面内に戻すことが可能となり、検査の負荷を軽減できる。
なお、本発明は上記実施形態に限定されず、細部の構成については適宜変更できる。例えば、上記実施形態では、直線状のバーにより経過時間を示す例で説明をしたが、図１０に示すように、円形のバー４９により経過時間を示してもよい。
また、図１１、図１２に示すように、色（表示色）の変化で経過時間を示してもよい。図１１、図１２では、第２領域４６に、異なる色で彩色された領域５０、５１を設け、検出状態中は第２領域４６全体を領域５０とし、未検出状態へと移行すると時間の経過に伴って領域５０を減少（図１１では領域５０の長さを短く、図１２では領域５０の直径を小さく）させ、反対に領域５１を増加させることによって経過時間を示している。もちろん、色（表示色）の濃淡及び/または明度の変化により経過時間を示してもよい。
さらに、図１３に示すように、数字により経過時間を示してもよい。図１３では、検出状態から未検出状態へと移行すると、第２領域４６においてカウントダウンを行う（第２領域４６の数値を毎秒１ずつ小さくする）ことで経過時間を示している。もちろん、文字により経過時間を示してもよい。
さらに、バーと数値との両方により経過時間を示すといったように、上述した手法を複数組み合わせて経過時間を示してもよい。
また、バー及び/または数値などが減少することによって経過時間を示す例で説明をしたが、バー及び/または数値などが増加することによって経過時間を示してもよい。
なお、図１０以降の図面を用いた説明では、上述した実施形態と同様の部材については同様の符号を付して説明を省略している。
また、第２領域４６の位置及び/または形状は自由に設定できるので、図１４、図１５に示すように、第１領域４５の外周部に第２領域４６を設けてもよい。なお、第１領域４５の外周部は、第１領域４５の内側の領域であってもよい。そして、図１４の例では、第１領域４５の内側かつ外縁部（図１４にハッチングで示す領域）を第２領域４６としている。また、第１領域４５の外周部は、第１領域４５の外側の領域であってもよい。そして、図１５の例では、第１領域４５を囲むように第１領域４５の外側に設けられた矩形の枠状の領域（図１５にハッチングで示す領域）を第２領域４６をとしている。もちろん、第１領域４５の外周部は、第１領域４５の内側の領域と第１領域４５の外側の領域との両方に跨る領域であってもよい。
さらに、上記実施形態では、第２領域４６の表示内容により関心領域４７が検出されたこと、及び、関心領域４７が検出されなくなってからの経過時間が報知される例で説明をしたが、本発明はこれに限定されない。例えば、図１６、図２０に示すように、関心領域４７の検出位置を報知してもよい。図１６、図２０の例では、第２領域４６を第１領域４５の外周部に設け、第１領域４５の中心を通る線分により第２領域４６を４つに分割することにより形成された４つの領域５２～５５のいずれにバー５６を表示するかによって関心領域４７の検出位置を報知している。
具体的には、未検出状態から検出状態となった場合に、関心領域４７が画面右上、画面右下、画面左上、画面左下のいずれの領域で検出されたかを調べ、関心領域４７が画面右上の領域で検出された場合は第２領域４６のうち画面右上の領域５２、関心領域４７が画面右下の領域で検出された場合は第２領域４６のうち画面右下の領域５３、関心領域４７が画面左上の領域で検出された場合は第２領域４６のうち画面左上の領域５４、関心領域４７が画面左下の領域で検出された場合は第２領域４６のうち画面左下の領域５５に、最長の状態でバー５６を表示する。なお、図１６、図２０は、関心領域４７が画面右上の領域５２で検出され、この領域５２にバー５６が表示されている状態を示している。そして、検出状態中は、関心領域４７の位置の変化に対応してバー５６の表示位置（表示する領域）も移動させ、検出状態から未検出状態へと移行した場合は、バー５６の表示位置は変えず（すなわち、関心領域４７の検出位置のうち最新の検出位置に対応する位置（領域）にバー５６を表示して）、バー５６の長さを時間の経過に伴って減少（例えば、第２領域４６の角の部分にバー５６が残るようにバー５６をその両端から減少）をさせる。こうすることで、検出状態において容易に関心領域４７の位置が判るだけでなく、未検出状態であっても最後に関心領域４７が検出された位置が判るので、関心領域４７を画面内に戻すことがより容易となり、検査の負荷をより軽減できる。
なお、関心領域４７の検出位置を報知するための第２領域４６の表示態様はこれに限定されない。例えば、前述した図１６、図２０の例では、第２領域４６内におけるバー５６の表示位置を関心領域４７の位置に応じて変化させる例で説明をしたが、第２領域４６自体の表示位置及び/または形状を関心領域４７の位置に応じて変化させてもよい。また、図１７に示すように、第２領域４６のうち、関心領域４７の検出位置とは異なる領域についても関心領域４７に関する情報を表示してもよい。図１７の例では、関心領域４７の検出位置に対応する領域５２については例えば青、関心領域４７の検出位置から最も遠い領域５５（関心領域４７の検出位置に対応する領域とは隣接していない領域５５）については例えば赤、関心領域４７の検出位置に対応する領域に隣接する領域５３、５４については例えば黄色に彩色している。こうすることで、例えば、関心領域４７から遠い領域５５の周辺に着目して検査を行っていた場合であっても関心領域４７が検出されたことが判るので、関心領域４７を見落としてしまうといった問題を防止できる。
また、上記実施形態では、関心領域４７が検出されたこと、及び、関心領域４７が検出されなくなってからの経過時間の両方を報知する例で説明をしたが、関心領域４７が検出されなくなってからの経過時間のみを報知する構成としてもよい。この場合、未検出状態から検出状態へと移行した場合であっても、第２領域４６に表示を行わず、検出状態から未検出状態へと移行した場合に上記実施形態で説明したバー４８などを表示して、未検出状態となってからの経過時間を報知すればよい（図７～図９参照）。
なお、図１８に示すように、内視鏡装置２１その他モダリティやＰＡＣＳ２２とを組み合わせて使用する診断支援装置６１０は、上記実施形態及びその他変形例の医療画像処理装置１０を含むことができる。また、図１９に示すように、例えば内視鏡装置２１を含む、第１検査装置６２１、第２検査装置６２２、…、第Ｎ検査装置６３３等の各種検査装置と任意のネットワーク６２６を介して接続する医療業務支援装置６３０は、上記実施形態及びその他変形例の医療画像処理装置１０を含むことができる。
この他、医療画像処理装置１０、内視鏡装置２１、及び、医療画像処理装置１０を含む各種装置またはシステムは、以下の種々の変更等をして使用できる。
医療画像としては、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像を用いることができる。
医療画像としては、特定の波長帯域の光を照射して得た画像を使用する場合、特定の波長帯域は、白色の波長帯域よりも狭い帯域を用いることができる。
特定の波長帯域は、例えば、可視域の青色帯域または緑色帯域である。
特定の波長帯域が可視域の青色帯域または緑色帯域である場合、特定の波長帯域は、３９０ｎｍ以上４５０ｎｍ以下または５３０ｎｍ以上５５０ｎｍ以下の波長帯域を含み、かつ、特定の波長帯域の光は、３９０ｎｍ以上４５０ｎｍ以下または５３０ｎｍ以上５５０ｎｍ以下の波長帯域内にピーク波長を有することが好ましい。
特定の波長帯域は、例えば、可視域の赤色帯域である。
特定の波長帯域が可視域の赤色帯域である場合、特定の波長帯域は、５８５ｎｍ以上６１５ｎｍまたは６１０ｎｍ以上７３０ｎｍ以下の波長帯域を含み、かつ、特定の波長帯域の光は、５８５ｎｍ以上６１５ｎｍ以下または６１０ｎｍ以上７３０ｎｍ以下の波長帯域内にピーク波長を有することが好ましい。
特定の波長帯域は、例えば、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有することができる。
特定の波長帯域が、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する場合、特定の波長帯域は、４００±１０ｎｍ、４４０±１０ｎｍ、４７０±１０ｎｍ、または、６００ｎｍ以上７５０ｎｍ以下の波長帯域を含み、かつ、特定の波長帯域の光は、４００±１０ｎｍ、４４０±１０ｎｍ、４７０±１０ｎｍ、または、６００ｎｍ以上７５０ｎｍ以下の波長帯域にピーク波長を有することが好ましい。
医療画像が生体内を写した生体内画像である場合、この生体内画像は、生体内の蛍光物質が発する蛍光の情報を有することができる。
また、蛍光は、ピーク波長が３９０ｎｍ以上４７０ｎｍ以下である励起光を生体内に照射して得る蛍光を利用できる。
医療画像が生体内を写した生体内画像である場合、前述の特定の波長帯域は、赤外光の波長帯域を利用することができる。
医療画像が生体内を写した生体内画像であり、前述の特定の波長帯域として、赤外光の波長帯域を利用する場合、特定の波長帯域は、７９０ｎｍ以上８２０ｎｍまたは９０５ｎｍ以上９７０ｎｍ以下の波長帯域を含み、かつ、特定の波長帯域の光は、７９０ｎｍ以上８２０ｎｍ以下または９０５ｎｍ以上９７０ｎｍ以下の波長帯域にピーク波長を有することが好ましい。
医療画像取得部１１は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて、特定の波長帯域の信号を有する特殊光画像を取得する特殊光画像取得部を有することができる。この場合、医療画像として特殊光画像を利用できる。
特定の波長帯域の信号は、通常光画像に含むＲＧＢまたはＣＭＹの色情報に基づく演算により得ることができる。
白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を備えることができる。この場合、医療画像として特徴量画像を利用できる。
内視鏡装置２１については、内視鏡３１としてカプセル内視鏡を使用できる。この場合、光源装置３２と、プロセッサ装置３３の一部と、はカプセル内視鏡に搭載できる。
上記実施形態及び変形例において、医療画像取得部１１、医療画像解析処理部１２及び医療画像解析処理部１２を構成する各部、表示制御部１５、入力受信部１６、統括制御部１７、並びに、医療画像取得部３５、医療画像解析処理部３６、表示制御部３７、関心領域検出部４１、表示態様決定部４２といった各種の処理を実行する処理部（processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ（processor）である。各種のプロセッサには、ソフトウエア（プログラム）を実行して各種の処理部として機能する汎用的なプロセッサであるＣＰＵ（Central Processing Unit)、ＧＰＵ（Graphical Processing Unit）、ＦＰＧＡ (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス（Programmable Logic Device:ＰＬＤ）、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
１つの処理部は、これら各種のプロセッサのうちの１つで構成されてもよいし、同種または異種の２つ以上のプロセッサの組み合せ（例えば、複数のＦＰＧＡ、ＣＰＵとＦＰＧＡの組み合わせ、またはＣＰＵとＧＰＵの組み合わせ等）で構成されてもよい。また、複数の処理部を１つのプロセッサで構成してもよい。複数の処理部を１つのプロセッサで構成する例としては、第１に、クライアントやサーバなどのコンピュータに代表されるように、１つ以上のＣＰＵとソフトウエアの組み合わせで１つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第２に、システムオンチップ（System On Chip:ＳｏＣ）などに代表されるように、複数の処理部を含むシステム全体の機能を１つのＩＣ（Integrated Circuit）チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを１つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路（circuitry）である。
１０ 医療画像処理装置
１１ 医療画像取得部
１２ 医療画像解析処理部
１３ 表示部
１５ 表示制御部
１６ 入力受信部
１７ 統括制御部
１８ 保存部
２１ 内視鏡装置
２２ ＰＡＣＳ（Ｐｉｃｔｕｒｅ Ａｒｃｈｉｖｉｎｇ ａｎｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎ Ｓｙｓｔｅｍ）
３１ 内視鏡
３２ 光源装置
３３ プロセッサ装置
３４ 表示部
３５ 医療画像取得部
３６ 医療画像解析処理部
３７ 表示制御部
４１ 関心領域検出部
４２ 表示態様決定部
４３ 医療画像
４４ 表示画面
４５ 第１領域
４６ 第２領域
４７ 関心領域
４８ バー
４９ バー
５０、５１ 領域
５２～５５ 領域
５６ バー
６１０ 診断支援装置
６２１ 第１検査装置
６２２ 第２検査装置
６２６ ネットワーク
６３０ 医療業務支援装置
６３３ 検査装置

Claims (21)

  1. 観察対象を撮像して得られる医療画像を取得する医療画像取得部と、
    前記医療画像から、関心領域を検出する関心領域検出部と、
    前記関心領域が検出された旨を報知する報知情報及び前記医療画像を、表示部に表示させる表示制御部と、を備え、
    前記表示制御部は、
    前記関心領域の検出状態及び前記検出状態が変化してからの経過時間を用いて、前記報知情報の表示態様を変化させ、
    前記関心領域の検出状態が前記関心領域が検出されている検出状態から前記関心領域が検出されていない未検出状態へと移行してからの経過時間を参照して、前記報知情報の表示態様を変化させ、
    前記関心領域の検出状態が前記検出状態から前記未検出状態へと移行してからの経過時間を前記報知情報として表示させる医療画像処理装置。
  2. 前記表示制御部は、前記関心領域の検出状態が前記関心領域が検出されていない未検出状態から前記関心領域が検出されている検出状態へと移行した場合に、第１表示態様で前記報知情報を表示させ、前記関心領域の検出状態が前記検出状態から前記未検出状態へと移行した場合に、第２表示態様で前記前記報知情報を表示させる請求項１記載の医療画像処理装置。
  3. 前記関心領域の検出状態が前記関心領域が検出されている検出状態においては、前記医療画像に重ねて前記関心領域が表示される請求項１または２に記載の医療画像処理装置。
  4. 前記報知情報は、前記経過時間に応じて長さが変化する円形または直線のタイムバーの形態で表示される請求項１～３のいずれか１項に記載の医療画像処理装置。
  5. 前記報知情報は、前記経過時間が文字または数字の形態で表示される請求項１～４のいずれか１項に記載の医療画像処理装置。
  6. 前記報知情報は、前記経過時間に応じて色相または濃淡を変化させる形態で表示される請求項１～５のいずれか１項に記載の医療画像処理装置。
  7. 前記表示部の画面内には、前記医療画像を表示する第１領域と前記報知情報を表示する第２領域とが設けられている請求項１～６のいずれか１項に記載の医療画像処理装置。
  8. 前記第１領域の外周部に前記第２領域が設けられている請求項７記載の医療画像処理装置。
  9. 前記表示制御部は、前記関心領域が検出されている検出状態においては、前記医療画像内における前記関心領域の検出位置を、前記報知情報の表示態様により示す請求項１～８のいずれか１項に記載の医療画像処理装置。
  10. 前記表示制御部は、前記関心領域が検出されていない未検出状態においては、前記関心領域の検出位置のうち最新の検出位置を、前記報知情報の表示態様によって示す請求項１～９のいずれか１項に記載の医療画像処理装置。
  11. 前記表示制御部は、前記報知情報の表示位置によって前記検出位置を示す請求項９または１０記載の医療画像処理装置。
  12. 観察対象を撮像して得られる医療画像を取得する医療画像取得部と、
    前記医療画像から、関心領域を検出する関心領域検出部と、
    前記関心領域が検出された旨を報知する報知情報及び前記医療画像を、表示部に表示させる表示制御部と、を備え、
    前記表示制御部は、
    前記関心領域の検出状態及び前記検出状態が変化してからの経過時間を用いて、前記報知情報の表示態様を変化させ、
    前記関心領域が検出されていない未検出状態においては、前記関心領域の検出位置のうち最新の検出位置を、前記報知情報の表示態様によって示す医療画像処理装置。
  13. 前記表示制御部は、前記関心領域の検出状態が前記関心領域が検出されていない未検出状態から前記関心領域が検出されている検出状態へと移行した場合に、第１表示態様で前記報知情報を表示させ、前記関心領域の検出状態が前記検出状態から前記未検出状態へと移行した場合に、第２表示態様で前記前記報知情報を表示させる請求項１２記載の医療画像処理装置。
  14. 前記関心領域の検出状態が前記関心領域が検出されている検出状態においては、前記医療画像に重ねて前記関心領域が表示される請求項１２または１３に記載の医療画像処理装置。
  15. 前記報知情報は、前記経過時間に応じて長さが変化する円形または直線のタイムバーの形態で表示される請求項１２～１４のいずれか１項に記載の医療画像処理装置。
  16. 前記報知情報は、前記経過時間が文字または数字の形態で表示される請求項１２～１５のいずれか１項に記載の医療画像処理装置。
  17. 前記報知情報は、前記経過時間に応じて色相または濃淡を変化させる形態で表示される請求項１２～１６のいずれか１項に記載の医療画像処理装置。
  18. 前記表示部の画面内には、前記医療画像を表示する第１領域と前記報知情報を表示する第２領域とが設けられている請求項１２～１７のいずれか１項に記載の医療画像処理装置。
  19. 前記第１領域の外周部に前記第２領域が設けられている請求項１８記載の医療画像処理装置。
  20. 前記表示制御部は、前記関心領域が検出されている検出状態においては、前記医療画像内における前記関心領域の検出位置を、前記報知情報の表示態様により示す請求項１２～１９のいずれか１項に記載の医療画像処理装置。
  21. 前記表示制御部は、前記報知情報の表示位置によって前記検出位置を示す請求項１２～２０のいずれか１項に記載の医療画像処理装置。
JP2020532194A 2018-07-27 2019-06-03 医療画像処理装置 Active JP7125987B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018140953 2018-07-27
JP2018140953 2018-07-27
PCT/JP2019/022047 WO2020021864A1 (ja) 2018-07-27 2019-06-03 医療画像処理装置

Publications (2)

Publication Number Publication Date
JPWO2020021864A1 JPWO2020021864A1 (ja) 2021-07-01
JP7125987B2 true JP7125987B2 (ja) 2022-08-25

Family

ID=69180889

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020532194A Active JP7125987B2 (ja) 2018-07-27 2019-06-03 医療画像処理装置

Country Status (5)

Country Link
US (3) US11605363B2 (ja)
EP (2) EP4339900A3 (ja)
JP (1) JP7125987B2 (ja)
CN (1) CN112512398B (ja)
WO (1) WO2020021864A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7116176B2 (ja) 2018-08-20 2022-08-09 富士フイルム株式会社 医療画像処理システム
JP7038641B2 (ja) * 2018-11-02 2022-03-18 富士フイルム株式会社 医療診断支援装置、内視鏡システム、及び作動方法
JP7123173B2 (ja) * 2018-12-28 2022-08-22 オリンパス株式会社 内視鏡画像処理装置、内視鏡画像処理方法及びプログラム
JP7448923B2 (ja) 2020-03-31 2024-03-13 日本電気株式会社 情報処理装置、情報処理装置の作動方法、及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013135776A (ja) 2011-12-28 2013-07-11 Toshiba Corp 超音波診断装置
WO2017081976A1 (ja) 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置
EP3636134A1 (en) 2017-05-25 2020-04-15 Nec Corporation Information processing device, control method, and program

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8048069B2 (en) * 2006-09-29 2011-11-01 Medtronic, Inc. User interface for ablation therapy
JP5374135B2 (ja) 2008-12-16 2013-12-25 オリンパス株式会社 画像処理装置、画像処理装置の作動方法および画像処理プログラム
JP4923096B2 (ja) * 2009-11-30 2012-04-25 オリンパスメディカルシステムズ株式会社 画像表示装置
JP5220780B2 (ja) * 2010-02-05 2013-06-26 オリンパス株式会社 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法
JP5597021B2 (ja) * 2010-04-15 2014-10-01 オリンパス株式会社 画像処理装置及びプログラム
JP5972561B2 (ja) 2011-12-08 2016-08-17 東芝メディカルシステムズ株式会社 超音波診断装置、画像処理装置及び画像処理プログラム
US10242489B2 (en) 2014-06-26 2019-03-26 Hitachi, Ltd. Image processing device, image processing method and image processing system
JP6734028B2 (ja) * 2014-11-14 2020-08-05 キヤノンメディカルシステムズ株式会社 医用画像診断装置、画像処理装置及び画像生成方法
JP6418940B2 (ja) * 2014-12-25 2018-11-07 キヤノン株式会社 電子機器及びその制御方法
US20180358124A1 (en) * 2017-06-09 2018-12-13 Precision Dynamics Corporation Healthcare Reminder Label System With Visual Indicator

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013135776A (ja) 2011-12-28 2013-07-11 Toshiba Corp 超音波診断装置
WO2017081976A1 (ja) 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置
EP3636134A1 (en) 2017-05-25 2020-04-15 Nec Corporation Information processing device, control method, and program

Also Published As

Publication number Publication date
EP3831272A1 (en) 2021-06-09
EP4339900A3 (en) 2024-06-19
CN112512398A (zh) 2021-03-16
US11605363B2 (en) 2023-03-14
EP3831272B1 (en) 2024-03-27
US11881190B2 (en) 2024-01-23
WO2020021864A1 (ja) 2020-01-30
JPWO2020021864A1 (ja) 2021-07-01
US20240105143A1 (en) 2024-03-28
EP3831272A4 (en) 2021-11-17
EP4339900A2 (en) 2024-03-20
CN112512398B (zh) 2024-03-29
US20230162703A1 (en) 2023-05-25
US20210110915A1 (en) 2021-04-15

Similar Documents

Publication Publication Date Title
JP7125987B2 (ja) 医療画像処理装置
US20210153722A1 (en) Medical image processing system
US11950757B2 (en) Medical image processing apparatus
JP7411618B2 (ja) 医療画像処理装置
JP6936401B2 (ja) 医療画像処理システム
US11867896B2 (en) Endoscope system and medical image processing system
US11862327B2 (en) Medical image processing system
JP7130043B2 (ja) 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
JP7348386B2 (ja) 医療画像処理システム、認識処理用プロセッサ装置、及び医療画像処理システムの作動方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220719

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220815

R150 Certificate of patent or registration of utility model

Ref document number: 7125987

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150