JP2022103441A - 医療画像処理システム、内視鏡システム - Google Patents

医療画像処理システム、内視鏡システム Download PDF

Info

Publication number
JP2022103441A
JP2022103441A JP2022083825A JP2022083825A JP2022103441A JP 2022103441 A JP2022103441 A JP 2022103441A JP 2022083825 A JP2022083825 A JP 2022083825A JP 2022083825 A JP2022083825 A JP 2022083825A JP 2022103441 A JP2022103441 A JP 2022103441A
Authority
JP
Japan
Prior art keywords
region
interest
specific
medical image
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022083825A
Other languages
English (en)
Other versions
JP7235912B2 (ja
Inventor
喬俊 狩野
Takatoshi Karino
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JP2022103441A publication Critical patent/JP2022103441A/ja
Application granted granted Critical
Publication of JP7235912B2 publication Critical patent/JP7235912B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • Signal Processing (AREA)
  • Architecture (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Endoscopes (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】内視鏡で得られた医療画像に基づいて注目領域の検出を行う場合において、注目領域の検出結果を検出精度に対応させて報知し、且つ、注目領域の検出位置によって注目領域の検出結果の見落しを防ぐことができる医療画像処理システム、内視鏡システムを提供する。【解決手段】観察対象を撮像して得られる医療画像を取得する。医療画像から注目対象を含む注目領域を検出する。注目領域の検出結果を、少なくとも注目領域の検出位置によって異なる表示態様で、モニタ34に表示する。【選択図】図5

Description

本発明は、内視鏡で得られた医療画像の解析結果を用いる医療画像処理システム、内視鏡システムに関する。
現在の医療分野においては、光源装置、内視鏡、及びプロセッサ装置を備える内視鏡システムなどのように、医療画像を用いる医療画像処理システムが普及している。また、近年においては、医療画像から病変部の可能性のある注目領域を抽出し、抽出した注目領域に対して画像解析を行うことによって、病態に関する診断情報を取得することが行われている。
例えば、特許文献1では、医療画像についての特定の特徴量に基づいて、医療画像における注目領域を検出している。そして、注目領域の検出に基づいて、画面外に特徴領域が検出されたことを報知する報知画像を表示し、また、画面内に特徴領域に対してマーカ画像を付加している。
国際公開第2017/073338号
特許文献1のように、注目領域の検出を行う場合においては、注目領域の検出位置によっては、検出精度が低いことがある。例えば、医療画像のうち内視鏡画像については、内視鏡画像の周辺領域(端部など)においては、レンズ(一般的には画角の広いレンズが使用されている)による画像の特性や照明光の照射ムラなどがある。そのため、内視鏡画像の周辺領域における注目領域の検出精度は、中央領域など他の領域と比較して低くなる場合がある。このように、中心領域と周辺領域では注目領域の検出精度が異なる場合に、中央領域における検出結果と周辺領域における検出結果を同じように表示すると、医師が正確に診断することができないおそれがある。
また、注目領域の検出位置によっては、ユーザーの注意が向けられにくい場合がある。例えば、内視鏡を挿入する際、進行方向(後退方向)に対応する中心領域には注意が向けられる一方、中心領域の外側にある周辺領域には注意が向けられない場合がある。
本発明は、医療画像に基づいて注目領域の検出を行う場合において、注目領域の検出結果を検出精度に対応させて報知し、且つ、注目領域の検出位置によって注目領域の検出結果の見落しを防ぐことができる医療画像処理システム、内視鏡システムを提供することを目的とする。
本発明の医療画像処理システムは、内視鏡で観察対象を撮像して得られる医療画像を取得する医療画像取得部と、医療画像から注目領域を検出する注目領域検出部と、注目領域の検出結果を、少なくとも注目領域の検出位置によって異なる表示態様で、表示部に表示する表示制御部とを備え、予め定められた特定位置と注目領域の検出位置との間の距離を示す特定距離が特定範囲に入っている場合における注目領域の検出結果の表示態様と、特定距離が特定範囲から外れている場合における注目領域の検出結果の表示態様とが異なる。
特定位置は医療画像の中心領域に含まれることが好ましい。
注目領域の検出結果を特定の図形で表す場合において、特定の図形の線の太さ、特定の図形の大きさ、特定の図形の表示時間、特定の図形の透過度がのうち少なくとも1つが、注目領域の検出位置によって異なることが好ましい。
注目領域の検出結果を特定の色領域で表す場合において、特定の色領域の色、特定の色領域の表示時間、のうち少なくとも1つが、注目領域の検出位置によって異なることが好ましい。
また、本発明の医療画像処理システムは、内視鏡で観察対象を撮像して得られる医療画像を取得する医療画像取得部と、医療画像から注目領域を検出する注目領域検出部と、注目領域の検出結果を、少なくとも注目領域の検出位置によって異なる表示態様で、表示部に表示する表示制御部とを備え、注目領域の検出結果を特定の図形で表す場合において、特定の図形の表示時間、特定の図形の線の太さ、特定の図形の大きさ、のうち少なくとも1つが、注目領域の検出位置によって異なる。
特定の図形の透過度が、注目領域の検出位置によって異なることが好ましい。
また、本発明の医療画像処理システムは、内視鏡で観察対象を撮像して得られる医療画像を取得する医療画像取得部と、医療画像から注目領域を検出する注目領域検出部と、注目領域の検出結果を、少なくとも注目領域の検出位置によって異なる表示態様で、表示部に表示する表示制御部とを備え、注目領域の検出結果を特定の色領域で表す場合において、特定の色領域の色、特定の色領域の表示時間、のうち少なくとも1つが、注目領域の検出位置によって異なる。
予め定められた特定位置と注目領域の検出位置との間の距離を示す特定距離が特定範囲に入っている場合における注目領域の検出結果の表示態様と、特定距離が特定範囲から外れている場合における注目領域の検出結果の表示態様とが異なることが好ましい。
特定位置は医療画像の中心領域に含まれることが好ましい。
また、本発明の内視鏡システムは、上述した医療画像処理システムと、内視鏡と、表示部と、を備える。
なお、注目領域としては、例えば、病変部、処理の跡、手術の跡、出血箇所、良性腫瘍部、炎症部、マーキング部、または、生検実施部など、ユーザーが注目領域として所望する対象であることが好ましい。
本発明によれば、医療画像に基づいて注目領域の検出を行う場合において、注目領域の検出結果を検出精度に対応させて報知し、且つ、注目領域の検出位置によって注目領域の検出結果の見落しを防ぐことができる。
画像処理システムと内視鏡システムなどを示すブロック図である。 内視鏡システムを示すブロック図である。 医療画像解析処理部の機能を示すブロック図である。 医療画像における中心領域と周辺領域を示す画像図である。 注目領域の検出位置によってバウンディングボックスの太さが異なることを示す医療画像の画像図である。 図5と異なる医療画像の画像図であって注目領域の検出位置によってバウンディングボックスの太さが異なることを示す医療画像の画像図である。 注目領域の検出位置によってバウンディングボックスの大きさが異なることを示す医療画像の画像図である。 図7と異なる医療画像の画像図であって注目領域の検出位置によってバウンディングボックスの大きさが異なることを示す医療画像の画像図である。 注目領域の検出位置によってバウンディングボックスの表示時間が異なることを示す説明図である。 図9と異なる説明図であって注目領域の検出位置によってバウンディングボックスの表示時間が異なることを示す説明図である。 注目領域の検出位置によってバウンディングボックスの透過度が異なることを示す医療画像の画像図である。 図11と異なる医療画像の画像図であって注目領域の検出位置によってバウンディングボックスの透過度が異なることを示す医療画像の画像図である。 注目領域の検出位置によって特定の色領域の色が異なることを示す医療画像の画像図である。 注目領域の検出位置によって特定の色領域の表示時間が異なることを示す説明図である。 図14と異なる説明図であって注目領域の検出位置によって特定の色領域の表示時間が異なることを示す説明図である。 特定位置SP、注目領域の検出位置DP、及び特定距離Lを示す医療画像の画像図である。 画像処理システムを含む診断支援装置である。 画像処理システムを含む医療業務支援装置である。
図1に示すように、画像処理システム10は、医療画像取得部11、医療画像解析処理部12、表示部13、表示制御部15、入力受信部16、統括制御部17、及び、保存部18を備える。
医療画像取得部11は、医療装置である内視鏡システム21等から直接に、または、PACS(Picture Archiving and Communication System)22等の管理システムもしくはその他情報システムを介して、被写体像を含む医療画像を取得する。医療画像は静止画像または動画(いわゆる検査動画)である。医療画像が動画である場合、医療画像取得部11は、検査後に動画を構成するフレーム画像を静止画像として取得することができる。また、医療画像が動画である場合、医療画像の表示には、動画を構成する1つの代表フレームの静止画像を表示することのほか、動画を1または複数回、再生することを含む。また、医療画像取得部11が取得する医療画像には、内視鏡システム21等の医療装置を用いて医師が撮影した画像の他、内視鏡システム21等の医療装置が医師の撮影指示に依らず自動的に撮影した画像を含む。なお、本実施形態では、画像処理システム10及び内視鏡システム21ともに医療画像を用いて画像処理を行うことから、画像処理システム10及び内視鏡システム21はいずれも医療画像処理システムに相当する。
医療画像取得部11は、複数の医療画像を取得し得る場合、これらの医療画像のうち1または複数の医療画像を選択的に取得できる。また、医療画像取得部11は、複数の互いに異なる検査において取得した複数の医療画像を取得できる。例えば、過去に行った検査で取得した医療画像と、最新の検査で取得した医療画像と、の一方または両方を取得できる。すなわち、医療画像取得部11は、任意に医療画像を取得できる。
本実施形態においては、被写体像を含む医療画像を複数取得する。より具体的には、1回の特定の検査において撮影した医療画像を取得し、かつ、1回の特定の検査において撮影した医療画像が複数ある場合には、一連の医療画像のうち複数の医療画像を取得する。また、本実施形態においては、画像処理システム10は、内視鏡システム21と接続し、内視鏡システム21から医療画像を取得する。すなわち、本実施形態において医療画像は、内視鏡画像である。
表示部13は、医療画像取得部11が取得した医療画像、及び、医療画像解析処理部12の解析結果を表示するディスプレイである。画像処理システム10が接続するデバイス等が含むモニタまたはディスプレイを共用し、画像処理システム10の表示部13として使用できる。表示制御部15は、表示部13における医療画像及び解析結果の表示態様を制御する。
入力受信部16は、画像処理システム10に接続するマウス、キーボード、その他操作デバイスからの入力を受け付ける。画像処理システム10の各部の動作はこれらの操作デバイスを用いて制御できる。
統括制御部17は、画像処理システム10の各部の動作を統括的に制御する。入力受信部16が操作デバイスを用いた操作入力を受信した場合には、統括制御部17は、その操作入力にしたがって画像処理システム10の各部を制御する。
保存部18は、画像処理システム10が含むメモリ等の記憶デバイス(図示しない)、または、内視鏡システム21等の医療装置もしくはPACS22が含む記憶デバイス(図示しない)に、医療画像の静止画等を保存する。
図2に示すように、本実施形態において画像処理システム10が接続する内視鏡システム21は、白色の波長帯域の光もしくは特定の波長帯域の光の少なくともいずれかを照射して被写体を撮影することにより画像を取得する内視鏡31、内視鏡31を介して被写体内に照明光を照射する光源装置32、プロセッサ装置33、及び、内視鏡31を用いて撮影した内視鏡画像等を表示するモニタ34を有する。内視鏡31が照明光に使用する特定の波長帯域の光は、例えば、緑色波長帯域よりも短波長帯域の光、特に可視域の青色帯域または紫色帯域の光である。
プロセッサ装置33は、医療画像取得部35、医療画像解析処理部36、表示制御部37を備えている。医療画像取得部35は、内視鏡31から出力される医療画像を取得する。医療画像解析処理部36は、医療画像取得部35で取得した医療画像に対して、解析処理を行う。医療画像解析処理部36での処理内容は、画像処理システム10の医療画像解析処理部12での処理内容と同様である。表示制御部37は、医療画像解析処理部36で得られた医療画像をモニタ34に表示する。プロセッサ装置33は画像処理システム10と接続される。なお、医療画像取得部35は医療画像取得部11と同様であり、医療画像解析処理部36は医療画像解析処理部12と同様であり、表示制御部37は表示制御部15と同様である。
医療画像解析処理部36は、医療画像取得部11が取得した医療画像を用いて解析処理をする。図3に示すように、医療画像解析処理部12は、注目領域検出部41と、表示態様決定部42と、を含む。注目領域検出部41では、医療画像から注目領域を検出する注目領域検出処理を行う。注目領域検出処理としては、例えば、NN(Neural Network)、CNN(Convolutional Neural Network)、Adaboost、ランダムフォレストなどを用いてもよい。また、注目領域検出処理として、医療画像の色情報、画素値の勾配等で得られる特徴量を元に、注目領域の検出を行ってもよい。なお、画素値の勾配等は、例えば、被写体の形状(粘膜の大局的な起伏または局所的な陥凹もしくは隆起等)、色(炎症、出血、発赤、または萎縮に起因した白化等の色)、組織の特徴(血管の太さ、深さ、密度、もしくはこれらの組み合わせ等)、または、構造の特徴(ピットパターン等)等によって、変化が表れる。
なお、注目領域検出部41で検出される注目領域は、例えば、がんに代表される病変部、処理の跡、手術の跡、出血箇所、良性腫瘍部、炎症部(いわゆる炎症の他、出血または萎縮等の変化がある部分を含む)、加熱による焼灼跡もしくは着色剤、蛍光薬剤等による着色によってマーキングしたマーキング部、または、生体検査(いわゆる生検)を実施した生検実施部を含む領域である。すなわち、病変を含む領域、病変の可能性がある領域、生検等の何らかの処置をした領域、クリップやかん子などの処置具、または、暗部領域(ヒダ(襞)の裏、管腔奥のため観察光が届きにくい領域)など病変の可能性にかかわらず詳細な観察が必要である領域等が注目領域になり得る。内視鏡システム21においては、注目領域検出部41は、病変部、処理の跡、手術の跡、出血箇所、良性腫瘍部、炎症部、マーキング部、または、生検実施部のうち少なくともいずれかを含む領域を注目領域として検出する。
表示態様決定部42は、注目領域の検出位置に基づいて、注目領域の検出結果の表示態様を決定する。表示制御部37は、注目領域の検出結果の表示態様に従って、医療画像上において注目領域の検出結果をモニタ34に表示する。ここで、内視鏡31で使用しているレンズ(一般的には画角の広いレンズが使用されている)による画像の特性や照明光の照射ムラなどにより、医療画像から注目領域を検出した検出位置によって、検出精度に違いがあるため、注目領域の検出結果の表示態様を変えることが好ましい。また、ユーザーが注目領域を見落としやすい領域と見落としにくい領域があることを考慮し、注目領域の検出位置によって注目領域の検出結果の表示態様を変えることが好ましい。
例えば、図4に示すように、注目領域の検出位置が医療画像の中心領域43(第1領域)の含まれている場合における注目領域の検出結果の表示態様と、注目領域の検出位置が医療画像の周辺領域44(第2領域)に含まれている場合における注目領域の検出結果の表示態様を変えることが好ましい。例えば、注目領域の検出結果を特定の図形で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の図形の線の太さと、周辺領域44で検出された注目領域の報知に用いる特定の図形の線の太さとを異ならせる。なお、中心領域43で検出された注目領域の報知に用いる特定の図形の形(例えば、星形)と、周辺領域44で検出された注目領域の報知に用いる特定の図形の形(例えば、円)とを変えるようにしてもよい。
特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの太さで表す場合には、図5に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス46の枠の太さを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス47の枠の太さよりも太くすることが好ましい。これにより、ユーザーは、バウンディングボックス46、47の太さによって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
一方、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの太さで表す場合には、図6に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス48の枠の太さを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス49の枠の太さよりも細くすることが好ましい。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス49の視認性が高いため、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス48の視認性が低いため、煩わしさを軽減することができる。
また、注目領域の検出結果を特定の図形で表す場合において、中心領域で検出された注目領域の報知に用いる特定の図形の大きさと、周辺領域で検出された注目領域の報知に用いる特定の図形の大きさを異ならせる。この場合、図7に示すように、特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの大きさで表す場合には、中心領域43で検出された注目領域の報知に用いるバウンディングボックス50の大きさを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス51の大きさよりも大きくが好ましい。これにより、ユーザーは、バウンディングボックス50、51の大きさによって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
一方、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの大きさで表す場合には、図8に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス52の大きさを、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス53の大きさよりも小さくことが好ましい。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス53が大きく表示されることにより、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス50が小さく表示されることにより、煩わしさを軽減することができる。
また、注目領域の検出結果を特定の図形で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の図形をモニタ34で表示し続ける時間(表示時間)と、周辺領域44で検出された注目領域の報知に用いる特定の図形の表示時間を異ならせる。この場合、図9に示すように、特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの表示時間で表す場合であって、中心領域43と周辺領域44の両方で注目領域が検出された場合には、例えば、まず、中心領域43で検出された注目領域の報知に用いるバウンディングボックス54と、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス55が表示される。
そして、注目領域の検出から第1の表示時間が経過した時点で、バウンディングボックス54の表示は継続する(実線で表示)一方で、バウンディングボックス55は非表示(点線で表示)とする。更に、第1の表示時間経過後、第2の表示時間が経過した時点で、両方のバウンディングボックス54、55を非表示にする。これにより、ユーザーは、バウンディングボックス54、56の表示時間によって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
一方、図10に示すように、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの表示時間で表す場合には、例えば、まず、中心領域43で検出された注目領域の報知に用いるバウンディングボックス56と、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス57が表示される。そして、注目領域の検出から第1の表示時間が経過した時点で、バウンディングボックス57の表示は継続する(実線で表示)一方、バウンディングボックス56は非表示(点線)とする。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス57が長い間、表示されることにより、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス56が短い間しか表示されないためにより、煩わしさを軽減することができる。
また、注目領域の検出結果を特定の図形で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の図形の透過度と、周辺領域44で検出された注目領域の報知に用いる特定の図形の透過度を異ならせる。ここで、透過度とは、医療画像において、特定の図形の背景にある被写体像が視認できる度合いのことをいう。透過度が高ければ、特定の図形の背景にある被写体像が透けて見えるようになり、透過度が低ければ、特定の図形の背景にある被写体像が特定の図形で見えにくくなっている。
そして、図11に示すように、特定の形としてバウンディングボックスを用い、注目領域の検出精度をバウンディングボックスの透過度で表す場合には、中心領域43で検出された注目領域の報知に用いるバウンディングボックス58の透過度を、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス59の透過度よりも低くすることが好ましい。これにより、ユーザーは、バウンディングボックスの透過度によって、検出精度を把握することができる。なお、図11では、透過度をハッチングの尺度で表しており、尺度が大きくなるほど、透過度が低く、尺度が小さくなるほど、透過度が高くなっている。
一方、特定の形としてバウンディングボックスを用い、注目領域の見落し易さをバウンディングボックスの透過度で表す場合には、図12に示すように、中心領域43で検出された注目領域の報知に用いるバウンディングボックス60の透過度を、周辺領域44で検出された注目領域の報知に用いるバウンディングボックス61の透過度よりも高くすることが好ましい。これにより、周辺領域44で検出された注目領域に関しては、バウンディングボックス61の透過度が低いことにより、バウンディングボックス61を視認し易くなっているため、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、バウンディングボックス60の透過度が高いことにより、バウンディングボックス60の視認性が低くなっているため、煩わしさを軽減することができる。
また、注目領域の検出結果を特定の色領域で表す場合には、中心領域で検出した注目領域の報知に用いる特定の色領域の色と、周辺領域で検出した注目領域の報知に用いる特定の色領域の色とを異ならせる。特定の色領域は、注目領域を含むことが好ましい。また、特定の色領域は、赤色など生体内の色と全く異なる疑似カラーを用いることが好ましいが、注目領域の色と区別できるような色とすることが好ましい。
この場合、特定の色領域の色で注目領域の検出精度を表す場合には、図13に示すように、中心領域43で検出された注目領域の報知に用いる特定の色領域62を、視認性の高い色(例えば、明度、彩度が高い色)で表示する一方で、周辺領域44で検出された注目領域の報知に用いる特定の色領域63を、視認性の低い色(例えば、明度、彩度が低い色)で表示する。これにより、ユーザーは、特定の色領域の色によって検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
一方、特定の色で注目領域の見落し易さを表す場合には、図示は省略するものの、中心領域43で検出された注目領域の報知に用いる特定の色領域を、視認性の低い色(例えば、明度、彩度が低い色)で表示する一方で、周辺領域44で検出された注目領域の報知に用いる特定の色領域を、視認性の高い色(例えば、明度、彩度が高い色)で表示する。これにより、周辺領域44で検出された注目領域に関しては、特定の色領域の視認性が高いため、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、特定の色領域の視認性が低いため、煩わしさを軽減することができる。
また、注目領域の検出結果を、生体内の色と全く異なる疑似カラーなどの特定の色領域で表す場合において、中心領域43で検出された注目領域の報知に用いる特定の色領域をモニタ34で表示し続ける時間(表示時間)と、周辺領域44で検出された注目領域の報知に用いる特定の色領域の表示時間を異ならせる。この場合、注目領域の検出精度を特定の色領域の表示時間で表す場合であって、中心領域43と周辺領域44の両方で注目領域が検出された場合には、図14に示すように、まず、中心領域43で検出された注目領域の報知に用いる特定の色領域64と、周辺領域44で検出された注目領域の報知に用いる特定の色領域65が表示される。
そして、注目領域の検出から第1の表示時間が経過した時点で、特定の色領域64の表示は継続する(実線で表示)一方で、特定の色領域65は非表示(点線で表示)とする。ここで、非表示とは、特定の色領域の色と他の領域の色との違いが無くなることをいう。更に、第1の表示時間経過後、第2の表示時間が経過した時点で、両方の特定の色領域64、64を非表示にする。これにより、ユーザーは、特定の色領域の表示時間の長短によって、検出精度を把握することができる。即ち、ユーザーは、中心領域43で検出された注目領域は検出精度が高い一方、周辺領域44で検出された注目領域は検出精度が低いことを把握することができる。
一方、注目領域の見落し易さを特定の色領域の表示時間で表す場合であって、中心領域43と周辺領域44の両方で注目領域が検出された場合には、図15に示すように、まず、中心領域43で検出された注目領域の報知に用いる特定の色領域66と、周辺領域44で検出された注目領域の報知に用いる特定の色領域67が表示される。そして、注目領域の検出から第1の表示時間が経過した時点で、特定の色領域の表示は継続する(実線で表示)一方、特定の色領域は非表示(点線)とする。これにより、周辺領域44で検出された注目領域に関しては、特定の色領域67が長い間、表示されることにより、見落としを防ぐことができる。一方、中心領域43で検出された注目領域に関しては、特定の色領域66が短い間しか表示されないためにより、煩わしさを軽減することができる。
なお、注目領域の検出位置が医療画像の中心領域又は周辺領域のいずれに含まれているか否かによって、注目領域の検出結果の表示態様を変えているが、図16に示すように、予め定めた特定位置SPと注目領域の検出位置DPとの間の距離を示す特定距離Lに基づいて、注目領域の検出結果の表示態様とを変えてもよい。特定位置SPについては医療画像の中心領域43に含まれていることが好ましい。例えば、特定距離Lが特定範囲に入っている場合における注目領域の検出結果の表示態様(特定範囲内表示態様)と、特定距離が特定範囲から外れている場合における注目領域の検出結果の表示態様(特定範囲外表示態様)とを異ならせる。具体的には、特定範囲内表示態様としての特定の図形の線の太さ、大きさ、表示時間、透過度、又は特定の色、特定の色の表示時間と、特定範囲外表示態様としての特定の図形の線の太さ、大きさ、表示時間、透過度、又は特定の色、特定の色の表示時間とを異ならせる。この異ならせるための具体的な例については、上記と同様である。
また、医療画像を中心領域又は周辺領域の2つの領域分けて、いずれかの領域で注目領域の検出結果の表示態様を変える他、医療画像を3以上の領域に分けて、各領域で注目領域の検出結果の表示態様を変えるようにしてもよい。また、中心領域と周辺領域のように、医療画像を同心円状に分割しているが、分割する形状については、矩形形状などその他の形状であってもよい。また、医療画像を分割する場合には、同心円、矩形形状など複数種類を組み合わせて、分割してもよい。
また、特定の図形として、バウンディングボックスを挙げているが、その他の図形であってもよい。例えば、バウンディングボックスに色を付けたものや、注目領域に含まれる観察対象をアイコン(指のマークやマウスカーソル)などで指し示したりしてもよい。
なお、図17に示すように、内視鏡システム21その他モダリティやPACS22とを組み合わせて使用する診断支援装置610は、上記実施形態及びその他変形例の画像処理システム10を含むことができる。また、図18に示すように、例えば内視鏡システム21を含む、第1検査装置621、第2検査装置622、…、第N検査装置633等の各種検査装置と任意のネットワーク626を介して接続する医療業務支援装置630は、上記実施形態及びその他変形例の画像処理システム10を含むことができる。
この他、画像処理システム10、内視鏡システム21、及び、画像処理システム10を含む各種装置またはシステムは、以下の種々の変更等をして使用できる。
医療画像としては、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像を用いることができる。
医療画像としては、特定の波長帯域の光を照射して得た画像を使用する場合、特定の波長帯域は、白色の波長帯域よりも狭い帯域を用いることができる。
特定の波長帯域は、例えば、可視域の青色帯域または緑色帯域である。
特定の波長帯域が可視域の青色帯域または緑色帯域である場合、特定の波長帯域は、390nm以上450nm以下または530nm以上550nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、390nm以上450nm以下または530nm以上550nm以下の波長帯域内にピーク波長を有することが好ましい。
特定の波長帯域は、例えば、可視域の赤色帯域である。
特定の波長帯域が可視域の赤色帯域である場合、特定の波長帯域は、585nm以上615nmまたは610nm以上730nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、585nm以上615nm以下または610nm以上730nm以下の波長帯域内にピーク波長を有することが好ましい。
特定の波長帯域は、例えば、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有することができる。
特定の波長帯域が、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、特定の波長帯域の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する場合、特定の波長帯域は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、400±10nm、440±10nm、470±10nm、または、600nm以上750nm以下の波長帯域にピーク波長を有することが好ましい。
医療画像が生体内を写した生体内画像である場合、この生体内画像は、生体内の蛍光物質が発する蛍光の情報を有することができる。
また、蛍光は、ピーク波長が390nm以上470nm以下である励起光を生体内に照射して得る蛍光を利用できる。
医療画像が生体内を写した生体内画像である場合、前述の特定の波長帯域は、赤外光の波長帯域を利用することができる。
医療画像が生体内を写した生体内画像であり、前述の特定の波長帯域として、赤外光の波長帯域を利用する場合、特定の波長帯域は、790nm以上820nmまたは905nm以上970nm以下の波長帯域を含み、かつ、特定の波長帯域の光は、790nm以上820nm以下または905nm以上970nm以下の波長帯域にピーク波長を有することが好ましい。
医療画像取得部11は、白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像に基づいて、特定の波長帯域の信号を有する特殊光画像を取得する特殊光画像取得部を有することができる。この場合、医療画像として特殊光画像を利用できる。
特定の波長帯域の信号は、通常光画像に含むRGBまたはCMYの色情報に基づく演算により得ることができる。
白色帯域の光、または白色帯域の光として複数の波長帯域の光を照射して得る通常光画像と、特定の波長帯域の光を照射して得る特殊光画像との少なくとも一方に基づく演算によって、特徴量画像を生成する特徴量画像生成部を備えることができる。この場合、医療画像として特徴量画像を利用できる。
内視鏡システム21については、内視鏡31としてカプセル内視鏡を使用できる。この場合、光源装置32と、プロセッサ装置33の一部と、はカプセル内視鏡に搭載できる。
上記実施形態及び変形例において、医療画像取得部11、医療画像解析処理部12、及び医療画像解析処理部12を構成する各部、表示制御部15、入力受信部16、統括制御部17、並びに、医療画像取得部35、医療画像解析処理部36、表示制御部37、注目領域検出部41、表示態様決定部42といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路、画像処理などの処理を大量に並列に行うGPU (Graphical Processing Unit)などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGA、CPUとFPGAの組み合わせ、又はCPUとGPUの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。また、記憶部のハードウェア的な構造はHDD(hard disc drive)やSSD(solid state drive)等の記憶装置である。
また、本発明の別の形態は以下の通りである。
本発明の医療画像処理システムは、
プロセッサ装置が、
医療画像取得部によって、観察対象を撮像して得られる医療画像を取得し、
注目領域検出部によって、前記医療画像から注目領域を検出し、
表示制御部によって、前記注目領域の検出結果を、少なくとも前記注目領域の検出位置によって異なる表示態様で、表示部に表示する。
10 画像処理システム
11 医療画像取得部
12 医療画像解析処理部
13 表示部
15 表示制御部
16 入力受信部
17 統括制御部
18 保存部
21 内視鏡システム
22 PACS
31 内視鏡
32 光源装置
33 プロセッサ装置
34 モニタ
35 医療画像取得部
36 医療画像解析処理部
37 表示制御部
41 注目領域検出部
42 表示態様決定部
43 中心領域
44 周辺領域
46 バウンディングボックス
46~61 バウンディングボックス
62~67 特定の色領域
610 診断支援装置
621 第1検査装置
622 第2検査装置
623 第3検査装置
626 ネットワーク
630 医療業務支援装置
SP 特定位置
DP 検出位置
L 特定距離

Claims (10)

  1. 内視鏡で観察対象を撮像して得られる医療画像を取得する医療画像取得部と、
    前記医療画像から注目領域を検出する注目領域検出部と、
    前記注目領域の検出結果を、少なくとも前記注目領域の検出位置によって異なる表示態様で、表示部に表示する表示制御部とを備え、
    予め定められた特定位置と前記注目領域の検出位置との間の距離を示す特定距離が特定範囲に入っている場合における前記注目領域の検出結果の表示態様と、前記特定距離が前記特定範囲から外れている場合における前記注目領域の検出結果の表示態様とが異なる医療画像処理システム。
  2. 前記特定位置は前記医療画像の中心領域に含まれる請求項1記載の医療画像処理システム。
  3. 前記注目領域の検出結果を特定の図形で表す場合において、前記特定の図形の線の太さ、前記特定の図形の大きさ、前記特定の図形の表示時間、前記特定の図形の透過度がのうち少なくとも1つが、前記注目領域の検出位置によって異なる請求項1または2記載の医療画像処理システム。
  4. 前記注目領域の検出結果を特定の色領域で表す場合において、前記特定の色領域の色、前記特定の色領域の表示時間、のうち少なくとも1つが、前記注目領域の検出位置によって異なる請求項1ないし3いずれか1項記載の医療画像処理システム。
  5. 内視鏡で観察対象を撮像して得られる医療画像を取得する医療画像取得部と、
    前記医療画像から注目領域を検出する注目領域検出部と、
    前記注目領域の検出結果を、少なくとも前記注目領域の検出位置によって異なる表示態様で、表示部に表示する表示制御部とを備え、
    前記注目領域の検出結果を特定の図形で表す場合において、前記特定の図形の表示時間、前記特定の図形の線の太さ、前記特定の図形の大きさ、のうち少なくとも1つが、前記注目領域の検出位置によって異なる医療画像処理システム。
  6. 前記特定の図形の透過度が、前記注目領域の検出位置によって異なる請求項5記載の医療画像処理システム。
  7. 内視鏡で観察対象を撮像して得られる医療画像を取得する医療画像取得部と、
    前記医療画像から注目領域を検出する注目領域検出部と、
    前記注目領域の検出結果を、少なくとも前記注目領域の検出位置によって異なる表示態様で、表示部に表示する表示制御部とを備え、
    前記注目領域の検出結果を特定の色領域で表す場合において、前記特定の色領域の色、前記特定の色領域の表示時間、のうち少なくとも1つが、前記注目領域の検出位置によって異なる医療画像処理システム。
  8. 予め定められた特定位置と前記注目領域の検出位置との間の距離を示す特定距離が特定範囲に入っている場合における前記注目領域の検出結果の表示態様と、前記特定距離が前記特定範囲から外れている場合における前記注目領域の検出結果の表示態様とが異なる請求項5ないし7いずれか1項記載の医療画像処理システム。
  9. 前記特定位置は前記医療画像の中心領域に含まれる請求項8記載の医療画像処理システム。
  10. 請求項1ないし9いずれか1項記載の医療画像処理システムと、
    内視鏡と、
    表示部と、
    を備える、内視鏡システム。
JP2022083825A 2018-08-20 2022-05-23 医療画像処理システム、内視鏡システム Active JP7235912B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2018154120 2018-08-20
JP2018154120 2018-08-20
JP2020538311A JP7079849B2 (ja) 2018-08-20 2019-08-08 医療画像処理システム
PCT/JP2019/031432 WO2020039968A1 (ja) 2018-08-20 2019-08-08 医療画像処理システム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2020538311A Division JP7079849B2 (ja) 2018-08-20 2019-08-08 医療画像処理システム

Publications (2)

Publication Number Publication Date
JP2022103441A true JP2022103441A (ja) 2022-07-07
JP7235912B2 JP7235912B2 (ja) 2023-03-08

Family

ID=69593203

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020538311A Active JP7079849B2 (ja) 2018-08-20 2019-08-08 医療画像処理システム
JP2022083825A Active JP7235912B2 (ja) 2018-08-20 2022-05-23 医療画像処理システム、内視鏡システム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2020538311A Active JP7079849B2 (ja) 2018-08-20 2019-08-08 医療画像処理システム

Country Status (5)

Country Link
US (1) US20210153722A1 (ja)
EP (1) EP3841954A4 (ja)
JP (2) JP7079849B2 (ja)
CN (1) CN112584741A (ja)
WO (1) WO2020039968A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024048098A1 (ja) * 2022-08-30 2024-03-07 富士フイルム株式会社 医療支援装置、内視鏡、医療支援方法、及びプログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020036109A1 (ja) * 2018-08-17 2020-02-20 富士フイルム株式会社 医用画像処理装置及び内視鏡システム並びに医用画像処理装置の作動方法
EP4024115A4 (en) * 2019-10-17 2022-11-02 Sony Group Corporation SURGICAL INFORMATION PROCESSING DEVICE, SURGICAL INFORMATION PROCESSING METHOD AND SURGICAL INFORMATION PROCESSING PROGRAM
JP7428055B2 (ja) * 2020-04-07 2024-02-06 コニカミノルタ株式会社 診断支援システム、診断支援装置及びプログラム
JP7237883B2 (ja) * 2020-04-14 2023-03-13 Eizo株式会社 情報処理装置、情報処理方法、及びコンピュータプログラム
US20230181002A1 (en) * 2021-12-14 2023-06-15 Karl Storz Imaging, Inc. Frame processing of imaging scope data for user interface presentation

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011115264A (ja) * 2009-12-01 2011-06-16 Konica Minolta Medical & Graphic Inc 医用情報表示装置及びプログラム
WO2014084134A1 (ja) * 2012-11-30 2014-06-05 オリンパス株式会社 観察装置
WO2017081976A1 (ja) * 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2025290A1 (en) * 2006-05-19 2009-02-18 Hitachi Medical Corporation Medical image display device and program
JP2009086765A (ja) * 2007-09-27 2009-04-23 Fujifilm Corp 医用レポートシステム、医用レポート作成装置、及び医用レポート作成方法
JP5380348B2 (ja) * 2010-03-31 2014-01-08 富士フイルム株式会社 内視鏡観察を支援するシステムおよび方法、並びに、装置およびプログラム
JP5597021B2 (ja) * 2010-04-15 2014-10-01 オリンパス株式会社 画像処理装置及びプログラム
JP2012005512A (ja) * 2010-06-22 2012-01-12 Olympus Corp 画像処理装置、内視鏡装置、内視鏡システム、プログラム及び画像処理方法
JP5934070B2 (ja) * 2012-09-26 2016-06-15 富士フイルム株式会社 仮想内視鏡画像生成装置およびその作動方法並びにプログラム
JP2015016067A (ja) * 2013-07-10 2015-01-29 富士フイルム株式会社 画像表示方法および装置並びにプログラム
CN106456252B (zh) * 2014-03-28 2020-05-08 直观外科手术操作公司 手术场景的定量三维成像
JP6013665B1 (ja) * 2014-11-26 2016-10-25 オリンパス株式会社 診断支援装置及び診断支援情報表示方法
CN108135457B (zh) 2015-10-26 2020-02-21 奥林巴斯株式会社 内窥镜图像处理装置
US11087461B2 (en) * 2016-06-28 2021-08-10 Sony Corporation Image processing device, image processing method, medical imaging system
JP6263248B2 (ja) * 2016-11-07 2018-01-17 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011115264A (ja) * 2009-12-01 2011-06-16 Konica Minolta Medical & Graphic Inc 医用情報表示装置及びプログラム
WO2014084134A1 (ja) * 2012-11-30 2014-06-05 オリンパス株式会社 観察装置
WO2017081976A1 (ja) * 2015-11-10 2017-05-18 オリンパス株式会社 内視鏡装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024048098A1 (ja) * 2022-08-30 2024-03-07 富士フイルム株式会社 医療支援装置、内視鏡、医療支援方法、及びプログラム

Also Published As

Publication number Publication date
JPWO2020039968A1 (ja) 2021-08-12
US20210153722A1 (en) 2021-05-27
JP7079849B2 (ja) 2022-06-02
EP3841954A1 (en) 2021-06-30
WO2020039968A1 (ja) 2020-02-27
EP3841954A4 (en) 2021-10-13
CN112584741A (zh) 2021-03-30
JP7235912B2 (ja) 2023-03-08

Similar Documents

Publication Publication Date Title
JP7079849B2 (ja) 医療画像処理システム
JP6936401B2 (ja) 医療画像処理システム
US11867896B2 (en) Endoscope system and medical image processing system
US11881190B2 (en) Medical image processing apparatus
US11862327B2 (en) Medical image processing system
JP2023026617A (ja) 医療画像処理装置
JP7150855B2 (ja) 医療画像処理装置
US20210224989A1 (en) Medical image processing system and learning method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230207

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230224

R150 Certificate of patent or registration of utility model

Ref document number: 7235912

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150