JP7183451B2 - 頸部超音波検査を支援するためのシステム、デバイス、及び方法 - Google Patents

頸部超音波検査を支援するためのシステム、デバイス、及び方法 Download PDF

Info

Publication number
JP7183451B2
JP7183451B2 JP2021567949A JP2021567949A JP7183451B2 JP 7183451 B2 JP7183451 B2 JP 7183451B2 JP 2021567949 A JP2021567949 A JP 2021567949A JP 2021567949 A JP2021567949 A JP 2021567949A JP 7183451 B2 JP7183451 B2 JP 7183451B2
Authority
JP
Japan
Prior art keywords
acoustic
image
processor
neck
cervical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021567949A
Other languages
English (en)
Other versions
JP2022524237A (ja
Inventor
ナイドゥ ラグハヴェンドラ スリニヴァサ
シヤム ブハラト
クラウディア エリッコ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2022524237A publication Critical patent/JP2022524237A/ja
Application granted granted Critical
Publication of JP7183451B2 publication Critical patent/JP7183451B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/085Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating body or organic structures, e.g. tumours, calculi, blood vessels, nodules
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1072Measuring physical dimensions, e.g. size of the entire body or parts thereof measuring distances on the body, e.g. measuring length, height or thickness
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/43Detecting, measuring or recording for evaluating the reproductive systems
    • A61B5/4306Detecting, measuring or recording for evaluating the reproductive systems for evaluating the female reproductive systems, e.g. gynaecological evaluations
    • A61B5/4318Evaluation of the lower reproductive system
    • A61B5/4331Evaluation of the lower reproductive system of the cervix
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • A61B8/14Echo-tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • A61B8/4254Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors mounted on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4444Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4483Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer
    • A61B8/4488Constructional features of the ultrasonic, sonic or infrasonic diagnostic device characterised by features of the ultrasound transducer the transducer being a phased array
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Surgery (AREA)
  • Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Molecular Biology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Gynecology & Obstetrics (AREA)
  • Physiology (AREA)
  • Artificial Intelligence (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Vascular Medicine (AREA)
  • Quality & Reliability (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Reproductive Health (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

本発明は音響(例えば、超音波)画像に関し、特に、子宮頸部超音波検査を支援するためのシステム、装置及び方法に関する。
音響(例えば、超音波)撮像システムは、様々な用途及び文脈においてますます使用されている。例えば、音響撮像は、子宮頸部検査の文脈においてますます使用されている。経膣超音波検査(TVS)を用いた子宮頸管長測定は、早産のリスクを評価するために不可欠な部分である。妊娠中期において、それは、漸近性女性における後続早産の可能性を予測するための有用な方法を提供する。子宮頸部の評価には、指診、経腹的超音波検査、経会陰的超音波検査、経膣的超音波検査(TVS)の4つの方法が本質的に用いられている。デジタル検査は主観的であるという欠点があり、頸部の長さを測定する際の精度が低い。音響(例えば、超音波)画像診断は子宮頸部組織を低侵襲的に可視化できることから、これらの課題の両方に対処する理想的なモダリティを作っている。しかしながら、正確な測定値(キャリパー配置)を有し、解剖学的ランドマークの正確な識別を有する、子宮頸部の正しいビューを得ることは、依然として非常に困難である。
したがって、子宮頸部超音波画像におけるこれらの課題に対処することができるシステム及び方法を提供することが望ましい。また、正しい撮像平面及び子宮頸漏斗の解剖学的ランドマークを識別し、妊娠中の子宮頸部の長さの正確な測定を実行するために、超音波検査技師にガイダンスを提供することが望ましい。
本発明の一態様では、システムが音響トランスデューサ素子のアレイを有する音響プローブと、音響プローブのポーズを示す慣性測定信号を提供するように構成される慣性測定ユニットと、音響プローブに接続され、音響トランスデューサ素子のうちの少なくとも一部に送信信号を提供するように構成され、音響トランスデューサ素子のアレイが子腔を含む前記関心領域に音響プローブ信号を送信するようにし、音響プローブ信号に応答して、音響プローブが対象領域から受信した音響エコーに応答して、前記関心領域の音響画像を生成するようにさらに構成される、音響プローブと、を備える。音響撮像機器は表示装置と、前記関心領域からの音響エコーから生成される音響プローブからの一つ又はそれより多くの画像信号を受信し、慣性測定信号を受信するように構成される通信インターフェースと、プロセッサと、関連するメモリとを含む。プロセッサはスキャンセッション中の複数の時間フレームの各々について、一つ又はそれより多くの画像信号及び受信した慣性測定信号から前記関心領域の3次元ボリュームを構成し、構成される前記関心領域の3次元ボリュームにディープラーニングアルゴリズムを適用して、頸部についての候補頸部長さを取得するための画像平面を認定し、認定画像平面について画像セグメンテーション及び対象物検出を実行して、候補頸部長さを取得するように構成される。プロセッサはスキャンセッションのための測定される頸部長さとして、複数の時間フレームから最短の候補子宮頸部長さを選択し、スキャンセッションのための測定される頸部長さに対応する頸部の画像と、スキャンセッションのための測定される頸部長さの指示とを表示するように、表示装置を制御するように構成される。
いくつかの実施形態では、プロセッサが候補頸部長さを示すグラフを表示し、スキャンセッションの測定頸部長さの指標をグラフ上に表示するように、表示装置を制御するように構成される。いくつかの実施形態では、プロセッサがスキャンセッションの測定される子宮頸部長さ及びスキャンセッションの日付を不揮発性メモリデバイスに記憶するように構成される。
いくつかの実施形態では不揮発性メモリ装置が対応する時間に実行される複数のスキャンセッションのための複数の測定される頸部長さを不揮発性メモリ装置に記憶するように構成され、プロセッサは対応する時間に対してスキャンセッションのための頸部長さをプロットするグラフをディスプレイに表示させるように構成される。
いくつかの実施形態では、プロセッサが認定画像平面のための画像データを生成し、認定画像平面のための画像データをYOLO(You Only Look Once)ニューラルネットワークに適用することによって画像セグメンテーションを実行するように構成される。
いくつかの実施形態では、プロセッサが認定画像平面のための画像データを生成し、認定画像平面のための画像データをUネット畳み込みネットワークに適用することによって、認定画像平面のための対象物検出を実行するように構成される。
いくつかの実施形態では、プロセッサが3次元ボリュームの複数の画像平面についての画像データを生成するように構成され、ディープラーニングアルゴリズムは3次元ボリュームの画像平面を適格とする一つ又はそれより多くの認定解剖学的ランドマークを使用し、3次元ボリュームの画像平面を不適格とする一つ又はそれより多くの非認定解剖学的ランドマークを使用する。
いくつかの実施形態では、第1の頸部形状が非認定解剖学的ランドマークの1つとして使用され、第2の頸部形状は認定解剖学的ランドマークの1つとして使用される。特に、ある種の頸部形状などのある種の解剖学的ランドマークはそのビューが頸部長さを測定するための良好なビューではないことを示し、その場合、そのビューは頸部長さ測定に使用されることが不適格である。
いくつかの実施形態ではプロセッサが3次元ボリュームの複数の画像平面についての画像データを生成するように構成され、ディープラーニングアルゴリズムは畳み込みニューラルネットワーク(CNN)、ユーオンリールックワンス(YOLO)ニューラルネットワーク、又はUネット畳み込みネットワークのうちの1つに画像データを適用する。
本発明の別の態様では、方法が子宮頸部を含むスキャンセッション中に、音響プローブを用いて前記関心領域のリアルタイム2次元音響撮像を実行することを含み、前記関心領域の一つ又はそれより多くの画像信号を生成することと、音響プローブの姿勢を示す慣性測定信号を生成することとを含む。この方法はスキャンセッションにおける複数の時間フレームの各々について、一つ又はそれより多くの画像信号及び慣性測定信号から前記関心領域の3次元ボリュームを構成するステップと、頸部の候補頸部長を取得するために画像平面を認定するために、構成される前記関心領域の3次元ボリュームにディープラーニングアルゴリズムを適用するステップと、認定画像平面に対して画像セグメンテーション及び対象物検出を実行して、候補頸部長さを取得するステップとをさらに含む。この方法は、スキャンセッションのための測定される頸部長さとして、複数の時間フレームから最短の候補子宮頸部長さを選択することと、スキャンセッションのための測定される頸部長さに対応する頸部の画像と、スキャンセッションのための測定される頸部長さの指標とを表示装置上に表示することとをさらに含む。
いくつかの実施形態では、本方法が候補頸部長さを示すグラフを表示するステップと、スキャンセッションの測定頸部長さの指標をグラフ上に表示するステップとをさらに含む。
いくつかの実施形態では、方法がスキャンセッションの測定される頸部長さ及びスキャンセッションの日付を不揮発性メモリデバイスに記憶することをさらに含む。
いくつかの実施形態では、方法が不揮発性メモリデバイスに、対応する時間に実行される複数のスキャンセッションについての複数の測定される頸部長さを記憶するステップと、対応する時間に対してスキャンセッションについての頸部長さをプロットするグラフを表示装置上に表示するステップとをさらに含む。
いくつかの実施形態では、方法が認定画像平面のための画像データを生成するステップと、認定画像平面のための画像データをYOLO(You Only Look Once)ニューラルネットワークに適用することによって画像セグメンテーションを実行するステップとをさらに含む。
いくつかの実施形態では、本方法が認定画像平面のための画像データを生成するステップと、認定画像平面のための画像データをUネット畳み込みネットワークに適用することによって、認定画像平面のための対象物検出を実行するステップとをさらに含む。
いくつかの実施形態では、本方法が3次元ボリュームの複数の画像平面についての画像データを生成するステップと、3次元ボリュームの画像平面を適格とする一つ又はそれより多くの認定解剖学的ランドマークを使用するステップと、3次元ボリュームの画像平面を順番に不適格とする一つ又はそれより多くの非認定解剖学的ランドマークを使用するステップとをさらに含む。
いくつかの実施形態では、方法が非認定解剖学的ランドマークのうちの1つとして第1の頸部形状を使用するステップと、認定解剖学的ランドマークのうちの1つとして第2の頸部形状を使用するステップとをさらに含む。
いくつかの実施形態では、この方法が3次元ボリュームの複数の画像平面の画像データを生成するステップと、この画像データを、畳み込みニューラルネットワーク(CNN)、ユーオンリールックワンス(YOLO)ニューラルネットワーク、又はUネット畳み込みネットワークのうちの1つに適用して、子宮頸部の候補頸部長さを取得するための画像平面を認定するステップとをさらに含む。
子宮頸部の長さの評価に基づく妊娠のための可能な臨床経路を示す。 解剖学的ランドマークを有する子宮頸部の所望のビューの音響画像を示す。 子宮頸部の典型的な解剖学的構造の図を示す。 子宮頸部についての異なる漏斗状パターンの例示的な音響画像を示す。 子宮頸部の長さを決定するための子宮頸部の最適以下のビューを有する音響画像の例を示す。 頸部の長さを決定するための不正確なカーソル配置を有する頸部の音響画像の例を示す。 子宮頸部上の音響プローブによって過剰圧力で生成される子宮頸部の音響画像の一例を示す。 収縮を描写する子宮頸部の音響画像の一例を示す。 音響撮像装置の一実施形態を示す図である。 本開示の実施形態による例示的な処理ユニットを示すブロック図である。 音響プローブの例示的な実施形態を示す。 音響撮像装置の一例の動作を示す図である。 一連の二次元音響画像から3次元(3D)ボリュームを構成するプロセスの一例の動作を示す。 一連の二次元音響画像から3次元(3D)ボリュームを構成するプロセスの一例の動作を示す。 一連の二次元音響画像から3次元(3D)ボリュームを構成するプロセスの一例の動作を示す。 頸部の頸部長さを決定するためのアルゴリズムの例示的な実施形態における主要な動作を示す。 候補頸部長さを示し、スキャンセッションのために測定される頸部長さを示すために、ユーザインターフェースに表示され得るグラフを示す。 図は妊娠中の複数のスキャンセッションからの経時的な測定される頸部長さの進行を示すために、ユーザインターフェースに表示され得るグラフを示す。 頸部の頸部長さを決定する方法の例示的な実施形態のフローチャートを示す。
以下、本発明の好ましい実施形態を示す添付図面を参照して、本発明をより完全に説明する。しかしながら、本発明は、異なる形態で具現化されてもよく、本明細書に記載される実施形態に限定されるものとして解釈されるべきではない。むしろ、これらの実施形態は、本発明の教示例として提供される。ここで、ある値が「ほぼ」又は「実質的に」であると言われる場合、その値の10%以内に手段する。早産(PTB)は周産期の罹患率及び死亡率の主要な原因のままであり、そのため、その予測及び予防は、産科における最も重要な問題の2つ。子宮頸管の筋力低下(無力症)は、早産の原因となる病気である。この状態を診断するために、頸部長さ(CL)は音響(例えば、超音波)撮像システムを使用して測定され得る。音響撮像は、早産の最良の予測因子であることが示されている。妊娠中期には、無症候性女性における後続早産の可能性を予測する有用な方法として、音響画像法が提供される。自然早産の症状を発明女性では、子宮頸管長の測定値が「真の」自然分娩と「偽の」自然分娩(収縮のない早期に子宮頸管が開く)を区別するのに役立つ。さらに、11±0週及び13±週のスキャンでの子宮頸部の測定値が、早産のリスクを確立するのに役立つことを示すいくつかの証拠がある。
図1は、子宮頸部の長さの評価に基づく妊娠のための可能な臨床経路を示す。特に、図1は、早産、分娩を誘発する必要性、長期妊娠、及び反復C切片の必要性を含む、最適以下の頸部長さに関連する妊娠における多くの問題を示す。これらの問題は正常な妊娠転帰とは関連していない。例えば、ある研究では、子宮頸部の長さが2.2cm未満である場合、女性は早産の確率が20%であると報告している。また、妊娠後期における頸管長の増加は、長期の妊娠と相関している。American College of Obstetricians and Gynecologists (ACOG)及びSociety for Maternal Fetal Medicine(SMFM)は自然発生PTB(sPTB)の既往がある単胎児において、子宮頸管長(CL)を妊娠16週から23週の間、2週間毎に測定し、CLが25mm未満の場合にはサークラージュを留置することを推奨している。
上述のように、子宮頸部の評価に用いることができる本質的に4つの方法、指診、経腹超音波、経会陰超音波及び経膣超音波(TVS)がある。指診では、子宮頸部の最も包括的な評価が得られ、子宮頸管の拡張、位置、硬さ及び長さが評価される。しかしながら、この検査は主観的であるという欠点がある。特に頸管長を正確に確立する能力には限界がある。また、子宮頸管内口及び子宮頸管上部では、いかなる変化も再現性よく検出できない。頸部組織を可視化し、その解剖学的構造を表示する能力を有する音響(例えば、超音波)画像は、これらの問題の両方に対処する理想的なモダリティを作る。正確な測定を確実にするために、子宮頸部の解剖学的構造の第1の評価のために経膣プローブが挿入され、次いで、トランスデューサからの圧迫を低減するために、音響画像がブラー(暗い画像又は暗画像を作る)まで引き抜かれる。最終的には、最良の画像を生成するのにちょうど十分な圧力を再び加えるために、再び前方に移動される。正しい画像ビュー及びプロシージャを得るには、漏斗(頸部の頂部の短縮)を観察するために、軽度の恥骨上血圧又は眼底血圧を約15秒間かけることが必要である。次いで、プローブ圧を、基底圧又は恥骨上圧が適用されている間に減少させる。次に、3つの測定値が得られ、最短の測定値が通常記録される。
図2Aは解剖学的ランドマークを有する子宮頸部の所望の図の音響画像を示し、図2Bは、子宮頸部の典型的な解剖学的構造の図を示す。典型的な解剖学的構造は、内部及び外部の口を示す。子宮頸部の長さは、これらの2つの点の間で測定される。子宮頸管の長さの測定に加えて、超音波検査技師は、羊膜の子宮頸管への突出と定義される、漏斗状化のような追加の有意な所見を探さなければならない。子宮頸部分漏斗部分は子宮頸管無力症の徴候であり、子宮頸管内部分の拡張と子宮頸管長の減少を表す。特定の漏斗状パターンは、早産のリスクを示す。25週以前に子育てを50%以上行うと、早産(https://radiopaedia.org/articles/funneling of the internal cervical os))の危険性が約80%になる。
図3は、子宮頸部についての異なる漏斗状パターンの例示的な音響画像を示す。操作者の技能及び胎児の位置によって、異なる漏斗状パターンが生じることがある。1つの重要な要因は、操作者によって子宮頸部に加えられる圧力の量である。同様に、推定される子宮頸部の長さは、患者の動き、呼吸、プローブの動きなどを含む多くの理由により変化する可能性がある。子宮頚管長の測定値には超音波画像診断が最良の選択法であるが、超音波検査は依然として術者依存のモダリティであり、画像技術又は読影に関して多くのピットフォールが可能である。放射線科医は早産のリスクに関連するこれらの画像所見を認識し、紹介元の臨床医に報告できるようにしておくべきである。その後、臨床医は、妊娠中期の開始時から連続的な超音波検査を受けるべき患者を選択するか、又は臨床検査前に無力症を示唆する超音波所見に基づいて適切な治療を決定することがある。頸部の長さの測定が正確かつ再現可能であるためには、いくつかの要因を考慮に入れる必要がある。特に、子宮頸部の反復TVS測定値を行う必要があり、それらはいくつかの基準を満たすべきである。例えば、各子宮頸管長測定値は10%未満だけ異なるべきである。最良の頸部長さ測定値のうち、超音波検査者は、最短の頸部長さ測定値を記録すべきである。誤差のいくつかの一般的な原因は不正確な測定につながり得るが、以下に記載される。第1に、音響画像から子宮頸部全体を視覚化できることが重要である。
図4は、子宮頸部の長さを決定するための子宮頸部の最適以下のビューを有する音響画像の例を示す。図4の例示的な画像では、子宮頸部全体が視覚化されておらず、内耳及び外耳は明確には画定されていない。頸部の長さはおそらく正常であるが、これは次善の画像である。また、測定値キャリパを画像内に正確に配置することも重要である。
図5は、キャリパの配置が正確ではなく、遠位子宮頸部が完全には視覚化されておらず、外部子宮頸口の認識を妨げる子宮頸部の音響画像の例を示す。さらに、音響プローブに子宮頸部に過剰な圧力を加えさせることなく、子宮頸部の音響画像を生成することが重要である。
図6は、子宮頸部上の音響プローブによって過剰圧力で生成される子宮頸部の音響画像の一例を示す。特に、図6は、画像中の子宮頸部上の音響証明による過剰な圧力による、前方及び後方の子宮頸唇の厚さの間の相違を示す。
図7は、収縮を描写する子宮頸部の音響画像の一例を示す。図7は、収縮がどのようにして子宮頸部の前方部分のs字形管及び非対称性につながるかを示す。これらの問題のうちの1つ以上に対処するために、人工知能(AI)/ディープラーニングベースのシステムが正確な頸部測定を可能にするために、以下に記載されるシステム及び方法において使用される。
いくつかの実施形態では、これらのシステム及び方法が 解剖学的ランドマークを識別し、ユーザに視覚的フィードバックを提供する。解剖学的ランドマークに基づいて、最適なビューを得るために音響プローブを操作するようにユーザをガイドする。現在の音響画像に基づいて過剰な音響プローブ血圧を特定し、ユーザーに視覚的なフィードバックを提供する。上記の特定される情報に基づいて、正確な頸部長さ測定値を得るためのどの基準が満たされているか(及びどの基準が満たされていないか)について、ユーザに視覚的フィードバックを提供する。満たされていない基準に基づいて、適切な処置を実行するようにユーザーをガイドする。例えば、正確な頸部長さ測定のための適切なビューが識別されない場合、ユーザは正確な頸部長さ測定のための全ての基準を満たす最良の撮像平面を達成するために、音響プローブをどのように操作するかを指示又はアドバイスされ得る。カリパス点を自動的に識別し、最短の最良の測定頸部長さを記録する。(超音波検査技師が同じスキャンセッション内又は追跡スキャンセッション内のいずれかで、以前に識別されるスキャン平面を再取得することを望む場合)、3Dボリュームを使用した後続の測定のために、以前のスキャン平面を識別する。現在のセッションがフォローアップスキャンである場合、時間頸部長さの進行に関する縦断的な発明の概要を提供する。
図8は、音響撮像機器110及び音響プローブ120を含む、音響撮像システム100の一例を示す。音響撮像機器110は、処理ユニット900と、ユーザインターフェース114と、表示装置116と、通信インターフェース118とを含む。処理ユニット900は、プロセッサ112及びメモリ111を含むことができる。
図9は、本開示の実施形態による例示的な処理ユニット900を示すブロック図である。処理ユニット900は本明細書で説明される一つ又はそれより多くのプロセッサ、例えば、図8に示されるプロセッサ112を実装するために使用され得る。処理ユニット900はマイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ(DSP)、FPGAがプロセッサを形成するようにプログラムされているフィールドプログラマブルゲートアレイ(FPGA)、グラフィカル処理ユニット(GPU)、ASICがプロセッサを形成するように設計されている特定用途向け回路(ASIC)、又はそれらの組み合わせを含むが、それらに限定されない、任意の適切なプロセッサタイプであってもよい。処理ユニット900は、一つ又はそれより多くのコア902を含むことができる。コア902は、一つ又はそれより多くの算術論理ユニット(ALU)904を含むことができる。
いくつかの実施形態では、コア902がALU 904に加えて、又はその代わりに、浮動小数点論理ユニット(FPLU)906及び/又はデジタル信号処理ユニット(DSPU)908を含むことができる。処理ユニット900は、コア902に通信可能に結合される一つ又はそれより多くのレジスタ912を含むことができる。レジスタ912は専用論理ゲート回路(例えば、フリップフロップ)及び/又は任意のメモリ技術を使用して実装され得る。
いくつかの実施形態では、レジスタ912がスタティックメモリを使用して実装されてもよい。レジスタは、データ、命令、及びアドレスをコア902に提供することができる。
いくつかの実施形態では、処理ユニット900がコア902に通信可能に結合される一つ又はそれより多くのレベルのキャッシュメモリ910を含むことができる。キャッシュメモリ910は、実行のためにコア902にコンピュータ可読命令を提供することができる。キャッシュメモリ910は、コア902による処理のためのデータを提供することができる。
ある実施形態では、コンピュータ可読命令がローカルメモリ、例えば、外部バス916に接続されるローカルメモリによってキャッシュメモリ
910に提供されてもよい。キャッシュメモリ910は任意の適切なキャッシュメモリタイプ、例えば、スタティックランダムアクセスメモリ(SRAM)、ダイナミックランダムアクセスメモリ(DRAM)、及び/又は任意の他の適切なメモリ技術を用いて実装され得る。処理ユニット900はシステムに含まれる他のプロセッサ及び/又はコンポーネント(例えば、図8の音響撮像システム100)からのプロセッサ900への入力、及び/又は処理ユニット900からシステムに含まれる他のプロセッサ及び/又はコンポーネント(例えば、図8に示される通信インターフェース118)への出力を制御することができるコントローラ914を含むことができる。コントローラ914は、ALU 904、FPLU 906及び/又はDSPU 908内のデータパスを制御することができる。コントローラ914は、一つ又はそれより多くの状態マシン、データパス及び/又は専用制御ロジックとして実現されてもよい。コントローラ914のゲートは、スタンドアロンゲート、FPGA、ASIC、又は任意の他の適切な技術として実装されてもよい。レジスタ912及びキャッシュ910は、内部接続920A、920B、920C及び920Dを介してコントローラ914及びコア902と通信することができる。内部接続は、バス、マルチプレクサ、クロスバースイッチ、及び/又は任意の他の適切な接続技術として実装され得る。処理ユニット900のための入力及び出力は、一つ又はそれより多くの導電配線を含んでもよいバス916を介して提供されてもよい。バス916は、処理ユニット900の一つ又はそれより多くの構成要素、例えばコントローラ914、キャッシュ910、及び/又はレジスタ912に通信可能に結合されてもよい。バス916は、前述のコンポーネントBBB及びCCCなど、システムの一つ又はそれより多くのコンポーネントに結合することができる。バス916は、一つ又はそれより多くの外部メモリに結合することができる。外部メモリは、読み出し専用メモリ932を含んでもよい。ROM 932は、マスクされるROM、EPROM(Electronically Programmable Read Only Memory)、又はその他の適切な技術とすることができる。外部メモリは、ランダムアクセスメモリ933を含んでもよい。RAM 933は、スタティックRAM、バッテリバックアップされるスタティックRAM、ダイナミックRAM(DRAM)、又は任意の他の適切な技術であり得る。外部メモリは、EEPROM(Electrically Erasable Programmable Read Only Memory)935を含むことができる。外部メモリは、フラッシュメモリ934を含んでもよい。外部メモリは、ディスク936などの磁気記憶デバイスを含むことができる。
いくつかの実施形態では、外部メモリが図8に示す超音波撮像・システム100などのシステムに含めることができる。様々な実施形態では、音響撮像・システム100が図8に関して以下で説明するものとは異なるように構成することができることは理解される。
特に、異なる実施形態では、音響画像計測器110の要素によって実行されるとして記載される一つ又はそれより多くの関数が代わりに、例えば、音響プローブ120内に存在し得る信号処理能力のレベルに応じて、音響プローブ120内で実行されてもよい。様々な実施形態では、プロセッサ112がマイクロプロセッサ(及び関連するメモリ)、デジタル信号プロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、デジタル回路及び/又はアナログ回路の様々な組み合わせを含んでもよい。プロセッサ112に関連付けられたメモリ(例えば、不揮発性メモリ)111はプロセッサ112のマイクロプロセッサに、音響撮像システム100を制御するアルゴリズムを実行させて、以下でより詳細に説明する一つ又はそれより多くの動作又は方法を実行させるコンピュータ可読命令をその中に記憶することができる。
いくつかの実施形態では、マイクロプロセッサがオペレーティングシステムを実行することができる。
いくつかの実施形態では、マイクロプロセッサがユーザインターフェース114及び表示装置116を介して、グラフィカルユーザインターフェース(GUI)を有する音響撮像システム100のユーザを提示する命令を実行することができる。
様々な実施形態では、ユーザインターフェース114がキーボード、キーパッド、マウス、トラックボール、スタイラス/タッチペン、ジョイスティック、マイクロフォン、スピーカ、タッチスクリーン、一つ又はそれより多くのスイッチ、一つ又はそれより多くのノブ、一つ又はそれより多くのボタン、一つ又はそれより多くのライトなどの任意の組合せを含むことができる。
ある実施形態では、プロセッサ112のマイクロプロセッサがユーザインターフェース114のマイクロフォンを介してユーザのコマンドの音声認識を提供するソフトウェアアルゴリズムを実行してもよい。表示装置116は任意の便利な技術(例えば、液晶ディスプレイ)の表示スクリーンを含んでもよい。
いくつかの実施形態では、ディスプレイスクリーンがタッチスクリーンデバイスであってもよく、これもまた、ユーザインターフェース114の一部を形成する。通信インターフェース118は、送信ユニット113及び受信ユニット115を含む。送信ユニット113はプロセッサ112の制御下で一つ又はそれより多くの電気送信信号を生成し、その電気送信信号を音響プローブ120に供給することができる。送信ユニット113は例えば、クロック発生器回路、遅延回路及びパルス発生器回路のような、当該技術分野で公知の種々の回路を含むことができる。また、クロック発生回路は、駆動信号の送信タイミングや送信周波数を設定するためのクロック信号を生成する回路であってもよい。遅延回路は、音響プローブ120のトランスデューサ素子に対応する個々の経路についての駆動信号の伝送タイミングに遅延時間を設定するための回路であってもよく、設定される遅延時間について駆動信号の伝送を遅延させて、音響ビームを集中させて、所望画像平面を不動態化するための所望のプロファイルを有する音響プローブ信号15を生成することができる。また、パルス発生回路は、所定の周期で駆動信号としてパルス信号を発生させる回路であってもよい。有益には、図10に関して後述するように、音響プローブ120は音響トランスデューサ素子122のアレイ、例えば、二次元(2D)アレイ又は線形又は一次元(1D)アレイを含んでもよい。
例えば、いくつかの実施形態では、トランスデューサ素子122が圧電素子を含むことができる。動作中、少なくとも一部の音響トランスデューサ素子122は音響画像計測器110の送信ユニット113から電気送信信号を受信し、電気送信信号を音響ビームに変換して、音響トランスデューサ素子122のアレイに音響プローブ信号15を前記関心領域10に送信させる。音響プローブ120は前記関心領域10内の画像平面と、画像平面のいずれかの側の小さい領域とを不明瞭にすることができる(すなわち、それは、浅い視野に拡大する)。また、音響プローブ120の音響トランスデューサ素子122の少なくともいくつかは、音響プローブ信号15に応答して、前記関心領域10から音響エコーを受信し、受信した音響エコーを、前記関心領域10の画像を表す一つ又はそれより多くの電気信号に変換する。これらの電気信号は、音響プローブ120によってさらに処理され、音響プローブ120(図10参照)の通信インターフェースによって、一つ又はそれより多くの画像信号として受信ユニット115に伝達されてもよい。受信ユニット115は音響プローブ120から一つ又はそれより多くの画像信号を受信し、画像信号を処理して音響画像データを生成するように構成される。
いくつかの実施形態では、受信ユニット115が例えば、一つ又はそれより多くの増幅器、一つ又はそれより多くのA/D変換回路、及び整相加算回路など、当技術分野で知られている様々な回路を含むことができる。増幅器は、トランスデューサ素子122に対応する個々の経路に対する増幅率で画像信号を増幅するための回路であってもよい。また、A/D変換回路は、増幅される画像信号に対してアナログ/デジタル変換(A/D変換)を行うための回路であってもよい。位相加算回路はトランスデューサ素子122にそれぞれ対応する個々の経路に遅延時間をかけ、調整される受信信号を加算(位相加算)して音響データを生成することにより、A/D変換が行われる増幅される画像信号の時間位相を調整する回路である。音響データは、メモリ111、又は音響撮像機器100に関連する別のメモリに記憶されてもよい。プロセッサ112は受信機ユニット115から受信した音響データを、前記関心領域10を遮る画像平面に対応する音響画像に再構成し、その後、表示装置116にこの画像を表示させることができる。再構成される画像は例えば、「2Dモード」画像、「Cモード」画像又はドップラーモード画像、又は実際に任意の超音波画像として他の方法で知られている超音波輝度モード「Bモード」画像であってもよい。
様々な実施形態では、プロセッサ112が図13乃至15に関して以下で説明するように、一つ又はそれより多くのアルゴリズム又は方法を実行するために、一つ又はそれより多くのモジュールでソフトウェアを実行することができる。子宮頸部を含む前記関心領域10をプローブする音響プローブ120によって受信される画像信号に応答して子宮頸部の長さが測定される。
もちろん、音響撮像機器110は図8に示されていない多数の他の素子、例えば、AC主から受信電力ための電力システム、プロセッサ112と音響プローブ120との間の通信のための入力/出力ポート、他の外部デバイス及びシステムと通信するための通信サブシステム(例えば、無線、イーサネット(登録商標)及び/又はインターネット接続を介して)などを含み得ることが理解される。
いくつかの実施形態では、音響撮像装置110が音響プローブ120に含まれるか、又は付随する慣性測定ユニット(IMU)から慣性測定信号も受信する。慣性測定信号は、音響プローブ120の方向又は姿勢を示すことができる。慣性測定ユニットは、ハードウェア回路、ハードウェアセンサ又はマイクロエレクトロメカニカルシステム(MEMS)デバイスを含んでもよい。慣性測定回路は、ハードウェアセンサ又はMEMS装置と連動してソフトウェアを実行する、処理ユニット900などの処理ユニットを含んでもよい。図10は、音響プローブ120の一実施形態を示す。
いくつかの実施形態では、音響プローブ120が子宮頸部の音響画像を提供するための経膣超音波検査(TVS)プローブを含むことができる。音響プローブ120は、音響トランスデューサ素子122のアレイと、ビーム形成器124と、信号プロセッサ126と、通信インターフェース128と、慣性測定ユニット121とを含む。
いくつかの実施形態では慣性測定ユニット121が音響プローブ120内には含まれないが、音響プローブ120に貼り付けられるか、又は装着されるなど、それに関連する別個の構成要素であってもよい。慣性測定ユニット自体は公知である。慣性測定ユニット121は、音響プローブ120の現在の向き又は姿勢を示す音響撮像機器110に慣性測定信号を提供するように構成され、その結果、音響プローブ120の異なる姿勢で得られた複数の2D画像から3D体積を構成することができる。通信インターフェース128は、信号プロセッサ126に接続され、また、音響撮像機器110の通信インターフェース115に接続されてもよい。信号プロセッサ126は、ビームフォーマ124にも接続されている。ビーム形成器124はさらに、トランスデューサ・アレイ122に接続される。動作中、音響撮像機器110は、通信インターフェース128を介して、信号プロセッサ126によって所望に応じて処理され得る一つ又はそれより多くの制御信号を音響プローブに提供し得る。信号プロセッサ126によって出力される一つ又はそれより多くの信号は、ビーム形成器124に供給され得、ビーム形成器はそれに応答して、所望の音響プローブ信号15を前記関心領域10に送信するために、トランスデューサアレイに信号を供給し得る。また、音響プローブ120の音響トランスデューサ素子122の少なくともいくつかは、音響プローブ信号15に応答して、前記関心領域10から音響エコーを受信し、受信した音響エコーを、前記関心領域10の画像を表す一つ又はそれより多くの電気信号に変換する。これ
らの電気信号は、所望に応じてビームフォーマ124及び信号プロセッサ126によってさらに処理され、次いで、通信インターフェース128によって、一つ又はそれより多くの画像信号として音響撮像機器110に通信され得る。
いくつかの実施形態では、慣性測定ユニット121によって出力される一つ又はそれより多くの慣性測定信号が通信インターフェース128に供給され、その結果、任意の所望の処理が生じ得る音響撮像機器110に供給されてもよい。
他の実施形態では、慣性測定ユニット121によって出力される一つ又はそれより多くの慣性測定信号が必要に応じて慣性測定信号を処理し、処理される慣性測定信号を通信インターフェース128及び音響画像装置110に供給することができる(通信インターフェース128に直接ではなく)信号プロセッサ126に供給することができる。
図11は、頸部長さを測定するためのスキャンセッション中の音響撮像機器110などの音響撮像装置の例示的な動作を示す。図11は、子宮頸部長さを測定するためのスキャンセッションにおいてプロセッサ112によって実行される、ソフトウェアプログラムの一部として実装されるディープラーニングモジュール1122を示す。ディープラーニングモジュール1122は、自動CL測定のための一つ又はそれより多くの基準又はシステム構成設定が起動されることに応答して子宮頸部の長さを測定するために子宮頸部の音響画像を取得するためにプロセッサ112によって実行され得る自動測定ソフトウェアプログラム1124に関連付けられる。これらの設定は、(限定されるものではないが)、組織固有プリセット(TSP)設定、子宮頸部測定を実行する意図を示すユーザ固有プロファイル、経膣超音波検査(TVS)プローブの活性化などを含むことができる。スキャンセッション中に、音響撮像機器110は音響プローブ120から一つ又はそれより多くの画像信号を受信し、音響プローブ120が異なる2D平面内で前記関心領域10の異なるビューをスキャンするときに、画像信号を処理して音響画像データを生成することができ、図12A, 12B及び12Cに示すように、音響画像データ及び受信した慣性測定信号から前記関心領域10の3次元(3D)ボリューム1220を構成することができる。
図12A、図12B、及び図12Bは一連の音響画像1220から3Dボリューム1220を構成するプロセスの例示的な動作を示し、プロセスは図12Aの左側に示される第1の画像平面で撮られた第1の2次元画像又はフレーム1120―1から開始し、図12Bの左側に示される27番目の画像平面で撮られた27番目の画像又はフレーム1120―27を通って進み、次いで、図12Cの左側に示される269番目の画像平面で撮られた269番目の画像又はフレーム1120―269に進む。もちろん、複数の他の音響画像又はフレームが撮影されるが、図には示されていない。図12A, 12B及び12Cは、説明を簡単にするためのものである。次いで、音響撮像機器110は候補子宮頸部長さ測定を作成するために、3Dボリューム1220内の音響画像1120及び対応する平面のうちの1つ又は複数を適格とすることができる。具体的には、ディープラーニングモジュール1122が音響プローブ120から受信した子宮頸部の画像信号から音響撮像機器110によって形成される音響画像の分類、回帰、対象物検出、及びセグメンテーションなどのタスクを実行するために、古典的な畳み込みニューラルネットワーク(CNN)、You Only Look Once(YOLO)ニューラルネットワーク、又はUネット畳み込みネットワーク(Uネット)などの規格ディープラーニングネットワークアーキテクチャを使用することができる。ディープラーニングモジュールはまた、プロセッサ112によって実行されるソフトウェアではなく、ハードウェア回路として実装されてもよい。特に、解剖学的ランドマークに基づいて最適な撮像平面にユーザを導くために、ディープラーニングモジュール1122は、3次元ボリュームの画像平面を適格とする一つ又はそれより多くの認定解剖学的ランドマーク、及び/又は前記関心領域10の3次元ボリュームの画像平面を不適格とする一つ又はそれより多くの非認定解剖学的ランドマークを使用することができる。通常、特定の(認定)解剖学的ランドマークは、最適なビューを達成するために必要とされ、一方、他の(非認定)解剖学的ランドマークの存在は自動的に、そのビューを次善のものとして不適格にする。例えば、ディープラーニングモジュール1122は画像内の対象物認識を可能にするYOLOネットワークを実装することができ、YOLOネットワークを使用して、3Dボリュームの画像平面内の認定解剖学的ランドマーク及び非認定解剖学的ランドマークの存在を検索することができる。ディープラーニングモジュール1122は、(1)一連のBモード音響画像、(2)最適及び準最適ビューのためのラベル、及び(3)ラベル付けされる解剖学的領域/ランドマーク、という測定ガイダンスのための入力を用いて訓練され得る。臨床動作シナリオでは、超音波検査技師がスキャンセッション中に、以下のように子宮頸部の長さを測定するために、音響プローブ120及び音響撮像器具110を使用することができる。超音波検査技師は、子宮頸部を見るために音響プローブ120を適切な位置に配置する。取得されるBモード画像は、リアルタイムで深部学習モジュール1122に適用される。次いで、ディープラーニングモジュール1122は、とりわけ、(1)適格なビューが画像内の適格かつ認定解剖学的ランドマークの有無に基づいて識別されるかどうか、(2)正しい量の圧力が加えられるかどうか、及び(3)頸部長さ測定を行うための正しいキャリパ位置などを判定することができる。ディープラーニングモジュール1122の出力は、ユーザーインターフェース114上にオーバーレイとして提示されてもよい。
図11はユーザインターフェース114内のいくつかのチェックボックスを示しており、これらのチェックボックスは、これらの項目の各々が超音波検査技師にフィードバックを提供するように決定されるときにチェックオフされてもよい。上述したように、スキャンセッション中に、識別される全ての適格な又は最良のビューは、候補頚部長さ測定に対してマークされ、候補頚部長さ測定が自動的に実行され、全ての適格な又は最良のビューの中の最短の測定候補頚部長さがスキャンセッションの測定される頚部長さとして選択される。血圧測定のために、ディープラーニングモジュール1122は、解剖学的ランドマークとして子宮頸部の形状を使用することができる。
図13は、頸部の頸部長さを決定するためのアルゴリズム1300の例示的な実施形態における主要な動作を示す。動作1310は、子宮頸部を含む前記関心領域10のリアルタイム(「生」)2D音響撮像スキャンを実行することを含む。動作1320はシステム構成設定に基づいて、ライブ音響撮像スキャンセッション中に自動頸部長さ測定モードを起動することを含み、自動CL測定モードが起動される。これらの設定は、(限定はしないが)組織固有プリセット(TSP)設定、子宮頸部測定を実行する意図を示すユーザ固有プロファイル、経膣トランスデューサの活性化などを含むことができる。動作1330はユーザ又はソノグラフが音響プローブ120を操縦するときに、動作1310において捕捉される一連の2D画像から3Dボリュームを構成することを含む。
任意選択で、いくつかの実施形態では、ユーザが追加の3Dセグメントが捕捉されることを確実にするために、特定のプローブ操作(例えば、回転操作)を実行することを任務とすることができる。各音響画像に対する姿勢情報は、IMU 121によって生成される慣性測定信号から動作1335において取得され得る。IMU 121は、以前の測定又は2D音響画像に対してポーズ測定を提供する。言い換えると、音響プローブ120の過渡的動き中に、IMU 121によって出力される信号を使用して、個々の2D画像フレームから3Dボリュームを構成することができる。動作1340は、頸部長さの測定のための画像平面を識別することを含む。特に、動作1330で構成される3Dボリュームから、適切な画像平面がボリュームから識別される。適切な画像平面を識別するために、動作1345において、各平面は図11に関して上述したように、ディープラーニングモジュールを通過して、頸部長さの正確な測定のための全ての基準を満たす画像平面を識別することができる。このアプローチでは、CL測定値のために認定される複数の画像平面を識別することができる。
いくつかの実施形態では、最適な画像平面が例えば、複数の認定ランドマーク及び非認定ランドマークに重み付けし、認定ランドマークに最も密接に一致し、非認定ランドマークに最も密接に一致する画像平面を見つけることによって決定されてもよい。
いくつかの実施態様において、最適な画像平面は、3Dボリューム内の斜面であってもよい。動作1350は、頸部長さの自動測定を行うことを含む。すなわち、頸部長さの測定値のために画像平面が動作1340で識別されると、画像平面内の候補頸部長さを測定するための正しいカリパス点が識別される。
いくつかの実施形態では、動作1355が候補子宮頸部長さを取得するために、認定画像平面について画像セグメンテーション及び対象物検出を実行するプロセッサ112を含むことができる。
いくつかの実施形態では、プロセッサ112が認定画像平面の画像データをYOLO(You Only Look Once)ニューラルネットワークに適用することによって、画像セグメンテーションを実行するように構成される。
いくつかの実施形態では、プロセッサ112が認定画像平面のための画像データをUネット畳み込みネットワークに適用することによって、認定画像平面のための対象物検出を実行するように構成される。しかし、他の実施形態では、他の技術を使用することができる。動作1360は、時間グラフ又はトレースを表示することを含む。標準的な臨床診療では所与のスキャンセッションにおいて、臨床診断のために3つ以上の候補子宮頸部長さが取得される。臨床的目標は所与のスキャンセッションにおいて行われた全ての測定値の中から、所与のスキャンセッションにおける最短の候補子宮頸部長さを、そのスキャンセッションについて測定される子宮頸部長さとして捕捉することである。複数の測定を行うための理論的根拠は上述したように、推定される子宮頸部の長さは、患者の動き、呼吸、プローブの動きなどを含む多くの理由により変化する可能性があることである。これらの臨床的基準に基づいて、動作1360において、アルゴリズム1300を実行する音響撮像システム100は認定フレーム上に、測定候補時間子宮頸長さのトレースを表示し、ユーザインターフェース114を介して表示装置116上に表示されるグラフ上に、最短の子宮頸部長をマークする。
図14Aはユーザインターフェース114を介して表示装置116上に表示されて、候補頸部長さを示し、スキャンセッションのために測定される頸部長さを示すことができるグラフ1410の例を示す。有利なことに、頸部長さ測定値に対応する音響画像はまた、超音波検査技師又はユーザにコンテキストを提供するために、表示装置116上に表示されてもよい。動作1365において、測定される頸部長さを含む結果はフォローアップスキャンセッションにおいて音響撮像システム100が超音波検査技師又はユーザに提示することができる長手方向の結果を生成するために、電子医療記録(EMR)システムの不揮発性記憶装置又はメモリにアーカイブすることができる。フォローアップスキャンセッション中に、動作1310乃至1365を再び実行して、新たな頸部長さ測定値を取得することができる。以前のスキャンセッションから記憶される音響画像を検索することができ、現在のライブセッションからの音響画像を用いて(任意選択で)画像マッチングを実行することができる。これは、一貫した結果を得るために、時間的に様々な頸部長さ測定のために同様の画像平面が使用されることを保証する。
図14Bは妊娠中の複数のスキャンセッションからの経時的な測定される頸部長さの進行を示すために、ユーザインターフェース114を介して表示装置116上に表示され得るグラフ1420の例を示す。この特徴は、臨床医が対応する音響画像と共に、患者の頸部長さの変化の傾向を観察することを可能にする。ユー
ザがグラフ1420の特定の週数をクリックすると、その特定のスキャンセッションの頸部長さ測定のトレースが、図14Aに示される例示的なグラフ1410と同様に表示され得る。図13の様々な動作の順序は変更又は再構成されてもよく、実際に、いくつかの動作は、一つ又はそれより多くの他の動作と並行して実際に実行されてもよいことが理解される。その意味で、図13は、順序付けられたシーケンスではなく、動作の番号付けされるリストとしてよりよく見ることができる。
図15は、上述のような音響撮像システム100を使用して実行され得る、子宮頸部の子宮頸部長さを決定する方法1500の例示的な実施形態のフローチャートを示す。動作1510は音響プローブによるスキャンセッション中に、子宮頸部を含む前記関心領域のリアルタイム2次元音響撮像を実行することを含むことができ、音響プローブから音響画像信号を生成することと、音響プローブの姿勢を示す慣性測定信号を生成することとを含む。動作1520は、音響画像信号及び慣性測定信号から前記関心領域の3次元ボリュームを構成することを含んでもよい。動作1530は子宮頸部のための候補子宮頸部長さを取得するために画像平面を認定するために、構成される関心のある3次元ボリュームにディープラーニングアルゴリズムを適用することを含むことができる。動作1540は候補頸部長さを取得するために、認定画像平面について画像セグメンテーション及び対象物検出を実行することを含むことができ、候補頸部長さは、メモリに記憶される。動作1550は、スキャンセッションの最後の時間セグメントが処理されるかどうかを判定することを含むことができる。
いくつかの実施形態では候補子宮頸長さ測定値の閾値(例えば、3つ)が確立されてもよく、最後の時間セグメントは閾値に達した時間セグメントとして決定されてもよい。
他の実施形態では、最後の時間セグメントが関心があれば、超音波検査技師が領域から音響プローブを除去するか、ボタンを押すか、又はスキャンセッションが完了したことを別様に示すときとして決定されてもよい。動作1550において、最後の時間セグメントがまだ処理されていないと判定される場合、方法は動作1560に進み、次の時間セグメントがスキャンセッションであることが収集される。次に、本方法は動作1520に戻り、追加の音響画像を処理し続けて、後続の時間セグメントにおける追加の候補子宮頸部長さを決定する。動作1550において、最後の時間セグメントが処理されると判定される場合、方法は動作1570に進む。動作1570はスキャンセッションのための全ての候補子宮頸部長さが取得されるときに発生し、スキャンセッションのための測定される子宮頸部長さとして、複数の時間フレームから最も短い候補子宮頸部長さを選択することを含むことができる。動作1580は音響画像信号から生成される認定平面内の子宮頸部の画像を、スキャンセッションのために測定される子宮頸部の長さの指標と共に、表示装置上に表示することを含むことができる。図15の様々な動作の順序は変更又は再構成されてもよく、実際に、いくつかの動作は、一つ又はそれより多くの他の動作と並行して実際に実行されてもよいことは理解される。その意味で、図15は、順序付けられたシーケンスではなく、動作の番号付けされるリストとしてよりよく見ることができる。
好ましい実施形態が本明細書に詳細に開示されているが、本発明の概念及び範囲内にある多くの変形が可能である。このような変動は、本明細書、図面、及び特許請求の範囲を検討した後、当業者には明らかになるのであろう。したがって、本発明は、添付の特許請求の範囲内を除いて、限定されるべきではない。

Claims (15)

  1. 音響プローブであって、前記音響プローブは音響トランスデューサ素子のアレイを有する、音響プローブと、
    慣性測定回路であって、前記音響プローブのポーズを示す慣性測定信号を提供するように構成される慣性測定回路と、
    前記音響プローブに接続され、前記音響トランスデューサ素子の少なくともいくつかに送信信号を提供して、前記音響トランスデューサ素子のアレイに、子宮頸部を含む関心領域に音響プローブ信号を送信させるように構成され、前記音響プローブ信号に応答して前記関心領域から前記音響プローブによって受信される音響エコーに応答して前記関心領域の音響画像を生成するように更に構成される、音響撮像機器であって、前記音響撮像機器は、
    表示装置と、
    前記関心領域からの前記音響エコーから生成される前記音響プローブからの一つ又はそれより多くの画像信号を受信し、前記慣性測定信号を受信するように構成される通信インターフェースと、
    プロセッサ及び関連するメモリであって、スキャンセッションにおける複数の時間フレームの各々について、
    前記一つ又はそれより多くの画像信号及び前記受信される慣性測定信号から前記関心領域の3次元ボリュームを構成し、
    前記構成される前記関心領域の3次元ボリュームにディープラーニングアルゴリズムを適用して、前記子宮頸部の候補子宮頸長さを得るための画像平面を認定し、
    前記認定される画像平面に対して画像セグメンテーション及び対象物検出を実行して、前記候補子宮頸長さを取得し、
    前記スキャンセッションに対して、測定される子宮頸長さとして前記複数の時間フレームから最短候補子宮頸長さを選択する
    ように構成され、
    前記プロセッサは、前記表示装置を制御して、前記スキャンセッションに対する前記測定される子宮頸長さに対応する前記子宮頸部の画像及び前記スキャンセッションに対する前記測定される子宮頸長さの指標を表示するように構成される、
    プロセッサ及び関連するメモリと
    を含む、音響撮像機器と、
    を有する、システム。
  2. 前記プロセッサは、前記候補子宮頸部長さを示すグラフを表示し、前記グラフ上に前記スキャンセッションのための前記測定される子宮頸部長さの指示を表示するように前記表示装置を制御するように構成される、請求項1に記載のシステム。
  3. 前記プロセッサは、前記スキャンセッションのための前記測定される頸部長さ及び前記スキャンセッションの日付を不揮発性メモリデバイスに記憶するように構成される、請求項1に記載のシステム。
  4. 前記不揮発性メモリデバイスは、対応する時間に実行される複数のスキャンセッションのための複数の測定される頸部長さを記憶するように構成され、
    前記プロセッサは、前記スキャンセッションのための前記頸部長さを前記対応する時間に対してプロットするグラフをディスプレイに表示させるように構成される、請求項3に記載のシステム。
  5. 前記プロセッサは、前記認定される画像平面のための画像データを生成し、前記認定される画像平面のための前記画像データをユーオンリールックワンスニューラルネットワークに適用することによって画像セグメンテーションを実行するように構成される、請求項1に記載のシステム。
  6. 前記プロセッサは、前記認定される画像平面のための画像データを生成し、前記認定される画像平面のための前記画像データをUネット畳み込みネットワークに適用することによって、前記認定される画像平面のための対象物検出を実行するように構成される、請求項1に記載のシステム。
  7. 前記プロセッサは、前記3次元ボリュームの複数の画像平面のための画像データを生成するように構成され、
    前記ディープラーニングアルゴリズムは、前記3次元ボリュームの画像平面を認定する一つ又はそれより多くの認定解剖学的ランドマークを使用し、前記3次元ボリュームの画像平面を認定しない一つ又はそれより多くの非認定解剖学的ランドマークを使用する、請求項1に記載のシステム。
  8. 第1の頸部形状は、前記非認定解剖学的ランドマークの1つとして使用され、第2の頸部形状は、前記認定解剖学的ランドマークの1つとして使用される、請求項7に記載のシステム。
  9. 前記プロセッサは、前記3次元ボリュームの複数の画像平面についての画像データを生成するように構成され、前記ディープラーニングアルゴリズムは、前記画像データを、畳み込みニューラルネットワーク、ユーオンリールックワンスニューラルネットワーク、又はUネット畳み込みネットワークのうちの1つに適用する、請求項1に記載のシステム。
  10. システムの作動方法であって、前記システムは、音響プローブと、慣性測定回路及びプロセッサを有する音響撮像機器とを有し、
    前記音響プローブが、関心領域の一つ又はそれより多くの画像信号を生成するステップと、前記慣性測定回路が、音響プローブのポーズを示す慣性測定信号を生成するステップとを含むステップであって前記音響撮像機器が、前記音響プローブを用いて、子宮頸部を含む、スキャンセッション中の前記関心領域のリアルタイム2次元音響撮像を実行するステップと、
    前記スキャンセッション内の複数の時間フレームのそれぞれについて、
    前記プロセッサが、一つ又はそれより多くの画像信号及び慣性測定信号から前記関心領域の3次元ボリュームを構成するステップと、
    前記プロセッサが、前記関心領域の前記構成される3次元ボリュームにディープラーニングアルゴリズムを適用して、前記頸部の候補頸部長さを取得するための画像平面を認定するステップと、
    前記プロセッサが、前記認定される画像平面のための画像セグメンテーション及び対象物検出を実行して、前記候補頸部長さを取得するステップと、
    前記プロセッサが、前記スキャンセッションのための測定される頸部長さとして、前記複数の時間フレームから最も短い候補頸部長さを選択するステップと、
    前記プロセッサが、前記スキャンセッションに対する前記測定される子宮頸長さに対応する前記子宮頸部の画像及び前記スキャンセッションに対する前記測定される子宮頸長さの指標を表示装置上に表示するステップと
    を有する、方法。
  11. 前記プロセッサが、表示装置に、前記候補頸部長さを示すグラフを表示するステップと、前記グラフ上に前記スキャンセッションのための前記測定される頸部長さの指示を表示するステップとをさらに含む、請求項10に記載の方法。
  12. 前記プロセッサが、前記スキャンセッションのための前記測定される頸部長さ及び前記スキャンセッションの日付を不揮発性メモリデバイスに記憶するステップをさらに含む、請求項10に記載の方法。
  13. 前記不揮発性メモリデバイス、対応する時間に実行される複数のスキャンセッションのための複数の測定される頸部長さを記憶するステップと、
    前記プロセッサが、前記スキャンセッションのための前記頸部長さを、前記対応する時間に対してプロットしたグラフを前記表示装置に表示するステップと、
    をさらに有する、請求項12に記載の方法。
  14. 前記プロセッサが、前記認定される画像平面のための画像データを生成するステップと、前記プロセッサが、前記認定される画像平面のための前記画像データをユーオンリールックワンスニューラルネットワークに適用することによって画像セグメンテーションを実行するステップとをさらに有する、請求項10に記載の方法。
  15. 前記プロセッサが、前記認定される画像平面のための画像データを生成するステップと、
    前記プロセッサが、Uネット畳み込みネットワークに前記認定される画像平面のための画像データを適用することによって前記認定される画像平面の対象物検出を実行するステップと
    をさらに有する、請求項10に記載の方法。
JP2021567949A 2019-05-17 2020-05-14 頸部超音波検査を支援するためのシステム、デバイス、及び方法 Active JP7183451B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962849219P 2019-05-17 2019-05-17
US62/849,219 2019-05-17
PCT/EP2020/063448 WO2020234106A1 (en) 2019-05-17 2020-05-14 System, device and method for assistance with cervical ultrasound examination

Publications (2)

Publication Number Publication Date
JP2022524237A JP2022524237A (ja) 2022-04-28
JP7183451B2 true JP7183451B2 (ja) 2022-12-05

Family

ID=70738561

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021567949A Active JP7183451B2 (ja) 2019-05-17 2020-05-14 頸部超音波検査を支援するためのシステム、デバイス、及び方法

Country Status (5)

Country Link
US (1) US20220192625A1 (ja)
EP (1) EP3968862B1 (ja)
JP (1) JP7183451B2 (ja)
CN (1) CN113891683A (ja)
WO (1) WO2020234106A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230110986A (ko) * 2022-01-17 2023-07-25 연세대학교 산학협력단 자궁 경부에 대한 정보 제공 방법 및 이를 이용한 자궁 경부에 대한 정보 제공용 디바이스

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160151041A1 (en) 2014-12-01 2016-06-02 Samsung Medison Co., Ltd. Ultrasound image apparatus and method of operating the same
US20160166233A1 (en) 2014-12-16 2016-06-16 Samsung Medison Co., Ltd. Ultrasound diagnosis apparatus and method of operating the same
US20170090675A1 (en) 2013-03-13 2017-03-30 Samsung Electronics Co., Ltd. Method and ultrasound apparatus for displaying an object
US20180103912A1 (en) 2016-10-19 2018-04-19 Koninklijke Philips N.V. Ultrasound system with deep learning network providing real time image identification
US20180199919A1 (en) 2017-01-18 2018-07-19 Samsung Medison Co., Ltd. Ultrasound imaging apparatus and ultrasound image display method

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7686763B2 (en) * 1998-09-18 2010-03-30 University Of Washington Use of contrast agents to increase the effectiveness of high intensity focused ultrasound therapy
US8055324B1 (en) * 2004-05-25 2011-11-08 Sonultra Corporation Rapid reports
US20080167581A1 (en) * 2007-01-10 2008-07-10 Yoav Paltieli Determining parameters associated with a female pelvis and cervix
US8167803B2 (en) * 2007-05-16 2012-05-01 Verathon Inc. System and method for bladder detection using harmonic imaging
US20160328998A1 (en) * 2008-03-17 2016-11-10 Worcester Polytechnic Institute Virtual interactive system for ultrasound training
KR102288308B1 (ko) * 2014-08-05 2021-08-10 삼성메디슨 주식회사 초음파 진단 장치
US20160278740A1 (en) * 2015-03-23 2016-09-29 Hyland Software, Inc. Ultrasound imaging system and method
US10561443B2 (en) * 2015-06-05 2020-02-18 Siemens Healthcare Gmbh Image-guided embryo transfer for in vitro fertilization
US10127654B2 (en) * 2015-10-07 2018-11-13 Toshiba Medical Systems Corporation Medical image processing apparatus and method
JP6947759B2 (ja) * 2016-07-08 2021-10-13 アヴェント インコーポレイテッド 解剖学的対象物を自動的に検出、位置特定、及びセマンティックセグメンテーションするシステム及び方法
US20180284250A1 (en) * 2017-03-28 2018-10-04 General Electric Company Method and system for adjusting an acquisition frame rate for mobile medical imaging
WO2019016759A1 (en) * 2017-07-19 2019-01-24 Bloom Technologies NV MONITORING UTERINE ACTIVITY AND ASSESSING A RISK OF BIRTH BEFORE TERM
CA3070582A1 (en) * 2017-08-31 2019-03-07 Butterfly Network, Inc. Methods and apparatus for collection of ultrasound data
US11756160B2 (en) * 2018-07-27 2023-09-12 Washington University ML-based methods for pseudo-CT and HR MR image estimation
US20210374953A1 (en) * 2018-10-04 2021-12-02 Duke University Methods for automated detection of cervical pre-cancers with a low-cost, point-of-care, pocket colposcope
US10426442B1 (en) * 2019-06-14 2019-10-01 Cycle Clarity, LLC Adaptive image processing in assisted reproductive imaging modalities

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170090675A1 (en) 2013-03-13 2017-03-30 Samsung Electronics Co., Ltd. Method and ultrasound apparatus for displaying an object
US20160151041A1 (en) 2014-12-01 2016-06-02 Samsung Medison Co., Ltd. Ultrasound image apparatus and method of operating the same
US20160166233A1 (en) 2014-12-16 2016-06-16 Samsung Medison Co., Ltd. Ultrasound diagnosis apparatus and method of operating the same
US20180103912A1 (en) 2016-10-19 2018-04-19 Koninklijke Philips N.V. Ultrasound system with deep learning network providing real time image identification
US20180199919A1 (en) 2017-01-18 2018-07-19 Samsung Medison Co., Ltd. Ultrasound imaging apparatus and ultrasound image display method

Also Published As

Publication number Publication date
EP3968862B1 (en) 2023-07-12
JP2022524237A (ja) 2022-04-28
US20220192625A1 (en) 2022-06-23
EP3968862A1 (en) 2022-03-23
CN113891683A (zh) 2022-01-04
WO2020234106A1 (en) 2020-11-26

Similar Documents

Publication Publication Date Title
US11324486B2 (en) Ultrasound diagnosis apparatus and method for generating image from volume data and displaying the same
JP6265909B2 (ja) 名前による自動血管識別
JP7022217B2 (ja) 超音波システムのためのエコー窓のアーチファクト分類及び視覚的インジケータ
US10228785B2 (en) Ultrasound diagnosis apparatus and method and computer-readable storage medium
JP6719928B2 (ja) 超音波診断装置、超音波診断装置制御プログラム、医用画像処理装置及び医用画像処理プログラム
JP5872216B2 (ja) 超音波診断装置及び超音波画像処理装置
ITPI20080118A1 (it) Apparato basato sugli ultrasuoni per misurare parametri indicatori di avanzamento di un parto
US10820884B2 (en) Ultrasound diagnosis apparatus and method of operating the same
KR20200056875A (ko) 태아 심장의 이상 여부를 판단하는 초음파 진단 장치 및 초음파 진단 장치의 동작 방법
US9947097B2 (en) Method and system for enhanced fetal visualization by detecting and displaying a fetal head position with cross-plane ultrasound images
CN103442649A (zh) 使用低成本换能器的自动多普勒速度测量法
JP2018519075A (ja) 訓練を受けていない又は訓練が最小限の操作者のためのポイントオブケアでの産科画像形成
KR20200080906A (ko) 초음파 진단 장치 및 그 동작 방법
CN111511288A (zh) 超声肺评估
KR102367446B1 (ko) 초음파 진단 장치 및 그 동작 방법
JP7183451B2 (ja) 頸部超音波検査を支援するためのシステム、デバイス、及び方法
EP2821015A1 (en) Ultrasound system and method of providing reference image corresponding to ultrasound image
JP2006247206A (ja) 超音波診断装置
US20230320694A1 (en) Graphical user interface for providing ultrasound imaging guidance
US20160143628A1 (en) Ultrasonic diagnostic apparatus
CN114098687B (zh) 用于超声运动模式的自动心率测量的方法和系统
JP7457566B2 (ja) 超音波診断装置、臍帯長測定方法及びプログラム
US20220079553A1 (en) Ultrasound diagnosis apparatus, measurement condition setting method, and non-transitory computer-readable storage medium
JP2005270351A (ja) 超音波3次元画像化方法及び画像化装置
JP6441010B2 (ja) 超音波診断装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211112

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211112

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20211112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221122

R150 Certificate of patent or registration of utility model

Ref document number: 7183451

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150