JP6570508B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP6570508B2
JP6570508B2 JP2016254370A JP2016254370A JP6570508B2 JP 6570508 B2 JP6570508 B2 JP 6570508B2 JP 2016254370 A JP2016254370 A JP 2016254370A JP 2016254370 A JP2016254370 A JP 2016254370A JP 6570508 B2 JP6570508 B2 JP 6570508B2
Authority
JP
Japan
Prior art keywords
image
data
photoacoustic
information
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016254370A
Other languages
English (en)
Other versions
JP2018102751A (ja
Inventor
翔太 山田
翔太 山田
拓 井上
拓 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016254370A priority Critical patent/JP6570508B2/ja
Priority to PCT/JP2017/044200 priority patent/WO2018123518A1/ja
Publication of JP2018102751A publication Critical patent/JP2018102751A/ja
Priority to US16/396,554 priority patent/US20190247021A1/en
Application granted granted Critical
Publication of JP6570508B2 publication Critical patent/JP6570508B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5261Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from different diagnostic modalities, e.g. ultrasound and X-ray
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0093Detecting, measuring or recording by applying one single type of energy and measuring its conversion into another type of energy
    • A61B5/0095Detecting, measuring or recording by applying one single type of energy and measuring its conversion into another type of energy by applying light and detecting acoustic waves, i.e. photoacoustic measurements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • A61B8/14Echo-tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4416Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to combined acquisition of different diagnostic modalities, e.g. combination of ultrasound and X-ray acquisitions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/56Details of data transmission or power supply
    • A61B8/565Details of data transmission or power supply involving data transmission via a network
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/465Displaying means of special interest adapted to display user selection data, e.g. icons or menus

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Multimedia (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

本明細書の開示は、情報処理装置、情報処理方法及びプログラムに関する。
被検体内部の状態を低侵襲に画像化する手法として、光音響イメージングの研究が進められている。光音響イメージングを利用した光音響撮像装置により得られる光音響信号に基づいて、被検体内部における音圧の分布に関する情報が得られる。さらに音圧の分布に基づいて被検体内部における物質の吸収係数を画像化し、被検体内部における物質の成分比率や代謝といった機能に関する情報を表す様々な種類の画像が得られることが知られている。
また、近年では診断に用いられる医用画像や診断に関する各種の情報が電子化されている。特許文献1には、画像データのデータ量を低減するために、医用画像を撮像したモダリティの種類及び撮影部位の組合せに応じて定められる圧縮率及び圧縮方式により画像データを圧縮することが開示されている。
特開2006−102109号公報
光音響撮像装置のように、一度の検査で様々な種類の画像が得られる場合には、保存にかかる容量が増加することが考えられるが、特許文献1に開示されている技術を用いると、同一のモダリティで取得された様々な種類の光音響画像は一律に圧縮されてしまい、種類に応じて圧縮することは考慮されない。
本発明の実施形態に係る情報処理装置は、被検体に光を照射することにより得られる光音響信号に基づいて生成される光音響データを取得する取得手段と、記光音響信号に基づいて取得された前記光音響データの種類に応じて前記光音響データを圧縮した圧縮データを取得する圧縮手段と、前記圧縮データを外部装置に出力する出力手段と、を有し、前記圧縮手段は、前記光音響データの種類に第1波長の光に対応する第1画像データおよび第2波長の光に対応する第2画像データが含まれている場合、前記第1画像データと前記第2画像データとの波長間差分による圧縮処理を行うことにより、前記光音響データを圧縮した前記圧縮データを取得することを特徴とする。
本発明の実施形態に係る情報処理装置によれば、光音響データの種類に応じて圧縮することができる。
本発明の実施形態に係る情報処理装置を含むシステムの構成の一例を示す図である。 本発明の実施形態に係る情報処理装置のハードウェア構成の一例を示す図である。 本発明の実施形態に係る情報処理装置の機能構成の一例を示す図である。 本発明の実施形態に係る情報処理装置により行われる処理の一例を示すフローチャートである。 本発明の実施形態に係る情報処理装置により取得される情報の構成の一例を示す図である。 本発明の実施形態に係る情報処理装置により行われる処理の一例を示すフローチャートである。 本発明の実施形態に係る情報処理装置により行われる処理の一例を示す図である。 本発明の実施形態に係る情報処理装置により行われる処理の一例を示す図である。 本発明の実施形態に係る情報処理装置により行われる処理の一例を示す図である。 本発明の実施形態に係る情報処理装置により取得される情報の構成の一例を示す図である。 本発明の実施形態に係る情報処理装置により行われる処理の一例を示すフローチャートである。 本発明の実施形態に係る情報処理装置により表示部に表示される画面の一例を示す図である。 本発明の実施形態に係る情報処理装置により表示部に表示される画面の一例を示す図である。
以下、図面を参照して本発明の実施形態を説明する。
[第一の実施形態]
本願明細書では、被検体に光を照射し、被検体内部で生じた膨張によって発生する音響波を光音響波と称する。また、トランスデューサから送信された音響波または当該送信された音響波が被検体内部で反射した反射波(エコー)を超音波と称する。
被検体内部の状態を低侵襲に画像化する方法として、光音響イメージングが着目されている。光音響イメージングでは、光源から発生したパルス光を生体に照射し、生体内で伝播・拡散したパルス光のエネルギーを吸収した生体組織から発生した光音響波を検出する。光音響波を用いて画像化された光音響画像を含む、光音響波を用いて得られたデータを以下では光音響データと称する。光音響イメージングでは、腫瘍などの被検部位とそれ以外の組織との光エネルギーの吸収率の差を利用し、被検部位が照射された光エネルギーを吸収して瞬間的に膨張する際に発生する弾性波(光音響波)をトランスデューサで受信する。この検出信号を以下では光音響信号と称する。光音響撮像装置は、光音響信号を解析処理することにより、生体内の光学特性分布、特に、光エネルギー吸収密度分布を得ることができる。光音響データには、被検体内部の光学特性に応じた、様々な種類のデータがある。たとえば、光音響データには吸収密度分布を示す吸収係数画像が含まれる。また、吸収係数画像から、酸化ヘモグロビン、還元ヘモグロビン、水、脂肪、コラーゲンといった生体分子の存在や、比率等を示す画像が生成される。たとえば、酸化ヘモグロビンと還元ヘモグロビンとの比率に基づいて、ヘモグロビンの酸素との結合状況を示す指標である酸素飽和度に関する画像が得られる。
被検体内部の状態を低侵襲に画像化する別の方法として、超音波を用いた画像化の方法が広く用いられている。超音波を用いた画像化の方法は、たとえばトランスデューサから発振された超音波が被検体内部の組織で音響インピーダンスの差に応じて反射され、反射波がトランスデューサに到達するまでの時間や反射波の強度に基づいて画像を生成する方法である。超音波を用いて画像化された画像を以下では超音波画像と称する。ユーザはプローブの角度等を変えながら操作し、様々な断面の超音波画像をリアルタイムに観察することができる。超音波画像には臓器や組織の形状が描出され、腫瘍の発見等に活用されている。
診断の精度を高めるために、被検体の同一部位を、異なる原理に基づいて異なる現象を画像化することにより、様々な情報を収集する場合がある。超音波画像の撮影と光音響画像の撮影と、それぞれの特性を組み合わせた画像を得るための撮像装置が検討されている。特に、超音波画像も光音響画像も被検体からの超音波を利用して画像化されることから、超音波画像の撮像と光音響画像の撮像とを同じ撮像装置で行うことも可能である。より具体的には、被検体に照射した反射波と光音響とを同じトランスデューサで受信する構成とすることができる。これにより、超音波信号と光音響信号とを一つのプローブで取得することができ、ハードウェア構成が複雑にならずに、超音波画像の撮像と光音響画像の撮像とを行う撮像装置を実現できる。
また近年では、上述の光音響画像を含め、診断に用いられる医用画像や診断に関する各種の情報が電子化されている。撮像装置と、当該撮像装置と接続される各種の装置との間の情報連携のために、たとえばDICOM(Digital Imaging and Communications in Medicine)規格が用いられることが多い。DICOMは医用画像のフォーマットと、それらの画像を扱う装置間の通信プロトコルを定義した規格である。DICOMに基づいてやりとりされる対象となるデータは情報オブジェクト(IOD:Information Object Definitions)と呼ばれる。以下では、情報オブジェクトをIOD、或いはオブジェクトと称する場合がある。IODの例としては、医用画像、患者情報、検査情報、構造化レポート等が挙げられ、医用画像を用いた検査や治療にかかわる様々なデータがその対象となり得る。
DICOMに基づいて取り扱われる画像、すなわちIODである画像は、メタデータと画像データとで構成される。メタデータには、たとえば患者、検査、シリーズ、画像に関する情報が含まれる。メタデータはDICOMデータエレメントと呼ばれるデータ要素の集まりで構成される。各々のDICOMデータエレメントにはデータ要素を識別するためのタグが付加される。画像データはピクセルデータであり、画像データであることを示すタグが付加される。
光音響イメージングでは、上述したように1回の撮影に係る光音響信号から様々な種類の光音響データを取得できるが、取得された複数の種類の光音響データを全て保存しておくと、保存のための装置の容量を圧迫するおそれがある。さらに、超音波画像の撮像と光音響画像の撮像とを行う撮像装置においては、超音波画像も同時に取得することができ、さらに保存に要する容量が増加することが考えられる。第1の実施形態では、超音波画像の撮像と光音響画像の撮像とを行うことができる撮像装置IODで外部装置に出力されるデータの容量を低減するために、第1の実施形態では光音響データの種類に応じて、画像データを圧縮する例を説明する。
[情報処理装置107の構成]
図1は、第1の実施形態に係る情報処理装置107を含む検査システム102の構成の一例を示す図である。超音波画像と光音響画像とを生成可能な検査システム102は、ネットワーク110を介して各種の外部装置と接続されている。検査システム102に含まれる各構成及び各種の外部装置は、同じ施設内に設置されている必要はなく、通信可能に接続されていればよい。
検査システム102は、情報処理装置107、プローブ103、信号収集部104、表示部109、操作部108を含む。情報処理装置107は、超音波画像ならびに光音響画像の撮像を含む検査に関する情報をHIS/RIS111から取得し、当該検査が行われる際にプローブ103や表示部109を制御する。情報処理装置107は、プローブ103及び信号収集部104から超音波信号と光音響信号とを取得する。情報処理装置107は、超音波信号に基づいて超音波画像を取得し、光音響信号に基づいて光音響画像を取得する。すなわち、情報処理装置107は光音響データを取得する。情報処理装置107は、さらに超音波画像に光音響画像を重畳した重畳画像を取得してもよい。情報処理装置107は、HL7(Health level 7)及びDICOM(Digital Imaging and Communications in Medicine)といった規格に準じて、HIS/RIS111やPACS112といった外部装置との間で情報の送受信を行う。
検査システム102で超音波画像を撮像される被検体101内の領域は、たとえば循環器領域、乳房、肝臓、膵臓、腹部といった領域である。また、検査システム102では、たとえば微小気泡を利用した超音波造影剤を投与した被検体の超音波画像を撮像してもよい。
また、検査システム102で光音響データを撮像される被検体内の領域は、たとえば循環器領域、乳房、径部、腹部、手指および足指を含む四肢といった領域である。特に、被検体内の光吸収に関する特性に応じて、新生血管や血管壁のプラークを含む血管領域を、光音響データを取得する対象としてもよい。検査システム102では、たとえばメチレンブルー(methylene blue)やインドシアニングリーン(indocyanine green)といった色素や、金微粒子、それらを集積あるいは化学的に修飾した物質を造影剤として投与した被検体101の光音響データを取得してもよい。
プローブ103は、ユーザにより操作され、超音波信号と光音響信号とを信号収集部104及び情報処理装置107に送信する。プローブ103は、送受信部105と照射部106とを含む。プローブ103は、送受信部105から超音波を送信し、反射波を送受信部105で受信する。また、プローブ103は照射部106から被検体に光を照射し、光音響を送受信部105で受信する。プローブ103は、被検体との接触を示す情報を受信したときに、超音波信号を取得するための超音波の送信ならびに光音響信号を取得するための光照射が実行されるように制御されることが好ましい。
送受信部105は、少なくとも1つのトランスデューサ(不図示)と、整合層(不図示)、ダンパー(不図示)、音響レンズ(不図示)を含む。トランスデューサ(不図示)はPZT(lead zirconate titanate)やPVDF(polyvinylidene difluoride)といった、圧電効果を示す物質からなる。トランスデューサ(不図示)は圧電素子以外のものでもよく、たとえば静電容量型トランスデューサ(CMUT:capacitive micro−machined ultrasonic transducers)、ファブリペロー干渉計を用いたトランスデューサである。典型的には、超音波信号は2〜20MHz、光音響信号は0.1〜100MHzの周波数成分からなり、トランスデューサ(不図示)は、たとえばこれらの周波数を検出できるものが用いられる。トランスデューサ(不図示)により得られる信号は時間分解信号である。受信された信号の振幅は各時刻にトランスデューサで受信される音圧に基づく値を表したものである。送受信部105は、電子フォーカスのための回路(不図示)もしくは制御部を含む。トランスデューサ(不図示)の配列形は、たとえばセクタ、リニアアレイ、コンベックス、アニュラアレイ、マトリクスアレイである。プローブ103は、超音波信号と光音響信号とを取得する。プローブ103は超音波信号と光音響信号とを交互に取得してもよいし、同時に取得してもよいし、予め定められた態様で取得してもよい。
送受信部105は、トランスデューサ(不図示)が受信した時系列のアナログ信号を増幅する増幅器(不図示)を備えていてもよい。トランスデューサ(不図示)は、超音波画像の撮像の目的に応じて、送信用と受信用とに分割されてもよい。また、トランスデューサ(不図示)は、超音波画像の撮像用と、光音響画像の撮像用とに分割されてもよい。
照射部106は、光音響信号を取得するための光源(不図示)と、光源(不図示)から射出されたパルス光を被検体へ導く光学系(不図示)とを含む。光源(不図示)が射出する光のパルス幅は、たとえば1ns以上、100ns以下のパルス幅である。また、光源(不図示)が射出する光の波長は、たとえば400nm以上、1600nm以下の波長である。被検体の表面近傍の血管を高解像度でイメージングする場合は、400nm以上、700nm以下の、血管での吸収が大きい波長が好ましい。また、被検体の深部をイメージングする場合には、700nm以上、1100nm以下の、水や脂肪といった組織で吸収されにくい波長が好ましい。
光源(不図示)は、たとえばレーザーや発光ダイオードである。照射部106は、複数の波長の光を用いて光音響信号を取得するために、波長を変換できる光源を用いてもよい。あるいは、照射部106は、互いに異なる波長の光を発生する複数の光源を備え、それぞれの光源から交互に異なる波長の光を照射できる構成であってもよい。レーザーは、たとえば固体レーザー、ガスレーザー、色素レーザー、半導体レーザーである。光源(不図示)として、Nd:YAGレーザーやアレキサンドライトレーザーといったパルスレーザーを用いてもよい。また、Nd:YAGレーザーの光を励起光とするTi:saレーザーやOPO(optical parametric oscillators)レーザーを光源(不図示)として用いてもよい。また、光源(不図示)として、マイクロウェーブ源を用いてもよい。
光学系(不図示)には、レンズ、ミラー、光ファイバといった光学素子が用いられる。被検体が乳房である場合には、パルス光のビーム径を広げて照射することが好ましいため、光学系(不図示)は射出される光を拡散させる拡散板を備えていてもよい。あるいは解像度を上げるために、光学系(不図示)はレンズ等を備え、ビームをフォーカスできる構成であってもよい。
信号収集部104は、プローブ103で受信した反射波並びに光音響波に関するアナログ信号を、それぞれデジタル信号に変換する。信号収集部104は、デジタル信号に変換された超音波信号ならびに光音響信号を情報処理装置107に送信する。
表示部109は、情報処理装置107からの制御に基づいて、検査システム102で撮像された画像や、検査に関する情報を表示する。表示部109は、情報処理装置107からの制御に基づいて、ユーザの指示を受け付けるためのインタフェースを提供する。表示部109は、たとえば液晶ディスプレイである。
操作部108は、ユーザの操作入力に関する情報を情報処理装置107に送信する。操作部108は、たとえばキーボードやトラックボールや、検査に関する操作入力を行うための各種のボタンである。
なお、表示部109と操作部108はタッチパネルディスプレイとして統合されていてもよい。また、情報処理装置107と表示部109と操作部108は別体の装置である必要はなく、これらの構成が統合された操作卓として実現されてもよい。情報処理装置107は、複数のプローブを有していてもよい。
HIS/RIS111は、患者の情報や検査の情報を管理するためのシステムである。HIS(Hospital Information System)は、病院の業務を支援するシステムである。HISは、電子カルテシステム、オーダリングシステムや医事会計システムを含む。RIS(Radiology Information System)は、放射線部門における検査情報を管理し、撮像装置でのそれぞれの検査の進捗を管理するシステムである。検査情報は、一意に識別するための検査IDや、当該検査に含まれる撮影手技に関する情報を含む。検査システム102にはRISに代えて、あるいはRISに加えて、部門ごとに構築されたオーダリングシステムが接続されていてもよい。HIS/RIS111により、検査のオーダ発行から会計までが連携して管理される。HIS/RIS111は、情報処理装置107からの問い合わせに応じて、検査システム102で行う検査の情報を情報処理装置107に送信する。HIS/RIS111は、情報処理装置107から検査の進捗に関する情報を受信する。そして、HIS/RIS111は、検査が完了したことを示す情報を情報処理装置107から受信すると、会計のための処理を行う。
PACS(Picture Archiving and Communication System)112は、施設内外の各種の撮像装置で得られた画像を保持するデータベースシステムである。PACS112は、医用画像及びかかる医用画像の撮影条件や、再構成を含む画像処理のパラメータや患者情報といった付帯情報を記憶する記憶部(不図示)と、当該記憶部に記憶される情報を管理するコントローラ(不図示)とを有する。PACS112は、情報処理装置107から出力されたオブジェクトである、超音波画像や光音響画像や重畳画像を記憶する。PACS112と情報処理装置107との通信や、PACS112に記憶される各種の画像はHL7やDICOMといった規格に則していることが好ましい。情報処理装置107から出力される各種の画像は、DICOM規格に則って各種のタグに付帯情報が関連付けられ、記憶されている。
Viewer113は、画像診断用の端末であり、PACS112等に記憶された画像を読み出し、診断のために表示する。医師は、Viewer113に画像を表示させて観察し、当該観察の結果得られた情報を画像診断レポートとして記録する。Viewer113を用いて作成された画像診断レポートは、Viewer113に記憶されていてもよいし、PACS112やレポートサーバ(不図示)に出力され、記憶されてもよい。
Printer114は、PACS112等に記憶された画像を印刷する。Printer114はたとえばフィルムプリンタであり、PACS112等に記憶された画像をフィルムに印刷することにより出力する。
図2は、情報処理装置107のハードウェア構成の一例を示す図である。情報処理装置107は、たとえばコンピュータである。情報処理装置107は、CPU201、ROM202、RAM203、記憶装置204、USB205、通信回路206、プローブコネクタポート207、グラフィックスボード208を有する。これらはBUSにより通信可能に接続されている。BUSは接続されたハードウェア間でのデータの送受信や、CPU201から他のハードウェアへの命令を送信するために使用される。
CPU(Central Processing Unit)201は情報処理装置107及びこれに接続する各部を統合的に制御する制御回路である。CPU201はROM202に格納されているプログラムを実行することにより制御を実施する。またCPU201は、表示部109を制御するためのソフトウェアであるディスプレイドライバを実行し、表示部109に対する表示制御を行う。さらにCPU201は、操作部108に対する入出力制御を行う。
ROM(Read Only Memory)202は、CPU201による制御の手順を記憶させたプログラムやデータを格納する。ROM202は、情報処理装置107のブートプログラムや各種初期データを記憶する。また、情報処理装置107の処理を実現するための各種のプログラムを記憶する。
RAM(Random Access Memory)203は、CPU201が命令プログラムによる制御を行う際に作業用の記憶領域を提供するものである。RAM203は、スタックとワーク領域とを有する。RAM203は、情報処理装置107及びこれに接続する各部における処理を実行するためのプログラムや、画像処理で用いる各種パラメータを記憶する。RAM203は、CPU201が実行する制御プログラムを格納し、CPU201が各種制御を実行する際の様々なデータを一時的に格納する。
記憶装置204は、超音波画像や光音響画像を含む光音響データなどの各種のデータを保存する補助記憶装置である。記憶装置204は、たとえばHDD(Hard Disk Drive)や、SSD(Solid State Drive)である。
USB(Universal Serial Bus)205は操作部108と接続する接続部である。
通信回路206は検査システム102を構成する各部や、ネットワーク110に接続されている各種の外部装置との通信を行うための回路である。通信回路206は、たとえば出力する情報を転送用パケットに格納してTCP/IPといった通信技術により、ネットワーク110を介して外部装置に出力する。情報処理装置107は、所望の通信形態にあわせて、複数の通信回路を有していてもよい。
プローブコネクタポート207は、プローブ103を情報処理装置107に接続するための接続口である。
グラフィックスボード208は、GPU(Graphics Processing Unit)、ビデオメモリを含む。GPUは、たとえば光音響信号から光音響画像を生成するための再構成処理に係る演算を行う。
HDMI(登録商標)(High Definition Multimedia Interface)209は、表示部109と接続する接続部である。
CPU201やGPUはプロセッサの一例である。また、ROM202やRAM203や記憶装置204はメモリの一例である。情報処理装置107は複数のプロセッサを有していてもよい。第1の実施形態においては、情報処理装置107のプロセッサがメモリに格納されているプログラムを実行することにより、情報処理装置107の各部の機能が実現される。
また、情報処理装置107は特定の処理を専用に行うCPUやGPU、ASIC(Application Specific Integrated Circuit)を有していても良い。情報処理装置107は特定の処理あるいは全ての処理をプログラムしたFPGA(Field−Programmable Gate Array)を有していてもよい。
図3は、情報処理装置107の機能構成の一例を示す図である。情報処理装置107は、検査制御部301、撮影制御部302、画像処理部303、出力制御部304、通信部305、表示制御部306を有する。
検査制御部301は、検査制御部301は、HIS/RIS111から検査オーダの情報を取得する。検査オーダには、検査を受ける患者の情報や、撮影手技に関する情報が含まれる。検査制御部301は、撮影制御部302に検査オーダに関する情報を送信する。また、検査制御部301は、表示制御部306を介してユーザに検査に関する情報を提示するために表示部109に当該検査の情報を表示させる。表示部109に表示される検査の情報には、検査を受ける患者の情報や、当該検査に含まれる撮影手技の情報や、既に撮像が完了して生成された画像が含まれる。さらに検査制御部301は、通信部305を介して当該検査の進捗に関する情報をHIS/RIS111に送信する。
撮影制御部302は、検査制御部301から受信した撮影手技の情報に基づいてプローブ103を制御し、超音波信号と光音響信号とをプローブ103及び信号収集部104から取得する。撮影制御部302は、照射部106に対して光の照射を指示する。撮影制御部302は、送受信部105に対して超音波の送信を指示する。撮影制御部302は、照射部106への指示と送受信部105への指示とをユーザの操作入力や撮影手技の情報に基づいて実行する。また、撮影制御部302は送受信部105に対して超音波の受信を指示する。撮影制御部302は信号収集部104に対して信号のサンプリングを指示する。撮影制御部302は上述のようにプローブ103を制御し、超音波信号と光音響信号とを区別して取得する。また、撮影制御部302は超音波信号及び光音響信号の取得したタイミングに関する情報(以下では、タイミング情報と称する。)を取得する。タイミング情報とは、たとえば撮影制御部302がプローブ103を制御して光の照射や超音波の送信のタイミングを示す情報である。タイミングを示す情報とは、時刻であってもよいし、検査を開始してからの経過時間であってもよい。なお、撮影制御部302は、信号収集部104から出力されたデジタル信号に変換された超音波信号ならびに光音響信号を取得する。
画像処理部303は、超音波画像と光音響画像を生成する。すなわち、画像処理部303は光音響データを取得する。また、出力制御部304からの制御に応じて、超音波画像や光音響画像(光音響データ)を圧縮した圧縮画像(圧縮データ)を生成する。さらに、画像処理部303は超音波画像に対して光音響画像を重畳させた重畳画像を生成してもよい。また、画像処理部303は超音波画像及び光音響画像からなる動画像を生成してもよい。
具体的には、画像処理部303は撮影制御部302により取得された光音響信号に基づいて光音響データを生成する。画像処理部303は、光音響信号に基づいて光が照射された時の音響波の分布(以下、初期音圧分布と称する。また、初期音圧分布に関するデータを初期音圧データと称する。)を再構成する。画像処理部303は、再構成された初期音圧分布を、被検体に照射された光の被検体の光フルエンス分布で除することにより、被検体内における光の吸収係数分布を取得する。また、被検体に照射する光の波長に応じて、被検体内で光の吸収の度合いが異なることを利用して、複数の波長に対する吸収係数分布から被検体内の物質の濃度分布を取得する。たとえば画像処理部303は、オキシヘモグロビンとデオキシヘモグロビンの被検体内における物質の濃度分布を取得する。さらに画像処理部303は、オキシヘモグロビン濃度のデオキシヘモグロビン濃度に対する割合として酸素飽和度分布を取得する。画像処理部303により生成される光音響データは、たとえば上述した初期音圧分布、光フルエンス分布、吸収係数分布、物質の濃度分布及び酸素飽和度分布の少なくとも一つの情報を示すデータあるいは画像である。
また、画像処理部303は超音波信号の反射波の振幅を輝度に変換した輝線を取得し、超音波ビームの走査に合わせて輝線の表示位置を変えることにより超音波画像(Bモード画像)を生成する。プローブ103が3次元プローブである場合には、画像処理部303は、直交する3断面からなる超音波画像(Cモード画像)を生成することができる。画像処理部303は、3次元の超音波画像に基づいて任意の断面やレンダリング後の立体画像を生成する。画像処理部303は、超音波画像と光音響画像(光音響データ)とを取得する画像取得手段の一例である。
画像処理部303は、出力制御部304からの制御に応じて、超音波画像や光音響画像(光音響データ)の圧縮画像(圧縮データ)を生成する。画像処理部303は、圧縮する画像データを、その種類に応じて圧縮の処理を行い、圧縮データを生成する。画像処理部303は、たとえばエントロピー符号化、ランレングス圧縮、JPEG(Joint Photographic Experts Group)圧縮、ウェーブレット圧縮といった様々な方法により画像データを圧縮することができる。また、画像処理部303は図7乃至図9に例示する手法により画像データを圧縮することができる。圧縮にかかる処理の詳細については後述する。
出力制御部304は、検査制御部301からの制御やユーザの操作入力に応じて、各種の情報をPACS112やViewer113といった外部装置に送信するためのオブジェクトを生成する。オブジェクトとは、情報処理装置107からPACS112やViewer113といった外部装置に送信される対象となる情報である。たとえば出力制御部304は、画像処理部303で生成された超音波画像や光音響画像をPACS112に出力するためのIODを生成する。
出力制御部304は、予め定められた設定やユーザの操作入力に応じて、IODとして出力する画像データを圧縮するように画像処理部303を制御する。出力制御部304は、出力する光音響画像(光音響データ)および超音波画像の種類に応じて、圧縮にかかる処理を制御する。
外部装置に出力されるオブジェクトには、DICOM規格に則った各種のタグとして付帯された付帯情報が含まれる。付帯情報には、たとえば患者情報や、当該画像を撮像した撮像装置を示す情報や、当該画像を一意に識別するための画像IDや、当該画像を撮像した検査を一意に識別するための検査ID、プローブ103の情報が含まれる。圧縮データに関するIODの付帯情報には、当該圧縮データの圧縮に関する情報が含まれる。圧縮に関する情報とは、たとえば圧縮の処理の方式や、当該圧縮データの復号に関する情報である。また、出力制御部304により生成される付帯情報には、検査の中で撮像された超音波画像と光音響データとを関連付ける情報が含まれる。
通信部305は、ネットワーク110を介してHIS/RIS111やPACS112、Viewer113といった外部装置と情報処理装置107との間での、情報の送受信を制御する。送受信制御部128は、HIS/RIS111から検査オーダの情報を受信する。送受信制御部128は、写損処理制御部127で生成されたオブジェクトをPACS112やViewer113に送信する。
表示制御部306は、表示部109を制御して、表示部109に情報を表示させる。表示制御部306は、他のモジュールからの入力や、操作部108を介したユーザの操作入力に応じて、表示部109に情報を表示させる。表示制御部306は、表示制御手段の一例である。
[情報処理装置107による一連の処理]
図4は、情報処理装置107が超音波画像と光音響画像(光音響データ)とを取得し、IODを外部装置に出力する処理の一例を示すフローチャートである。下記の処理において、特に断りがない場合、各処理を実現する主体は、CPU201またはGPUである。また、適宜図5を用いて、情報処理装置107により取得される情報について説明する。
ステップS401において、撮影制御部302は撮影を開始するか否かを判定する。まず、検査制御部301はHIS/RIS111より検査オーダの情報を取得し、撮影制御部302に検査オーダの情報を送信する。表示制御部306は表示部109に当該検査オーダにより示される検査の情報と、当該検査に対する指示をユーザが入力するためのユーザインタフェースとを表示させる。操作部108を介して当該ユーザインタフェースに入力された、撮影開始の指示に応じて、撮影制御部302は撮影を開始すると判定する。撮影が開始されるとステップS402に進む。
ステップS402において、撮影制御部302はプローブ103と信号収集部104とを制御して、超音波画像の撮像を開始する。ユーザはプローブ103を被検体101に押し当て、所望の位置の撮像を行う。撮影制御部302は、デジタル信号である超音波信号と、当該超音波信号の取得に関するタイミング情報とを取得し、RAM203に記憶する。画像処理部303は、超音波信号に対して整相加算(Delay and Sum)等の処理を行うことにより、超音波画像を生成する。なお、超音波画像を生成したところで、RAM203に保存された超音波信号は削除されてもよい。画像処理部303は取得した超音波画像を、表示制御部306を介して表示部109に表示させる。撮影制御部302及び画像処理部303はこれらの工程を繰り返し実行し、表示部109に表示される超音波画像を更新する。これにより、超音波画像が動画像として表示される。
ステップS403において、撮影制御部302はプローブ103と信号収集部104とを制御して、光音響画像の撮像を開始する。ユーザはプローブ103を被検体101に押し当て、所望の位置の撮像を行う。撮影制御部302は、デジタル信号である光音響信号と、当該光音響信号の取得に関するタイミング情報とを取得し、RAM203に記憶する。画像処理部303は、光音響信号に対してUniversal Back−Projection(UBP)等の処理を行うことにより、光音響データを生成する。なお、光音響データを生成したところで、RAM203に保存された光音響信号は削除されてもよい。画像処理部303は取得した光音響データを、表示制御部306を介して表示部109に表示させる。撮影制御部302及び画像処理部303はこれらの工程を繰り返し実行し、表示部109に表示される光音響データを更新する。これにより、光音響データが動画像として表示される。
ステップS402とステップS403との処理は、同時に行われてもよいし、所定の間隔ごとに切り替えられてもよいし、ユーザの操作入力あるいは検査オーダに基づいて切り替えられてもよい。超音波画像の撮像が先に行われる例を示したが、光音響画像の撮像が先に行われてもよい。表示制御部306は、ステップS402において超音波画像と光音響画像とを表示する際に、一方の画像を他方の画像に重畳して表示してもよいし、並べて表示してもよい。また、画像処理部303は超音波画像と光音響画像とを重畳した重畳画像を取得し、表示制御部306は当該重畳画像を表示部109に表示させてもよい。
ステップS404において、出力制御部304はステップS402とステップS403とで取得された超音波画像と光音響画像(光音響データ)とを関連付けて、付帯情報とともに記憶装置204に記憶する。ステップS404では、出力制御部304はステップS402とステップS403とで取得される各フレームの超音波画像及び光音響画像に対して繰り返し処理を行うことにより、超音波画像と光音響画像とを含むファイルとして保存することができる。静止画を撮影することを指示する操作入力や、動画の撮影を開始することを指示する操作入力に応じて、出力制御部304は保存に係る処理を開始する。
図5は、ステップS404において保存が開始されるデータの構造の一例を示す図である。保存データ501は、付帯情報502と画像データ503を含む。付帯情報502は、保存データ501のヘッダー部に記録されてもよい。
付帯情報502はたとえば、被検体情報504、プローブ情報505、タイミング情報506、対応情報507を含む。
被検体情報504は、被検体101に関する情報である。被検体情報504はたとえば、被検体ID、被検体氏名、年齢、血圧、心拍数、体温、身長、体重、既往症、妊娠週数、及び検査情報といった情報のうちの少なくとも一つの情報を含む。なお、検査システム102が心電計(不図示)やパルスオキシメータ(不図示)を含む場合には、心電図や酸素飽和度に関する情報を被検体情報504として保存してもよい。
プローブ情報505は、撮影に使用されたプローブ103に関する情報である。プローブ情報505は、プローブ103の種類、撮像時の位置や傾きといったプローブ103に関する情報を含む。検査システム102はプローブ103の位置や傾きを検知する磁気センサ(不図示)を備えていてもよく、撮影制御部302は磁気センサ(不図示)からこれらの情報を取得してもよい。
タイミング情報506は、画像データ503が取得されたタイミングに関する情報である。タイミング情報506は、ステップS402及びステップS403で取得される。タイミング情報は、たとえば、上述したように時刻や検査開始からの経過時間で示される。超音波画像のタイミング情報は、当該超音波画像に用いられた超音波信号が取得されたタイミングに関する情報である。一の超音波画像に複数の超音波信号が用いられる場合のタイミング情報は、任意の超音波信号が取得されたタイミングに関する情報でよく、一の検査で取得されたそれぞれの超音波画像で運用が統一されていればよい。超音波信号が取得されたタイミングは、情報処理装置107が超音波信号を受信したタイミングでもよいし、プローブ103が被検体101に超音波を送信したタイミングでもよいし、プローブ103が超音波を受信したタイミングでもよいし、プローブ103に対する超音波の送受信の駆動信号が検知されたタイミングでもよいし、信号収集部104が超音波信号を受信したタイミングでもよい。光音響データのタイミング情報は、当該光音響データに用いられた光音響信号が取得されたタイミングに関する情報である。一の光音響データに複数の光音響信号が用いられる場合のタイミング情報は、任意の光音響信号が取得されたタイミングに関する情報でよく、一の検査で取得されたそれぞれの光音響データで運用が統一されていればよい。光音響信号が取得されたタイミングは、情報処理装置107が光音響信号を受信したタイミングでもよいし、プローブ103が被検体101に光を照射したタイミングでもよいし、プローブ103が光音響を受信したタイミングでもよいし、光の照射或いは光音響の受信のプローブ103に対する駆動信号が検知されたタイミングでもよいし、信号収集部104が光音響信号を受信したタイミングでもよい。
対応情報507は、画像データ503に含まれる超音波画像516〜517と光音響画像518〜527とを対応付ける情報である。対応情報507はたとえば、ある超音波画像と略同時に取得された光音響画像とを対応付ける情報である。また、対応情報507はたとえば、同一の光音響信号から取得された複数の種類の光音響画像を対応付ける情報である。
画像データ503は、ステップS402とステップS403とで取得された超音波画像516〜517と光音響画像518〜527とを含む。画像データ503は、あるタイミングにおいて略同時に取得された超音波画像と光音響画像とを含む。画像データ503は、1回の検査において取得された超音波画像及び光音響画像を含んでいてもよい。また、画像データ503は動画を構成する各フレームの超音波画像及び光音響画像を含んでいてもよい。
図5に示す例では、超音波画像508はその種類としてBモード画像510を含む。Bモード画像510は超音波画像516〜517を含み、それぞれを一意に識別するための識別子U1〜U2が付されている。
また、図5に示す例では、光音響画像509は、被検体に波長αの光を照射して得られた光音響信号に基づく画像データと、波長βの光を照射して得られた光音響信号に基づく画像データとを含む。光音響画像509はその種類として、波長αにおける初期音圧画像(初期音圧データ)511、吸収係数画像513と、波長βにおける初期音圧画像(初期音圧データ)512、吸収係数画像514と、酸素飽和度画像515とを含む。初期音圧画像(初期音圧データ)(波長α)511は、光音響画像518〜519を含み、それぞれを一意に識別するための識別子Sα1、Sα2が付されている。初期音圧画像(初期音圧データ)(波長β)512は、光音響画像520〜521を含み、それぞれを一意に識別するための識別子Sβ1、Sβ2が付されている。吸収係数画像(波長α)は、光音響画像522〜523を含み、それぞれを一意に識別するための識別子Aα1、Aα2が付されている。吸収係数画像(波長β)は、光音響画像524〜525を含み、それぞれを一意に識別するための識別子Aβ1、Aβ2が付されている。酸素飽和度画像515は光音響画像526〜527を含み、それぞれを一意に識別するための識別子O1、O2が付されている。
図5に示す例では、Bモード画像U1と初期音圧画像(初期音圧データ)(波長α)Sα1、初期音圧画像(初期音圧データ)(波長β)Sβ1、吸収係数画像(波長α)Aα1、吸収係数画像(波長β)Aβ1、酸素飽和度画像O1が対応情報507により対応付けられる。吸収係数画像(波長α)Aα1は初期音圧画像(初期音圧データ)(波長α)Sα1に基づいて取得されたものである。また、吸収係数画像(波長β)Aβ1は初期音圧画像(初期音圧データ)(波長β)Sβ1に基づいて取得されたものである。酸素飽和度画像O1は、吸収係数画像(波長α)Aα1と吸収係数画像(波長β)Aβ1とに基づいて取得されたものである。
また、図5に示す例では、Bモード画像U2と初期音圧画像(初期音圧データ)(波長α)Sα2、初期音圧画像(初期音圧データ)(波長β)Sβ2、吸収係数画像(波長α)Aα2、吸収係数画像(波長β)Aβ2、酸素飽和度画像O2が対応情報507により対応付けられる。吸収係数画像(波長α)Aα2は初期音圧画像(初期音圧データ)(波長α)Sα2に基づいて取得されたものである。また、吸収係数画像(波長β)Aβ2は初期音圧画像(初期音圧データ)(波長β)Sβ2に基づいて取得されたものである。酸素飽和度画像O2は、吸収係数画像(波長α)Aα2と吸収係数画像(波長β)Aβ2とに基づいて取得されたものである。
ステップS405において、撮影制御部302は、撮影を終了するか否かを判定する。検査中、表示制御部306により表示部109にはユーザが指示を入力するためのユーザインタフェースが表示される。操作部108を介して当該ユーザインタフェースに入力された、撮影終了の指示に基づいて、撮影制御部302は撮影を終了すると判定する。また、撮影制御部302は、ステップS401で受け付けた撮影開始の指示から所定の時間が経過したところで撮影終了と判定してもよい。撮影が終了すると、検査制御部301はHIS/RIS111に当該撮影が終了したことを示す情報を、通信部305を介して送信する。撮影が終了すると、ステップS406に進む。
ステップS406において、撮影制御部302はプローブ103及び信号取得部104を制御して光音響画像の撮像を終了する。ステップS407において、撮影制御部302はプローブ103及び信号取得部104を制御して超音波画像の撮像を終了する。
ステップS408において、出力制御部304は、ステップS404で開始した超音波画像と光音響画像との保存にかかる処理を終了する。
ステップS409において、通信部305はステップS408までに保存されたデータに基づくIODを外部装置に出力する。出力制御部304は、ステップS407までに保存された情報に基づいて、ステップS402とステップS403とにおいて取得された超音波画像と光音響画像(光音響データ)とを含むIODを生成する。通信部305は、IODをPACS112といった外部装置に出力する。
第1の実施形態においては、ステップS409において外部装置に出力されるIODの画像データを、その種類に応じて圧縮する場合を例に説明する。
図6は、出力制御部304がIODとして出力するための画像データを圧縮する処理の一例を示すフローチャートである。図6に示す一連の処理は、たとえばステップS409のサブルーチンとして行われる。下記の処理において、特に断りがない場合、各処理を実現する主体は、CPU201またはGPUである。
ステップS601において出力制御部304は、画像処理部303を制御して圧縮データの生成を開始する。以下では、2フレーム分の超音波撮像および光音響撮像を行い、それぞれのフレームで超音波画像の種類としてBモード画像、光音響画像(光音響データ)の種類として初期音圧画像(初期音圧データ)、2つの異なる波長におけるそれぞれの吸収係数画像、酸素飽和度画像を含む画像データを生成する場合を例に説明する。外部装置に出力する画像データの種類や、それぞれの種類についての圧縮処理の要否は、予め定められた設定に基づいて選択されてもよい。
ステップS602において出力制御部304は、ステップS404乃至ステップS406において記憶装置204に保存された保存データ501を読み出す。
ステップS603において画像処理部303は、ステップS601における出力制御部304による制御に基づいて、画像データの種類に応じて圧縮データを生成する。画像処理部303は、複数の方法を組み合わせて圧縮データを生成してもよい。
ここで、画像処理部303が行う圧縮の処理の例を説明する。画像処理部303は、たとえば階調変換により圧縮画像(圧縮データ)を生成する。本来1画素が8bitの256階調で表現されているものを、1画素を6bitの64階調とすると、データ量を削減することができる。
別の例では、画像処理部303は高周波成分の情報量を削減することにより圧縮画像(圧縮データ)を生成する。医用画像は局所的にはなだらかな画素値の変化でこうせいされており、空間周波数は低周波成分が主であると予測される。たとえば、画像処理部303は離散コサイン変換(Discrete Cosine Transfer:DCT)を用いて画像データを複数の周波数成分(DCT係数)に変換する。画像処理部303はDCT係数を量子化テーブルで除することで、高周波成分の情報量を削減する。
図7は、画像処理部303により光音響画像に対して行われる可逆圧縮の一例を示す図である。画像処理部303は、特定の画素値が連続するラン長に基づいて圧縮画像(圧縮データ)を生成する。光音響画像は、たとえば被検体101の深部にはプローブ103から照射された光が到達しない場合がある。したがって、光音響画像には被検体101の情報を含まない、画素値が0の画素が多く存在する場合が考えられる。圧縮画像702は、1byte目に0を格納し、2byte目に原画像701の画素値が0である画素が連続する回数を格納することで、情報量を削減している。
図7に例示する処理により圧縮された画像データのIODは、特定の画素値が連続するラン長に基づいて圧縮されていることを示す情報とともに出力される。当該IODを取得したViewer113といった外部装置は、当該圧縮の方式で得られる圧縮データを復号するための情報を予め取得する。Viewer113は、当該圧縮の方式を示す情報を当該IODから読みだして圧縮データを復号することができる。
図8は、画像処理部303により超音波画像又は光音響画像に対して行われる圧縮方法の一例を示す図である。たとえば、画像処理部303は、動画を構成する隣接するフレーム間の画像が類似していることに基づいて圧縮画像(圧縮データ)を生成する。原画像801は、nフレーム目の原画像の画素値の配列を示し、原画像802はn+1フレーム目の原画像の画素値の配列を示す。圧縮画像803は、nフレーム目の画像データに基づいてn+1フレーム目の原画像802を圧縮したものである。画像処理部303は、原画像802と原画像801との差分を取得し、画素値とした圧縮画像803を生成する。n+1フレーム目とnフレーム目とが類似していることにより、それらの差分である圧縮画像803の画素値が小さくなると予測され、圧縮画像803の1画素のbit数を削減することができる。n+2フレーム目以降も同様にすることで、動画のデータ量を削減することができる。
図8に例示する処理により圧縮された画像データのIODは、フレーム間の画像データの差分に基づいて圧縮されていることを示す情報と、原画像を差分した画像データ(ここではnフレーム目の画像データ)を識別するための情報とともに出力される。当該IODを取得したViewer113といった外部装置は、当該圧縮の方式で得られる圧縮データを復号するための情報を予め取得する。Viewer113は、当該圧縮の方式を示す情報とnフレーム目の画像データを識別するための情報とを当該IODから読みだし、nフレーム目の画像データを取得することで、n+1フレーム目の圧縮画像を復号することができる。
図9は、画像処理部303により光音響画像の吸収係数画像、酸素飽和度画像に対して行われる圧縮方法の一例を示す図である。吸収係数画像、酸素飽和度画像はともに、被検体内部の特定の光学特性(吸収係)数を有する物質の情報を画像化したものである。具体的には、吸収係数画像及び酸素飽和度画像は、ヘモグロビンの情報を画像化したものである。したがって、吸収係数画像及び酸素飽和度画像は、たとえば血管の走行を反映した類似した画像になると予測される。たとえば、画像処理部303は、波長αにおける吸収係数画像と波長βにおける吸収係数画像との差分を取得することにより、圧縮画像(圧縮データ)を生成する。原画像901は波長αにおける吸収係数画像であり、原画像902は波長βにおける吸収係数画像である。画像処理部303は原画像901と原画像902との差分を取得し、原画像902の圧縮画像903を生成する。吸収係数画像、酸素飽和度画像のように、被検体内部の特定の光学特性を有する物質の情報を画像化した画像で、互いに類似した画像間の差分である圧縮画像の画素値は小さくなると予測され、圧縮画像903の1画素のbit数を削減することができる。
図9に例示する処理により圧縮された画像データのIODは、異なる波長間の画像データの差分に基づいて圧縮されていることを示す情報と、原画像を差分した画像データ(ここでは波長αにおける吸収係数画像)を識別するための情報とともに出力される。当該IODを取得したViewer113といった外部装置は、当該圧縮の方式で得られる圧縮データを復号するための情報を予め取得する。Viewer113は、当該圧縮の方式を示す情報と波長αにおける吸収係数画像を識別するための情報とを当該IODから読みだし、波長αにおける吸収係数画像を取得することで、波長βにおける吸収係数画像の圧縮画像を復号することができる。
出力制御部304は、医用画像の種類に応じた圧縮の方法により圧縮データを生成するように画像処理部303を制御する。たとえば、被検体内部の形態に関する情報を豊富に含むBモード画像に階調変更は好ましくなくない場合が考えられ、特定の画素値が連続する領域は少ないと推測される。また、エラストグラフィ画像やドプラ画像のように、被検体内の特定の部位の情報が中心となる画像においては、たとえば画素値がゼロの画素が連続する領域があることが考えられる。したがって出力制御部304は、超音波画像の種類が濃淡で表現されるBモード画像である場合には、たとえば高周波成分の情報量を削減して圧縮データを生成するように画像処理部303を制御してもよい。出力制御部304は、超音波画像の種類がエラストグラフィ画像やドプラ画像である場合には、たとえば特定の画素値の連続に基づいて圧縮データを生成するように画像処理部303を制御してもよい。
また出力制御部304は、光音響データのそれぞれに種類に対して、種類に応じた圧縮処理を行うように画像処理部303を制御する。例えば、初期音圧データは他の種類の画像データを生成するのに用いられる画像データであり、圧縮しない、または可逆圧縮を行うこととする。例えば、出力制御部304は、複数の光音響データのうち初期音圧データに対して可逆圧縮、初期音圧データ以外の光音響データに対しては可逆圧縮以外の圧縮方法(例えば、可逆圧縮より圧縮率の高い方法)を行うように画像処理部303を制御する。あるいは、出力制御部304は光音響データの種類に応じて圧縮率を異ならせてもよい。例えば、初期音圧データに対して適用する圧縮方法の圧縮率は、初期音圧データ以外の光音響データに対して適用する圧縮方法の圧縮率よりも小さくしてもよい。外部装置に出力される光音響データの種類の中で、異なる複数の波長の吸収係数画像や酸素飽和度が含まれている場合には、それらの類似性を利用して波長間差分による圧縮処理を行うこととしてもよい。
ステップS604において、出力制御部304は画像データ503に含まれる画像間の対応付けを行う。出力制御部304は対応情報507を用いて、対応する画像データを特定する。
ステップS605において、出力制御部304はIODを取得する。出力制御部304は、ステップS604において対応付けられた画像データを同一のIODに格納してもよい。その場合、出力制御部304はマルチフレームで複数の画像データを格納してもよい。また、出力制御部304はGSPS(Grayscale Softcopy Presentation State)やCSPS(Colorscale Softcopy Presentation State)に準ずる態様で複数の画像データを格納してもよい。出力制御部304は、一つのIODにおけるマルチフレームとして複数の画像データを格納してもよい。出力制御部304は、それぞれの画像データを異なるIODとして生成し、互いのIODの付帯情報に対応する画像データのIODを識別するための情報を含めてもよい。
図10は、IODの一例を示す図である。図10の例では、図5の対応情報507において説明したように対応付けられた画像データが、一つのIODに格納されている。転送データ(IOD)1は付帯情報1001と画像データ1002とを含む。転送データ(IOD)2は付帯情報1003と画像データ1004とを含む。付帯情報1001及び付帯情報1003は、図5に示す付帯情報502の一部又は全てを含んでいてもよい。画像データ1002及び画像データ1004は上述の処理により圧縮された圧縮画像(圧縮データ)である。図10に示す例ではIODに含まれる画像データのすべてが圧縮されているが、一部の画像データが圧縮されていてもよい。ユーザは、たとえばViewer113を介して情報処理装置107やPACS112からIODを取得する。Viewer113は予め符号表を取得しておくことができる。また、IODに圧縮データの復号のための情報が記載されている場合には、Viewer113は当該復号のための情報を読みだすことができる。これにより、Viewer113は圧縮データを復号してViewer113の表示部(不図示)に表示させることができる。
第1の実施形態の構成により、超音波画像と光音響画像(光音響データ)はその種類に応じて圧縮され、PACS112といった外部装置に出力される。これにより、画像データの通信や保存にかかる容量が低減される。
[第2の実施形態]
第2の実施形態では、ユーザが外部装置に出力する画像データの種類を選択し、圧縮方法を設定可能である場合を例に説明する。
図12は、ユーザが外部装置に出力する画像データの種類を指定するためのユーザインタフェースの一例を示す図である。列1201は指定可能な種類の一覧を表示する。列1201には、領域1203において超音波画像の各種類が表示され、領域1204において光音響データの各種類が表示される。ユーザは出力ボタン1205に対する操作入力により、任意の種類の画像データを外部装置に出力するように指定できる。列1201には、図4に示すステップS402及びステップS403において取得された種類の画像が表示される。出力ボタン1205を介してユーザが指示した情報は、それぞれの種類の画像データに関する出力可否の情報としてRAM203に記憶される。
選択状態にあるアイテムは、列1201において選択状態にないアイテムと区別可能に表示される。図12に示す例では、選択状態にあるアイテムは他のアイテムとは異なる背景色で表示されている。画像プレビュー1207が選択状態にある時、表示領域1202には、列1201において選択状態にある種類の画像データが表示される。領域1206には、画像表示領域1202に表示されている画像データのフレーム番号が表示される。
圧縮設定1208が選択されると、図13に示す設定画面が表示部109に表示される。出力ボタン1210が押下されると、出力ボタン1205を介して指示した情報が確定される。
図11は、ユーザの指定に基づいて画像データを圧縮して出力する処理の一例を示すフローチャートである。適宜、図12及び図13を用いて説明する。図11に示す処理は、たとえば図4に示すステップS409のサブルーチンとして行われる。下記の処理において、特に断りがない場合、各処理を実現する主体は、CPU201またはGPUである。
ステップS1101において、出力制御部304は、ユーザの操作入力に応じて、ユーザインタフェースを介してユーザが選択した画像データである。または、圧縮データを生成する対象とする画像データは、予め定められた設定に基づいて選択されてもよい。
ステップS1102において、表示制御部306は表示部109に設定画面1301を表示させる。表示制御部306は、図12に示す圧縮設定1208が押下されたことに伴い、図13に示す設定画面を表示させる。
図13は、設定画面の一例を示す図である。列1201及び領域1203、領域1204は図12に示したものと同様である。領域1302は階調変更の圧縮処理に関する指示を入力するための領域であり、チェックボックスをONに設定すると列1201で出力ボタンが押下された種類の画像データに対する階調変更が有効になる。領域1303は高周波成分を除去する圧縮処理に関する指示を入力するための領域であり、チェックボックスをONに設定すると列1201で出力ボタンが押下された種類の画像データに対する高周波成分除去が有効になる。領域1304は0の連続するラン長を用いた圧縮処理に関する指示を入力するための領域であり、チェックボックスをONに設定すると列1201で出力ボタンが押下された種類の画像データに対する当該圧縮処理が有効になる。領域1305は画像間の差分を用いた圧縮処理に関する指示を入力するための領域であり、チェックボックスをONに設定すると列1201で出力ボタンが押下された種類の画像データに対する当該圧縮処理が有効になる。領域1305において、画像間差分を動画のフレーム間で行うか、異なる波長で取得された画像間で行うかを選択することができる。
ステップS1103において、出力制御部304は圧縮データの生成を開始するか否かを判定する。出力制御部304は、図12に示す出力ボタン1210が押下されることに応じて、圧縮データの生成を開始すると判定する。
ステップS1104において、出力制御部304は記憶装置204から保存データ501を読み出す。
ステップS1105において、出力制御部304は保存データ501に含まれる画像データの出力可否に関する情報をRAM203から読み出す。出力可否に関する情報は上述したように、図12に示す出力ボタン1205に対する指示に基づいてRAM203に記憶されている。
ステップS1106において、出力制御部304は出力する種類の画像データの圧縮処理が、自動で行われる設定であるか否かを判定する。図12及び図13における自動圧縮設定1209がONに設定されると圧縮処理を自動で行うと設定され、その情報がRAM203に記憶される。出力制御部304は自動で圧縮処理を行うか否かに関する設定の情報をRAM203から読み出す。自動で行うと設定されている場合にはステップS1107に進み、自動で行わないと設定されている場合にはステップS1108に進む。
ステップS1107において、出力制御部304は予め設定されている圧縮処理に関する情報を取得する。例えば、出力制御部304は超音波画像のうちBモード画像に対して高周波成分除去による圧縮処理を行う。被験体内部の形態に関する情報を豊富に含むBモード画像に階調変更は好ましくなく、特定の画素値が連続する領域は少ないと予測される。したがって、出力制御部304はBモード画像に対して高周波成分を除去する圧縮処理を行うこととする。
出力制御部304は、光音響データのそれぞれに種類に対して、種類に応じた圧縮処理を行う。例えば、初期音圧データは他の種類の画像データを生成するのに用いられる画像データであり、圧縮しない、または可逆圧縮を行うこととする。図12の出力ボタン1205において出力すると指示されている種類の中で、異なる複数の波長の吸収係数画像や酸素飽和度が含まれている場合には、それらの類似性を利用して波長間差分による圧縮処理を行うこととする。
出力制御部304はさらに、DICOM規格により定められている一つのIODにおける最大容量を満たすように圧縮率や圧縮方法を選択しても良い。その場合出力制御部304は、診断に用いられる酸素飽和度といった画像の圧縮率を他の種類よりも低くするようにしても良い。
ステップS1108において出力制御部304は、図13の設定画面1301を介してユーザが指定した圧縮方法に関する情報を取得する。
ステップS1109において出力制御部304は、ステップS1108で取得した圧縮方法と対応するパラメータの情報をRAM203から読み出す。
ステップS1110において出力制御部304は、画像処理部303を制御して圧縮データを生成する。画像処理部303は、ステップS1107またはステップS1109で取得したパラメータの情報に基づいて画像データを圧縮する。
ステップS1111において、出力制御部304は画像データ503に含まれる画像間の対応付けを行う。出力制御部304は対応情報507を用いて、対応する画像データを特定する。
ステップS1112において、出力制御部304はIODを取得する。出力制御部304は、ステップS1111において対応付けられた画像データを同一のIODに格納してもよい。その場合、出力制御部304はマルチフレームで複数の画像データを格納してもよい。また、第1の実施形態において述べたように、出力制御部304はGSPSやCSPSに準ずる態様で複数の画像データを格納してもよい。出力制御部304は、一つのIODにおけるマルチフレームとして複数の画像データを格納してもよい。出力制御部304は、それぞれの画像データを異なるIODとして生成し、互いのIODの付帯情報に対応する画像データのIODを識別するための情報を含めてもよい。
第2の実施形態の構成により、情報処理装置107はユーザの指定する任意の種類の画像データを、種類に応じた圧縮処理により圧縮して外部装置に出力することができる。
[変形例]
図4に示すステップS406までに保存された保存データ501を読みだして圧縮データを生成する場合を例に説明したが、本発明はこれに限らない。たとえば、保存データ501に画像データを格納する前に圧縮処理を行い、圧縮データを保存データ501に格納してもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の各実施形態における情報処理装置は、単体の装置として実現してもよいし、複数の装置を互いに通信可能に組合せて上述の処理を実行する形態としてもよく、いずれも本発明の実施形態に含まれる。共通のサーバ装置あるいはサーバ群で、上述の処理を実行することとしてもよい。情報処理装置および情報処理システムを構成する複数の装置は所定の通信レートで通信可能であればよく、また同一の施設内あるいは同一の国に存在することを要しない。
本発明の実施形態には、前述した実施形態の機能を実現するソフトウェアのプログラムを、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムのコードを読みだして実行するという形態を含む。
したがって、実施形態に係る処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明の実施形態の一つである。また、コンピュータが読みだしたプログラムに含まれる指示に基づき、コンピュータで稼働しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
上述の実施形態を適宜組み合わせた形態も、本発明の実施形態に含まれる。

Claims (15)

  1. 被検体に光を照射することにより得られる光音響信号に基づいて生成される光音響データを取得する取得手段と、
    記光音響信号に基づいて取得された前記光音響データの種類に応じて前記光音響データを圧縮した圧縮データを取得する圧縮手段と、
    前記圧縮データを外部装置に出力する出力手段と、
    を有し、
    前記圧縮手段は、前記光音響データの種類に第1波長の光に対応する第1画像データおよび第2波長の光に対応する第2画像データが含まれている場合、前記第1画像データと前記第2画像データとの波長間差分による圧縮処理を行うことにより、前記光音響データを圧縮した前記圧縮データを取得する
    ことを特徴とする情報処理装置。
  2. 前記圧縮手段は、前記光音響データの種類に応じて異なる圧縮方法を適用することを特徴とする請求項1記載の情報処理装置。
  3. 初期音圧データに対して適用する圧縮方法と前記初期音圧データ以外の光音響データに対して適用する圧縮方法とは異なることを特徴とする請求項2記載の情報処理装置。
  4. 初期音圧データに対して適用する圧縮方法は可逆圧縮であることを特徴とする請求項3記載の情報処理装置。
  5. 前記圧縮手段は、前記光音響データの種類に応じて異なる圧縮率で圧縮することを特徴とする請求項1記載の情報処理装置。
  6. 初期音圧データに対する圧縮率と前記初期音圧データ以外の光音響データに対する圧縮率とは異なることを特徴とする請求項5記載の情報処理装置。
  7. 初期音圧データに対する圧縮率は、前記初期音圧データ以外の光音響データに対する圧縮率よりも低いことを特徴とする請求項6記載の情報処理装置。
  8. 前記出力手段は、前記圧縮データと復号方法を示す情報とを1つの情報オブジェクトとして前記外部装置に出力することを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  9. 前記出力手段は、前記圧縮データと、前記圧縮データが前記第1画像データと前記第2画像データとの差分に基づいて圧縮されていることを示す情報と、前記第1画像データとを1つの情報オブジェクトとして前記外部装置に出力する
    ことを特徴とする請求項1乃至7のいずれか1項に記載の情報処理装置。
  10. 前記情報オブジェクトに基づいて、前記第2画像データの圧縮画像を復号する復号手段を有する
    ことを特徴とする請求項9記載の情報処理装置。
  11. 前記情報オブジェクトは、DICOM(Digital Imaging and Communications in Medicine)規格に基づくオブジェクトであることを特徴とする請求項8から10のいずれか1項に記載の情報処理装置。
  12. 被検体に光を照射することにより得られる光音響信号に基づいて生成される光音響データを取得する取得工程と、
    記光音響信号に基づいて取得された前記光音響データの種類に応じて前記光音響データを圧縮した圧縮データを取得する圧縮工程と、
    前記圧縮データを外部装置に出力する出力工程と、
    を有し、
    前記圧縮工程において、前記光音響データの種類に第1波長の光に対応する第1画像データおよび第2波長の光に対応する第2画像データが含まれている場合、前記第1画像データと前記第2画像データとの波長間差分による圧縮処理を行うことにより、前記光音響データを圧縮した前記圧縮データを取得する
    ことを特徴とする情報処理方法。
  13. 前記出力工程において、前記圧縮データと、前記圧縮データが前記第1画像データと前記第2画像データとの差分に基づいて圧縮されていることを示す情報と、前記第1画像データとを1つの情報オブジェクトとして前記外部装置に出力する
    ことを特徴とする請求項12記載の情報処理方法。
  14. 前記情報オブジェクトに基づいて、前記第2画像データの圧縮画像を復号する復号工程を更に有する
    ことを特徴とする請求項13記載の情報処理方法。
  15. 請求項12乃至14のいずれか1項に記載の情報処理方法の各工程をコンピュータに実行させることを特徴とするプログラム。
JP2016254370A 2016-12-27 2016-12-27 情報処理装置、情報処理方法及びプログラム Expired - Fee Related JP6570508B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016254370A JP6570508B2 (ja) 2016-12-27 2016-12-27 情報処理装置、情報処理方法及びプログラム
PCT/JP2017/044200 WO2018123518A1 (ja) 2016-12-27 2017-12-08 情報処理装置、情報処理方法及びプログラム
US16/396,554 US20190247021A1 (en) 2016-12-27 2019-04-26 Information processing apparatus, information processing method, and non-transitory computer-readable medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016254370A JP6570508B2 (ja) 2016-12-27 2016-12-27 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2018102751A JP2018102751A (ja) 2018-07-05
JP6570508B2 true JP6570508B2 (ja) 2019-09-04

Family

ID=62710365

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016254370A Expired - Fee Related JP6570508B2 (ja) 2016-12-27 2016-12-27 情報処理装置、情報処理方法及びプログラム

Country Status (3)

Country Link
US (1) US20190247021A1 (ja)
JP (1) JP6570508B2 (ja)
WO (1) WO2018123518A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11060843B2 (en) * 2019-04-16 2021-07-13 Hi Llc Interferometric parallel detection using digital rectification and integration

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006102109A (ja) * 2004-10-05 2006-04-20 Konica Minolta Medical & Graphic Inc 医用画像表示装置及び医用画像表示方法
JP2010055130A (ja) * 2006-12-21 2010-03-11 Konica Minolta Medical & Graphic Inc 医用画像システム及び第1サーバ
JP2009011651A (ja) * 2007-07-06 2009-01-22 Konica Minolta Medical & Graphic Inc 医用画像管理装置、医用画像システム及びプログラム
JP5984547B2 (ja) * 2012-07-17 2016-09-06 キヤノン株式会社 被検体情報取得装置およびその制御方法

Also Published As

Publication number Publication date
WO2018123518A1 (ja) 2018-07-05
US20190247021A1 (en) 2019-08-15
JP2018102751A (ja) 2018-07-05

Similar Documents

Publication Publication Date Title
US11602329B2 (en) Control device, control method, control system, and non-transitory recording medium for superimpose display
US20190223841A1 (en) Control device, control method, control system, and non-transitory computer-readable medium
JP2018011950A (ja) 超音波及び光音響波に由来する情報を取得する装置、方法、及びプログラム
US20080051654A1 (en) Medical imaging apparatus, an ultrasonic imaging apparatus, a viewer, and a method for recording ultrasonic images
JP2018011949A (ja) 超音波画像及び光音響画像を表示させる装置、方法、及びプログラム
JP2001238884A (ja) 超音波診断装置及び超音波による組織性状の定量解析方法
JP6570508B2 (ja) 情報処理装置、情報処理方法及びプログラム
WO2018008661A1 (ja) 制御装置、制御方法、制御システム及びプログラム
WO2018097030A1 (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム
US20190205336A1 (en) Information processing apparatus, information processing method, information processing system, and non-transitory computer-readable medium
JP5202930B2 (ja) 超音波画像診断装置および情報処理装置
JP2018011928A (ja) 制御装置、制御方法、制御システム及びプログラム
JP7108985B2 (ja) 画像処理装置、画像処理方法、プログラム
JP7020954B2 (ja) 画像処理装置、画像処理方法、プログラム
JP7129158B2 (ja) 情報処理装置、情報処理方法、情報処理システムおよびプログラム
WO2020082265A1 (zh) 一种成像方法以及成像系统
WO2018097050A1 (ja) 情報処理装置、情報処理方法、情報処理システムおよびプログラム
WO2018230409A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP7142832B2 (ja) 画像処理装置、画像処理方法、プログラム
WO2022064851A1 (ja) 超音波システムおよび超音波システムの制御方法
JP7125709B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2003102730A (ja) 超音波診断装置
WO2020039640A1 (ja) 情報処理装置、システム、情報処理方法、プログラム
WO2018105460A1 (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム
WO2018123681A1 (ja) 情報処理装置、情報処理方法、情報処理システム及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190709

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190806

R151 Written notification of patent or utility model registration

Ref document number: 6570508

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees