JP2013240374A - 画像処理装置、及び、画像処理方法 - Google Patents

画像処理装置、及び、画像処理方法 Download PDF

Info

Publication number
JP2013240374A
JP2013240374A JP2012114010A JP2012114010A JP2013240374A JP 2013240374 A JP2013240374 A JP 2013240374A JP 2012114010 A JP2012114010 A JP 2012114010A JP 2012114010 A JP2012114010 A JP 2012114010A JP 2013240374 A JP2013240374 A JP 2013240374A
Authority
JP
Japan
Prior art keywords
image
probe
inspection
ultrasonic
circle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012114010A
Other languages
English (en)
Other versions
JP2013240374A5 (ja
JP5962973B2 (ja
Inventor
Koji Kajima
浩司 鹿島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012114010A priority Critical patent/JP5962973B2/ja
Priority to CN2013101724097A priority patent/CN103417245A/zh
Priority to US13/891,327 priority patent/US9311701B2/en
Publication of JP2013240374A publication Critical patent/JP2013240374A/ja
Publication of JP2013240374A5 publication Critical patent/JP2013240374A5/ja
Priority to US15/058,974 priority patent/US10130334B2/en
Application granted granted Critical
Publication of JP5962973B2 publication Critical patent/JP5962973B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • A61B8/4254Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors mounted on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/44Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
    • A61B8/4444Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5246Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode
    • A61B8/5253Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode combining overlapping images, e.g. spatial compounding
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/54Control of the diagnostic device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/206Drawing of charts or graphs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • G06T2207/101363D ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2016Rotation, translation, scaling

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Architecture (AREA)
  • Geometry (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

【課題】超音波検査の検査状況を、容易に把握する。
【解決手段】超音波による検査状況を表す検査状況画像が表示される。検査状況画像は、プローブの状態に応じて変化する、円の中心とその円の円周とを結ぶ複数の線状の画像である線状画像と、円の中心に位置する、プローブを模したプローブ画像と、プローブが出力する超音波が当たる範囲を模した、円を断面とする球状の画像である球状画像とを有する前景画像を、3次元空間に配置した画像になっている。本技術は、例えば、超音波検査を行う場合に適用できる。
【選択図】図5

Description

本技術は、画像処理装置、及び、画像処理方法に関し、特に、例えば、超音波検査を行うオペレータが、超音波検査の検査状況を、容易に把握することができるようにする画像処理装置、及び、画像処理方法に関する。
超音波検査での検査部位のスキャン漏れを防止するため、(超音波)プローブの位置若しくは移動を検出し、その位置若しくは移動に基づき、検査部位におけるプローブの軌跡を表現する超音波検査(診断)装置が提案されている(例えば、特許文献1)
特開2008-086742号公報
超音波検査を行う超音波検査装置については、超音波検査を行うオペレータが、超音波検査の検査状況を、容易に把握することができる技術の提案が要請されている。
本技術は、このような状況に鑑みてなされたものであり、超音波検査を行うオペレータが、超音波検査の検査状況を、容易に把握することができるようにするものである。
本技術の一側面の画像処理装置は、プローブの状態に応じて変化する、円の中心と前記円の円周とを結ぶ複数の線状の画像である線状画像と、前記円の中心に位置する、前記プローブを模したプローブ画像と、前記プローブが出力する超音波が当たる範囲を模した、前記円を断面とする球状の画像である球状画像とを有する前景画像を、3次元空間に配置して、前記超音波による検査状況を表す検査状況画像として、表示装置に表示させる表示制御部を備える画像処理装置である。
本技術の一側面の画像処理方法は、プローブの状態に応じて変化する、円の中心と前記円の円周とを結ぶ複数の線状の画像である線状画像と、前記円の中心に位置する、前記プローブを模したプローブ画像と、前記プローブが出力する超音波が当たる範囲を模した、前記円を断面とする球状の画像である球状画像とを有する前景画像を、3次元空間に配置して、前記超音波による検査状況を表す検査状況画像として、表示装置に表示させる表示制御ステップを備える画像処理方法である。
以上のような一側面においては、プローブの状態に応じて変化する、円の中心と前記円の円周とを結ぶ複数の線状の画像である線状画像と、前記円の中心に位置する、前記プローブを模したプローブ画像と、前記プローブが出力する超音波が当たる範囲を模した、前記円を断面とする球状の画像である球状画像とを有する前景画像が、3次元空間に配置されて、前記超音波による検査状況を表す検査状況画像として、表示装置に表示される。
なお、画像処理装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
また、コンピュータにプログラムを実行させることにより、コンピュータを画像処理装置として機能させることができる。コンピュータを画像処理装置として機能させるプログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供することができる。
本技術によれば、超音波検査の検査状況を把握することができる。特に、超音波検査を行うオペレータが、超音波検査の検査状況を、容易に把握することができる。
本技術の画像処理装置を適用した超音波検査装置の一実施の形態の構成例を示すブロック図である。 超音波検査の様子を示す図である。 超音波検査装置の処理を説明するフローチャートである。 プローブ10の姿勢を説明する図である。 プローブ10を検査対象者に当てたときの検査状況画像の表示例を示す図である。 プローブ10を、ある程度の力で、検査対象者に押し当てているときの検査状況画像の表示例を示す図である。 プローブ10を、ある程度の力で、検査対象者に押し当てているときの検査状況画像の他の表示例を示す図である。 プローブ10を、検査対象者に押し当てながら、超音波出力方向を軸として回転しているときの検査状況画像の表示例を示す図である。 前景画像として、線状画像51、プローブ画像52、及び、球状画像53に加えて、方向画像が描画された検査状況画像の表示例を示す図である。 超音波検査の検査時間に応じて、球状画像53のテクスチャを変化させた検査状況画像の表示例を示す図である。 プローブ10の移動に従って、背景画像としての3次元空間内を移動する前景画像が描画された検査状況画像の表示例を示す図である。 回転情報を説明する図である。 対応点への回転情報画像の描画を説明する図である。 回転情報画像として、長方形ユニット以外の画像を採用した球状画像53の表示例を示す図である。 他の回転情報画像としての、風車ユニットの表示例を示す図である。 球状画像53の他の例を示す図である。 本技術を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
[本技術を適用した超音波検査装置の一実施の形態]
図1は、本技術の画像処理装置を適用した超音波検査装置の一実施の形態の構成例を示すブロック図である。
超音波検査装置は、超音波検査を行うオペレータによって操作され、超音波検査の検査対象者の腹部等の各部位の断面の画像を、超音波によって撮影する。超音波検査装置で撮影された画像(超音波画像)は、例えば、医師等の検診に供される。
なお、オペレータは、超音波検査技師等の、検査対象者以外の第三者であっても良いし、検査対象者自身であっても良い。
図1において、超音波検査装置は、プローブ10、及びデータ処理部20を有する。
プローブ10は、超音波を出力するとともに、検査対象者(の体内)で超音波が反射されることにより戻ってくる反射波を受信する超音波プローブであり、超音波送受信部11、及び、センシング部12を有する。
超音波送受信部11は、例えば、プローブ10の先端に設けられており、超音波を発生して出力するとともに、検査対象者で反射された超音波の反射波を受信し、その反射波の強度を表す反射波データを、データ処理部20の反射波データ記憶部21に供給する。
センシング部12は、プローブ10の状態を検出するのに必要な物理量をセンシングする。
すなわち、センシング部12は、加速度センサ12A、角速度センサ12B、地磁気センサ12C、移動量センサ12D、気圧センサ13E、及び、圧力センサ13F等を有する。
加速度センサ12Aは、例えば、プローブ10の加速度と傾きを検出する。
角速度センサ12Bは、例えば、プローブ10のピッチ、ヨー、ロールの各方向の回転の角速度や回転角を検出する。
地磁気センサ12Cは、例えば、地磁気の方向に対するプローブ10の向き(方向)を検出する。
移動量(位置)センサ12Dは、例えば、プローブ10の並進運動の移動量を検出する。
気圧センサ12Eは、気圧によって、例えば、プローブ10の高さ方向の位置を検出する。
圧力センサ146は、プローブ10を検査対象者に当てたときの、プローブ10が検査対象者を押す圧力(接触圧)を検出する。
センシング部12は、加速度センサ12A、角速度センサ12B、地磁気センサ12C、移動量センサ12D、気圧センサ13E、及び、圧力センサ13F等が検出したデータ(センサデータ)を、データ処理部20のセンサデータ記憶部22に供給する。
なお、センシング部12には、加速度センサ12Aないし圧力センサ13Fの他、ジャイロセンサや重力センサ等、プローブ10の状態を検出するのに必要な物理量をセンシングする任意のセンサを設けることができる。
データ処理部20は、プローブ10から供給される反射波データやセンサデータを用いて、超音波画像等を生成して表示する。
データ処理部20は、反射波データ記憶部21、センサデータ記憶部22、状態取得部23、状態記憶部24、履歴生成部25、履歴記憶部26、表示制御部27、表示装置28、制御部29、及び、ストレージ30を有する。
反射波データ記憶部21は、プローブ10の超音波送受信部11から供給される反射波データを記憶する。
センサデータ記憶部22は、プローブ10のセンシング部12から供給されるセンサデータを記憶する。
状態取得部23は、センサデータ記憶部22に記憶されたセンサデータから、各時刻(所定の間隔ごとのタイミング)のプローブ10の状態を検出することにより取得し、状態記憶部24に供給する。
ここで、プローブ10の状態としては、検査対象者に当てられているプローブ10の圧力(F)や、プローブ10の位置(Px,Py,Pz)、プローブ10の方向(Yaw,Pitch,Roll)、プローブ10の並進運動の移動速度(Mx,My,Mz)等がある。
プローブ10の圧力(F)は、例えば、圧力センサ13Fのセンサデータから検出される。
プローブ10の位置(Px,Py,Pz)は、例えば、移動量センサ12Dや加速度センサ13B等のセンサデータから検出される。また、プローブ10の位置(Px,Py,Pz)は、例えば、プローブ10が、直前に、検査対象者に当てられたときの、そのプローブ10の位置を原点とし、z軸を重力の方向とする3次元座標系(以下、プローブ座標系ともいう)の座標(x,y,z)で表される。
プローブ10の方向(Yaw,Pitch,Roll)は、プローブ10の姿勢を表す。プローブ10の方向(Yaw,Pitch,Roll)は、例えば、加速度センサ12Aや、地磁気センサ12C、図示せぬジャイロセンサのセンサデータ等から検出される。また、プローブ10の方向(Yaw,Pitch,Roll)は、例えば、プローブ10から超音波が出力される方向(音波出力方向)の、ヨー(yaw)方向の回転角度、ピッチ(pitch)方向の回転角度、及び、ロール(roll)方向の回転角度で表される。
プローブ10の移動速度(Mx,My,Mz)は、例えば、連結する複数の時刻のプローブ10の位置(Px,Py,Pz)と、その複数の時刻とから検出される。
なお、プローブ10の位置(Px,Py,Pz)については、移動量センサ12Dや加速度センサ13Bのセンサデータから検出する他、例えば、後述する超音波画像生成部31でいままでに生成された超音波画像を用いたマッチングにより、現在の超音波画像が撮影(生成)されたプローブ10の位置(Px,Py,Pz)を検出することができる。
状態記憶部24は、状態取得部23から供給される各時刻のプローブ10の状態を、その時刻と対応付けて記憶する。
履歴生成部25は、状態記憶部24に記憶されたプローブ10の状態を用いて、例えば、プローブ10が、直前に、検査対象者に当てられてから現在までの、プローブ10の状態の履歴を生成し、履歴記憶部26に供給する。
ここで、プローブ10の状態の履歴としては、各姿勢のプローブ10が検査対象者に当てられていたトータルの時間(T)や、プローブ10が、直前に、検査対象者に当てられてから現在までの、プローブ10の移動経路(Path)及び移動距離(Distance)等がある。
各姿勢のプローブ10が検査対象者に当てられていたトータルの時間(T)は、例えば、プローブ10の姿勢(方向)(Yaw,Pitch,Roll)ごとに、その姿勢で、プローブ10が検査対象者に当てられていた時間(検査時間)を積算することで生成される。
プローブ10の移動経路(Path)は、プローブ10の位置(Px,Py,Pz)の系列として生成され、プローブ10の移動距離(Distance)は、プローブ10の位置(Px,Py,Pz)から生成される。
履歴記憶部26は、履歴生成部25から供給されるプローブ10の状態の履歴を記憶する。
表示制御部27は、超音波画像や、検査状況画像、所定のメッセージを、表示装置28に表示させる表示制御を行う。
すなわち、表示制御部27は、超音波画像生成部31、検査状況画像生成部32、及び、メッセージ生成部33を有する。
超音波画像生成部31は、例えば、反射波データ記憶部21に記憶された反射波データ(検査対象者で反射された超音波の反射波の強度)を画素値(輝度)とする画像を、超音波画像として生成し、表示装置28に供給して表示させる。
ここで、超音波送受信部11において、超音波を発生して、その超音波の反射波を受信し、超音波画像生成部31において、その反射波の強度を表す反射波データを用いて、超音波画像を生成する処理が、超音波画像の撮影である。
なお、超音波画像生成部31では、その他、例えば、腹部等の部位を一周するように、プローブ10を移動して得られる反射波データを用い、その部位の断面の画像を、超音波画像として生成することができる。
検査状況画像生成部32は、状態記憶部24に記憶されたプローブ10の状態や、履歴記憶部26に記憶されたプローブ10の状態の履歴を用いて、超音波による検査状況を表す検査状況画像を描画(生成)し、表示装置28に供給して表示させる。
メッセージ生成部33は、状態記憶部24に記憶されたプローブ10の状態や、履歴記憶部26に記憶されたプローブ10の状態の履歴を用いて、例えば、超音波検査の検査方法をアドバイスするメッセージを生成し、表示装置28に供給して表示させる。
なお、検査状況画像やメッセージについては、その表示のオン及びオフを、例えば、オペレータの操作に従って切り替えることができる。
表示装置28は、例えば、LCD(Liquid Crystal Display)や、有機EL(Electro Luminescence)ディスプレイ等で構成され、表示制御部27の表示制御に従って、超音波画像や、検査状況画像、メッセージを表示する。
制御部29は、プローブ10を構成する各ブロック、及び、データ処理部20を構成する各ブロックを制御する。
また、制御部29は、例えば、オペレータの操作に従って、プローブ10のパラメータを設定(調整)する。
ここで、プローブ10のパラメータとしては、プローブ10の種類(リニア型やコンベックス型等)、プローブ10において、超音波を発生し、その反射波を受信する圧電素子の素子数、超音波の周波数、奥行き(どの程度の深さまで検査するか)、フォーカス、フレームレート(超音波画像を、動画として撮影する場合のフレームレート)等がある。制御部29は、オペレータの操作に従って、調整可能なパラメータ(例えば、超音波の周波数やフォーカス等)を設定する。
ストレージ30は、超音波画像生成部31で生成された超音波画像や、その超音波画像が生成されたときの、検査状況画像生成部32で生成された検査状況画像、及び、メッセージ生成部33で生成されたメッセージを、必要に応じて対応付けて記憶する。
なお、図1では、プローブ10の状態の検出を、プローブ10の内部に設けられたセンシング部12が出力するセンサデータを用いて行うこととしたが、プローブ10の状態の検出は、その他の任意の方法で行うことができる。
例えば、プローブ10の位置は、物体の3次元位置を検出する検出装置を用いて検出することができる。物体の3次元位置を検出する検出装置としては、例えば、NDI社のPOLARIS(光学式)や、Ascension社のmedSAFE(磁気式)等がある。
また、図1では、データ処理部20に、表示装置28が含められているが、データ処理部20は、表示装置28を含めずに構成することができる。
図2は、超音波検査の様子を示す図である。
超音波検査は、プローブ10の、超音波が出力され、反射波が受信される部分を、超音波画像を得たい部位に当てることにより行われる。
図2では、プローブ10が、仰向けに寝ている(横たわっている)検査対象者の腹部に当てられている。
図3は、図1の超音波検査装置の処理を説明するフローチャートである。
ステップS11において、超音波送受信部11は、例えば、オペレータの操作に従い、超音波の発生を開始する。例えば、超音波送受信部11は、所定の間隔でパルス状の超音波を発振するとともに、所定の方向に超音波を走査する。
ステップS12において、センシング部12は、プローブ10の状態を検出するのに必要な物理量のセンシングを開始する。
センシング部12のセンシングにより得られるセンサデータは、センサデータ記憶部22に供給されて記憶される。
ステップS13において、状態取得部23は、センサデータ記憶部22に記憶されたセンサデータを用いて、プローブ10の状態を検出することを開始し、履歴生成部25は、状態取得部23で検出され(状態記憶部24に記憶され)たプローブ10の状態を用いて、プローブ10の状態の履歴を生成することを開始する。
状態取得部23で検出されたプローブ10の状態は、状態記憶部24に供給され、時刻と対応付けられて記憶される。また、履歴生成部25で生成されたプローブ10の状態の履歴は、履歴記憶部26に供給されて記憶される。
ステップS14において、超音波送受信部11は、超音波の反射波の受信を開始する。
超音波送受信部11で受信された反射波の強度を表す反射波データは、反射波データ記憶部21に供給されて記憶される。
ステップS15において、超音波画像生成部31は、例えば、反射波データ記憶部21に記憶された反射波データを画素値とする画像を、超音波画像として生成する。
さらに、ステップS15では、検査状況画像生成部32は、状態記憶部24に記憶されたプローブ10の状態や、履歴記憶部26に記憶されたプローブ10の状態の履歴を用いて、検査状況画像を生成する。
また、ステップS15では、メッセージ生成部33は、状態記憶部24に記憶されたプローブ10の状態や、履歴記憶部26に記憶されたプローブ10の状態の履歴を用いて、必要なメッセージを生成する。
ステップS16において、超音波画像生成部31は、超音波画像を、表示装置28に供給して表示させる。さらに、ステップS16では、検査状況画像生成部32は、検査状況画像を、表示装置28に供給して表示させる。また、ステップS16では、メッセージ生成部33が、必要なメッセージを、表示装置28に供給して表示させる。
ステップS17では、制御部29は、超音波検査を続けるかどうかを判定する。
ステップS17において、超音波検査を続けると判定された場合、すなわち、例えば、オペレータが、超音波検査を停止する操作を行っていない場合、処理は、ステップS15に戻り、以下、同様の処理が繰り返される。
また、ステップS17において、超音波検査を続けないと判定された場合、すなわち、例えば、オペレータが、超音波検査を停止する操作を行った場合、処理は終了する。
図4は、プローブ10の姿勢を説明する図である。
プローブ10の姿勢は、プローブ10の方向(Yaw,Pitch,Roll)によって表される。プローブ10の方向(Yaw,Pitch,Roll)は、プローブ10から超音波が出力される方向(超音波出力方向)の、ヨー(yaw)方向の回転角度、ピッチ(pitch)方向の回転角度、及び、ロール(roll)方向の回転角度で表される。
プローブ10が、例えば、直前に、検査対象者に当てられたときの、そのプローブ10の位置を原点とし、かつ、z軸を重力の方向とする3次元座標系を、プローブ座標系ということとすると、ピッチ(pitch)方向の回転角度は、プローブ座標系のx軸回りの回転角度を、ロール(roll)方向の回転角度は、プローブ座標系のy軸回りの回転角度を、ヨー(yaw)方向の回転角度は、プローブ座標系のz軸回りの回転角度を、それぞれ表す。
ここで、説明を簡単にするため、プローブ10が直方体の形状をしていることとする。超音波出力方向がプローブ座標系のz軸と一致している状態のプローブ10としての直方体の面のうちの、超音波出力方向と平行な1つの面としての正面10Aが、例えば、図4に示すように、手前側を向いている場合と、z軸回りに180度回転して向こう側を向いている場合とでは、プローブ10の見た目の状態は同一であるが、ヨー(yaw)方向の回転角度が異なるため、プローブ10の姿勢は、異なる。
なお、プローブ座標系のx軸及びy軸は、z軸に直交する方向の中から、任意の方法で決定することができる。また、図4では、超音波画像の座標系のx軸及びy軸を図示してあるが、超音波画像の座標系のx軸及びy軸は、それぞれ、超音波画像の横方向及び縦方向を表し、プローブ座標系のx軸及びy軸とは異なる。
[検査状況画像]
以下、検査状況画像生成部32で生成(描画)される検査状況画像の表示例について説明する。
図5は、プローブ10を検査対象者に当てたときの検査状況画像の表示例を示す図である。
検査状況画像は、例えば、線状画像51、プローブ画像52、及び、球状画像53を、前景画像として、その前景画像を、背景画像としての仮想的な3次元空間に配置した画像になっている。
線状画像51は、所定の円の中心と、その所定の円の円周とを結ぶ複数の線状の画像であり、図5では、所定の円の中心と円周とを結ぶ複数の線として、8本の線が描画されている。
線状画像51は、プローブ10の状態に応じて、後述するように変化する。
プローブ画像52は、プローブ10を模した画像であり、図5では、プローブ画像52として、直方体(の画像)が採用されている。
線状画像51を描画するときの所定の円としては、プローブ画像52の位置を中心とする円が採用される。したがって、プローブ画像52は、線状画像51を描画するときの所定の円の中心に位置する。
なお、プローブ画像52としての直方体は、超音波が出力される部分が分かるように描画することができる。図5では、プローブ画像52としての直方体のうちの、超音波が出力される部分が、半透明で描画されている。
プローブ画像52は、プローブ10の状態の変化に応じて変化する。
例えば、図2に示したように、横たわっている検査対象者に対して、超音波出力方向が(ほぼ)垂直になるように、プローブ10が当てられている場合、線状画像51を描画するときの所定の円に対して、超音波出力方向が垂直になるように、プローブ画像52は描画される。
そして、例えば、プローブ10が傾けられると、プローブ画像52も、同様に傾く。すなわち、プローブ画像52は、プローブ10と同様に傾けられた状態に、描画し直される。
なお、プローブ画像52として、図5に示した直方体等を採用する場合には、図4で説明したような、プローブ10Aの正面10Aが、手前側を向いている場合と、z軸回りに180度回転して向こう側を向いている場合と区別することが困難となる。
そこで、プローブ画像52としての直方体の、プローブ10Aの正面10Aに対応する面には、正面10Aであることを表すマーク等を描画することができる。この場合、オペレータは、プローブ10の正面10Aが、どちらを向いているかを、容易に把握することができる。
球状画像53は、プローブ10が出力する超音波が当たる範囲を模した、線状画像51を描画するときの所定の円を断面とする(半)球状の画像である。
球状画像53としての半球の中心は、線状画像51を描画するときの所定の円の中心、すなわち、プローブ画像52が配置されている位置であり、したがって、球状画像53によれば、オペレータは、検査対象者の体表に当てられたプローブ10から出力される超音波が当たる検査対象者の体内の範囲をイメージすることができる。
球状画像53としての半球の内部は、その半球の奥側の内部(裏側)が見えるように、視認性を確保するため、空洞になっている。
なお、図5では、球状画像53としての半球の手前側の上方に、視点が存在する。視点を変更せずに、球状画像53としての半球の奥側の内部の視認性を、なるべく確保する観点から、球状画像53としての半球の表面(球面)は、透明(半透明)になっている。
ここで、図5では、球状画像53としての半球の断面、すなわち、線状画像51を描画するときの所定の円は、正八角形によって近似されている。
また、図5において、球状画像53は、ワイヤフレームで描画され、球状画像53としての半球の表面は、ワイヤフレームとしての格子状に描画された線L1及びL2によって、小領域に区分されている。
すなわち、球状画像53としての半球の表面は、その半球の断面を近似する正八角形の向かい合う頂点どうしを、半球の表面に沿って結ぶ線L1、及び、半球の断面と平行な、等間隔に配置された複数の平面と、半球とが交わる線L2によって、略長方形状の小領域に区分されている。
なお、検査対象者が立った状態で、検査対象者にプローブ10が当てられる場合、前景画像としての線状画像51、プローブ画像52、及び、球状画像53は、図15の状態から、90度回転した状態に描画することができる。この場合、オペレータは、立っている状態の検査対象者の超音波検査を行っていることを、容易にイメージすることができる。
図6は、プローブ10を、ある程度の力で、検査対象者に押し当てているときの検査状況画像の表示例を示す図である。
なお、図6では、説明を簡単にするため、プローブ10の位置は移動されず、姿勢も変更されないこととする。
プローブ10が、検査対象者に押し当てられている場合、検査対象者に押し当てているプローブ10の圧力に応じて、線状画像51としての複数の線に、たわみが与えられる。
すなわち、線状画像51としての複数の線は、検査対象者に押し当てているプローブ10の圧力に応じて、たわんでいるように描画される。
線状画像51としての複数の線に、検査対象者に押し当てているプローブ10の圧力に応じたたわみを与えることにより、オペレータは、プローブ10の圧力の具合を視認することができる。
なお、線状画像51としての複数の線については、検査対象者に押し当てているプローブ10の圧力に応じて、たわみを与えるとともに、複数の線の色や太さを変化させることができる。
例えば、検査対象者に押し当てているプローブ10の圧力が強くなっていく場合には、オペレータに、プローブ10の圧力が強くなっていっていることをイメージさせるために、線状画像51としての複数の線の色を、薄い赤色から濃い赤色に変化させることや、線状画像51としての複数の線を、太い線から細い線に変化させることができる。
また、プローブ10の圧力が強くなっていく場合には、線状画像51としての複数の線を、細い線から太い線に変化させることができる。プローブ10の圧力が強い場合に、線状画像51としての複数の線を、太い線で描画することにより、それ以上は、プローブ10を押しづらい印象を、オペレータに与えることができる。
図7は、プローブ10を、ある程度の力で、検査対象者に押し当てているときの検査状況画像の他の表示例を示す図である。
なお、図7でも、図6と同様に、プローブ10の位置は移動されず、姿勢も変更されないこととする。
図7では、プローブ画像52が、プローブ10の圧力を表すレベルメータとして機能する。
すなわち、図7では、検査対象者に押し当てているプローブ10の圧力に応じて、プローブ画像52としての直方体の色や輝度が、直方体の下から、上下方向に変更される。
その結果、プローブ画像52としての直方体の色や輝度が、プローブ10の圧力に応じて、直方体の下から、棒グラフが伸び縮みするように変化する。すなわち、プローブ10の圧力が強いほど、プローブ画像52としての直方体の色や輝度は、棒グラフが伸びるように変化する。
したがって、オペレータは、プローブ10の圧力の具合を視認することができる。
なお、図7では、圧力のレベルメータとしても機能するプローブ画像52について、そのレベルメータの目盛りとして、プローブ10の圧力が、弱いすぎること(Weak)、適切であること(Proper)、及び、強すぎること(Strong)を、それぞれ表すマークが付されている。
このマークによれば、オペレータは、プローブ10の圧力が、適切であるのかどうかを認識することができる。
また、図7では、プローブ10の圧力が弱い(弱すぎる)状態であるため、メッセージ生成部33において、超音波検査の検査方法をアドバイスするメッセージとしての「圧力が少し弱いようです」が生成されて表示されている。
プローブ10の圧力が適切かどうかについては、例えば、超音波検査を行う部位ごとに、適切な圧力を登録した圧力データベースを、メッセージ生成部33に記憶させておくとともに、超音波検査を行う部位を、オペレータに入力してもらうことにより、メッセージ生成部33において、圧力データベースを参照して判定することができる。
ここで、図7において、"F=5[kPa]"の表示は、プローブ10の圧力(プローブ10を検査対象者に押し当てる圧力)の具体的な数値を表す。
また、図7において、"Px=0[mm]","Py=0[mm]"、及び、"Pz=0[mm]"の表示は、プローブ10の位置(Px,Py,Pz)(プローブ座標系の座標)を表す。
表示制御部27では、状態記憶部24に記憶されたプローブ10の状態を用いて、以上のようなプローブ10の圧力の具体的な数値や、プローブ10の位置(Px,Py,Pz)を表示することができる。
図8は、プローブ10を、検査対象者に押し当てながら、超音波出力方向を軸として回転しているときの検査状況画像の表示例を示す図である。
なお、図8では、説明を簡単にするため、プローブ10の位置は移動されず、プローブ10の圧力は変更されないこととする。
プローブ10が、検査対象者に押し当てながら、超音波出力方向を軸として回転された場合、すなわち、プローブ10がひねられた場合、プローブ10のひねり具合に応じて、線状画像51としての複数の線に、ひねりが加えられる。
すなわち、線状画像51としての複数の線は、プローブ10のひねり具合に応じて、ひねりが生じたように描画される。
線状画像51としての複数の線に、プローブ10のひねり具合に応じたひねりを加えることにより、オペレータは、プローブ10のひねり具合を視認することができる。
なお、線状画像51としての複数の線については、プローブ10のひねり具合に応じて、ひねりを加えるとともに、複数の線の色や太さを変化させることができる。
検査状況画像生成部32は、プローブ10の姿勢(プローブ10の方向(Yaw,Pitch,Roll))から、プローブ10のひねり具合を認識し、そのひねり具合に応じたひねりを加えた線状画像51としての複数の線を描画し直す。
図9は、前景画像として、線状画像51、プローブ画像52、及び、球状画像53に加えて、方向画像が描画された検査状況画像の表示例を示す図である。
なお、図9では、説明を簡単にするため、プローブ10の位置は移動されず、プローブ10の圧力は変更されないこととする。
方向画像は、超音波出力方向(プローブ10が出力する超音波の方向)を表す画像であり、図9では、方向画像として、方向矢印画像61、及び、方向点画像62が描画されている。
方向矢印画像61は、球状画像51としての半球の中心(線状画像51を描画するときの所定の円の中心)を始点として、超音波出力方向に延びる矢印の画像である。
検査状況画像生成部32は、プローブ10の方向(Yaw,Pitch,Roll)を、超音波出力方向として認識し、球状画像51としての半球の中心から、超音波出力方向に延びる矢印の画像を、方向矢印画像61として描画する。
方向点画像62は、球状画像51としての半球の中心から、超音波出力方向に延びる直線と、球状画像53としての半球の表面との交点に描画される、その交点に、ビームが照射されていることをイメージさせる画像である。
検査状況画像生成部32は、球状画像51としての半球の中心から、超音波出力方向に延びる直線と、球状画像53としての半球の表面との交点を検出し、その交点の位置に、方向点画像62を描画する。
方向画像としての方向矢印画像61や方向点画像62によれば、オペレータは、超音波検査を行っている方向(超音波が当てられている方向)を、容易に把握することができる。
ここで、図9において、"Px=0[mm]","Py=0[mm]"、及び、"Pz=0[mm]"の表示は、図7で説明したように、プローブ10の位置(Px,Py,Pz)を表す。
また、"Yaw=10[°]","Pitch=20[°]"、及び、"Roll=30[°]"の表示は、プローブ10の姿勢(プローブ10の方向(Yaw,Pitch,Roll))を表す。
表示制御部27では、状態記憶部24に記憶されたプローブ10の状態を用いて、以上のようなプローブ10の位置(Px,Py,Pz)や、プローブ10の方向(Yaw,Pitch,Roll)を表示することができる。
なお、図9では、方向画像として、方向矢印画像61、及び、方向点画像62の両方が表示されているが、方向画像としては、方向矢印画像61、及び、方向点画像62のうちの一方だけを表示することができる。
また、方向点画像62は、点滅させることができる。
さらに、方向矢印画像61や方向点画像62は、プローブ10が出力する超音波の強度や周波数等に応じて、表示状態を変化させることができる。
例えば、方向矢印画像61としての矢印は、プローブ10が出力する超音波の強度が大であるほど、太くすることができる。この場合、方向矢印画像61によれば、オペレータは、プローブ10が出力する超音波の強度の程度を、容易に把握することができる。
また、例えば、方向点画像62は、プローブ10が出力する超音波の周波数が高いほど、点滅の速度を速くすることができる。
図10は、超音波検査の検査時間に応じて、球状画像53のテクスチャを変化させた検査状況画像の表示例を示す図である。
なお、図10では、説明を簡単にするため、プローブ10の位置は移動されず、プローブ10の圧力は変更されないこととする。
検査状況画像生成部32は、球状画像53としての半球の中心から、その球の表面上の所定の位置に向かう方向の、超音波検査の検査時間に応じて、その所定の位置のテクスチャを変化させることができる。
すなわち、検査状況画像生成部32は、図5で説明した、球状画像53としての半球の表面を区分する小領域を、超音波検査の検査時間を提示する単位(時間提示単位)として、その時間提示単位に、超音波が当てられた時間の積算値に応じて、時間提示単位のテクスチャを変化させる。
この場合、オペレータは、(球状画像53としての半球の中心、つまり、プローブ10の位置から見て、)超音波検査が行われていない方向(超音波が当てられていない方向)や、超音波検査が不十分な方向(超音波の反射波を、十分に受信することができてきない方向)を、容易に把握することができる。
ここで、検査状況画像生成部32では、時間提示単位に、超音波が当てられた時間の積算値は、プローブ10の状態の履歴を用いて求められる。
なお、図10では、少なくとも、超音波が当てられたことがない方向(超音波検査の検査時間が0の方向)(Never)、超音波が当てられてことはあるが、十分ではない方向(検査時間が不十分な方向)(Once)、及び、超音波が十分に当てられた方向(検査時間が十分な方向)(Enough)を区別することができるように、時間提示単位のテクスチャが描画されている。
また、図10では、メッセージ生成部33において、超音波が当てられたことがない方向(の時間提示単位)の超音波検査を促すように、オペレータにアドバイスするメッセージとしての「この角度が未検査です」が生成され、超音波が当てられたことがない方向の時間提示単位を指す吹き出しとともに表示されている。
さらに、図10において、"Px=0[mm]","Py=0[mm]"、及び、"Pz=0[mm]"の表示と、"Yaw=10[°]","Pitch=20[°]"、及び、"Roll=30[°]"の表示は、図9の場合と同様に、プローブ10の位置(Px,Py,Pz)と、プローブ10の姿勢(プローブ10の方向(Yaw,Pitch,Roll))を、それぞれ表す。
ここで、過去に超音波検査を行ったことがある検査対象者について、今回、過去に行われた超音波検査時と同様の部位の超音波検査を行う場合には、状態取得部23において、過去の超音波検査で得られた超音波画像と、今回の超音波検査で得られた超音波画像とのマッチングをとり、例えば、過去の超音波検査時に用いられたプローブ座標系を用いて、今回の超音波検査でのプローブ10の状態を検出することができる。
この場合、検査状況画像生成部32において、過去の超音波検査から今回の超音波検査までについて積算した検査時間に応じて、時間提示単位のテクスチャを変化させることができる。
図11は、プローブ10の移動に従って、背景画像としての3次元空間内を移動する前景画像が描画された検査状況画像の表示例を示す図である。
なお、図11では、説明を簡単にするため、プローブ10の姿勢及び圧力は変更されないこととする。
図11は、オペレータが、プローブ10を、手前側から奥側に移動したときの検査状況画像の表示例を示している。
オペレータが、プローブ10を移動した場合、検査状況画像生成部32は、そのプローブ10の移動に従って、背景画像としての3次元空間内を、前景画像としての線状画像51、プローブ画像52、及び、球状画像53を移動させる。
すなわち、検査状況画像生成部32は、背景画像としての3次元空間内の、移動中のプローブ10の現在位置(に対応する位置)に、前景画像を配置した検査状況画像を描画して表示する。
ここで、3次元空間内を、前景画像を移動させるにあたっては、図11に示すように、検査状況画像生成部32において、背景画像としての3次元空間内の、移動中のプローブ10の現在位置の他、移動中のプローブ10の過去の1以上の位置(に対応する位置)にも、前景画像を描画することができる。
図11では、移動中のプローブ10の現在位置の他、移動中のプローブ10の過去の2箇所の位置に、前景画像が描画されている。
検査状況画像生成部32において、前景画像を描画する位置の間隔(粗密)は、プローブ10を移動する速さに従って決定することができる。
例えば、プローブ10を移動する速さが速い区間では、前景画像を描画する位置は、粗に決定され、プローブ10を移動する速さが遅い区間では、前景画像を配置する位置は、密に決定される。
この場合、オペレータは、プローブ10が移動する速さを視認することができる。
なお、過去の位置に描画した前景画像は、例えば、所定時間の経過後に、単に消去することや、時間の経過とともに、透明度を高くしていき、最終的には、消去すること等ができる。
また、前景画像の描画にあたっては、オペレータが遠近感を感じるように、3次元空間内の手前側に位置する前景画像は、大きく描画され、3次元空間内の奥側に位置する前景画像は、小さく描画される。
ここで、図11において、"Px=50[mm]","Py=80[mm]"、及び、"Pz=0[mm]"の表示は、図7で説明したように、プローブ10の位置(Px,Py,Pz)を表す。
また、"Mx=5[mm/sec]","My=8[mm/sec]"、及び、"Mz=0[mm/sec]"の表示は、プローブ10の並進運動の移動速度(Mx,My,Mz)を表す。
さらに、"Distance=94[mm]"の表示は、プローブ10の移動距離(Distance)を表す。
表示制御部27では、状態記憶部24に記憶されたプローブ10の状態を用いて、プローブ10の位置(Px,Py,Pz)や移動速度(Mx,My,Mz)を表示することができ、履歴記憶部26に記憶されたプローブ10の状態の履歴を用いて、プローブ10の移動距離(Distance)を表示することができる。
また、図11において、点線の矢印(の画像)は、プローブ10の移動経路を表す移動経路画像であり、検査状況画像生成部32において、履歴記憶部26に記憶されたプローブ10の状態の履歴を用いて描画することができる。
以下、図12ないし図16を参照して、前景画像として、線状画像51、プローブ画像52、及び、球状画像53に加えて、回転情報画像が描画された検査状況画像について説明する。
なお、以下では、説明を簡単にするため、プローブ10の位置は移動されず、プローブ10の圧力は変更されないこととする。
検査状況画像生成部32では、球状画像53としての半球の中心から、その半球の面上の所定の位置に向けられた状態のプローブ10が、その状態のまま、超音波出力方向を軸として回転されたときの、その回転に関する回転情報を表す画像を、回転情報画像として、前景画像に含めて描画することができる。
図12は、回転情報を説明する図である。
図12に示すように、球状画像53としての半球の中心から、その半球の面上の所定の位置に向けられた状態のプローブ10の超音波出力方向は、球状画像53としての半球と、その半球の中心から超音波出力方向に延びる直線との交点と一対一に対応する。
したがって、球状画像53としての半球上の各点は、その点と一対一に対応する超音波出力方向を表す。
回転情報としては、図12に示すように、例えば、球状画像53としての半球上の各点が表す超音波出力方向について、その超音波出力方向を軸として、プローブ10が回転されたときの、各回転角度で、プローブ10が当てられた積算時間(以下、積算検査時間ともいう)を採用することができる。
球状画像53としての半球上の各点(以下、球状画像53上の点ともいう)が表す超音波出力方向について、各回転角度のプローブ10が当てられた積算検査時間は、履歴記憶部26にプローブ10の状態の履歴として記憶される、各姿勢のプローブ10が検査対象者に当てられていたトータルの時間(T)を用いて求めることができる。
球状画像53上の各点が表す超音波出力方向について、プローブ10の回転角度としては、例えば、その超音波出力方向に、プローブ10が向けられたときの回転角度を0度とし、右回りを正の角度とする、0ないし360度の範囲の値を採用することができる。
この場合、例えば、プローブ10が、球状画像53上のある点が表す超音波出力方向に向けられてから、その超音波出力方向を軸として、左回り、及び、右回りのいずれにも、最大で180度まで回転されうることと仮定すると、プローブ10が右回転された場合の回転角度は、0ないし180度の範囲になり、プローブ10が左回転された場合の回転角度は、360ないし180度の範囲になる。
回転情報として、各回転角度の積算検査時間を採用する場合、回転情報としての積算検査時間としては、例えば、0ないし360度のすべての積算検査時間の総和や、30度等の所定の範囲ごとの回転角度の積算検査時間の総和を採用することができる。
回転情報として、例えば、0ないし360度のすべての積算検査時間の総和を採用した場合、回転情報は、プローブ10を、球状画像53上の各点が表す超音波出力方向に向けていた時間(検査時間)を表す。
回転情報として、例えば、180度ごとの回転角度の積算検査時間の総和を採用した場合、回転情報は、プローブ10を、球状画像53上の各点が表す超音波出力方向に向けて、右回転(回転角度が0ないし180度の範囲の回転)がされた時間と、左回転(回転角度が360ないし180度の範囲の回転)がされた時間とを表す。
上述したように、球状画像53としての半球上の各点は、その点と一対一に対応する超音波出力方向を表すので、ある超音波出力方向を軸として、プローブ10が回転されたときの、その回転に関する回転情報を表す回転情報画像は、その超音波出力方向を表す、球状画像53としての半球上の点(以下、対応点ともいう)に描画することができる。
図13は、対応点への回転情報画像の描画を説明する図である。
球状画像53としての半球が、例えば、図5で説明したように、略長方形状の小領域に区分されている場合、各小領域には、その小領域に含まれる対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報を表す回転情報画像を描画することができる。
ここで、ある小領域Rに含まれる対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報(以下、小領域Rの回転情報ともいう)としては、例えば、その小領域Rに含まれる対応点を代表する1つの対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報を採用することができる。
また、小領域Rの回転情報としては、例えば、その小領域Rに含まれる対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報としての積算検査時間の、小領域Rに含まれるすべての対応点についての総和を採用することができる。
いま、ある対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報として、例えば、図12で説明した、0ないし360度のすべての積算検査時間の総和、つまり、ある対応点が表す超音波出力方向に向けて、プローブ10が当てられていた時間(検査時間)を採用することとすると、回転情報画像としては、各小領域に重ねて配置される、小領域と同一形状(長方形状)の画像である長方形ユニットを採用し、長方形ユニットの輝度や色を、その長方形ユニットが配置される小領域の回転情報としての積算検査時間に応じて変化させることができる。
なお、図13に示すように、小領域のサイズは、超音波検査装置の能力(リソース)やユーザの操作に応じて、調整することができる。例えば、小領域のサイズは、超音波検査装置の能力が高いほど、小さくすることができる。
図13の球状画像53では、左側ほど、小領域のサイズが大きく(粗く)、右側ほど、小領域のサイズが小さく(細かく)なっている。
小領域のサイズが小さいほど、回転情報画像、ひいては、回転情報の粒度は、細かくなる。
そして、小領域のサイズが小さくなり、例えば、小領域が1画素で構成されることとなると、球状画像53の各画素は、その画素の位置を対応点とする超音波出力方向を軸とするプローブ10の回転に関する回転情報に応じた輝度や色で描画される。
図14は、回転情報画像として、長方形ユニット以外の画像を採用した球状画像53の表示例を示す図である。
回転情報画像としては、長方形ユニットの他、例えば、円形ユニットや、立方体ユニット、球体ユニットを採用することができる。
ここで、円形ユニットは、球状画像53の各小領域上に配置される、小領域内に収まるサイズの円状の画像である。立方体ユニットは、球状画像53の各小領域上に配置される、小領域内に収まるサイズの立方体状の画像である。球体ユニットは、球状画像53の各小領域上に配置される、小領域内に収まるサイズの球状の画像である。
いま、ある対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報として、例えば、0ないし360度のすべての積算検査時間の総和、つまり、ある対応点が表す超音波出力方向に向けて、プローブ10が当てられていた時間(検査時間)を採用することとすると、回転情報画像としての、例えば、円形ユニットは、その円形ユニットが配置される小領域の回転情報としての積算検査時間に応じて変化する。
すなわち、検査状況画像生成部32は、例えば、小領域の回転情報としての積算検査時間が大であるほど、その小領域に配置される円形ユニットとして、サイズが大の円形ユニットを描画する。
立方体ユニットや球体ユニットについても、同様である。
なお、回転情報画像として、円形ユニットを採用する場合において、ある対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報として、例えば、図12で説明した、プローブ10の右回転がされた時間、及び、左回転がされた時間を採用するときには、図14に拡大して示すように、円形ユニットを描画することができる。
すなわち、検査状況画像生成部32では、円形ユニットとしての円の右半円のうちの、プローブ10の右回転がされた時間に応じた中心角の扇形の部分を塗りつぶすとともに、円形ユニットとしての円の左半円のうちの、プローブ10の左回転がされた時間に応じた中心角の扇形の部分を塗りつぶした円形ユニットを描画することができる。
図15は、他の回転情報画像としての、風車ユニットの表示例を示す図である。
回転情報画像としては、上述の長方形ユニットや、円形ユニットや、立方体ユニット、球体ユニットの他、風車ユニットを採用することができる。
風車ユニットは、風車の模した画像である。風車ユニットは、円形ユニット等と同様に、球状画像53の小領域内に収まるサイズの画像であり、球状画像53の各小領域上に配置される。
ある対応点が表す超音波出力方向を軸とするプローブ10の回転に関する回転情報として、例えば、図12で説明した、プローブ10の右回転がされた時間、及び、左回転がされた時間を採用する場合において、回転情報画像として、風車ユニットを採用するときには、検査状況画像生成部32は、例えば、プローブ10の右回転がされた時間や、左回転がされた時間に応じて、風車ユニットとしての風車の回転速度を変化させるとともに、プローブ10の右回転がされた時間と左回転がされた時間と大小関係に応じて、風車ユニットとしての風車の回転方向を変化させる。
なお、回転情報画像としては、その他、例えば、三角錐の形状の三角錐ユニットを採用することができる。回転情報画像として、三角錐ユニットを採用する場合、プローブ10の右回転がされた時間や、左回転がされた時間に応じて、三角錐ユニットのサイズを変化させるとともに、プローブ10の右回転がされた時間と左回転がされた時間と大小関係に応じて、三角錐ユニットの頂点の方向を変化させることができる。
図16は、球状画像53の他の例を示す図である。
図16では、球状画像53は、いわば2層化され、外側の半球画像53Aと内側の半球画像53Bとで構成される。
以上のような2層化された球状画像53においては、外側の半球画像53Aと内側の半球画像53Bのうちの一方の半球画像に、右回転及び左回転のうちの一方の回転についての回転情報画像を配置し、他方の半球画像に、他方の回転についての回転情報画像を配置することができる。
すなわち、例えば、外側の半球画像53Aに、右回転についての回転情報画像としての、右回転の時間に応じてサイズが変化する球状ユニット等を配置し、内側の半球画像53Bに、左回転についての回転情報画像としての、左回転の時間に応じてサイズが変化する球状ユニット等を配置することができる。
なお、球状画像53を2層化する場合には、奥側の視認性を確保することができるように、手前側の透明度を適切に調整することが望ましい。
以上のように、図1の超音波検査装置では、線状画像51と、プローブ画像52と、球状画像53とを有する前景画像を、3次元空間に配置して、検査状況画像として表示し、例えば、線状画像51を、プローブ10の状態に応じて、図6や図8等に示したように変化させるので、オペレータは、超音波検査の検査状況を、容易に把握することができる。
また、図1の超音波検査装置では、例えば、図10で説明したように、超音波検査の検査時間に応じて、球状画像53のテクスチャを変化させるので、検査漏れを防止することができる。
さらに、図1の超音波検査装置では、例えば、図7で説明したように、検査方法をアドバイスするメッセージを表示するので、オペレータは、プローブ10のより適切な操作を理解することができる。
なお、図1の超音波検査装置では、検査状況画像生成部32において検査状況画像の生成に用いた、プローブ10の状態、及び、プローブ10の状態の履歴(以下、プローブ状態情報ともいう)は、ストレージ30に記憶しておくことができる。
この場合、以前に、ある検査対象者について超音波検査を行ったときのプローブ状態情報を用いて、検査状況画像を生成して表示することにより、オペレータは、以前に行ったとの同様の質の超音波検査を行うことができる。
また、熟練のオペレータが超音波検査を行ったときのプローブ状態情報を用いて、検査状況画像を生成して表示することにより、未熟なオペレータの超音波検査の技術を向上させることができる。
その他、例えば、異なるオペレータが超音波検査を行ったときのプローブ状態情報を用いて生成された検査状況画像を比較することにより、オペレータの超音波検査の技術の巧拙の評価を行うことができる。
なお、図1の超音波検査装置では、検査状況画像に、プローブ10のフォーカス位置や頂点深度等のパラメータを表す画像を含めて表示することが可能である。
[本技術を適用したコンピュータの説明]
次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。
そこで、図17は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。
プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク105やROM103に予め記録しておくことができる。
あるいはまた、プログラムは、リムーバブル記録媒体111に格納(記録)しておくことができる。このようなリムーバブル記録媒体111は、いわゆるパッケージソフトウエアとして提供することができる。ここで、リムーバブル記録媒体111としては、例えば、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto Optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリ等がある。
なお、プログラムは、上述したようなリムーバブル記録媒体111からコンピュータにインストールする他、通信網や放送網を介して、コンピュータにダウンロードし、内蔵するハードディスク105にインストールすることができる。すなわち、プログラムは、例えば、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送することができる。
コンピュータは、CPU(Central Processing Unit)102を内蔵しており、CPU102には、バス101を介して、入出力インタフェース110が接続されている。
CPU102は、入出力インタフェース110を介して、ユーザによって、入力部107が操作等されることにより指令が入力されると、それに従って、ROM(Read Only Memory)103に格納されているプログラムを実行する。あるいは、CPU102は、ハードディスク105に格納されたプログラムを、RAM(Random Access Memory)104にロードして実行する。
これにより、CPU102は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU102は、その処理結果を、必要に応じて、例えば、入出力インタフェース110を介して、出力部106から出力、あるいは、通信部108から送信、さらには、ハードディスク105に記録等させる。
なお、入力部107は、キーボードや、マウス、マイク等で構成される。また、出力部106は、LCD(Liquid Crystal Display)やスピーカ等で構成される。
ここで、本明細書において、コンピュータがプログラムに従って行う処理は、必ずしもフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、コンピュータがプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
また、プログラムは、1のコンピュータ(プロセッサ)により処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
なお、本技術は、以下のような構成をとることができる。
[1]
プローブの状態に応じて変化する、円の中心と前記円の円周とを結ぶ複数の線状の画像である線状画像と、
前記円の中心に位置する、前記プローブを模したプローブ画像と、
前記プローブが出力する超音波が当たる範囲を模した、前記円を断面とする球状の画像である球状画像と
を有する前景画像を、3次元空間に配置して、前記超音波による検査状況を表す検査状況画像として、表示装置に表示させる表示制御部を備える
画像処理装置。
[2]
前記表示制御部は、超音波検査の検査対象者に当たっている前記プローブの圧力に応じて、前記線状画像としての複数の線にたわみを与える
[1]に記載の画像処理装置。
[3]
前記表示制御部は、前記検査対象者に当たっている前記プローブのひねり具合に応じて、前記線状画像としての複数の線にひねりを加える
[1]又は[2]に記載の画像処理装置。
[4]
前記球状画像は、ワイヤフレームで構成される
[1]ないし[3]のいずれかに記載の画像処理装置。
[5]
前記前景画像は、前記円の中心に位置する前記プローブが出力する超音波の方向を表す方向画像を、さらに有する
[1]ないし[4]のいずれかに記載の画像処理装置。
[6]
前記表示制御部は、前記円の中心から、前記球状画像としての球の面上の所定の位置に向かう方向の検査時間に応じて、前記所定の位置のテクスチャを変化させる
[1]ないし[5]のいずれかに記載の画像処理装置。
[7]
前記表示制御部は、前記プローブの移動に従って、前記3次元空間内を、前記前景画像を移動させる
[1]ないし[6]のいずれかに記載の画像処理装置。
[8]
前記前景画像は、前記円の中心から、前記球状画像としての球の面上の所定の位置に向けられた状態の前記プローブが、超音波を出力する方向を軸として回転されたときの、その回転に関する情報を表す回転情報画像を、さらに有する
[1]ないし[7]のいずれかに記載の画像処理装置。
[9]
前記表示制御部は、前記プローブの状態の変化に応じて、前記プローブ画像を変化させる
[1]ないし[8]のいずれかに記載の画像処理装置。
[10]
前記表示制御部は、前記プローブの状態に基づいて、検査方法をアドバイスするメッセージを、さらに表示させる
[1]ないし[9]のいずれかに記載の画像処理装置。
[11]
前記表示制御部は、前記検査対象者に当たっている前記プローブの圧力、又は、前記円の中心から、前記球状画像としての球の面上の所定の位置に向かう方向の検査時間に基づいて、前記メッセージを表示させる
[10]に記載の画像処理装置。
[12]
プローブの状態に応じて変化する、円の中心と前記円の円周とを結ぶ複数の線状の画像である線状画像と、
前記円の中心に位置する、前記プローブを模したプローブ画像と、
前記プローブが出力する超音波が当たる範囲を模した、前記円を断面とする球状の画像である球状画像と
を有する前景画像を、3次元空間に配置して、前記超音波による検査状況を表す検査状況画像として、表示装置に表示させる表示制御ステップを備える
画像処理方法。
10 プローブ, 11 超音波送受信部, 12 センシング部, 12A 加速度センサ, 12B 角速度センサ, 13C 地磁気センサ, 13D 移動量センサ, 13E 気圧センサ, 13F 圧力センサ, 20 データ処理部, 21 反射波データ記憶部, 22 センサデータ記憶部, 23 状態取得部, 24 状態記憶部, 25 履歴生成部, 26 履歴記憶部, 27 表示制御部, 28 表示装置, 29 制御部, 30 ストレージ, 31 超音波画像生成部, 32 検査状況画像生成部, 33 メッセージ生成部, 51 線状画像, 52 プローブ画像, 53,53A,53B 球状画像, 101 バス, 102 CPU, 103 ROM, 104 RAM, 105 ハードディスク, 106 出力部, 107 入力部, 108 通信部, 109 ドライブ, 110 入出力インタフェース, 111 リムーバブル記録媒体

Claims (12)

  1. プローブの状態に応じて変化する、円の中心と前記円の円周とを結ぶ複数の線状の画像である線状画像と、
    前記円の中心に位置する、前記プローブを模したプローブ画像と、
    前記プローブが出力する超音波が当たる範囲を模した、前記円を断面とする球状の画像である球状画像と
    を有する前景画像を、3次元空間に配置して、前記超音波による検査状況を表す検査状況画像として、表示装置に表示させる表示制御部を備える
    画像処理装置。
  2. 前記表示制御部は、超音波検査の検査対象者に当たっている前記プローブの圧力に応じて、前記線状画像としての複数の線にたわみを与える
    請求項1に記載の画像処理装置。
  3. 前記表示制御部は、前記検査対象者に当たっている前記プローブのひねり具合に応じて、前記線状画像としての複数の線にひねりを加える
    請求項1に記載の画像処理装置。
  4. 前記球状画像は、ワイヤフレームで構成される
    請求項1に記載の画像処理装置。
  5. 前記前景画像は、前記円の中心に位置する前記プローブが出力する超音波の方向を表す方向画像を、さらに有する
    請求項1に記載の画像処理装置。
  6. 前記表示制御部は、前記円の中心から、前記球状画像としての球の面上の所定の位置に向かう方向の検査時間に応じて、前記所定の位置のテクスチャを変化させる
    請求項1に記載の画像処理装置。
  7. 前記表示制御部は、前記プローブの移動に従って、前記3次元空間内を、前記前景画像を移動させる
    請求項1に記載の画像処理装置。
  8. 前記前景画像は、前記円の中心から、前記球状画像としての球の面上の所定の位置に向けられた状態の前記プローブが、超音波を出力する方向を軸として回転されたときの、その回転に関する情報を表す回転情報画像を、さらに有する
    請求項1に記載の画像処理装置。
  9. 前記表示制御部は、前記プローブの状態の変化に応じて、前記プローブ画像を変化させる
    請求項1に記載の画像処理装置。
  10. 前記表示制御部は、前記プローブの状態に基づいて、検査方法をアドバイスするメッセージを、さらに表示させる
    請求項1に記載の画像処理装置。
  11. 前記表示制御部は、前記検査対象者に当たっている前記プローブの圧力、又は、前記円の中心から、前記球状画像としての球の面上の所定の位置に向かう方向の検査時間に基づいて、前記メッセージを表示させる
    請求項10に記載の画像処理装置。
  12. プローブの状態に応じて変化する、円の中心と前記円の円周とを結ぶ複数の線状の画像である線状画像と、
    前記円の中心に位置する、前記プローブを模したプローブ画像と、
    前記プローブが出力する超音波が当たる範囲を模した、前記円を断面とする球状の画像である球状画像と
    を有する前景画像を、3次元空間に配置して、前記超音波による検査状況を表す検査状況画像として、表示装置に表示させる表示制御ステップを備える
    画像処理方法。
JP2012114010A 2012-05-18 2012-05-18 画像処理装置、及び、画像処理方法 Expired - Fee Related JP5962973B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012114010A JP5962973B2 (ja) 2012-05-18 2012-05-18 画像処理装置、及び、画像処理方法
CN2013101724097A CN103417245A (zh) 2012-05-18 2013-05-10 图像处理装置和图像处理方法
US13/891,327 US9311701B2 (en) 2012-05-18 2013-05-10 Image processing apparatus and image processing method
US15/058,974 US10130334B2 (en) 2012-05-18 2016-03-02 Presenting a graphical representation of an ultrasound scanning volume

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012114010A JP5962973B2 (ja) 2012-05-18 2012-05-18 画像処理装置、及び、画像処理方法

Publications (3)

Publication Number Publication Date
JP2013240374A true JP2013240374A (ja) 2013-12-05
JP2013240374A5 JP2013240374A5 (ja) 2015-03-05
JP5962973B2 JP5962973B2 (ja) 2016-08-03

Family

ID=49580948

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012114010A Expired - Fee Related JP5962973B2 (ja) 2012-05-18 2012-05-18 画像処理装置、及び、画像処理方法

Country Status (3)

Country Link
US (2) US9311701B2 (ja)
JP (1) JP5962973B2 (ja)
CN (1) CN103417245A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020014551A (ja) * 2018-07-23 2020-01-30 ザイオソフト株式会社 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
JP7471895B2 (ja) 2020-04-09 2024-04-22 キヤノンメディカルシステムズ株式会社 超音波診断装置及び超音波診断システム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001017433A (ja) * 1999-07-06 2001-01-23 Toshiba Corp 超音波診断装置及び超音波画像表示装置
WO2005120358A1 (ja) * 2004-06-09 2005-12-22 Hitachi Medical Corporation 弾性画像表示方法及び超音波診断装置
JP2009089736A (ja) * 2007-10-03 2009-04-30 Toshiba Corp 超音波診断装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5738507B2 (ja) 2006-01-19 2015-06-24 東芝メディカルシステムズ株式会社 超音波プローブの軌跡表現装置及び超音波診断装置
JP5538861B2 (ja) * 2009-12-18 2014-07-02 キヤノン株式会社 情報処理装置、情報処理方法、情報処理システム、及びプログラム
JP5858636B2 (ja) * 2011-04-13 2016-02-10 キヤノン株式会社 画像処理装置、その処理方法及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001017433A (ja) * 1999-07-06 2001-01-23 Toshiba Corp 超音波診断装置及び超音波画像表示装置
WO2005120358A1 (ja) * 2004-06-09 2005-12-22 Hitachi Medical Corporation 弾性画像表示方法及び超音波診断装置
JP2009089736A (ja) * 2007-10-03 2009-04-30 Toshiba Corp 超音波診断装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020014551A (ja) * 2018-07-23 2020-01-30 ザイオソフト株式会社 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
JP7164345B2 (ja) 2018-07-23 2022-11-01 ザイオソフト株式会社 医用画像処理装置、医用画像処理方法、及び医用画像処理プログラム
US11646111B2 (en) 2018-07-23 2023-05-09 Ziosoft, Inc. Medical image processing apparatus, medical image processing method and medical image processing system
JP7471895B2 (ja) 2020-04-09 2024-04-22 キヤノンメディカルシステムズ株式会社 超音波診断装置及び超音波診断システム

Also Published As

Publication number Publication date
CN103417245A (zh) 2013-12-04
US10130334B2 (en) 2018-11-20
JP5962973B2 (ja) 2016-08-03
US20130307845A1 (en) 2013-11-21
US9311701B2 (en) 2016-04-12
US20160174935A1 (en) 2016-06-23

Similar Documents

Publication Publication Date Title
JP6360885B2 (ja) デバイス回転に基づく視角画像操作
CN103198169B (zh) 用于模拟材料的装置、系统和方法
CN109313821B (zh) 三维对象扫描反馈
US20140128739A1 (en) Ultrasound imaging system and method
RU2015111244A (ru) Связанная сегментация в стандартных и контрастных ультразвуковых 3d-изображениях
CN113287158A (zh) 用于远程医疗的方法和装置
US20140187950A1 (en) Ultrasound imaging system and method
JP2011521318A (ja) インタラクティブな仮想現実画像生成システム
JP2013127683A (ja) プログラム、情報記憶媒体、端末、サーバ及びネットワークシステム
JP2007301030A (ja) 超音波診断装置
US20060202985A1 (en) Image processing method and image processing apparatus
CN103903487A (zh) 一种基于3d力反馈技术的内窥镜微创手术三维仿真系统
JP6291155B2 (ja) プログラム及びサーバ
JP2012064095A (ja) 触感呈示装置及び触感呈示装置の制御方法
US10433725B2 (en) System and method for capturing spatially and temporally coherent eye gaze and hand data during performance of a manual task
JP2011141124A (ja) 超音波探傷装置及び超音波探傷方法
JP2020052790A (ja) 情報処理装置、情報処理方法、およびプログラム
CN106980377A (zh) 一种三维空间的交互系统及其操作方法
JP5025146B2 (ja) 超音波診断装置及びそのプログラム
JP2013214275A (ja) 三次元位置指定方法
JP5962973B2 (ja) 画像処理装置、及び、画像処理方法
JP3722994B2 (ja) 物体の接触感シミュレーション装置
JP5998250B1 (ja) 超音波診断装置
KR101801126B1 (ko) 오브젝트 움직임 계산 장치 및 방법
JP2013240374A5 (ja)

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150115

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160506

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160615

R151 Written notification of patent or utility model registration

Ref document number: 5962973

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees