JP6104982B2 - 画像処理装置、画像処理方法及び医用画像診断装置 - Google Patents

画像処理装置、画像処理方法及び医用画像診断装置 Download PDF

Info

Publication number
JP6104982B2
JP6104982B2 JP2015096778A JP2015096778A JP6104982B2 JP 6104982 B2 JP6104982 B2 JP 6104982B2 JP 2015096778 A JP2015096778 A JP 2015096778A JP 2015096778 A JP2015096778 A JP 2015096778A JP 6104982 B2 JP6104982 B2 JP 6104982B2
Authority
JP
Japan
Prior art keywords
image
unit
coordinates
parallax
stereoscopic image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015096778A
Other languages
English (en)
Other versions
JP2015201853A (ja
Inventor
康弘 熨斗
康弘 熨斗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Toshiba Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Medical Systems Corp filed Critical Toshiba Medical Systems Corp
Priority to JP2015096778A priority Critical patent/JP6104982B2/ja
Publication of JP2015201853A publication Critical patent/JP2015201853A/ja
Application granted granted Critical
Publication of JP6104982B2 publication Critical patent/JP6104982B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明の実施形態は、画像処理装置、画像処理方法及び医用画像診断装置に関する。
従来、2つの視点から撮影された2つの視差画像をモニタに表示することで、立体視用メガネ等の専用機器を用いた利用者に立体画像を表示する技術がある。また、近年、レンチキュラーレンズ等の光線制御子を用いて、複数の視点から撮影された多視差画像(例えば、9つの視差画像)をモニタに表示することで、裸眼の利用者に立体画像を表示する技術がある。
また、X線CT(Computed Tomography)装置やMRI(Magnetic Resonance Imaging)装置、超音波診断装置等の医用画像診断装置には、3次元の医用画像(以下、ボリュームデータ)を生成可能な装置がある。また、医用画像診断装置は、ボリュームデータに対して種々の画像処理を実行することで表示用の平面画像を生成し、汎用モニタ上に表示する。例えば、医用画像診断装置は、ボリュームデータに対してボリュームレンダリング処理を実行することで、被検体についての3次元の情報が反映された任意の断面についての平面画像を生成し、生成した平面画像を汎用モニタ上に表示する。
特開2005−86414号公報
本発明が解決しようとする課題は、立体画像についての定量的な情報を簡単に把握することが可能となる画像処理装置、画像処理方法及び医用画像診断装置を提供することである。
実施の形態の画像処理装置では、受付部と、視差画像生成部と、出力部とを備える。受付部は、立体表示されている被検体の立体画像において、時系列上における同一の時間に対応付けて複数の座標の設定を受け付ける。視差画像生成部は、前記受付部により受け付けられた複数の座標を利用者の視線方向と交差する平面上に投影し、前記平面上に投影された複数の座標が所定の距離内に位置するか否かを判定し、位置すると判定した場合に、前記所定の記憶装置に記憶されたボリュームデータに基づいて該複数の座標が分離して表示されるように表示条件が変更された立体画像を表示するための視差画像を生成する。出力部は、前記視差画像生成部により生成された視差画像を表示装置に出力することで、前記表示条件が変更された立体画像を該表示装置に表示させる。
図1は、第1の実施形態における画像処理システムの構成例を説明するための図である。 図2は、2視差画像により立体表示を行う立体表示モニタの一例を説明するための図である。 図3は、9視差画像により立体表示を行う立体表示モニタの一例を説明するための図である。 図4は、第1の実施形態におけるワークステーションの構成例を説明するための図である。 図5は、図4に示すレンダリング処理部の構成例を説明するための図である。 図6は、第1の実施形態におけるボリュームレンダリング処理の一例を説明するための図である。 図7は、第1の実施形態における制御部の詳細について説明する図である。 図8は、第1の実施形態における取得部により取得される特徴値の一例を示す図である。 図9−1は、第1の実施形態における視差画像生成部について説明するための図である。 図9−2は、第1の実施形態における視差画像生成部について説明するための図である。 図10は、第1の実施形態における回転前後における立体画像の一例について示す図である。 図11は、第1の実施形態における出力部により出力される結果、端末装置にて表示される立体画像と時系列に沿った複数の特徴値との一例を示す図である。 図12は、第1の実施形態に係るワークステーションによる処理の流れの一例を示すフローチャートである。 図13は、表の時間軸をボリュームデータのサンプリング間隔とする場合について示す図である。 図14は、時系列上における時間ごとに異なる座標が設定された場合に表示されるデータの一例を示す図である。 図15は、ワークステーションの制御部の構成の一例を示す図である。
以下、添付図面を参照して、画像処理装置、画像処理方法及び医用画像診断装置の実施形態を詳細に説明する。なお、以下では、画像処理装置としての機能を有するワークステーションを含む画像処理システムを実施形態として説明する。
(第1の実施形態)
まず、第1の実施形態における画像処理装置を有する画像処理システムの構成例について説明する。図1は、第1の実施形態における画像処理システムの構成例を説明するための図である。
図1に示すように、第1の実施形態における画像処理システム1は、医用画像診断装置110と、画像保管装置120と、ワークステーション130と、端末装置140とを有する。図1に例示する各装置は、例えば、病院内に設置された院内LAN(Local Area Network)2により、直接的、又は間接的に相互に通信可能な状態となる。例えば、画像処理システム1にPACS(Picture Archiving and Communication System)が導入されている場合、各装置は、DICOM(Digital Imaging and Communications in Medicine)規格に則って、医用画像等を相互に送受信する。
画像処理システム1は、医用画像診断装置110により生成されたボリュームデータに基づいて、立体画像を表示するための視差画像を生成し、立体画像を表示可能なモニタに生成した視差画像を表示することで、病院内に勤務する医師や検査技師に立体画像を提供する。
ここで、「立体画像」は、複数の視点から撮影された視差角の異なる複数の視差画像を表示することで利用者に表示される。言い換えると、「視差画像」は、複数の視点から撮影された視差角の異なる画像であって、利用者に立体画像を表示するための画像である。また、立体画像を表示するための視差画像は、例えば、ボリュームデータに対してボリュームレンダリング処理を行うことで生成される。
また、「視差画像」は、「立体視画像」を構成する個々の画像となる。すなわち、「立体視画像」は、「視差角」が異なる複数の「視差画像」から構成される。また、「視差数」とは、立体表示モニタにて立体視されるために必要となる「視差画像」の数を示す。また、「視差角」とは、「立体視画像」を生成するために設定された各視点の位置の間隔とボリュームデータの位置とにより定まる角度のことである。また、以下で記載する「9視差画像」とは、9つの「視差画像」から構成される「立体視画像」を示す。また、以下で記載する「2視差画像」とは、2つの「視差画像」から構成される「立体視画像」を示す。立体視画像を表示することで、言い換えると、複数の視差画像を表示することで、利用者に「立体画像」が表示される。
以下に詳細に説明するように、第1の実施形態においては、ワークステーション130が、ボリュームデータに対して種々の画像処理を行ない、立体画像を表示するための視差画像を生成する。また、ワークステーション130及び端末装置140は、立体画像を表示可能なモニタを有し、ワークステーション130にて生成された視差画像をモニタに表示することで立体画像を利用者に表示する。また、画像保管装置120は、医用画像診断装置110にて生成されたボリュームデータや、ワークステーション130にて生成された視差画像を保管する。例えば、ワークステーション130や端末装置140は、画像保管装置120からボリュームデータや視差画像を取得し、取得したボリュームデータや視差画像に対して任意の画像処理を実行したり、視差画像をモニタに表示したりする。
医用画像診断装置110は、X線診断装置、X線CT(Computed Tomography)装置、MRI(Magnetic Resonance Imaging)装置、超音波診断装置、SPECT(Single Photon Emission Computed Tomography)装置、PET(Positron Emission Tomography)装置、SPECT装置とX線CT装置とが一体化されたSPECT−CT装置、PET装置とX線CT装置とが一体化されたPET−CT装置、又はこれらの装置群等である。また、医用画像診断装置110は、ボリュームデータを生成する。
具体的には、第1の実施形態における医用画像診断装置110は、被検体を撮影することによりボリュームデータを生成する。例えば、医用画像診断装置110は、被検体を撮影することにより投影データやMR信号等のデータを収集する。そして、医用画像診断装置110は、収集したデータに基づいて被検体の体軸方向に沿った複数のアキシャル面の医用画像を再構成することで、ボリュームデータを生成する。例えば、医用画像診断装置110が、500枚のアキシャル面の医用画像を再構成した場合を用いて説明する。この場合、医用画像診断装置110により再構成された500枚のアキシャル面の医用画像群がボリュームデータとなる。なお、医用画像診断装置110により撮影された被検体の投影データやMR信号等自体をボリュームデータとしても良い。
また、医用画像診断装置110は、ボリュームデータを画像保管装置120に送信する。なお、医用画像診断装置110は、ボリュームデータを画像保管装置120に送信する際に、付帯情報として、例えば、患者を識別する患者ID、検査を識別する検査ID、医用画像診断装置110を識別する装置ID、医用画像診断装置110による1回の撮影を識別するシリーズID等を送信する。
画像保管装置120は、医用画像を保管するデータベースである。具体的には、画像保管装置120は、医用画像診断装置110からボリュームデータを受信し、受信したボリュームデータを所定の記憶部に保管する。また、画像保管装置120は、ワークステーション130によってボリュームデータから生成された視差画像を受信し、受信した視差画像を所定の記憶部に保管する。
なお、第1の実施形態において、画像保管装置120に保管されたボリュームデータや視差画像は、患者ID、検査ID、装置ID、シリーズID等と対応付けて保管される。このため、ワークステーション130や端末装置140は、患者ID、検査ID、装置ID、シリーズID等を用いた検索を行うことで、必要なボリュームデータや視差画像を画像保管装置120から取得する。なお、画像保管装置120とワークステーション130とを統合して一つの装置としても良い。
ワークステーション130は、医用画像に対して画像処理を行う画像処理装置である。具体的には、ワークステーション130は、画像保管装置120からボリュームデータを取得する。そして、ワークステーション130は、取得したボリュームデータに対して種々のレンダリング処理を行うことで、立体画像を表示するための視差画像を生成する。例えば、ワークステーション130は、2視差の立体画像を利用者に表示する場合には、視差角が異なる2つの視差画像を生成する。また、例えば、ワークステーション130は、9視差の立体画像を利用者に表示する場合には、視差角が異なる9つの視差画像を生成する。
また、ワークステーション130は、表示部として、立体画像を表示可能なモニタ(立体表示モニタ、立体画像表示装置とも称する)を有する。ワークステーション130は、視差画像を生成し、生成した視差画像を立体表示モニタに表示することで、利用者に立体画像を表示する。この結果、ワークステーション130の利用者は、立体表示モニタに表示された立体画像を確認しながら、視差画像を生成するための操作を行うことが可能となる。
また、ワークステーション130は、生成した視差画像を画像保管装置120や端末装置140に送信する。なお、ワークステーション130は、画像保管装置120や端末装置140に視差画像を送信する際に、付帯情報として、例えば、患者ID、検査ID、装置ID、シリーズID等を併せて送信する。この際、ワークステーション130は、モニタの解像度は様々であることを踏まえ、視差画像の枚数や解像度を示す付帯情報を併せて送信しても良い。解像度とは、例えば、「466画素×350画素」などが該当する。
ここで、第1の実施形態におけるワークステーション130は、ワークステーション130や端末装置140に表示されている被検体の立体画像における座標の設定を受け付け、受け付けられた座標における時系列に沿った複数の特徴値を、画像保管装置120に記憶された時系列に沿った複数のボリュームデータから座標と関連付けて取得する。そして、第1の実施形態によれば、画像保管装置120に記憶されたボリュームデータに基づいて、受け付けた座標が他の部分と区別可能となる時系列に沿った複数の立体画像を表示するための視差画像を生成する。そして、第1の実施形態によれば、受け付けた座標が他の部分と区別可能となる立体画像を表示するとともに、座標と関連付けて取得された複数の特徴値を出力する。この結果、立体画像についての定量的な情報を簡単に把握することが可能となる。
図1の説明に戻る。端末装置140は、病院内に勤務する医師や検査技師に医用画像を閲覧させる端末である。具体的には、端末装置140は、表示部として立体表示モニタを有する。また、端末装置140は、画像保管装置120から視差画像を取得し、取得した視差画像を立体表示モニタに表示することで、立体画像を利用者に表示する。また、例えば、端末装置140は、ワークステーション130から視差画像を受信すると、受信した視差画像を立体表示モニタに表示することで、立体画像を利用者に表示する。この結果、利用者である医師や検査技師は、立体視可能な医用画像を閲覧することができる。端末装置140は、例えば、立体表示モニタを有する汎用PC(Personal Computer)やタブレット端末、携帯電話などが該当する。また、端末装置140は、例えば、外部装置としての立体表示モニタと接続された任意の情報処理端末が該当する。
ここで、ワークステーション130や端末装置140が有する立体表示モニタについて説明する。立体表示モニタとしては、例えば、2つの視差画像を表示することで、立体視用メガネ等の専用機器を装着した利用者に2視差の立体画像(両眼視差画像)を表示するものがある。
図2は、2視差画像により立体表示を行う立体表示モニタの一例を説明するための図である。図2に示す一例は、シャッター方式により立体表示を行う立体表示モニタを例に示した。図2に示す例では、モニタを観察する利用者は、立体視用メガネとしてシャッターメガネを装着する。図2に示す例では、立体表示モニタは、2つの視差画像を交互に出射する。例えば、図2の(A)に示す立体表示モニタは、左目用の視差画像と右目用の視差画像とを120Hzにて交互に出射する。また、立体表示モニタは、図2の(A)に示すように、赤外線出射部が設置され、赤外線出射部が、視差画像が切り替わるタイミングに合わせて赤外線の出射を制御する。
また、図2の(A)に示すように、シャッターメガネの赤外線受光部は、赤外線出射部により出射された赤外線を受光する。シャッターメガネの左右それぞれの枠には、シャッターが取り付けられており、シャッターメガネは、赤外線受光部が赤外線を受光したタイミングに合わせて左右のシャッターそれぞれの透過状態及び遮光状態を交互に切り替える。
ここで、シャッターメガネのシャッターにおける透過状態及び遮光状態の切り替え処理について説明する。シャッターは、図2の(B)に示すように、入射側の偏光板と出射側の偏光板とを有し、更に、入射側の偏光板と出射側の偏光板との間に液晶層を有する。また、入射側の偏光板と出射側の偏光板とは、図2の(B)に示すように、互いに直交している。ここで、図2の(B)に示すように、電圧が印加されていない「OFF」の状態では、入射側の偏光板を通った光は、液晶層の作用により90度回転し、出射側の偏光板を透過する。すなわち、電圧が印加されていないシャッターは、透過状態となる。
一方、図2の(B)に示すように、電圧が印加された「ON」の状態では、液晶層の液晶分子による偏光回転作用が消失するため、入射側の偏光板を通った光は、出射側の偏光板で遮られてしまう。すなわち、電圧が印加されたシャッターは、遮光状態となる。
このことを踏まえ、立体表示モニタの赤外線出射部は、例えば、モニタ上に左目用の画像が表示されている期間、赤外線を出射する。そして、シャッターメガネの赤外線受光部は、赤外線を受光している期間、左目のシャッターに電圧を印加せず、右目のシャッターに電圧を印加させる。これにより、図2の(A)に示すように、右目のシャッターが遮光状態となり、左目のシャッターが透過状態となる結果、利用者の左目にのみ左目用の画像が入射する。一方、立体表示モニタの赤外線出射部は、例えば、モニタ上に右目用の画像が表示されている期間、赤外線の出射を停止する。そして、シャッターメガネの赤外線受光部は、赤外線が受光されない期間、右目のシャッターに電圧を印加せず、左目のシャッターに電圧を印加させる。これにより、左目のシャッターが遮光状態となり、右目のシャッターが透過状態となる結果、利用者の右目にのみ右目用の画像が入射する。このように、図2に示す立体表示モニタは、モニタに表示される画像とシャッターの状態を連動させて切り替えることで、立体画像を利用者に表示する。
また、立体表示モニタとしては、レンチキュラーレンズ等の光線制御子を用いることで、例えば、9視差の立体画像を利用者が裸眼の利用者に表示するものもある。この場合、立体表示モニタは、両眼視差による立体視を可能とし、更に、利用者の視点移動に合わせて利用者によって観察される映像が変化する運動視差を有する立体画像を表示可能となる。
図3は、9視差画像により立体表示を行う立体表示モニタの一例を説明するための図である。図3に示す立体表示モニタは、液晶パネル等の平面状の表示面200の前面に、光線制御子が配置される。例えば、図3に示す立体表示モニタは、光線制御子として、光学開口が垂直方向に延びる垂直レンチキュラーシート201が表示面200の前面に貼り付けられる。なお、図3に示す一例では、垂直レンチキュラーシート201の凸部が前面となるように貼り付けられているが、垂直レンチキュラーシート201の凸部が表示面200に対向するように貼り付けられる場合であっても良い。
図3に示す例では、表示面200は、縦横比が3:1であり、縦方向にサブ画素である赤(R)、緑(G)、青(B)の3つが配置された画素202がマトリクス状に配置される。図3に示す例では、立体表示モニタは、視差角が異なる9つの視差画像を所定フォーマット(例えば格子状)に配置した上で、表示面200に出力する。すなわち、図3に示す立体表示モニタは、視差角が異なる9つの視差画像において同一位置にある9つの画素それぞれが、9列の画素202それぞれに割り振られた中間画像を表示する。9列の画素202は、視差角の異なる9つの画像を同時に表示する単位画素群203となる。なお、図3に示す例では、中間画像が格子状となる場合を示したが、これに限定されるものではなく、任意の形状であって良い。
表示面200において単位画素群203として同時に出力された視差角が異なる9つの視差画像は、例えば、LED(Light Emitting Diode)バックライトにより平行光として放射され、更に、垂直レンチキュラーシート201により、多方向に放射される。9つの視差画像の各画素の光が多方向に放射されることにより、利用者の右目及び左目に入射する光は、利用者の位置(視点の位置)に連動して変化する。すなわち、利用者の見る角度により、右目に入射する視差画像と左目に入射する視差画像とは、視差角が異なる視差画像となる。この結果、利用者は、例えば、図3に示す9つの位置それぞれにおいて、異なる視野角から撮影対象を見る立体画像を視認できる。また、利用者は、例えば、図3に示す「5」の位置において、撮影対象に対して正対した状態で立体的に視認できるとともに、図3に示す「5」以外それぞれの位置において、撮影対象の向きを変化させた状態で立体的に視認できる。なお、図3に示す例では一例であり、これに限定されるものではない。例えば、図3に示す例では、横ストライプ(RRR…、GGG…、BBB…)液晶と縦レンズとの組み合わせを用いた場合を例に示したが、これに限定されるものではなく、例えば、縦ストライプ(RGBRGB…)液晶と斜めレンズとの組み合わせを用いても良い。
ここまで、第1の実施形態における画像処理システム1の構成例について簡単に説明した。なお、上述した画像処理システム1は、PACSが導入されている場合にその適用が限られるものではない。例えば、画像処理システム1は、医用画像が添付された電子カルテを管理する電子カルテシステムが導入されている場合にも、同様に適用しても良い。この場合、画像保管装置120は、電子カルテを保管するデータベースとなる。また、例えば、画像処理システム1は、HIS(Hospital Information System)、RIS(Radiology Information System)が導入されている場合にも、同様に適用しても良い。また、画像処理システム1は、上述した構成例に限られるものではない。各装置が有する機能やその分担は、運用の形態に応じて適宜変更しても良い。
次に、第1の実施形態におけるワークステーション130の構成例について図4を用いて説明する。図4は、第1の実施形態におけるワークステーションの構成例を説明するための図である。
ワークステーション130は、画像処理等に適した高性能なコンピュータである。図4に示す例では、ワークステーション130は、入力部131と、表示部132と、通信部133と、記憶部134と、制御部135と、レンダリング処理部136とを有する。なお、以下では、ワークステーション130が画像処理等に適した高性能なコンピュータである場合を用いて説明するが、これに限定されるものではなく、任意の情報処理装置であって良い。例えば、任意のパーソナルコンピュータであっても良い。
入力部131は、マウス、キーボード、トラックボール等であり、ワークステーション130に対する各種操作の入力を利用者から受け付ける。具体的には、入力部131は、レンダリング処理の対象となるボリュームデータを画像保管装置120から取得するための情報の入力を受け付ける。例えば、入力部131は、患者ID、検査ID、装置ID、シリーズID等の入力を受け付ける。また、入力部131は、レンダリング処理に関する条件(以下、レンダリング条件)の入力を受け付ける。
表示部132は、立体表示モニタとしての液晶パネル等であり、各種情報を表示する。具体的には、第1の実施形態における表示部132は、利用者から各種操作を受け付けるためのGUI(Graphical User Interface)や、立体画像等を表示する。通信部133は、NIC(Network Interface Card)等であり、他の装置との間で通信を行う。また、例えば、通信部133は、利用者によって端末装置140に入力されたレンダリング条件を端末装置140から受信する。
記憶部134は、ハードディスク、半導体メモリ素子等であり、各種情報を記憶する。具体的には、記憶部134は、通信部133を介して画像保管装置120から取得したボリュームデータを記憶する。また、記憶部134は、レンダリング処理中のボリュームデータや、レンダリング処理が行なわれた視差画像とその付帯情報(視差数、解像度など)等を記憶する。
制御部135は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、GPU(Graphics Processing Unit)等の電子回路、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路であり、ワークステーション130の全体制御を行う。
例えば、制御部135は、表示部132に対するGUIの表示や立体画像の表示を制御する。また、例えば、制御部135は、画像保管装置120との間で通信部133を介して行なわれるボリュームデータや視差画像の送受信を制御する。また、例えば、制御部135は、レンダリング処理部136によるレンダリング処理を制御する。また、例えば、制御部135は、ボリュームデータの記憶部134からの読み込みや、視差画像の記憶部134への格納を制御する。
ここで、ワークステーション130の制御部135は、レンダリング処理部136によるレンダリング処理を制御し、レンダリング処理部136と共働することで、測定処理を実行する。制御部135の詳細については、レンダリング処理部136について説明した後に説明する。
レンダリング処理部136は、制御部135による制御の下、画像保管装置120から取得したボリュームデータに対して種々のレンダリング処理を行ない、視差画像を生成する。具体的には、レンダリング処理部136は、記憶部134からボリュームデータを読み込み、読み込んだボリュームデータに対して前処理を行う。そして、レンダリング処理部136は、前処理後のボリュームデータに対してボリュームレンダリング処理を行うことで、立体画像を表示するための視差画像を生成する。そして、レンダリング処理部136は、生成した視差画像を記憶部134に格納する。
また、レンダリング処理部136は、各種情報(目盛り、患者名、検査項目等)が描出されたオーバーレイ画像を生成し、生成したオーバーレイ画像を視差画像に重畳しても良い。この場合、レンダリング処理部136は、オーバーレイ画像が重複された視差画像を記憶部134に格納する。
なお、レンダリング処理とは、ボリュームデータに対して行う画像処理全体を示し、ボリュームレンダリング処理とは、レンダリング処理の内、被検体の3次元の情報が反映された医用画像を生成する処理を示す。レンダリング処理により生成される医用画像とは、例えば、視差画像が該当する。
図5は、図4に示すレンダリング処理部の構成例を説明するための図である。図5に示すように、レンダリング処理部136は、前処理部1361と、3次元画像処理部1362と、2次元画像処理部1363とを有する。以下に詳細に説明するように、前処理部1361は、ボリュームデータに対する前処理を行う。3次元画像処理部1362は、前処理後のボリュームデータから視差画像を生成する。2次元画像処理部1363は、立体画像に各種情報が重畳された視差画像を生成する。
前処理部1361は、ボリュームデータに対してレンダリング処理を行う際に、種々の前処理を行う。図5に示す例では、前処理部1361は、画像補正処理部1361aと、3次元物体フュージョン部1361eと、3次元物体表示領域設定部1361fとを有する。
画像補正処理部1361aは、2種類のボリュームデータを1つのボリュームデータとして処理する際に画像補正処理を行う。図5に示す例では、画像補正処理部1361aは、歪み補正処理部1361bと、体動補正処理部1361cと、画像間位置合わせ処理部1361dとを有する。例えば、画像補正処理部1361aは、PET−CT装置により生成されたPET画像のボリュームデータとX線CT画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行う。また、画像補正処理部1361aは、MRI装置により生成されたT1強調画像のボリュームデータとT2強調画像のボリュームデータとを1つのボリュームデータとして処理する際に画像補正処理を行う。
ここで、画像補正処理部1361aの歪み補正処理部1361bは、個々のボリュームデータにおいて、医用画像診断装置110によるデータ収集時の収集条件に起因するデータの歪みを補正する。また、体動補正処理部1361cは、個々のボリュームデータを生成するために用いられたデータの収集時期における被検体の体動に起因する移動を補正する。また、画像間位置合わせ処理部1361dは、歪み補正処理部1361b及び体動補正処理部1361cによる補正処理が行なわれた2つのボリュームデータ間で、例えば、相互相関法等を用いた位置合わせ(Registration)を行う。
3次元物体フュージョン部1363eは、画像間位置合わせ処理部1361dにより位置合わせが行なわれた複数のボリュームデータをフュージョンさせる。なお、画像補正処理部1361a及び3次元物体フュージョン部1361eの処理は、単一のボリュームデータに対してレンダリング処理を行う場合、省略される。
3次元物体表示領域設定部1361fは、利用者により指定された表示対象臓器に対応する表示領域を設定する。図5に示す例では、3次元物体表示領域設定部1361fは、セグメンテーション処理部1361gを有する。3次元物体表示領域設定部1361fのセグメンテーション処理部1361gは、利用者により指定された心臓、肺、血管等の臓器を、例えば、ボリュームデータのボクセル値に基づく領域拡張法により抽出する。
なお、セグメンテーション処理部1361gは、利用者により表示対象臓器が指定されなかった場合、セグメンテーション処理を行なわない。また、セグメンテーション処理部1361gは、利用者により表示対象臓器が複数指定された場合、該当する複数の臓器を抽出する。また、セグメンテーション処理部1361gの処理は、レンダリング画像を参照した利用者の微調整要求により再度実行される場合もある。
3次元画像処理部1362は、前処理部1361が処理を行なった前処理後のボリュームデータに対してボリュームレンダリング処理を行う。図5に示す例では、3次元画像処理部1362は、ボリュームレンダリング処理を行う処理部として、投影方法設定部1362aと、3次元幾何変換処理部1362bと、3次元物体アピアランス処理部1362fと、3次元仮想空間レンダリング部1362kとを有する。
投影方法設定部1362aは、立体画像を生成するための投影方法を決定する。例えば、投影方法設定部1362aは、ボリュームレンダリング処理を平行投影法により実行するか、透視投影法により実行するかを決定する。
3次元幾何変換処理部1362bは、ボリュームレンダリング処理が実行されるボリュームデータを3次元幾何学的に変換するための情報を決定する。図5に示す例では、3次元幾何変換処理部1362bは、平行移動処理部1362cと、回転処理部1362dと拡大縮小処理部1362eとを有する。3次元幾何変換処理部1362bの平行移動処理部1362cは、ボリュームレンダリング処理を行う際の視点位置が平行移動された場合に、ボリュームデータを平行移動させる移動量を決定する。また、回転処理部1362dは、ボリュームレンダリング処理を行う際の視点位置が回転移動された場合に、ボリュームデータを回転移動させる移動量を決定する。また、拡大縮小処理部1362eは、立体画像の拡大や縮小が要求された場合に、ボリュームデータの拡大率や縮小率を決定する。
3次元物体アピアランス処理部1362fは、3次元物体色彩処理部1362gと、3次元物体不透明度処理部1362hと、3次元物体材質処理部1362iと3次元仮想空間光源処理部1362jとを有する。3次元物体アピアランス処理部1362fは、これらの処理部により、例えば、利用者の要求に応じて、視差画像を表示することで利用者に表示される立体画像の表示状態を決定する。
3次元物体色彩処理部1362gは、ボリュームデータにてセグメンテーションされた各領域に対して着色される色彩を決定する。また、3次元物体不透明度処理部1362hは、ボリュームデータにてセグメンテーションされた各領域を構成する各ボクセルの不透過度(Opacity)を決定する処理部である。なお、ボリュームデータにおいて不透過度が「100%」とされた領域の後方の領域は、視差画像において描出されない。また、ボリュームデータにおいて不透過度が「0%」とされた領域は、視差画像において描出されない。
3次元物体材質処理部1362iは、ボリュームデータにてセグメンテーションされた各領域の材質を決定することで、この領域が描出される際の質感を調整する。3次元仮想空間光源処理部1362jは、ボリュームデータに対してボリュームレンダリング処理を行う際に、3次元仮想空間に設置する仮想光源の位置や、仮想光源の種類を決定する。仮想光源の種類としては、無限遠から平行な光線を照射する光源や、視点から放射状の光線を照射する光源等が挙げられる。
3次元仮想空間レンダリング部1362kは、ボリュームデータに対してボリュームレンダリング処理を行ない、視差画像を生成する。また、3次元仮想空間レンダリング部1362kは、ボリュームレンダリング処理を行う際、必要に応じて、投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fにより決定された各種情報を用いる。
ここで、3次元仮想空間レンダリング部1362kは、制御部135からレンダリング条件を受け付け、受け付けたレンダリング条件に従って、ボリュームデータに対するボリュームレンダリング処理を行う。レンダリング条件は、入力部131を介して利用者から受け付けたり、初期設定されたり、通信部133を介して端末装置140から受け付けたりする。また、このとき、上述した投影方法設定部1362a、3次元幾何変換処理部1362b、3次元物体アピアランス処理部1362fが、このレンダリング条件に従って必要な各種情報を決定し、3次元仮想空間レンダリング部1362kは、決定された各種情報を用いて立体画像を生成する。
なお、例えば、レンダリング条件は、「平行投影法」又は「透視投影法」である。また、例えば、レンダリング条件は、「基準の視点位置及び視差角」である。また、例えば、レンダリング条件は、「視点位置の平行移動」、「視点位置の回転移動」、「立体画像の拡大」、「立体画像の縮小」である。また、例えば、レンダリング条件は、「着色される色彩」、「透過度」、「質感」、「仮想光源の位置」、「仮想光源の種類」である。
図6は、第1の実施形態におけるボリュームレンダリング処理の一例を説明するための図である。例えば、3次元仮想空間レンダリング部1362kが、図6の「9視差画像生成方式(1)」に示すように、レンダリング条件として、平行投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。この場合、3次元仮想空間レンダリング部1362kは、視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に平行移動して、平行投影法により視差角(視線方向間の角度)が1度ずつ異なる9つの視差画像を生成する。なお、平行投影法を行う場合、3次元仮想空間レンダリング部1362kは、視線方向に沿って無限遠から平行な光線を照射する光源を設定する。
或いは、3次元仮想空間レンダリング部1362kが、図6の「9視差画像生成方式(2)」に示すように、レンダリング条件として、透視投影法を受け付け、更に、基準の視点位置(5)と視差角「1度」とを受け付けたとする。この場合、3次元仮想空間レンダリング部1362kは、視点移動する平面上に存在するボリュームデータの切断面の重心を中心に視差角が「1度」おきとなるように、視点の位置を(1)〜(9)に回転移動して、透視投影法により視差角が1度ずつ異なる9つの視差画像を生成する。言い換えると、3次元的な体積の重心ではなく、2次元的な切断面の重心を中心に回転移動して、9つの視差画像を生成する。なお、透視投影法を行う場合、3次元仮想空間レンダリング部1362kは、視線方向を中心に光を3次元的に放射状に照射する点光源や面光源を各視点にて設定する。また、透視投影法を行う場合、レンダリング条件によっては、視点(1)〜(9)は、平行移動される場合であってもよい。
なお、3次元仮想空間レンダリング部1362kは、表示されるボリュームレンダリング画像の縦方向に対しては、視線方向を中心に光を2次元的に放射状に照射し、表示されるボリュームレンダリング画像の横方向に対しては、視線方向に沿って無限遠から平行な光線を照射する光源を設定することで、平行投影法と透視投影法とを併用したボリュームレンダリング処理を行なってもよい。
なお、図6の例では、レンダリング条件として、投影方法、基準の視点位置及び視差角を受け付けた場合を説明したが、レンダリング条件として、他の条件を受け付けた場合も同様に、3次元仮想空間レンダリング部1362kは、それぞれのレンダリング条件を反映しつつ、9つの視差画像を生成する。
なお、3次元仮想空間レンダリング部1362kは、ボリュームレンダリングだけでなく、断面再構成法(MPR:Multi Planer Reconstruction)を行なうことで、ボリュームデータからMPR画像を再構成する機能も有する。また、3次元仮想空間レンダリング部1362kは、MPRとして「Curved MRP」を行なう機能や、「Intensity Projection」を行なう機能も有する。
また、3次元画像処理部1362がボリュームデータから生成した視差画像は、アンダーレイ(Underlay)として用いた上で、各種情報(目盛り、患者名、検査項目等)が描出されたオーバーレイ画像をオーバーレイ(Overlay)として重畳しても良い。この場合、2次元画像処理部1363は、オーバーレイとなるオーバーレイ画像とアンダーレイとなる視差画像に対して画像処理を行うことで、オーバーレイ画像が重畳された視差画像を生成する。図5に示す例では、2次元画像処理部1363は、2次元物体描画部1363aと、2次元幾何変換処理部1363bと、輝度調整部1363cとを有する。なお、各種情報の描画処理コスト低減のため、オーバーレイを1枚だけ描画しておき、1枚のオーバーレイをアンダーレイとなる9枚の視差画像それぞれに重畳することで、オーバーレイ画像が重畳された9枚の視差画像を生成しても良い。
2次元物体描画部1363aは、オーバーレイに描出される各種情報を描画する。また、2次元幾何変換処理部1363bは、オーバーレイに描出される各種情報の位置を平行移動処理又は回転移動処理したり、オーバーレイに描出される各種情報の拡大処理又は縮小処理したりする。また、輝度調整部1363cは、例えば、出力先の立体表示モニタの諧調や、ウィンドウ幅(WW:Window Width)、ウィンドウレベル(WL:Window Level)等の画像処理用のパラメータに応じて、オーバーレイ及びアンダーレイの輝度を調整する。また、輝度調整部1363cは、例えば、レンダリング画像に対する輝度変換処理を行う。
レンダリング処理部136により生成された視差画像は、例えば、制御部135により一旦記憶部134に格納され、その後、通信部133を介して画像保管装置120に送信される。その後、例えば、端末装置140は、画像保管装置120からオーバーレイ画像が重畳された視差画像を取得し、所定フォーマット(例えば格子状)に配置した中間画像に変換した上で立体表示モニタに表示することで、利用者である医師や検査技師に、各種情報(目盛り、患者名、検査項目等)が描出された立体画像を表示可能となる。
さて、上述したように、レンダリング処理部136は、制御部135による制御の下、ボリュームデータから視差画像を生成する。次に、第1の実施形態における制御部135について詳細に説明する。以下に説明するように、制御部135が以下に説明する一連の処理を実行することで、利用者が意図した通りの場所に座標が設定されたかを利用者が確認可能となる。制御部135は、例えば、TDCを出力する際に以下に説明する一連の処理を実行する。制御部135により出力されたTDCは、例えば、脳の機能解析において用いられる。
例えば、制御部135は、造影剤の移動状況を観察するために4Dのボリュームデータに基づいて視差画像群を作成し、立体視により位相ごとの画像を切りかえて表示するとともに、利用者に設定された座標についての特徴値を4Dのボリュームデータから取得して出力する。例えば、制御部135は、特徴値として、利用者に指定された座標についてのTDC(Time Density Curve)を出力する。利用者は、意図した通りの場所に座標が設定された場合に得られるTDCの範囲は予め想定可能であり、TDC(Time Density Curve)の妥当性を確認することで、意図した通りの場所に座標が設定されたかを確認可能となる。例えば、機能解析の対象として設定された脳内の座標が、意図した場所に設定されたか否かを確認可能となる。
制御部135について詳細に説明する。図7は、第1の実施形態における制御部の詳細について説明する図である。第1の実施形態における制御部の詳細について説明する図の一例である。図7に示すように、制御部135は、受付部1351と、取得部1352と、視差画像生成部1353と、出力部1354とを有する。
受付部1351は、ワークステーション130や端末装置140に表示されている被検体の立体画像における座標の設定を受け付ける。例えば、受付部1351は、機能解析の対象として設定された脳内の座標の設定を受け付けたり、被検体内の任意の座標の設定を受け付けたりする。
また、受付部1351は、立体表示されている被検体の立体画像における座標の設定を受け付ける。また、受付部1351は、一つ又は複数の座標の設定を受け付ける。なお、受付部1351により受け付けられる座標の設定は、例えば、端末装置140を利用する利用者によって任意の手法にて設定される。例えば、受付部1351により受け付けられる座標の設定は、マウスなどの任意のポインティングデバイスを用いて、端末装置140に対して利用者により設定される。
取得部1352は、受付部1351により受け付けられた座標における時系列に沿った複数の特徴値を、画像保管装置120に記憶された時系列に沿った複数のボリュームデータから取得する。図8は、第1の実施形態における取得部により取得される特徴値の一例を示す図である。図8に示す例では、受付部1351が、一つの座標の設定を受け付けた場合を示した。図8に示す例では、取得部1352は、造影剤を血管に注入しながら撮影されたボリュームデータから、受け付けた座標における血流動態を示す所定の指標値(例えば、ボクセル値)の時間濃度曲線(TDC:Time Density Curve)を取得する。なお、図8に示す例では、横軸は時間軸を示し、縦軸が所定の指標値の大小を示す。なお、3つの座標の設定を受付部1351が受け付けた場合には、取得部1352は、例えば、図8に示すような時間濃度曲線を三つ取得することになる。
視差画像生成部1353は、画像保管装置120に記憶されたボリュームデータに基づいて、受付部1351により受け付けられた座標が他の部分と区別可能となる時系列に沿った複数の立体画像を表示するための視差画像を生成する。また、視差画像生成部1353は、時系列上における時間ごとに異なる座標を受け付けた場合には、時間ごとに異なる座標が他の部分と区別可能となる立体画像を表示するための視差画像を生成する。
例えば、視差画像生成部1353は、受付部1351により受け付けられた座標の画素を所定の色に置き換えたり、補色に置き換えたりする。また、例えば、視差画像生成部1353は、座標だけでなく、受付部1351により受け付けられた座標に加えてその座標の周辺の画素についても、ボクセルの色を所定の色に置き換えたり、補色に置き換えたりする。また、例えば、視差画像生成部1353は、受付部1351により受け付けられた座標を示すポインタを更に表示させるようにしても良い。
ここで、視差画像生成部1353は、時系列上における同一の時間に対応付けて複数の座標が受付部1351によって受け付けられると、それらの座標が互いに近すぎて立体画像上で個別に表示できない場合が想定される。そこで、このような場合には、複数の座標が個別に表示できるか否かを判定する。例えば、視差画像生成部1353は、複数の座標が所定の距離内にある否かを判定する。そして、視差画像生成部1353は、近すぎて個別に表示できないと判定した場合には、複数の座標が分離して表示されるように表示条件が変更された立体画像を表示するための視差画像を生成する。例えば、視差画像生成部1353は、所定の角度回転させた立体画像を表示するための視差画像を生成したり、スケーリングが変更された立体画像を表示するための視差画像を生成したり、視差角が変更された立体画像を表示するための視差画像を生成したりする。
図9−1及び図9−2は、第1の実施形態における視差画像生成部について説明するための図である。図9−1及び図9−2に示す例では、立体画像内に示した平面11は、ボリュームデータのxy平面を示し、平面12は、ボリュームデータのyz平面を示し、平面13は、ボリュームデータのzx平面を示す。また、3つの座標302、座標303、及び座標304の3つの座標が設定された場合を用いて説明する。図9−1や図9−2に示す例では、座標間を結ぶ直線を併せて示した。ここで、3つの座標302〜304各々は、説明の便宜上、平面12上にある場合を用いて説明する。言い換えると、3つの座標302〜304各々のボリュームデータにおけるx軸上の値が、同一の値となる場合を用いて説明する。また、説明の便宜上、座標302と座標303とは、ボリュームデータにおけるy軸上の値が同一である場合を用いて説明する。図9−1及び図9−2に示す例では、立体画像301内に、ボリュームデータにおけるxyz軸を併せて示した。図9−1及び図9−2に示す例では、利用者の視点を目で示し、視線方向を矢印で示した。説明の便宜上、図9−1や図9−2に示す例では、太線で示した面14が、利用者の視線方向と垂直な平面となるものとして説明する。
ここで、図9−1に示す例では、視差画像生成部1353は、座標302と座標303と座標304とが、ある位置から見た場合にその視線方向と垂直な平面上に投影された位置が所定の距離内に位置するか否かを判定する。図9−1に示す例では、座標302と座標303とは、ボリュームデータ内におけるx軸の値が同一の値となり、y軸における値もまた同一となる。この結果、図9−1に示す立体画像では、座標302と座標303とでは、利用者の視線方向と垂直な平面となる平面14上に投影された位置が重なることとなる。この場合、視差画像生成部1353は、座標302と座標303とについて、所定の距離内に位置すると判定し、図9−2に示すように、任意の方向に回転させた立体画像を表示するための視差画像を生成する。
ここで、図9―1における立体画像と、図9−2における立体画像との関係の一例について簡単に説明する。図10は、第1の実施形態における回転前後における立体画像の一例について示す図である。図10の視点A1〜A3は、図9―1の立体画像に対応し、図10の視点B1〜B3は、図9―2の立体画像に対応するものとして説明する。図10に示すように、視差画像生成部1353は、ある位置から見た場合にその視線方向と垂直な平面上に投影された位置が所定の距離以下となると、例えば、現在表示されている視差画像各々と比較して、視点の位置が水平方向に移動している視差画像各々を生成することで、水平方向に回転された立体画像を表示するための視差画像を生成する。なお、図10に示す例では、説明の便宜上、視差画像が3枚あり、視点の位置が3つとなる場合を示したが、これに限定されるものではない。例えば、9視差の立体画像を利用者に表示する場合には、視差画像は9枚となり、視点の位置も9つとなる。
ここで、所定の距離以下に位置するか否かを判定する処理について補足する。視差画像生成部1353は、例えば、視差画像上における座標間の距離を算出し、算出した距離が所定の距離内となるか否かを判定する。言い換えると、視差画像生成部1353は、3次元ボリュームデータにおける二つの座標間の距離を算出するのではなく、視差画像上の2次元の平面における二つの座標間距離を算出し、算出した距離に基づいて判定を行う。すなわち、視差画像生成部1353は、所定の距離内に位置するか否かを判定することで、複数の座標が互いに近すぎて個別に表示できないか否かを判定する。ここで、複数の座標が互いに近すぎて個別に表示できないか否かを判定する上では、利用者から見た立体画像における奥行き方向の距離ではなく、ある位置から見た場合にその視線方向と垂直な平面上における距離が重要となる。このことを踏まえ、視差画像生成部1353は、例えば、判定対象となる二つの座標を、ある位置から見た場合にその視線方向と垂直な平面上に投影し、この平面上に投影された二つの位置間の距離を算出して用いることで、複数の座標が互いに近すぎて個別に表示できないか否を簡単に判定することが可能となる。
出力部1354は、視差画像生成部1353により生成された視差画像を表示することで、受け付けられた座標が他の部分と区別可能となる立体画像を表示するとともに、受け付けられた座標と関連付けて取得部1352により取得された複数の特徴値を出力する。
具体的には、出力部1354は、視差画像生成部1353により生成された視差画像を端末装置140に出力することで、受付部1351により受け付けられた座標が他の部分と区別可能となる立体画像を端末装置140に表示させる。また、出力部1354は、立体画像が表示されている端末装置140、又は、別の端末装置140に時系列に沿った複数の特徴値を出力することで、立体画像と併せて時系列に沿った複数の特徴値を表示させる。
すなわち、出力部1354が、取得部1352により取得された時系列に沿った複数の特徴値を出力することで、意図した通りの場所に座標が設定されたかを利用者が確認可能となる。例えば、出力部1354は、利用者に指定された座標についてのTDC(Time Density Curve)を出力する。その後、利用者は、意図した通りの場所に座標が設定された場合に得られることが想定される値の範囲外にTDCの値がある場合には、座標の設定が誤っていると判断し、例えば、座標を変更することになる。また、同様に、利用者は、意図した通りの場所に座標が設定された場合に得られることが想定される値の範囲内にTDCの値がある場合には、座標が正しく設定されたと判断することになる。
以下では、説明の便宜上、立体画像を表示するための視差画像と時系列に沿った複数の特徴値とを同一の端末装置140に出力する場合を用いて説明する。ただし、これに限定されるものではなく、出力部1354は、立体画像を表示するための視差画像と時系列に沿った複数の特徴値とを別の端末装置140に出力しても良い。また、出力部1354は、時系列に沿った複数の特徴値そのものを出力しても良く、時系列に沿った複数の特徴値の変化を示すグラフとして出力しても良い。また、出力部1354は、グラフとして出力する場合には、時系列に沿った複数の特徴値の変化を示す画像データの表として出力しても良い。
また、出力部1354は、立体画像を表示するための視差画像と時系列に沿った複数の特徴値とを画像データとして端末装置140に出力しても良く、立体画像を表示するための視差画像と時系列に沿った複数の特徴値とを併せて映像データとして出力しても良い。立体画像を表示するための視差画像と時系列に沿った複数の特徴値とを画像データとして端末装置140に出力する場合について説明する。この場合、後述する端末装置140の制御部が、受信した視差画像と時系列に沿った複数の特徴値とを表示部から表示するよう制御することで、時系列に沿った複数の特徴値と立体画像とが併せて表示される。立体画像を表示するための視差画像と時系列に沿った複数の特徴値とを併せて映像データとして出力する場合について説明する。この場合、端末装置140の制御部が、受信した映像データを表示することで、視差画像と時系列に沿った複数の特徴値とが表示部から表示される結果、立体画像と時系列に沿った複数の特徴値とが併せて表示される。
図11は、第1の実施形態における出力部により出力される結果、端末装置にて表示される立体画像と時系列に沿った複数の特徴値との一例を示す図である。図11に示す例では、出力部1354による出力の結果、端末装置140の表示部が、立体画像301と併せて、表305〜表307を表示する。表305〜表307は、それぞれ、座標302〜座標304における時系列に沿った複数の特徴値を示す。なお、図11に示す表305〜307は、例えば、脳の機能解析を行う際に用いられる入力情報となる。
なお、図11に示す例では、時系列に沿った複数の特徴値をグラフとして出力する場合を示したが、これに限定されるものではなく、任意の手法にて出力して良い。例えば、特徴値のデータをリストとして出力しても良い。また、時系列に沿った複数の特徴値をグラフとして出力する場合、出力部1354がグラフとして出力しても良く、端末装置140にて表に変換した上でグラフとして表示しても良い。
また、出力部1354により出力される複数の特徴値各々は、それぞれ、4Dのボリュームデータにおける時間と関連づけられた形で出力される。例えば、出力部1354は、複数の特徴値各々について、4Dのボリュームデータにおける時間を示す情報と対応付けた上で出力する。
また、図11に示すように、端末装置140は、時系列に沿った複数の特徴値をグラフとして出力するとともに、表示されている立体画像301に対応する時間を併せて表示しても良い。図11に示す例では、時間を示す位相選択バー308を併せて示した。言い換えると、図11に示す例では、位相選択バー308により示される時間における立体画像が、立体画像301となる。
ここで、表示されている立体画像301に対応する時間の出力手法について簡単に補足する。表示されている立体画像301に対応する時間は、図11に示すように、時系列に沿った複数の特徴値と併せて表示しする場合に限定されず、任意の手法にて表示して良い。例えば、時系列に沿った複数の特徴値とは分けて表示しても良い。
また、図11に示すように、時系列に沿った複数の立体画像を連続して表示する指示を受け付けるアイコン309を併せて表示しても良い。この場合、アイコン309が利用者により操作されると、端末装置140の表示部では、時系列上における複数の立体画像が連続して表示されるとともに、位相選択バー308が立体画像301に対応して表305〜307の時間軸上を移動する。
また、図11に示すように、時系列に沿った複数の立体画像を連続して表示する指示を受け付けるアイコン309を併せて表示しても良い。この場合、アイコン309が利用者により操作されると、端末装置140の表示部では、時系列上における複数の立体画像が連続して表示されるとともに、位相選択バー308が立体画像301に対応して表305〜307の時間軸上を移動する。
(第1の実施形態による処理)
図12を用いて、第1の実施形態に係るワークステーション130による処理の流れの一例を示す。図12は、第1の実施形態に係るワークステーションによる処理の流れの一例を示すフローチャートである。
図12に示すように、ワークステーション130や端末装置140に表示されている被検体の立体画像における座標の設定を受け付けると(ステップS101肯定)、取得部1352が、受け付けた座標における時系列に沿った複数の特徴値を画像保管装置120に記憶された時系列に沿った複数のボリュームデータから座標と関連付けて取得する(ステップS102)。例えば、座標「A」が設定された場合には、座標「A」についての時系列に沿った複数の特徴値を取得する。
そして、視差画像生成部1353は、画像保管装置120に記憶された被検体のボリュームデータに基づいて、受付部1351により受け付けられた座標が表示された立体画像を表示するための視差画像を生成する(ステップS103)。例えば、視差画像生成部1353は、座標として設定された座標が表示された立体画像を表示するための視差画像を生成する。
そして、出力部1354は、時系列に沿った複数の特徴値を出力する(ステップS104)。具体的には、出力部1354は、時系列に沿った複数の特徴値に加えて、視差画像生成部1353により生成された視差画像を出力する。すなわち、出力部1354は、立体画像と併せて、時系列に沿った複数の特徴値を表示させる。
なお、上記の処理手順は、上記の順番に限定されるものではなく、処理内容を矛盾させない範囲で適宜変更しても良い。例えば、上記のステップS103を実行しなくても良い。この場合、端末装置140に表示されている立体画像と併せて、時系列に沿った複数の特徴値が表示されることになる。
(第1の実施形態による効果)
上述したように、第1の実施形態によれば、ワークステーション130や端末装置140に表示されている被検体の立体画像における座標の設定を受け付け、受け付けられた座標における時系列に沿った複数の特徴値を、画像保管装置120に記憶された時系列に沿った複数のボリュームデータから座標と関連付けて取得する。そして、第1の実施形態によれば、取得した時系列に沿った複数の特徴値を出力する。また、第1の実施形態によれば、受付部1351により受け付けられた座標が他の部分と区別可能となる時系列に沿った複数の立体画像を表示するための視差画像を生成し、生成した視差画像を表示装置から表示することで、座標が他の部分と区別可能となる立体画像を表示するとともに、座標と関連付けて取得部1352により取得された複数の特徴値を出力する。この結果、立体画像についての定量的な情報を簡単に把握することが可能となる。
すなわち、立体画像では、視覚的に病変位置を特定するには有効だが、定量的な情報を抽出するのが困難となる場合があることを踏まえ、立体画像において設定された座標についての特徴値を画像保管装置120から取得して表示することで、定量的な情報を簡単に把握可能となる。この結果、例えば、定量的な情報として得られる特徴値の妥当性を利用者が確認することで、意図した通りの場所に座標が設定されたかを利用者が確認可能となる。
また、第1の実施形態によれば、立体画像を表示している端末装置140、又は、別の表示装置に平面画像を出力することで、立体画像と併せて平面画像を表示させる。この結果、利用者は、立体画像と併せて平面画像を見ることが可能となる。
また、第1の実施形態によれば、画像保管装置120に記憶されたボリュームデータに基づいて、座標が表示された時系列に沿った複数の立体画像を表示するための視差画像を生成する。そして、第1の実施形態によれば、視差画像を立体画像表示装置に出力することで、座標が表示された立体画像を表示させる。この結果、立体画像についての定量的な情報を簡単に把握しつつ、座標の立体的な位置についても併せて把握することが可能となる。
また、第1の実施形態によれば、端末装置140に表示されている立体画像に対応する時系列上における時間を出力することで、複数の特徴値又は立体画像と併せて時間を表示させる。この結果、時系列上におけるいずれの時点における立体画像であるかを把握可能となる。
また、第1の実施形態によれば、時系列上における同一の時間に対応付けて複数の座標が受け付けられると、複数の座標が互いに近すぎて個別に表示できないか否かを判定し、互いに近すぎて個別に表示できないと判定した場合に、所定の角度回転させた立体画像を表示するための視差画像を生成する。この結果、複数ある座標それぞれを立体画像において確認可能となる。
(第2の実施形態)
さて、上述した実施形態以外にも、その他の実施形態にて実施されても良い。そこで、以下では、その他の実施形態を示す。
(時間変更)
例えば、受付部1351は、時間を変更する操作を更に受け付け、出力部1354が、受付部1351により受け付けられた変更後の時間に対応する立体画像を表示するための視差画像を出力しても良い。例えば、図11を用いて説明すると、受付部1351が、位相選択バー308を移動する操作が行われた旨の情報を端末装置140から受け付けると、出力部1354は、変更後の位相選択バー308により示される時間における立体画像を表示するための視差画像を出力する。
なお、上述した説明では、出力部1354が、変更後の位相選択バー308により示される時間における立体画像を表示するための視差画像を出力する場合を用いて説明したが、これに限定されるものではない。例えば、時系列に沿った複数の立体画像が既に端末装置140に出力済みであり、端末装置140が複数の立体画像を保有している場合には、端末装置140の制御部が、出力部1354による出力を待つことなく、変更後の位相選択バー308により示される時間における立体画像を表示するための視差画像を表示するようにしても良い。
(表示条件の変更)
また、視差画像生成部1353は、受付部1351により表示条件を変更する変更指示が受け付けられると、変更指示が反映された立体画像を表示するための視差画像を生成する。例えば、視差画像生成部1353は、受付部1351により回転指示が受け付けられると、回転が行われた立体画像を表示するための視差画像を生成する。この結果、利用者が、設定したい領域や座標を簡単に設定可能となる。
(時間軸の調整)
また、例えば、時系列に沿った複数の特徴値をグラフとして出力する場合に、表の時間軸を、画像保管装置120に記憶された時系列に沿った複数のボリュームデータのサンプリング間隔に併せて調整しても良い。
図13は、表の時間軸をボリュームデータのサンプリング間隔とする場合について示す図である。図13に示すように、出力部1354は、取得部1352により画像保管装置120から取得された特徴値各々を等間隔にて配置した表を出力するのではなく、ボリュームデータのサンプリング間隔に併せて配置した表を出力しても良い。
(領域の設定)
また、上述の実施形態では、受付部1351が、座標の設定を受け付ける場合を用いて説明したが、これに限定されるものではなく、複数の座標を含む領域の設定を受け付けても良い。例えば、受付部1351は、任意の断面の設定を受け付けても良く、任意の断面上にある任意の部分の設定を受け付けても良い。この場合、取得部1352は、例えば、領域に含まれる複数の座標各々について特徴値を取得する。そして、出力部1354は、取得部1352により取得された特徴値各々の平均値や最大値、最小値の時系列に沿った値を出力する。
(立体画像の回転)
また、例えば、複数の座標を含む領域の設定を受け付けた場合に、視差画像生成部1353は、領域を形成する部分領域各々において、他の部分領域と互いに近すぎて個別に表示できない部分領域があるか否かを判定し、あると判定した場合に、所定の角度回転させた立体画像を表示するための視差画像を生成しても良い。この結果、複数の領域を効率良く利用者に表示することが可能となる。
(立体画像を回転させる画像処理装置)
また、例えば、上述した実施形態によれば、時系列に沿った複数の特徴値をボリュームデータから座標と関連付けて取得する場合について説明したが、これに限定されるものではない。例えば、複数の特徴値を取得することなく、座標が所定の距離内に位置するか否かを判定し、あると判定した場合に回転させた立体画像を表示する場合であっても良い。
例えば、図15は、座標が所定の距離内に位置するか否かを判定し、あると判定した場合に回転させた立体画像を表示するワークステーションの制御部の構成の一例を示す図である。図15に示す例では、制御部400は、受付部401と、視差画像生成部402と、表示部403とを有する。受付部401は、立体表示されている被検体の立体画像において、時系列上における同一の時間に対応付けて複数の座標の設定を受け付ける。また、視差画像生成部402は、受付部401により受け付けられた複数の座標が所定の距離内に位置するか否かを判定し、位置すると判定した場合に、所定の記憶装置に記憶されたボリュームデータに基づいて所定の角度回転させた立体画像を表示するための視差画像を生成する。表示部403は、視差画像生成部402により生成された視差画像を表示装置から表示することで、所定の角度回転させた立体画像を利用者に表示する。
この結果、複数の座標が互いに隠れることなく、利用者が複数の座標を確実に一度に視認することが可能となる。
また、ワークステーションの制御部400では、視差画像生成部402は、更に、複数の座標それぞれが他の部分と区別可能となる立体画像を表示するための視差画像を生成しても良い。また、制御部400では、受付部401が、立体画像を回転する旨の回転指示を更に受け付け、視差画像生成部402が、受付部401により回転指示が受け付けられると、回転が行われた立体画像を表示するための視差画像を生成しても良い。また、上述した一連の処理は、制御部400が実行する場合に限定されるものではなく、任意の装置が実行しても良い。例えば、図1に示す例では、医用画像診断装置110が実行しても良く、端末装置140が実行しても良い。
(時間毎に異なる座標の設定)
例えば、受付部1351は、時系列上における時間と対応付けて座標の設定を受け付けても良い。具体的には、受付部1351は、画像保管装置120に記憶されたボリュームデータの時系列上における時間と対応付けて、座標の設定を受け付けても良い。例えば、受付部1351は、ボリュームデータの時系列が「1s」から「10s」である場合に、「1s」から「5s」と対応付けて座標「A」の設定を受け付け、「6s」と対応付けて座標「B」の設定を受け付け、「7s」〜「10s」と対応付けて座標「C」の設定を受け付けても良い。また、受付部1351は、時系列上における同一の時間に対応付けて、一つ又は複数の座標の設定を受け付けても良い。
図14は、時系列上における時間ごとに異なる座標が設定された場合に表示されるデータの一例を示す図である。血管のTDCを描きたい場合に、拍動や体動などの影響で血管が動いた場合でもその動きに追随して特徴値を抽出できるようにするため、以下の処理が実行される。図14に示す例では、立体画像311において、まず、座標312が指定されると、取得部1352が、座標312における全期間のデータのTDCを取得し、出力部1354が、取得部1352により取得されたTDCを表示する。その後、例えば、座標313が「3s〜6s」と対応付けて設定されると、取得部1352は、「3s〜6s」における座標313のデータを取得し、座標312について取得したTDCのうち、「3s〜6s」についてのデータを取得した座標313のデータに置き換えたり、「3s」以降のデータを取得した座標313のデータに置き換えたりする。そして、出力部1354は、取得部1352によりデータが置き換えられたTDCを表示する。その後、更に、座標314が「6s〜9s」と対応付けて設定されると、取得部1352は、「6〜9s」についてのデータを取得し、座標312や座標313について取得したTDCのうち、「6s〜9s」についてのデータを取得した座標314のデータに置き換えたり、「6s」以降のデータを取得した座標314についてのデータと置き換えたりする。
この結果、図14の(2)に示すように、時系列に沿った複数の特徴値として、端末装置140は、「1s〜3s」についての特徴値として座標312についての特徴値を表示し、「3s〜6s」についての特徴値として座標313についての特徴値として表示し、「6s以降」についての特徴値としてとして座標314についての特徴値を表示する。
また、この場合、図14の(1)に示すように、端末装置140は、「1s〜3s」についての立体画像では座標312が表示され、「3s〜6s」についての立体画像では座標313が表示され、「6s以降」についての立体画像では座標314が表示される。なお、別の座標が指定された場合に実行する上述の処理は一例であり、これに限定されるものではない。例えば、制御部135は、座標312に加えて他の座標が指定された場合には、他の座標についても全期間のデータを取得し、取得した他の座標についてのTDCを同じ表内や別の表として表示しても良い。
このように、座標の設定を時系列上における時間と対応付けて受け付け、時系列上における時間ごとに、時間に対応付けられた座標が表示された立体画像を表示するための視差画像を生成する結果、時間ごとに座標が変わったとしても、一連の座標についての定量的な情報を簡単に把握可能となる。
(システム構成)
また、本実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上述文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報(図1〜図15)については、特記する場合を除いて任意に変更することができる。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。例えば、ワークステーション130の制御部135をワークステーション130の外部装置としてネットワーク経由で接続するようにしても良い。
(その他)
なお、本実施形態で説明した画像処理プログラムは、インターネットなどのネットワークを介して配布することができる。また、画像処理プログラムは、ハードディスク、フレキシブルディスク(FD)、CD−ROM、MO、DVD、ブルーレイなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することもできる。
(実施形態の効果)
以上述べた少なくとも一つの実施形態の画像処理装置によれば、立体表示されている被検体の立体画像における座標の設定を受け付け、受け付けた座標に相当する平面画像をボリュームデータに基づいて生成し、生成した平面画像を出力することで、立体画像における位置関係を把握することが可能となる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
110 医用画像診断装置
120 画像保管装置
130 ワークステーション
135 制御部
1351 受付部
1352 取得部
1353 視差画像生成部
1354 出力部
140 端末装置

Claims (11)

  1. 立体表示されている被検体の立体画像において、時系列上における同一の時間に対応付けて複数の座標の設定を受け付ける受付部と、
    前記受付部により受け付けられた複数の座標を利用者の視線方向と交差する平面上に投影し、前記平面上に投影された複数の座標が所定の距離内に位置するか否かを判定し、位置すると判定した場合に、所定の記憶装置に記憶されたボリュームデータに基づいて該複数の座標が分離して表示されるように表示条件が変更された立体画像を表示するための視差画像を生成する視差画像生成部と、
    前記視差画像生成部により生成された視差画像を表示装置に出力することで、前記表示条件が変更された立体画像を該表示装置に表示させる出力部と
    備えたことを特徴とする画像処理装置。
  2. 前記受付部は、前記立体画像の表示条件を変更する変更指示を更に受け付け、
    視差画像生成部は、前記受付部により前記変更指示が受け付けられると、該変更指示が反映された前記立体画像を表示するための視差画像を生成することを特徴とする請求項1に記載の画像処理装置。
  3. 前記受付部により受け付けられた前記座標における時系列に沿った複数の特徴値を、所定の記憶装置に記憶された時系列に沿った複数のボリュームデータから該座標と関連付けて取得する取得部を更に備え、
    前記出力部は、前記表示条件が変更された前記立体画像を前記表示装置に出力するとともに、前記座標と関連付けて前記取得部により取得された複数の特徴値を出力することを特徴とする請求項1又は2に画像処理装置。
  4. 前記出力部は、前記立体画像が表示されている前記表示装置、又は、該立体画像が表示されている前記表示装置とは別の表示装置に平面画像を出力することで、前記立体画像と併せて前記時系列に沿った複数の特徴値を表示させることを特徴とする請求項3に記載の画像処理装置。
  5. 前記受付部は、前記複数の座標の設定を、前記時系列上における時間ごとに、該時間に対応付けて受け付け、
    前記視差画像生成部は、前記時系列上における時間ごとに、前記受付部により受け付けられた複数の座標を前記平面上に投影し、前記平面上に投影された複数の座標が所定の距離内に位置するか否かを判定し、位置すると判定した場合に、前記ボリュームデータに基づいて、該複数の座標が分離して表示されるように表示条件が変更された立体画像を表示するための視差画像を生成することを特徴とする請求項1〜4のいずれか一つに記載の画像処理装置。
  6. 前記出力部は、立体表示されている立体画像に対応する前記時系列上における時間を出力することで、前記複数の特徴値又は前記立体画像と併せて該時間を表示させることを特徴とする請求項3又は4に記載の画像処理装置。
  7. 前記受付部は、前記出力部により出力された時間を変更する操作を更に受け付け、
    前記出力部は、前記受付部により受け付けられた変更後の時間に対応する立体画像を表示するための視差画像を出力することを特徴とする請求項6に記載の画像処理装置。
  8. 前記視差画像生成部は、前記受付部により受け付けられた前記座標の画素、又は、前記受付部により受け付けられた前記座標の画素及び該座標から所定の距離内にある座標の画素を、所定の色に置き換えた前記立体画像を表示するための視差画像を生成することを特徴とする請求項1〜7のいずれか一つに記載の画像処理装置。
  9. 前記視差画像生成部は、前記受付部により受け付けられた前記座標を示すポインタが表示される前記立体画像を表示するための視差画像を生成することを特徴とする請求項1〜8のいずれか一つに記載の画像処理装置。
  10. 立体表示されている被検体の立体画像において、時系列上における同一の時間に対応付けて複数の座標の設定を受け付ける受付工程と、
    前記受付工程により受け付けられた複数の座標を利用者の視線方向と交差する平面上に投影し、前記平面上に投影された複数の座標が所定の距離内に位置するか否かを判定し、位置すると判定した場合に、該複数の座標が分離して表示されるように表示条件が変更された立体画像を表示するための視差画像を生成する視差画像生成工程と、
    前記視差画像生成工程により生成された視差画像を表示装置に出力することで、前記表示条件が変更された立体画像を該表示装置に表示させる表示工程と
    を含んだことを特徴とする画像処理方法。
  11. 立体表示されている被検体の立体画像において、時系列上における同一の時間に対応付けて複数の座標の設定を受け付ける受付部と、
    前記受付部により受け付けられた複数の座標を利用者の視線方向と交差する平面上に投影し、前記平面上に投影された複数の座標が所定の距離内に位置するか否かを判定し、位置すると判定した場合に、所定の記憶装置に記憶されたボリュームデータに基づいて該複数の座標が分離して表示されるように表示条件が変更された立体画像を表示するための視差画像を生成する視差画像生成部と、
    前記視差画像生成部により生成された視差画像を表示装置に出力することで、前記表示条件が変更された立体画像を該表示装置に表示させる出力部と
    を備えたことを特徴とする医用画像診断装置。
JP2015096778A 2015-05-11 2015-05-11 画像処理装置、画像処理方法及び医用画像診断装置 Expired - Fee Related JP6104982B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015096778A JP6104982B2 (ja) 2015-05-11 2015-05-11 画像処理装置、画像処理方法及び医用画像診断装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015096778A JP6104982B2 (ja) 2015-05-11 2015-05-11 画像処理装置、画像処理方法及び医用画像診断装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2011148594A Division JP2013017056A (ja) 2011-07-04 2011-07-04 画像処理装置、画像処理方法及び医用画像診断装置

Publications (2)

Publication Number Publication Date
JP2015201853A JP2015201853A (ja) 2015-11-12
JP6104982B2 true JP6104982B2 (ja) 2017-03-29

Family

ID=54552734

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015096778A Expired - Fee Related JP6104982B2 (ja) 2015-05-11 2015-05-11 画像処理装置、画像処理方法及び医用画像診断装置

Country Status (1)

Country Link
JP (1) JP6104982B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11229861B2 (en) 2017-04-13 2022-01-25 Airrat Pty Ltd Sludge harvester improvements

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001042259A (ja) * 1999-08-04 2001-02-16 Hitachi Medical Corp 医用画像表示装置
JP4342784B2 (ja) * 2002-09-27 2009-10-14 ザイオソフト株式会社 分岐体のcpr画像表示処理方法、分岐体のcpr画像表示処理装置及びプログラム
JP2006101329A (ja) * 2004-09-30 2006-04-13 Kddi Corp 立体視画像観察装置ならびにその共有サーバ、クライアント端末およびピア・ツー・ピア端末、レンダリング画像生成方法および立体視画像表示方法ならびにそのプログラムおよび記憶媒体
JP5537072B2 (ja) * 2009-06-11 2014-07-02 株式会社東芝 医用画像表示装置およびx線ct装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11229861B2 (en) 2017-04-13 2022-01-25 Airrat Pty Ltd Sludge harvester improvements

Also Published As

Publication number Publication date
JP2015201853A (ja) 2015-11-12

Similar Documents

Publication Publication Date Title
JP6211764B2 (ja) 画像処理システム及び方法
JP6058306B2 (ja) 画像処理システム、装置、方法及び医用画像診断装置
JP5808146B2 (ja) 画像処理システム、装置及び方法
JP6005905B2 (ja) 画像処理システム、画像処理装置及び画像処理方法
JP5972533B2 (ja) 画像処理システム及び方法
JP2013005052A (ja) 画像処理システム、装置、方法及びプログラム
JP6430149B2 (ja) 医用画像処理装置
JP5797485B2 (ja) 画像処理装置、画像処理方法及び医用画像診断装置
JP5173053B2 (ja) 画像処理システム、装置、方法及び医用画像診断装置
JP5804760B2 (ja) 画像処理システム及び方法
JP6058301B2 (ja) 画像処理装置、画像処理方法及び医用画像診断装置
JP6017124B2 (ja) 画像処理システム、画像処理装置、医用画像診断装置、画像処理方法及び画像処理プログラム
JP6104982B2 (ja) 画像処理装置、画像処理方法及び医用画像診断装置
JP6005913B2 (ja) 報知装置、報知方法及び医用画像診断装置
JP2013017056A (ja) 画像処理装置、画像処理方法及び医用画像診断装置
JP5974235B2 (ja) 画像処理装置、画像処理方法、画像処理システム及び医用画像診断装置
JP5835975B2 (ja) 画像処理システム、装置、方法及び医用画像診断装置
JP5813986B2 (ja) 画像処理システム、装置、方法及びプログラム
JP2012244420A (ja) 画像処理システム、装置及び方法
JP5868051B2 (ja) 画像処理装置、画像処理方法、画像処理システム及び医用画像診断装置
JP2013013552A (ja) 医用画像診断装置、医用画像処理装置及び方法
JP2013022247A (ja) 画像処理システム、装置、方法及び医用画像診断装置

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20151102

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160513

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160621

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160819

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20160928

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20161021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170131

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170301

R150 Certificate of patent or registration of utility model

Ref document number: 6104982

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees