JP6862516B2 - 医用画像表示装置、医用画像表示方法、およびプログラム - Google Patents

医用画像表示装置、医用画像表示方法、およびプログラム Download PDF

Info

Publication number
JP6862516B2
JP6862516B2 JP2019163444A JP2019163444A JP6862516B2 JP 6862516 B2 JP6862516 B2 JP 6862516B2 JP 2019163444 A JP2019163444 A JP 2019163444A JP 2019163444 A JP2019163444 A JP 2019163444A JP 6862516 B2 JP6862516 B2 JP 6862516B2
Authority
JP
Japan
Prior art keywords
image
medical image
medical
thumbnail
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019163444A
Other languages
English (en)
Other versions
JP2020062382A (ja
Inventor
岳人 青山
岳人 青山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2020062382A publication Critical patent/JP2020062382A/ja
Application granted granted Critical
Publication of JP6862516B2 publication Critical patent/JP6862516B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)
  • Processing Or Creating Images (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、医用画像表示装置、医用画像表示方法、およびプログラムに関する。
多様な医用画像が診療に活用されており、診療に供する医用画像にさらに画像処理を施した加工画像も多く用いられている。かかる診療は、作成した加工画像も含め、関連する複数の医用画像を医用画像表示装置に表示させて行われる。加工画像を含む複数の医用画像を比較して診療を行う際、医用画像表示装置の表示領域において、適切な表示形態で医用画像を表示させることが好ましい。
特許文献1には、医用画像と対応するプレビュー画像を選択してテンプレート領域に移動する操作により、テンプレートに応じた割り付けで医用画像を表示させることが開示されている。
特開2014−104099号公報
関連する複数の医用画像のそれぞれを表示領域の所望の位置に表示するためには、複数の医用画像のそれぞれに対して表示選択の操作を行う必要がある。これは、ユーザにとって手間のかかる操作であるおそれがある。
本発明の実施形態に係る医用画像表示装置は、サムネイル表示領域に表示されているサムネイルを用いて、医用画像表示領域に表示する医用画像を指定する指定手段と、前記サムネイルに対応付いている画像が医用画像に画像処理を施した所定の加工画像であるか否かを示す情報に基づいて、前記指定手段により指定された医用画像の前記医用画像表示領域における配置を決定する配置決定手段と、前記指定手段により指定された医用画像が、前記所定の加工画像である場合、前所定の加工画像の作成に用いられた医用画像に関する情報を取得し、前記配置決定手段によって決定された前記配置で前記所定の加工画像および前記取得した医用画像を表示可能に出力する表示出力手段と、を有することを特徴とする。
これにより、一つ一つの医用画像に対して操作を行わなくても、関連する複数の医用画像を表示領域に表示させる形態を決定することができる。
本発明の第一の実施形態に係る医用画像表示システムのブロック図である。 本発明の第一の実施形態に係る処理を示すフローチャートである。 本発明の第一の実施形態に係る処理における表示の第一の例を示す図である。 医用画像表示領域が複数の領域に分割された例を示す図である。 第一の実施形態に係る処理における表示の第二の例を示す図である。 サムネイルの例を示す図である。 関連画像情報と表示形態の対応の例を示す図である。 表示形態と関連画像情報と表示位置の対応の例を示す図である。 本発明の第二の実施形態に係る医用画像表示システムのブロック図である。 本発明の第二の実施形態に係る処理を示すフローチャートである。 一つの選択前分割領域が複数の領域に分割された例を示す図である。 本発明の第二の実施形態に係る処理における表示の例を示す図である。 複数の領域に分割された選択前分割領域の一つの領域を拡大した場合の例を示す図である。 複数の領域に分割された選択前分割領域を拡大した場合の例を示す図である。 本発明の第三の実施形態に係る医用画像表示システムのブロック図である。 本発明の第三の実施形態に係る処理を示すフローチャートである。 本発明の第三の実施形態に係る処理における表示の第一の例を示す図である。 本発明の第三の実施形態に係る処理における表示の第二の例を示す図である。 特定条件下における加工画像種別情報と表示形態の対応の例を示す図である。 特定条件下における加工画像種別情報と表示位置の対応の例を示す図である。 本発明の第三の実施形態に係る処理における表示の第三の例を示す図である。
以下に、図面を参照しながら、本発明を実施するための形態(実施形態)について説明する。
図1は、本発明の第一の実施形態に係る医用画像表示システムのブロック図である。医用画像表示システムは、医用画像表示装置10(以下、表示装置10と称する)とデータベース22を含む。表示装置10とデータベース22は、通信手段を介して互いに通信可能に接続されている。本実施形態においては、通信手段はLAN(Local AreaNetwork)21で構成される。
データベース22は、医用画像などの検査情報を管理する。表示装置10は、データベース22で管理された医用画像を、LAN21を介して取得する。データベース22は、例えばPACS(Picture Archiving and Communication System)サーバである。
表示装置10は、その機能的な構成として、通信IF31、ROM32、RAM33、記憶部34、操作部35、表示部36、制御部37を具備する。
通信IF(Interface)31は、例えばLANカードで実現され、LAN21を介したデータベース22といった外部装置と表示装置10との間の通信を司る。ROM(Read Only Memory)32は、不揮発性のメモリで実現され、各種プログラム等を記憶する。RAM(Random Access Memory)33は、揮発性のメモリで実現され、各種情報を一時的に記憶する。記憶部34は、例えばHDD(Hard Disk Drive)で実現され、各種情報を記憶する。操作部35は、例えばキーボードやマウスで実現され、ユーザからの指示を制御部37に入力する。表示部36は、例えばディスプレイで実現され、各種情報を表示する。制御部37は、例えばCPU(Central Processing Unit)で実現され、表示装置10における処理を統括制御する。制御部37には、その機能的な構成として、加工画像作成部40、関連画像情報作成部41、画像指定部42、配置決定部43、表示制御部44を有する。制御部37を構成する各部は、それぞれの機能を実現するためのプログラムをCPUに実行させる。
加工画像作成部40は、操作入力に従って加工画像を作成する。まず、画像指定部42により指定された、少なくとも一つの医用画像をデータベース22から読み出し記憶部34に保存する。次に、読み出した医用画像に対して画像処理を施し、少なくとも一つの加工画像を作成する。医用画像に画像処理を施した加工画像とは、例えば最大値投影法(MIP:maximum intensity projection)により作成されるMIP画像である。最大値投影画像すなわちMIP画像は、三次元画像の任意の視点方向の投影経路における最大値を投影面に表示することにより得られる。加工画像の別の例としては、経時的に異なる複数の医用画像に対する位置合わせ処理と画像間差分処理により作成される経時差分画像である。加工画像のまた別の例としては、最小値投影法(MInip:minimum intensity projection)により作成されるMInip画像がある。最小値投影画像すなわちMInip画像は、三次元画像の任意の視点方向の投影経路における最小値を投影面に表示することにより得られる。さらに、異なる複数の医用画像に対してαプレーンを用いた重ね合わせ処理により作成される重畳画像がある。重畳画像は、異なる複数の医用画像を重ね合わせて表示することにより得られる。そして、作成した少なくとも一つの加工画像を記憶部34へ保存する。また、加工画像情報を作成し前記加工画像と対応づけて記憶部34又はRAM33を介して関連画像情報作成部41へ出力する。加工画像情報の具体的な説明については後述する。以下では、医用画像に画像処理を施した加工画像も、医用画像として扱う。ここで加工画像とは、診断に供する医用画像を一又は複数用いて画像処理を施した画像である。診断に供する医用画像とは、医用画像を取得するための装置で取得された画像データを、診断に好適な医用画像を得るために、公知の画像処理等を施して得られる画像である。たとえば、CT(Computed Tomography)装置では被写体の全周で角度を変えながらX線を照射し、CT値とよばれる相対的なX線吸収係数値の一次元分布を画像データとして得る。その後、画像再構成とよばれる処理を施して、所望の断層面の各画素におけるX線吸収係数値を取得し、断層画像とよばれる医用画像を得る。加工画像とは、例えばCT装置による画像取得の時点が異なる複数の断層画像に対する位置合わせ処理と画像間差分処理により作成される経時差分画像である。
関連画像情報作成部41は、加工画像の作成に用いた医用画像と作成した加工画像のサムネイルと、各サムネイルにおける関連画像情報を作成する。関連画像情報の具体的な説明については後述する。そして、当該サムネイルと当該関連画像情報とを対応付ける。作成したサムネイルは表示制御部44を介して医用画像表示装置のサムネイル表示領域上に配置し、表示部36に表示する。また、作成した関連画像情報は、記憶部34又はRAM33を介して配置決定部43及び表示制御部44へ出力する。
画像指定部42は、観察対象とする医用画像をユーザの操作入力に応じて指定する。まず、ユーザが観察対象として表示したい医用画像を、例えば操作部35でサムネイルに対して操作入力を行うことにより選択する。当該選択を行うための操作入力具体的な方法については後述する。画像指定部42は、当該選択の操作入力を受けて、指定された当該医用画像の関連画像情報を配置決定部43に出力する。別の例では、画像指定部42は、加工画像作成部40で加工画像の作成に用いる医用画像を選択する操作入力を受けて、当該医用画像と当該操作によって加工画像作成部40で作成される加工画像の両方を観察対象とする医用画像として指定する。
配置決定部43は、画像指定部42が指定した医用画像に対応する関連画像情報を取得する。すなわち、ユーザが選択したサムネイルに対応付けられている関連画像情報を取得する。そして、取得した関連画像情報に基づいて、画像指定部42が指定した医用画像と、当該医用画像と関連する医用画像の医用画像表示領域上での配置を決定する。そして、決定した配置を表示制御部44へ出力する。
表示制御部44は、関連画像情報作成部41で作成された関連画像情報を利用して、画像指定部42が指定した医用画像と、当該医用画像と関連する医用画像を、通信IF31とLAN21を介してデータベース22から取得する。そして、取得した全ての医用画像を、配置決定部43によって決定された配置に合わせて医用画像表示領域上に配置し、表示部36に表示させる。
別の例として、予め加工画像が作成され、データベース22に記憶されている場合について説明する。加工画像の作成に用いられた医用画像に関する情報は、例えば加工画像がDICOM(Digital Imaging and Communicationsin Medicine)規格に則って作成されている場合には、DICOMヘッダ内に格納しておくようにする。別のファイルとして、当該加工画像と対応付けて記憶しておいてもよい。このとき画像指定部42は観察対象とする医用画像を選択する操作入力を受けて、通信IF31を介してデータベース22に記憶されている当該医用画像を指定する。配置決定部43は、例えばDICOMヘッダに格納された内容から関連画像情報を取得し、当該医用画像と、関連する医用画像の医用画像表示領域上での配置を決定する。たとえば、ある加工画像が画像指定部42により指定された場合、配置決定部43はDICOMヘッダ内に格納されている元画像の情報すなわち関連画像情報を取得する。取得した関連画像情報に基づいて、配置決定部43により当該加工画像と、関連する医用画像の配置が決定される。決定された配置により、当該加工画像と、関連する医用画像は表示制御部44を介して表示部36に表示される。
なお、制御部37が有する各部の少なくとも一部を独立した装置として実現してもよい。また、各部の機能を実現するソフトウェアとして実現してもよい。この場合、機能を実現するソフトウェアは、クラウドをはじめとするネットワークを介したサーバ上で動作してもよい。例えば、図1で制御部37が有する各部の機能を、PACSサーバであるデータベース22上で実現するようにする。表示制御部44がPACSサーバ上で動作する内容を、コンピュータ(不図示)のモニタに表示させる。前記コンピュータを介して加工画像作成に関する操作入力があり、通信IFを介して当該操作入力を受けて加工画像作成部40による処理と、関連画像情報作成部41による処理が行われる。前記コンピュータを介して、表示したい医用画像を選択する操作入力があり、通信IFを介して当該操作入力を受けて画像指定部42が当該医用画像を指定する。続いて配置決定部43による処理が行われ、当該医用画像と、関連する医用画像の配置が決定される。決定された配置は表示制御部44を介して、前記コンピュータのモニタで表示可能なデータとして出力される。
以下に説明する本実施形態では、各部はローカル環境におけるソフトウェアによりそれぞれ実現されているものとする。
次に、本発明の第一の実施形態における制御部37による全体の処理手順を説明する。図2は、第一の実施形態に係る処理を示すフローチャートであり、制御部37がそれぞれの処理を行う。
ステップS200において、加工画像作成部40は、ユーザが選択した医用画像をデータベース22から読み出し、記憶部34に保存する。次に、加工画像作成部40は、読み出した医用画像に対して、操作入力に応じた画像処理を行い、少なくとも一つの加工画像を作成する。そして、加工画像作成部40は、作成した少なくとも一つの加工画像を記憶部34へ保存する。また、加工画像作成部40は、加工画像情報を作成し前記加工画像と対応づけて記憶部34又はRAM33に保存する。ここで、加工画像情報とは以下の5つの情報を含む。第一の情報は、当該画像処理によって作成した加工画像の数を示す情報(以下、加工画像数情報と称する)である。第二の情報は、当該画像処理によって作成した全ての加工画像の記憶場所を示す情報(以下、加工画像記憶場所情報と称する)である。加工画像記憶場所情報は、例えば、当該加工画像の記憶部34における保存先パスである。第三の情報は、当該加工画像の作成に用いられた医用画像(以下、元画像と称する)の数を示す情報(以下、元画像数情報と称する)である。第四の情報は、全ての元画像の記憶場所を示す情報(以下、元画像記憶場所情報)である。ここで、元画像記憶場所情報は、例えば、当該元画像の記憶部34における保存先パスである。第五の情報は、当該加工画像の種類を識別する情報(以下、加工画像種別情報と称する)である。また、当該画像処理によって複数の加工画像が作成された場合は、加工画像作成部40は、それぞれの加工画像に対して加工画像種別情報を作成し保存する。加工画像種別情報とは、例えば「経時差分画像」、「MIP画像」である。「経時差分画像」は、通常、同一被写体の異なる2時点で撮影して得られた二つの医用画像に対して、変形位置合わせ処理と画像間差分処理を行うことにより作成された加工画像であることを示す。「MIP画像」は、医用画像に対して公知技術である最大値投影法を用いて作成された加工画像であることを示す。加工画像情報は、上述の5つの情報を取得可能な情報を有していればよい。例えば、第三の情報である元画像数情報を有していなくても、第四の情報である元画像記憶場所情報を有していれば、元画像数情報を取得可能である。
ステップS200の処理を具体的に説明する。ユーザの操作入力に従って、ある被写体の2020年11月11日にCT装置で撮影された医用画像M103と、同一の被写体の2021年11月11日にCT装置で撮影された医用画像M104をデータベース22から読み出し記憶部34に保存する。次に、ユーザの操作入力に従って、医用画像M103と医用画像M104に対して、公知技術である変形位置合わせ処理と画像間差分処理を行い経時差分画像M105を作成し記憶部34に保存する。そして、加工画像情報を作成し記憶部34又はRAM33に保存する。この例の場合、加工画像情報の詳細は以下のようになる。作成した加工画像は経時差分画像M105の一つであるので、加工画像数情報は「1」である。加工画像記憶場所情報は経時差分画像M105の記憶部34における保存先パスである。加工画像を作成する際に使用した元画像は医用画像M103と医用画像M104の二つであるので、元画像数情報は「2」である。元画像記憶場所情報は医用画像M103と医用画像M104の2つの医用画像の、記憶部34における保存先パスである。加工画像種別情報は「経時差分画像」である。
別の例では、ユーザの操作入力に従って、ある被写体の2020年11月11日にCT装置で撮影された医用画像M103をデータベース22から読み出し記憶部34に保存する。次に、ユーザの操作入力に従って、医用画像M103に対して最大値投影法によりMIP画像M106を作成し記憶部34に保存する。そして、加工画像情報を作成し記憶部34又はRAM33に保存する。この例の場合、加工画像情報の詳細は以下のようになる。作成した加工画像はMIP画像M106の一つであるので、加工画像数情報は「1」である。加工画像記憶場所情報はMIP画像M106の記憶部34における保存先パスである。加工画像を作成する際に使用した元画像は医用画像M103の一つであるので、元画像数情報は「1」である。元画像記憶場所情報は医用画像M103の記憶部34における保存先パスである。加工画像種別情報は「MIP画像」である。
ステップS210において、関連画像情報作成部41はユーザが選択した医用画像及び加工画像をデータベース22又は記憶部34から読み出す。そして、前記医用画像及び加工画像のサムネイルの一例である縮小画像を作成する。サムネイルの作成は公知技術により行われる。さらに予め定められた規則(以下、サムネイル規則と称する)に従って、各サムネイルに医用画像を対応付ける。サムネイル規則の具体例としては、「加工画像のサムネイルには、当該加工画像と全ての元画像を対応付ける」、「加工画像以外の医用画像のサムネイルには、当該医用画像のみを対応付ける」という規則が挙げられる。
次に、作成した各サムネイルにおける関連画像情報を作成する。ここで関連画像情報とは、以下の3つの情報を含む。第一の情報は、サムネイルに対応付いた医用画像(加工画像を含む)の数を示す情報(以下、サムネイル対応画像数情報と称する)である。例えば、前述したサムネイル規則の具体例においては加工画像のサムネイルには当該加工画像と全ての元画像が対応付くので、サムネイル対応画像数情報は、当該加工画像の数と当該加工画像の全ての元画像の数の和である。この情報は、ステップS200で作成された当該加工画像の加工画像情報の加工画像数情報と元画像数情報を参照し、和を算出することで取得できる。また、前記サムネイル規則の具体例においては、加工画像以外の医用画像のサムネイルには当該医用画像だけが対応付くので、サムネイル対応画像数情報は「1」である。第二の情報は、サムネイルに対応付いている医用画像の種類を示す情報(以下、サムネイル対応画像種別情報と称す)である。ここで、加工画像のサムネイルにおけるサムネイル対応画像種別情報は、当該加工画像の加工画像種別情報であり、ステップS200で作成された当該加工画像の加工画像種別情報を参照することで取得できる。また、加工画像以外の医用画像のサムネイルにおけるサムネイル対応画像種別情報は、NULLとする。第三の情報は、サムネイルに対応付いている全ての医用画像の記憶場所を示す情報(以下、サムネイル対応画像記憶情報と称す)である。ここで、加工画像のサムネイルにおけるサムネイル対応画像記憶情報は、ステップS200で作成された当該加工画像の加工画像情報の加工画像記憶場所情報と元画像記憶場所情報を参照することで取得できる。また、加工画像以外の医用画像のサムネイルにおけるサムネイル対応画像記憶情報も、当該医用画像のデータベース22又は記憶部34の保存先パスとして取得できる。すなわち、加工画像の関連画像情報とは、加工画像の作成に用いられた医用画像の数と、画像処理の種類を示す情報を含む。関連画像情報として第二の情報と第三の情報のみを取得し、第三の情報であるサムネイル対応画像記憶情報をもとに加工画像の作成に用いられた医用画像の数を取得するようにしてもよい。その場合、サムネイル対応画像記憶情報が、加工画像の作成に用いられた医用画像の数を示す情報として機能する。
以上、加工画像情報と関連画像情報について説明した。ある「医用画像と関連する画像」とは、たとえば加工画像情報に基づいて取得される画像である。つまり、その医用画像自身と、当該医用画像が加工画像であった場合には、当該加工画像を作成するのに使用した医用画像である。また、「医用画像と関連する画像の情報」とは、たとえば関連画像情報である。
次に作成したサムネイルである縮小画像を医用画像表示装置の表示部36に表示し、作成した関連画像情報を当該縮小画像と対応づけて記憶部34又はRAM33に保存する。なお、本実施形態において、サムネイルとは多数の医用画像の情報を一覧表示する際に、各医用画像に対応した情報を示すものである。より具体的には、例えば、図6の(A)に示すように、各医用画像のそれぞれに対応した文字列を並べて配置したリストにおける各文字列や、(B)に示すように、各医用画像のそれぞれに対応した縮小画像がサムネイルである。サムネイルは、複数の医用画像のそれぞれに対応した情報を一覧表示できる形態であればどのような形態であってもよい。本実施形態においては、サムネイルは図6の(B)のように、各医用画像に対応する縮小画像で示されるものとして説明する。以下では、例示したような形態をサムネイルと総称する。
次に、ステップS210の処理を具体的に説明する。ユーザの操作入力に従って、関連画像情報作成部41は、医用画像M103を記憶部34から読み出し、医用画像M103のサムネイル103を作成する。同様に、関連画像情報作成部41は、医用画像M104を記憶部34から読み出し、医用画像M104のサムネイル104を作成する。さらに、関連画像情報作成部41は、経時差分画像M105を記憶部34から読み出し、経時差分画像M105のサムネイル105を作成する。次に、本実施形態におけるサムネイル規則は「加工画像のサムネイルには、当該加工画像だけでなく全ての元画像を対応付ける」、「加工画像以外の医用画像のサムネイルには、当該医用画像だけを対応付ける」とする。そして、前記サムネイル規則に従って、各サムネイルに医用画像をそれぞれ対応付ける。つまり、サムネイル103には医用画像M103を対応付ける。また、サムネイル104には医用画像M104を対応付ける。また、サムネイル105には、経時差分画像M105と医用画像M103と医用画像M104を対応付ける。さらに、各サムネイルにおける関連画像情報を作成する。サムネイル103のサムネイル対応画像数情報は「1」であり、サムネイル対応画像種別情報はNULLであり、サムネイル対応画像記憶情報は医用画像M103の記憶部34における保存先パスである。同様に、サムネイル104のサムネイル対応画像数情報は「1」であり、サムネイル対応画像種別情報はNULLであり、サムネイル対応画像記憶情報は医用画像M104の記憶部34における保存先パスである。サムネイル105については、ステップS200で作成された経時差分画像M105の加工画像情報を参照すると、加工画像数情報は「1」であり元画像数情報は「2」であるので、サムネイル対応画像数情報は「3」となる。また、ステップS200で作成された経時差分画像M105の加工画像種別情報を参照すると、サムネイル対応画像種別情報は「経時差分画像」となる。また、サムネイル対応画像記憶情報は、ステップS200で作成された加工画像記憶場所情報と元画像記憶場所情報を参照する事で得られる。つまり、サムネイル対応画像記憶情報は、経時差分画像M105と医用画像M103と医用画像M104の記憶部34における保存先パスである。すなわち、関連画像情報はある医用画像と関連付けられた画像についての情報である。そして、関連画像情報は、当該医用画像と対応するサムネイルに対応付けて保存される。別の観点では、関連画像情報とは当該医用画像と対応するサムネイルと関連付けられた画像についての情報である。次に作成したサムネイル103とサムネイル104とサムネイル105を表示装置10の表示部36に表示し、作成した関連画像情報をサムネイルと対応づけて記憶部34に保存する。
ステップS210の処理が終了したときの表示部36における表示の例を図3に示す。図3において、領域101はサムネイル表示領域を表す。サムネイル表示領域は、ある被写体における過去及び現在の医用画像、又はそれらを元画像として加工した加工画像のサムネイルを表示する領域である。図3では本領域に、サムネイル103とサムネイル104とサムネイル105が表示されている。領域102は医用画像表示領域を表す。医用画像表示領域は、ユーザが読影対象としている医用画像又は読影の参考情報とする医用画像を表示する領域である。医用画像表示領域に医用画像を表示することにより、ユーザは表示した医用画像に対して医用画像表示装置の様々な機能が使用可能となる。例えば、本実施形態にかかる表示装置10には、医用画像全体の拡大・縮小機能、濃度値変換機能、表示位置の平行移動機能、図形描画機能、濃度値計測機能等の機能がある。また、本実施形態にかかる表示装置10において、表示領域はを複数の領域に分割することができ、分割した複数の領域のそれぞれに異なる医用画像を同時に表示することができる。矢印115は例えばマウスポインタであり、矢印の先端位置が、操作部35によって示される入力の現在位置を表す。
ステップS220において、配置決定部43は、図3の(B)のフローチャートに従って、ユーザが操作部35を用いて選択したサムネイルに対応づいた医用画像の医用画像表示領域上での配置を決定する。
ステップS221において、ユーザが選択したサムネイルと対応する医用画像を、医用画像表示領域に表示する医用画像として指定する。
ステップS222において、ユーザが選択したサムネイルについて、ステップS210で作成された関連画像情報を取得する。すなわち、ステップS221で指定された医用画像と対応する関連画像情報を取得する。
ステップS223において、医用画像表示領域の表示形態をステップS222で取得された関連画像情報に応じて設定する。ここで、表示形態は関連画像情報と表示形態の対応を予め設定しておき対応する表示形態を設定する。関連画像情報と表示形態の対応の例を図7に示す。図7のLは医用画像表示領域を分割する際の行数(L≧1)、Cは医用画像表示領域を分割する際の列数(C≧1)を示す。この対応関係は、予めユーザが設定しておくものとし、ユーザが医用画像表示システムを使用中に当該対応関係を適宜変更できるようにしてもよい。図4は医用画像表示領域が複数の領域に分割された例を示す図であり、L=2、C=2に設定された場合を示す。この場合、医用画像表示領域102が領域108、109、110、111の4つの領域に分割されるように表示形態を設定する。別の表示形態の設定方法では、分割された各領域の大きさも同時に変更する。例えば、図4の(B)に示すように、領域108のサイズを大きくし、領域111のサイズを小さくするように設定する。
ステップS224において、ステップS223で設定された表示形態とステップS222で取得した関連画像情報に応じて、当該サムネイルに対応する医用画像の表示位置を決定する。表示位置は、表示形態と関連画像情報と表示位置との対応を予め設定しておき、対応する表示位置に決定される。表示形態と関連画像情報と表示位置の対応の例を図8に示す。図8のRnは行番号を示しCnは列番号を示す。例えば、(Rn、Cn)が(1、2)である場合は、医用画像表示領域の1行目の2列目の位置の領域、例えば図4における領域110を示す。また、図中の等号は、左辺で指定した位置の領域に右辺で示した種類の画像を表示することを示す。ただし、右辺のNULLは、左辺でした位置の領域に何も表示しないことを示す。この対応関係は、予めユーザが設定しておくものとする。例えば、ユーザが比較読影を行いやすいように、経時差分画像の浮動画像と参照画像を左右に並べて表示する。また、解剖学的な構造の画像上の位置が同じである参照画像と経時差分画像を、上下に並べて表示する。従って、「浮動画像と参照画像は、同一の行に配置」、「参照画像と経時差分画像は、同一の列に配置」という条件を満たす対応関係を設定しておくことが好ましい。また、ユーザが医用画像表示システムを使用中に当該対応関係を適宜変更できるようにしてもよい。すなわち、医用画像表示領域は、関連画像情報に基づいて分割され、分割された領域に医用画像が表示されるよう配置が決定される。
ここで、図8中に記載されている浮動画像、参照画像、ベース画像、およびレイヤ画像について説明する。加工画像として経時差分画像を作成する際に、変形位置合わせ処理の位置合わせの基準となる医用画像を参照画像、参照画像に向かって位置合わせを行う医用画像を浮動画像と称する。また、加工画像として重畳画像を作成する際に、αプレーンを用いた重ね合わせ処理の基礎となる医用画像をベース画像、ベース画像に重ね合わせる医用画像をレイヤ画像と称する。本実施例においては、経時差分画像M105の参照画像は医用画像M104であり、浮動画像は医用画像M103である。
ステップS220の処理を具体的に説明する。ユーザがサムネイル105を選択した場合について説明する。まず、ステップS221において、画像指定部42はサムネイル105を選択するユーザの操作入力を受けて、医用画像表示領域に表示する医用画像として医用画像M105を指定する。ステップS222において配置決定部43はサムネイル105に対応付けられた関連画像情報を取得する。つまり、サムネイル対応画像数情報として「3」、サムネイル対応画像種別情報として「経時差分画像」を取得する。ステップS223において、図7を参照し、当該関連画像情報に対応する表示形態R=2、C=2に基づき、表示形態を設定する。つまり、医用画像表示領域102を行数2、列数2となるように分割する。ステップS224において、図8に示す対応関係をもとに、Rn=1、Cn=1の位置、すなわち領域108に、浮動画像である元画像を配置することを決定する。また、Rn=1、Cn=2の位置、すなわち領域110に、参照画像である元画像を配置し、Rn=2、Cn=2の位置、すなわち領域111に経時差分画像を配置することを決定する。このように、医用画像表示領域は行数と列数と基づいて格子状に分割され、分割された領域に医用画像が配置される。
ユーザが加工画像ではない医用画像を選択した場合、たとえばサムネイル104を選択した場合、配置決定部43はサムネイル104に対応付けられた関連画像情報を取得する。つまり、サムネイル対応画像数情報として「1」、サムネイル対応画像種別情報として「NULL」を取得する。このとき、サムネイル対応画像数情報が「1」であるので、医用画像表示領域102を分割しないで、医用画像表示領域102に医用画像M104を配置することを決定する。
ステップS230において、表示制御部44は、ステップS220で指定された医用画像に対応した医用画像を、サムネイル対応画像記憶情報に基づいてデータベース22又は記憶部34から読み出す。そして、読み出した医用画像を、ステップS220で決定された配置に従って医用画像表示領域に配置し、表示部36に表示する。
ステップS230の処理を具体的に説明する。図5はS230に係る処理を実行した後の表示の例、を示す。まず、表示制御部44は、データベース22より経時差分画像M105と医用画像M103と医用画像M104を読み出す。そして、領域108に経時差分画像M105の浮動画像である医用画像M103を表示し、領域110に経時差分画像M105の参照画像である医用画像M104を表示し、領域111に経時差分画像M105を表示する。
ステップS240において、制御部37は、ユーザから読影終了の指示があったかどうかを判定する。読影終了の指示は、例えばユーザが読影終了ボタン(不図示)をマウスでクリックすることにより行われる。読影終了の指示があった場合は、処理を終了する。読影終了の指示が入力されるまでの間は、表示部36の表示を維持し、医用画像表示領域に表示されていない医用画像のサムネイル作成に係るユーザの操作入力があった場合にはステップS210に戻る。
以上のように、一つのサムネイルを選択することで、当該サムネイルに対応した複数の医用画像を、サムネイルに応じた表示形態で医用画像表示領域に表示できる。従って、ユーザは複数の医用画像の医用画像表示領域上の表示形態を、それぞれの医用画像について個別に指定する必要がなくなり、読影作業におけるユーザの手間が少なくなる。医用画像表示装置の表示部36は、複数のモニタで構成される場合がある。そのような場合には医用画像表示領域を広く利用できるが、医用画像のそれぞれについて指定するのはユーザにとって手間のかかる操作入力であった。第一の実施形態にかかる医用画像表示装置によれば、一つのサムネイルを選択する操作入力により複数の医用画像を医用画像表示領域に表示できるので、操作入力の手間を低減することができる。
続いて、本発明の第二の実施形態について説明する。各部はローカル環境におけるソフトウェアによりそれぞれ実現されているものとする。本実施形態では、ユーザが表示したい医用画像のサムネイルを選択する前から、予め医用画像表示領域が複数の領域に分割されている場合について説明する。以下では、医用画像のサムネイルが選択される前の医用画像表示領域を選択前表示領域と称する。選択前表示領域の分割形態は既知の技術により、ユーザが所望の形態に変更することができる。また、分割された選択前表示領域のそれぞれを選択前分割領域と称する。
図9は第二の実施形態に係る医用画像表示システムのブロック図である。図1に示す本発明の第一の実施形態に係る医用画像表示システムに加えて、表示領域取得部45を有する。表示領域取得部45以外の各構成部の機能は、図1における各構成部の機能と同じである。表示領域取得部45は、ユーザが選択した表示領域情報を取得し、配置決定部43へと出力する。表示領域情報とは、ユーザが医用画像を表示するために選択した、選択前分割領域を示す情報である。すなわち、表示領域情報とは、医用画像表示領域を構成する部分領域のうち、ユーザによる選択の操作入力のあった部分領域を示す情報である。ここで部分領域とは、医用画像表示領域の分割された一つの領域でもよいし、分割された領域の複数の組合せでもよい。
図10は第二の実施形態に係る処理を示すフローチャートであり、制御部37がそれぞれの処理を行う。本実施形態では、図4に示すように選択前表示領域が予め、選択前分割領域108、109、110、111の4つの領域に分割されている場合について説明する。本実施形態における選択前表示領域の、分割数や各領域の大きさといった分割形態は一例であり、どのような分割形態であっても適用できる。
ステップS1000の処理は、第一の実施形態におけるステップS200の処理と同様である。以下では、ステップS1000において医用画像M103と医用画像M104に対して、変形位置合わせ処理と画像間差分処理を行い、経時差分画像M105が作成されたとする。
ステップS1010の処理は、第一の実施形態におけるステップS210の処理と同様である。医用画像M103のサムネイル103、医用画像M104のサムネイル104、経時差分画像M105のサムネイル105を作成し、前述のサムネイル規則に基づいて各サムネイルと医用画像を対応付ける。また、各サムネイルの関連画像情報を前述の五つの情報を取得して作成する。各サムネイルをサムネイル表示領域に表示し、各サムネイルとそれぞれの関連画像情報を対応づけて記憶部34に保存する。
ステップS1020において、配置決定部43は、ユーザが選択したサムネイルに対応づいた医用画像の、ユーザが選択した選択前分割領域上での配置を決定する。なお、ステップS1020の処理は図10の(B)のフローチャートに従って行われる、
ステップS1021において、ユーザが選択したサムネイルと対応する医用画像を、医用画像表示領域に表示する医用画像として指定する。
ステップS1022において、ユーザが選択したサムネイルについて、ステップS1010で作成された関連画像情報を取得する。すなわち、ステップS1021で指定された医用画像と対応する関連画像情報を取得する。
ステップS1023において、表示領域取得部45はユーザが選択した表示領域情報を取得する。以下では、表示領域情報として、選択前分割領域110が取得されたとする。なお、ユーザによる選択前分割領域の選択は既知の方法により行われる。例えば、ユーザがステップS1020で選択したサムネイルを、所望の選択前分割領域にドラッグ&ドロップすることで行われる。具体的には、ユーザが、サムネイル105上にマウスポインタ115を移動してからマウスのボタンを押下し、押下したまま選択前分割領域110上にマウスポインタ115を移動する。そして、選択前分割領域110上にマウスポインタ115が存在する状態でボタンを離すことで行われる。別の例として、ユーザがサムネイルを選択し、選択の操作入力が行われた当該サムネイル上の位置に対応する位置の選択前分割領域に表示させる。
ステップS1024において、ステップS1023で取得された表示領域情報に対応する選択前分割領域の表示形態を、ステップS1022で取得された関連画像情報に応じて設定する。表示形態は、例えば図7に示すような関連画像情報と表示形態の対応を予め設定しておき、対応する表示形態に設定する。
ステップS1025において、ステップS1024で設定された表示形態とステップS1022で取得した関連画像情報に応じて、当該サムネイルに対応する医用画像の表示位置を決定する。ここで決定される表示位置は、ステップS1023で取得した表示領域情報に対応する選択前分割領域上での表示位置である。また、例えば図8に示すように、表示形態と関連画像情報と表示位置の対応を予め設定しておき、対応する表示位置に表示させる。
ステップS1020の処理を具体的に説明する。ユーザがサムネイル105を選択した場合について説明する。図11は、一つの選択前分割領域が複数の領域に分割された例を示す図であり、ステップS1020の処理が終了した後の表示部36の表示の例である。まず、ステップS1021において、画像指定部42はサムネイル105を選択するユーザの操作入力を受けて、医用画像表示領域に表示する医用画像として医用画像M105を指定する。ステップS1022において、配置決定部43はサムネイル105に対応付けられた関連画像情報を取得する。すなわち、サムネイル対応画像数情報は「3」であり、サムネイル対応画像種別情報は「経時差分画像」である。ここで図7を参照すると、対応する表示形態はR=2、C=2となる。つまり、ステップS1023で選択された選択前分割領域110を行数2、列数2となるように分割する。具体的には、選択前分割領域110を領域116、117、118、119の4つの領域に分割するように表示形態を設定する。次に,配置決定部43はサムネイル105の関連画像情報と、選択前分割領域110の表示形態がR=2、C=2で示される形態であることを取得する。そして、図8に示す対応関係をもとに、選択前分割領域110上でのRn=1、Cn=1の位置、すなわち領域116に浮動画像である元画像を表示することを決定する。また、選択前分割領域110上でのRn=1、Cn=2の位置、すなわち領域118に参照画像である元画像を表示することを決定する。さらに、選択前分割領域110上でのRn=2、Cn=2の位置、すなわち領域119に経時差分画像を表示することを決定する。
ユーザが加工画像ではない医用画像を選択した場合、たとえばサムネイル104を選択した場合、配置決定部43はサムネイル104に対応付けられた関連画像情報を取得する。つまり、サムネイル対応画像数情報として「1」、サムネイル対応画像種別情報として「NULL」を取得する。このとき、サムネイル対応画像数情報が「1」であるので、選択前分割領域110を分割しないで、選択前分割領域110に医用画像M104を配置することを決定する。
ステップS1030において、表示制御部44はステップS1020で指定された医用画像に対応する全ての医用画像を、サムネイル対応画像記憶情報に基づいてデータベース22又は記憶部34から読み出す。そして、読み出した全ての医用画像を、ステップS1020で決定された配置に従って医用画像表示領域に配置し、表示部36に表示する。ステップS1030の処理が終了した後の表示部36の表示の例を図12に示す。まず、表示制御部44は、データベース22より経時差分画像M105と医用画像M103と医用画像M104を読み出す。そして、選択前分割領域110の領域116に経時差分画像M105の浮動画像である医用画像M103を表示し、領域118に経時差分画像M105の参照画像である医用画像M104を表示する。そして、領域119に経時差分画像M105を表示する。
ステップS1040における処理は、第一の実施形態におけるステップS240の処理と同様である。読影終了の指示があった場合は、処理を終了する。読影終了の指示が入力されるまでの間は、表示部36の表示を維持し、医用画像表示領域に表示されていない医用画像のサムネイル作成に係るユーザの操作入力があった場合にはステップS1010に戻る。
第二の実施形態のように、医用画像表示領域が複数の領域に分割されており、一つの選択前分割領域をさらに複数の領域に分割して医用画像を表示する場合には以下のような課題が生じるおそれがある。医用画像を表示する領域の大きさが小さくなり、ユーザが医用画像を観察しにくくなる場合が考えられる。このような課題は、例えば各領域を拡大して表示させることで解決できる。具体的には、図12の選択前分割領域110の領域119に対して、操作部35を介してユーザが拡大を指示する。ここでいう拡大の指示は、操作部35の一例であるマウスを用いて行われる左ダブルクリックや右クリックのようなユーザにとって簡易な入力方法で行われることが好ましい。別の例では、操作部35の一例であるキーボードと組み合わせた入力方法で行われる。例えば、Shiftボタンを押下したままクリックする。ユーザが領域119に対して拡大の指示を行った後の表示部36の表示の例を図13に示す。領域119に表示されている医用画像、すなわち本実施例経時差分画像M105が、その領域が属する選択前分割領域、すなわち本実施例選択前分割領域110の全体に表示される。なお、このような操作を行った場合は、拡大を指示した以外の領域、すなわち本実施例領域116、117、118に表示されている医用画像は、表示部36には表示されない。但し、記憶部34にユーザが拡大を指示する前の選択前分割領域の配置を記憶しておく。これにより、拡大された領域に対して縮小の指示が入力された場合に、選択前分割領域の配置を拡大の指示が入力される前の状態に戻すことができる。縮小の指示は、マウスを用いて行われる右ダブルクリックやマウスホイールのクリックのようなユーザにとって簡易な入力方法で行われることが好ましい。別の例では、キーボードと組み合わせた入力方法で行われる。例えば、Ctrlボタンを押下したままクリックする。拡大の指示の入力方法と縮小の指示の入力方法は、異なっていることが好ましい。たとえば、図12に示す領域119に対して左ダブルクリックの操作を行って経時差分画像M105を拡大させ、図13の選択前分割領域110に対して右ダブルクリックの操作を行って図12の画面レイアウトに戻す。これにより、表示部36上で表示サイズが小さい領域を容易に拡大することができ、拡大前の状態に容易に戻すことができるので、医用画像を観察しやすくなる。
別の例では、選択前分割領域110の配置を保ったまま、選択前分割領域110全体を拡大する。具体的には、図12の選択前分割領域110に対して、操作部35を介してユーザが拡大を指示する。拡大の指示は、マウスを用いて行われる左ダブルクリックや右クリックなど、ユーザにとって簡易な入力方法で行われることが好ましい。別の例では、キーボードと組み合わせた入力方法で行われる。例えば、Altボタンを押下したままクリックする。これらの入力方法は、前述した選択前分割領域110内の各領域を拡大又は縮小するために行われた入力方法とは異なる入力方法であることが好ましい。本実施例ここでは、図12の選択前表示領域110において、キーボードでAltボタンを押下したままマウスの左ダブルクリックの操作を行うと、選択前分割領域110の配置を保ったまま選択前分割領域110全体を拡大する処理が行われることとする。この処理が実行された後の表示部36の表示の例を図14に示す。つまり、選択前部分領域110の全体がその配置を保ったまま、医用画像表示領域102の全体に表示される。図12の画面レイアウトに戻す縮小の操作は、例えばキーボードでAltボタンを押下したままマウスの右ダブルクリックする操作により行う。選択前分割領域110全体の拡大又は縮小と、前述した選択前分割領域内の各領域の拡大又は縮小の指示のために行われた入力方法を同一にして、入力位置を変えることとしてもよい。例えば、図12において、選択前分割領域110の各領域で医用画像が表示されている領域(ここでは、領域116、118、119)に対して拡大の指示が行われた場合は、その領域に対応する医用画像を拡大表示する。そして、選択前分割領域110の各領域で医用画像が表示されていない領域(ここでは、領域117)に対して拡大の指示が行われた場合は、選択前分割領域110全体を拡大表示する。拡大の指示がマウスの左クリックにより与えられる場合では、領域119に対してマウスの左ダブルクリックの操作を行うと、図13のように領域119に表示されている医用画像が選択前分割領域110の全体に表示される。領域117に対してマウスの左ダブルクリックの操作を行うと、図14のように選択前分割領域110の全体が医用画像表示領域102の全体に表示される。また別の例では、選択前分割領域の辺縁付近に対して拡大の指示を行った場合に、選択前分割領域110の全体が拡大されるようにしてもよい。
これにより、読影に適した表示形態を保持したまま、必要に応じて医用画像の拡大と縮小を容易に行うことができ、医用画像の観察が容易になる。
さらに別の例では、一つの選択前分割領域をさらに複数の領域に分割して医用画像を表示しており、当該医用画像の配置を維持したまま、拡大の操作入力があった医用画像を、他の医用画像が表示されていない選択前分割領域に拡大表示する。具体的には、図12の選択前分割領域110の領域119に対して、操作部35を介してユーザが拡大を指示する。このとき領域108には医用画像が表示されていない。領域116、118、119の医用画像の配置や内容を変更せず、領域119に表示されている経時差分画像M105を領域108全体に表示させる。拡大の指示と縮小の指示は、前述の操作入力の方法とは異なっていることが好ましい。これにより、比較対象となる医用画像を全て表示したまま、より詳細に観察したい医用画像を拡大することができ、医用画像の観察が容易になる。
以上のように、本発明の第二の実施形態に係る医用画像表示装置によれば、一つのサムネイルと一つの選択前分割領域を選択することで、当該サムネイルに対応した複数の医用画像をサムネイルに応じた表示形態で任意の選択前分割領域に表示できる。従って、読影作業におけるユーザの手間が少なくなる。
続いて、本発明の第三の実施形態について説明する。本実施形態では、選択されたサムネイルに対応する医用画像を表示する選択前表示領域に、別の医用画像が表示されている場合について説明する。
図15は本発明の第三の実施形態に係る医用画像表示システムのブロック図である。図9に示す第二の実施形態に係る医用画像表示システムに加えて、表示画像情報取得部46を有する。表示画像情報取得部46以外の各構成部の機能は、図1及び図9における各構成部の機能と同じである。表示画像情報取得部46は、表示領域取得部45で取得した表示領域情報に対応する選択前分割領域に表示されている医用画像の情報(以下、表示済画像情報と称する)を取得し、配置決定部43へ出力する。すなわち、表示画像情報取得部46は、表示済画像情報を取得する表示取得手段として機能する。ここで、表示済画像情報とは以下の二つの情報を含む。第一の情報は、当該選択前分割領域に表示されている医用画像の種別を示す情報(以下、表示済画像種別情報と称す)である。ここで、当該選択前分割領域に表示されている医用画像の中に加工画像が含まれている場合は、表示済画像種別情報を当該加工画像の加工画像種別情報とする。当該選択前分割領域に表示されている医用画像の中に加工画像が含まれていない場合は、表示済画像種別情報をNULLとする。第二の情報は、表示領域情報に対応する選択前分割領域に表示されている全ての医用画像の記憶場所を示す情報(以下、表示済画像記憶場所情報)である。これらの情報は、医用画像が当該選択前分割領域に表示される際に、記憶部34又はRAM33に各選択前分割領域と対応づけて保存されているものとする。なお、ここで示した表示済画像情報は一例であり、対応する医用画像などから取得できる情報であれば、どのような情報でもよい。また、各部はローカル環境におけるソフトウェアによりそれぞれ実現されているものとする。
図16は第三の実施形態に係る処理を示すフローチャートであり、制御部37がそれぞれの処理を行う。
ステップS1600、ステップS1610の処理は、第1の実施形態におけるステップS200、ステップS210の処理と同様である。図17は、ステップS1610までの処理が終了した後の表示部36の表示の例を示す図である。図17において、サムネイル103はある被写体において2020年11月11日にCT装置で撮影された医用画像M103のサムネイルである。サムネイル104は同一の被写体において2021年11月11日に撮影された医用画像M104のサムネイルである。サムネイル120は同一の被写体において2022年11月11日に撮影された医用画像M120のサムネイルである。ここでも、本実施例サムネイル規則を第一の実施形態と同様のサムネイル規則とする。つまり、サムネイル103は医用画像M103と対応付け、サムネイル104は医用画像M104と対応付け、サムネイル120は医用画像M120と対応付ける。また、サムネイル105は医用画像M103と医用画像M104に対して、既知の変形位置合わせ処理及び画像間差分処理を行い作成された経時差分画像M105のサムネイルである。従って、サムネイル105には加工画像として経時差分画像M105と、浮動画像として医用画像M103と、参照画像として医用画像M104の3つの医用画像を対応付ける。サムネイル121は医用画像M120と医用画像M104に対して、既知の変形位置合わせ処理及び画像間差分処理を行い作成された経時差分画像M121のサムネイルである。従って、サムネイル121には、加工画像として経時差分画像M121と、浮動画像として医用画像M104と、参照画像として医用画像M120の3つの医用画像を対応付ける。さらに、サムネイル122は医用画像M120と医用画像M103に対して、既知の変形位置合わせ処理及び画像間差分処理を行い作成された経時差分画像M122のサムネイルとする。従って、サムネイル122には、加工画像として経時差分画像M122と、浮動画像として医用画像M103、参照画像として医用画像M120の3つの医用画像を対応付ける。
また、図17に示すように選択前表示領域が選択前分割領域123と選択前分割領域124の2つの領域に分割されている場合について説明する。選択前分割領域123には何も表示されておらず、選択前分割領域124にはサムネイル105に対応する医用画像が表示されている状態である。ここで、選択前分割領域124における表示は、第二の実施形態で述べた処理により行われる。つまり、領域125には医用画像M103が表示され、領域127には医用画像M104が表示され、領域128には経時差分画像M105が表示されている。本実施形態におけるサムネイルやそれに対応付いている医用画像の種類や選択前表示領域の分割形態は一例であり、本発明はこれに限定されない。
ステップS1620において、配置決定部43はユーザが選択したサムネイルに対応づいた医用画像の、医用画像表示領域上での配置を決定する。なお、ステップS1620の処理は、図16(B)のフローチャートに従って行われる。
ステップS1621において、ユーザが選択したサムネイルと対応する医用画像を、医用画像表示領域に表示する医用画像として指定する。
ステップS1622において、ユーザが選択したサムネイルについて、ステップS1010で作成された関連画像情報を取得する。すなわち、ステップS1021で指定された医用画像と対応する関連画像情報を取得する。
ステップS1623において表示領域取得部45は、ユーザが選択したサムネイルに対応する医用画像を表示する表示領域情報を取得する。
ステップS1624において、表示画像情報取得部46はステップS1623で取得した表示領域情報に対応する選択前分割領域に表示されている医用画像の表示済画像情報を取得する。
ステップS1625において、ステップS1623で取得した表示領域情報に対応する選択前分割領域の表示形態を、ステップS1622で取得した関連画像情報とステップS1624で取得した表示済画像情報に応じて変更する。ここで、関連画像情報と表示済画像情報が特定の条件(以下、特定条件と称する)を満たさない場合には、第二の実施形態と同様に関連画像情報のみに応じて、当該選択前分割領域の表示形態を設定する。関連画像情報と表示済画像情報が特定条件を満たす場合には、関連画像情報と表示済画像情報の両方に基づいて当該選択前分割領域の表示形態を設定する。なお、特定条件は予め設定しておく。特定条件とは、例えば「サムネイル対応画像種別情報と表示済画像種別情報が同一」かつ「関連画像情報に対応した医用画像と表示済画像情報に対応した医用画像の少なくとも一つが同一」という条件である。特定条件は、ユーザが医用画像表示システムを使用中に適宜変更できるようにしてもよい。関連画像情報と表示済画像情報が特定条件を満たす場合の表示形態は、予め設定しておくこととする。図19は、特定条件下における加工画像種別情報と表示形態の対応の例を示す図である。
ステップS1626において、配置決定部43は、ステップS1625で設定された表示形態とステップS1622で取得した関連画像情報とステップS1624で取得した表示済画像情報とに応じて決定する。ここで決定される表示位置は、ステップS1623で取得した表示領域情報に対応する選択前分割領域上での表示位置である。関連画像情報と表示済画像情報がステップS1625における特定条件を満たさなかった場合には、第2の実施形態と同様に予め設定された対応関係に応じて表示位置を決定する。特定条件を満たした場合には、例えば図20に示すように、サムネイル対応画像種別情報と表示位置の対応を予め設定しておき対応する表示位置にする。図20は特定条件下における加工画像種別情報と表示位置の対応の例を示す図である。この対応関係は、予め設定しておくものとする。例えば、加工画像が経時差分画像の場合において、解剖学的な構造の画像上の位置が同じである参照画像と該参照画像に対応する経時差分画像は、上下に並べて表示する。従って、「参照画像と該参照画像に対応する全ての経時差分画像は同一の列又は行に配置」という条件を満たす対応関係を設定しておくことが好ましい。また、ユーザが観察しやすいように、複数の経時差分画像を作成した際には、浮動画像が同一である経時差分画像は、左右に並べて表示する。従って、「浮動画像が同一である全ての経時差分画像は同一の列又は行に配置」という条件を満たす対応関係を設定しておくことが好ましい。別の観点では、ユーザが比較対象となる経時差分画像を観察しやすいように、複数の経時差分画像を作成した際には、浮動画像が異なる経時差分画像は、一列に並べて表示しない。従って、「浮動画像が異なる全ての経時差分画像は異なる列又は行に配置」という条件を満たす対応関係を設定しておくことが好ましい。また別の例として、加工画像がMIP画像又はMIniP画像の場合において、元画像が同一であるMIP画像又はMIniP画像は、左右に並べて表示することがある。従って、「元画像が同一である全てのMIP画像又はMIniP画像は同一の列又は行に配置」という条件を満たす対応関係を設定しておくことが好ましい。また別の例として、加工画像が重畳画像の場合において、ユーザが観察しやすいように、レイヤ画像と該レイヤ画像に対応する重畳画像は、上下に並べて表示する。従って、「レイヤ画像と該レイヤ画像に対応する全ての重畳画像は同一の列又は行に配置」という条件を満たす対応関係を設定しておくことが好ましい。また、ユーザが観察しやすいように、複数の重畳画像を作成した際には、ベース画像が同一である重畳画像は、左右に並べて表示する。従って、「ベース画像が同一である全ての重畳画像は同一の列又は行に配置」という条件を満たす対応関係を設定しておくことが好ましい。また、ユーザが観察しやすいように、複数の重畳画像を作成した際には、ベース画像が異なる重畳画像は、一列に並べて表示しない。従って、「ベース画像が異なる全ての重畳画像は異なる列又は行に配置」という条件を満たす対応関係を設定しておくことが好ましい。もちろん、前述したサムネイル対応画像種別情報と表示位置との対応関係は一例であり、本発明はこの例に限定されない。また、ユーザが医用画像表示システムを使用中に当該対応関係を適宜変更できるようにしてもよい。
ステップS1620の処理を具体的に説明する。以下では、ユーザがサムネイル121を選択したとする。まず、ステップS1621において、画像指定部42はサムネイル121を選択するユーザの操作入力を受けて、医用画像表示領域に表示する医用画像として医用画像M121を指定する。ステップS1622で、サムネイル121の関連画像情報として以下の情報を取得する。サムネイル対応画像数情報は「3」、サムネイル対応画像種別情報は「経時差分画像」である。さらにサムネイル対応画像記憶情報として、経時差分画像M121と医用画像M104と医用画像M120の記憶部34における保存先パスを取得する。ステップS1623で、ユーザが表示領域として選択前分割領域124が選択されたとし、表示領域取得部45は表示領域情報として選択前分割領域124を取得する。図17の例では、選択前分割領域124において,領域125には医用画像M103が表示され、領域127には医用画像M104が表示され、領域128には経時差分画像M105が表示されている。ステップS1624で、経時差分画像M105は加工画像であるので、表示済画像種別情報として「経時差分画像」を取得する。さらに表示済画像記憶場所情報として、経時差分画像M105と医用画像M103と医用画像M104の保存先パスを取得する。ここで、特定条件を前述の「サムネイル対応画像種別情報と表示済画像種別情報が同一」かつ「関連画像情報に対応した医用画像と表示済画像情報に対応した医用画像の少なくとも一つが同一」とする。本実施例では、サムネイル対応画像種別情報と表示済画像種別情報の両方が「経時差分画像」で同一である。また、関連画像情報に対応した経時差分画像M121の浮動画像である医用画像M104と、表示済画像情報に対応した経時差分画像M105の参照画像である医用画像M104が同一である。従って、本実施例は、前述の特定条件を満たす。次に、図19を参照すると、サムネイル対応画像種別情報が「経時差分画像」なので、行数(R)は「各参照画像に対応した異なる経時差分画像の数の最大数+1」の数となる。また、列数(C)は「異なる元画像の合計数」となる。まず、Rについて説明する。本実施例ではユーザが選択したサムネイルに対応する医用画像とユーザが選択した選択前分割領域に表示されている医用画像の全てにおいて、参照画像は以下の二つである。つまり、経時差分画像M121の参照画像である医用画像M120と、経時差分画像M105の参照画像である医用画像M104である。そして、医用画像M120における経時差分画像は経時差分画像M121の一つのみであり、医用画像M104における経時差分画像は経時差分画像M105の一つのみである。従って、「各参照画像に対応した異なる経時差分画像の数の最大数」は「1」となるので、R=2となる。次にCについて説明する。本実施例ではユーザが選択したサムネイルに対応する医用画像とユーザが選択した選択前分割領域に表示されている医用画像の全てにおいて、元画像は以下の三つである。つまり、経時差分画像M121の浮動画像である医用画像M104と参照画像である医用画像M120と、経時差分画像M105の浮動画像である医用画像M103と参照画像である医用画像M104である。つまり、異なる元画像は医用画像M104と医用画像M120と医用画像M103の3つとなるので、C=3となる。図18はステップS1630までの処理が終わった後の表示部36の表示の例を示す図である。例えば図18に示されるように、選択前分割領域124は、R=2、C=3に従って、領域129、130、131、132、133。134の6つの領域に分割される。ステップS1626で、図20を参照し、サムネイル対応画像種別情報が「経時差分画像」に対応する表示位置を決定する。まず,条件a.に従い、Rn=1の領域に元画像を配置する。図18に基づいて説明すると、領域129、131、133にそれぞれ医用画像M120、M104、M103を配置することを決定する。次に条件b.に従い、元画像の撮影日を確認する。本実施例における撮影日は、医用画像M103、医用画像M104、医用画像M120の順である。従って、領域129に医用画像M103を表示することを決定し、領域131に医用画像M104を表示することを決定し、領域133に医用画像M120を表示することを決定する。次に表示位置c.に従い、Rn=2の領域に経時差分画像を配置することを決定する。図18に基づいて説明すると、領域130、132、134にそれぞれ経時差分画像105、M121を配置することを決定する。次に表示位置d.に従い、経時差分画像M105の参照画像は医用画像M104であるので、経時差分画像M105と医用画像M104は同一の列番号、すなわちCn=2の列に配置することを決定する。また、経時差分画像M121の参照画像は医用画像M120であるので、経時差分画像M121と医用画像M120は同一の列番号、すなわちCn=3の列に配置することを決定する。最後に、条件e.に従い各経時差分画像を表示する行番号を決定する。本実施例では、同一の列番号に複数の経時差分画像が配置されることはないので、領域132に経時差分画像M105を表示することを決定し、領域134に経時差分画像M121を表示することを決定する。もちろん、ここで示した表示位置は一例であり、本発明はこれに限定されない。
ステップS1630において、ステップS1622で取得した関連画像情報に対応した医用画像を、サムネイル対応画像記憶情報に基づいて通信IF31とLAN21を介してデータベース22又は記憶部34から読み出す。また、ステップS1624で取得した表示済画像情報に対応した医用画像を、表示済画像記憶場所情報に基づいて通信IF31とLAN21を介してデータベース22又は記憶部34から読み出す。そして、読み出した全ての医用画像を、ステップS1620で決定された配置に従って医用画像表示領域に配置し、表示部36に表示する。
ステップS1630の処理を具体的に説明する。まず、表示制御部44は、データベース22より経時差分画像M121と浮動画像である医用画像M104と参照画像である医用画像M120を読み出す。さらに、経時差分画像M105と浮動画像である医用画像M103と参照画像である医用画像M104を読み出す。ここで、医用画像M104は共通であるので、読み出しは一度でよい。そして、表示制御部44は、選択前分割領域124の領域129に医用画像M103を表示し、領域131に医用画像M104を表示し、領域133に医用画像M120を表示する。さらに、表示制御部44は、領域132に経時差分画像M105を表示し、領域134に経時差分画像M121を表示する。
ステップS1640における処理は、第一の実施形態におけるステップS240の処理と同様である。読影終了の指示があった場合は、処理を終了する。読影終了の指示が入力されるまでの間は、表示部36の表示を維持し、医用画像表示領域に表示されていない医用画像のサムネイル作成に係るユーザの操作入力があった場合にはステップS1610に戻る。
前述の例において、S1630までの処理が終了すると、表示部36の表示は図18に示される表示である。このとき、医用画像のサムネイルを選択するユーザの操作入力があり、ステップS1610に戻る場合について説明する。たとえば、ユーザがサムネイル122を選択し、当該サムネイルに対応する医用画像の表示領域として選択前分割領域124を選択したとする。この場合、ステップS1622において、サムネイル対応画像数情報として「3」、サムネイル対応画像種別情報として「経時差分画像」を取得する。さらにサムネイル対応画像記憶情報として、経時差分画像M122と浮動画像である医用画像M103と参照画像である医用画像M120の記憶部34における保存先パスを取得する。次に、ステップS1623において、表示領域情報として選択前分割領域124を取得する。次にステップS1624において、表示済画像種別情報として「経時差分画像」を取得する。さらに表示済画像記憶場所情報として、経時差分画像M105と経時差分画像M121と医用画像M103と医用画像M104と医用画像M120の記憶部34における保存先パスを取得する。次にステップS1625において、図19を参照して、選択前分割領域124をR=3、C=3に分割する。つまり、図21のように、選択前分割領域124を領域135〜143の9つの領域に分割する。次に、ステップS1626において、図20を参照し各医用画像の選択前分割領域124上での表示位置を決定する。次に、ステップS1630において、ステップS1620で決定した配置に従って以下のように医用画像を表示する。つまり、領域135に医用画像M103を表示し、領域138に医用画像M104を表示し、領域141に医用画像M120を表示する。また、領域139に経時差分画像M105を表示し、領域142に経時差分画像M121を表示し、領域143に経時差分画像M122を表示する。
以上のように、第三の実施形態に係る医用画像表示装置によれば、一つのサムネイルと一つの選択前分割領域を選択することで、当該サムネイルと当該選択前分割領域に対応した複数の医用画像を、一つの選択前分割領域に表示できる。従って、ユーザは関連性の強い複数の医用画像の全てを一つの領域上に容易に表示することができ、ユーザは手間の少ない読影作業を行うことができる。
表示の観点では、各実施形態において以下のような機能を有する。配置決定部43は、ユーザが医用画像表示領域に表示させる医用画像を選択するための操作入力を確定する前に、前述したような処理により配置を決定する。具体的には、操作入力に操作部35としてマウスを用いて行ったとし、マウスポインタがサムネイル上に重なって表示されたとき、画像指定部42は当該サムネイルが選択されたと仮定して、医用画像表示領域での配置を決定するように配置決定部43を制御する。決定された表示は、表示制御部44を介して表示部36に表示される。ユーザは医用画像選択の操作入力を確定していないので、選択の操作入力を確定して表示された場合と判別可能に表示することが好ましい。例えば、選択の操作入力が確定される前の医用画像の表示は、表示制御部44が色を薄く表示するように制御する。また別の例では、医用画像表示領域あるいは選択前表示領域を配置決定部43が取得した行数と列数による分割の態様のみを破線で表示する。図7や図8に示されるような対応関係をユーザは予め設定しておくが、設定された対応関係に基づく配置が複数存在し得る場合、複数の配置の中から表示したい配置を選択できるようにし、ユーザの選択をもって表示する医用画像の配置を確定してもよい。
すなわち、前述した実施形態に係る医用画像表示装置および医用画像表示システムにおける、医用画像表示領域に表示させる医用画像を選択するための構成は制御部37である。制御部37は当該選択の操作入力が確定したことを受け付けて、表示させる医用画像を選択する。または、当該選択の操作入力が確定していなくても、操作部35からの入力に基づいて選択され得る医用画像を判定し選択する。
上述の各実施形態における医用画像表示装置および医用画像表示システムは、単体の装置として実現してもよいし、複数の情報処理装置を含む装置を互いに通信可能に組合せて上述の処理を実行する形態としてもよく、いずれも本発明の実施形態に含まれる。共通のサーバ装置あるいはサーバ群で、上述の処理を実行することとしてもよい。この場合、当該共通のサーバ装置は実施形態に係る医用画像表示装置に対応し、当該サーバ群は実施形態に係る医用画像表示システムに対応する。情報システムあるいは医用画像表示システムを構成する複数の装置は所定の通信レートで通信可能であればよく、また同一の施設内あるいは同一の国に存在することを要しない。
上述の各実施形態における医用画像表示装置および医用画像表示システムをサーバ装置あるいはサーバ群として実現する場合には、表示制御部44は配置決定手段により決定された配置を表示可能に出力する表示出力手段として機能する。
本発明の実施形態には、前述した実施形態の機能を実現するソフトウェアのプログラムを、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムのコードを読みだして実行するという形態を含む。
したがって、実施形態に係る処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明の実施形態の一つである。また、コンピュータが読みだしたプログラムに含まれる指示に基づき、コンピュータで稼働しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
上述の実施形態を適宜組み合わせた形態も、本発明の実施形態に含まれる。
10 医用画像表示装置
36 表示部
37 制御部
40 加工画像作成部
41 関連画像情報作成部(取得手段)
42 画像指定部(指定手段)
43 配置決定部(配置決定手段)
44 表示制御部
46 表示画像情報取得部(表示取得手段)

Claims (8)

  1. サムネイル表示領域に表示されているサムネイルを用いて、医用画像表示領域に表示する医用画像を指定する指定手段と、
    前記サムネイルに対応付いている画像が医用画像に画像処理を施した所定の加工画像であるか否かを示す情報に基づいて、前記指定手段により指定された医用画像の前記医用画像表示領域における配置を決定する配置決定手段と
    記指定手段により指定された医用画像が、前記所定の加工画像である場合、前所定の加工画像の作成に用いられた医用画像に関する情報を取得し、前記配置決定手段によって決定された前記配置で前記所定の加工画像および前記取得した医用画像を表示可能に出力する表示出力手段と、を有することを特徴とする医用画像表示装置。
  2. 前記配置決定手段は、前記サムネイルに対応付いている画像が前記所定の加工画像であるか否かを示す情報に基づいて前記医用画像表示領域を分割することを特徴とする請求項1に記載の医用画像表示装置。
  3. 前記配置決定手段は、前記指定手段により指定された医用画像が前記所定の加工画像である場合に、前記医用画像表示領域を分割し、前記医用画像を前記分割された領域に配置することを決定するように構成されていることを特徴とする請求項2に記載の医用画像表示装置。
  4. 前記配置決定手段は、前記所定の加工画像の生成に用いられた医用画像を前記分割された領域に配置することを決定するように構成されていることを特徴とする請求項3に記載の医用画像表示装置。
  5. 前記配置決定手段は、前記指定手段により指定された医用画像が前記所定の加工画像ではない場合に、前記医用画像表示領域を分割しないで、該医用画像を前記医用画像表示領域に表示させるよう配置を決定するように構成されていることを特徴とする請求項2に記載の医用画像表示装置。
  6. サムネイル表示領域に表示されているサムネイルを用いて、医用画像表示領域に表示する医用画像を指定する指定手段と、
    前記サムネイルに対応付いている画像が医用画像に画像処理を施した所定の加工画像であるか否かを示す情報に基づいて、前記指定手段により指定された医用画像の前記医用画像表示領域における配置を決定する配置決定手段と
    記指定手段により指定された医用画像が、前記所定の加工画像である場合、前所定の加工画像の作成に用いられた医用画像に関する情報を取得し、前記配置決定手段によって決定された前記配置で前記所定の加工画像および前記取得した医用画像を表示可能に出力する表示出力手段と、を有することを特徴とする医用画像表示システム。
  7. サムネイル表示領域に表示されているサムネイルを用いて、医用画像表示領域に表示する医用画像を指定する指定ステップと、
    前記サムネイルに対応付いている画像が医用画像に画像処理を施した所定の加工画像であるか否かを示す情報に基づいて、前記指定手段により指定された医用画像の前記医用画像表示領域における配置を決定する配置決定ステップと、
    を有し、
    前記指定ステップにより指定された医用画像が、前記所定の加工画像である場合、前所定の加工画像の作成に用いられた医用画像に関する情報を取得し、前記配置決定ステップによって決定された前記配置で前記所定の加工画像および前記取得した医用画像を表示可能に出力する表示出力ステップと、を実行することを特徴とする医用画像表示方法。
  8. 請求項1乃至請求項のいずれか一項に記載の医用画像表示装置の各手段をコンピュータに実行させるためのプログラム。
JP2019163444A 2015-06-11 2019-09-06 医用画像表示装置、医用画像表示方法、およびプログラム Active JP6862516B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015118357 2015-06-11
JP2015118357 2015-06-11

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2015157652A Division JP6643002B2 (ja) 2015-06-11 2015-08-07 医用画像表示装置、医用画像表示方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2020062382A JP2020062382A (ja) 2020-04-23
JP6862516B2 true JP6862516B2 (ja) 2021-04-21

Family

ID=57751158

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2015157652A Active JP6643002B2 (ja) 2015-06-11 2015-08-07 医用画像表示装置、医用画像表示方法、およびプログラム
JP2019163444A Active JP6862516B2 (ja) 2015-06-11 2019-09-06 医用画像表示装置、医用画像表示方法、およびプログラム
JP2019236003A Pending JP2020058847A (ja) 2015-06-11 2019-12-26 医用画像表示装置、医用画像表示方法、およびプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2015157652A Active JP6643002B2 (ja) 2015-06-11 2015-08-07 医用画像表示装置、医用画像表示方法、およびプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2019236003A Pending JP2020058847A (ja) 2015-06-11 2019-12-26 医用画像表示装置、医用画像表示方法、およびプログラム

Country Status (1)

Country Link
JP (3) JP6643002B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7163240B2 (ja) * 2019-04-11 2022-10-31 富士フイルム株式会社 表示制御装置、表示制御装置の作動方法、及び表示制御装置の作動プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04117947A (ja) * 1990-09-07 1992-04-17 Hitachi Medical Corp Ct装置におけるct画像の検索,表示装置
US5987345A (en) * 1996-11-29 1999-11-16 Arch Development Corporation Method and system for displaying medical images
JP2002200066A (ja) * 2000-12-27 2002-07-16 Mitsubishi Space Software Kk 画像表示制御装置
JP4027196B2 (ja) * 2002-09-24 2007-12-26 キヤノン株式会社 画像表示装置及びその制御方法
JP2005011121A (ja) * 2003-06-19 2005-01-13 Olympus Corp 情報処理装置及び方法
JP5572440B2 (ja) * 2009-09-15 2014-08-13 富士フイルム株式会社 診断支援システム、診断支援プログラムおよび診断支援方法
JP4920771B2 (ja) * 2010-06-15 2012-04-18 株式会社東芝 医用画像表示装置
JP6143433B2 (ja) * 2012-10-31 2017-06-07 キヤノン株式会社 医用画像撮影装置、医用画像の表示方法

Also Published As

Publication number Publication date
JP2017000697A (ja) 2017-01-05
JP2020058847A (ja) 2020-04-16
JP2020062382A (ja) 2020-04-23
JP6643002B2 (ja) 2020-02-12

Similar Documents

Publication Publication Date Title
JP7317077B2 (ja) トモシンセシス画像スラブを生成し表示するためのシステムおよび方法
CN106250665B (zh) 信息处理装置、信息处理方法及信息处理系统
US10222954B2 (en) Image display apparatus, display control apparatus and display control method using thumbnail images
JP6827706B2 (ja) 情報処理装置及びその方法、情報処理システム、コンピュータプログラム
JP6058181B2 (ja) 表示装置
JP5946221B2 (ja) 輪郭修正装置、方法およびプログラム
US9176655B2 (en) Medical image observation apparatus
US10417792B2 (en) Information processing apparatus to display an individual input region for individual findings and a group input region for group findings
US20170069084A1 (en) Information processing apparatus, method therof, information processing system, and computer-readable storage medium
CN106445435A (zh) 医用图像显示装置、系统和方法
JP3989896B2 (ja) 医用画像処理装置、関心領域抽出方法、ならびに、プログラム
JP6862516B2 (ja) 医用画像表示装置、医用画像表示方法、およびプログラム
US10324582B2 (en) Medical image display apparatus, method for controlling the same
JP6440386B2 (ja) 情報処理装置及びプログラム
JP7176997B2 (ja) 表示制御装置、表示制御装置の作動方法、及び表示制御装置の作動プログラム
JP7163168B2 (ja) 医用画像処理装置、システム及びプログラム
JP6327966B2 (ja) 医用画像表示装置、表示制御装置および表示制御方法、プログラム
JP6797858B2 (ja) 医用画像表示装置、表示制御装置および表示制御方法、プログラム
JP6572370B2 (ja) 医用画像表示装置およびその制御方法、プログラム
JP6719259B2 (ja) 医用レポート作成支援装置およびその制御方法、プログラム
JP2005253638A (ja) 医学教育支援システム
JP7148633B2 (ja) 医用画像表示制御装置、方法及びプログラム
WO2019198627A1 (ja) 画像処理装置、画像処理装置の制御方法、及びプログラム
JP2006087826A (ja) X線ct装置、診断画像作成システムおよび診断画像作成方法
JP2011139788A (ja) 画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191007

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210302

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210331

R151 Written notification of patent or utility model registration

Ref document number: 6862516

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151