JP2015019679A - 情報処理装置、情報処理方法、および、情報処理システム - Google Patents

情報処理装置、情報処理方法、および、情報処理システム Download PDF

Info

Publication number
JP2015019679A
JP2015019679A JP2013147420A JP2013147420A JP2015019679A JP 2015019679 A JP2015019679 A JP 2015019679A JP 2013147420 A JP2013147420 A JP 2013147420A JP 2013147420 A JP2013147420 A JP 2013147420A JP 2015019679 A JP2015019679 A JP 2015019679A
Authority
JP
Japan
Prior art keywords
information
information processing
unit
image
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2013147420A
Other languages
English (en)
Inventor
津田 敦也
Atsuya Tsuda
敦也 津田
敏一 内山
Toshiichi Uchiyama
敏一 内山
仁美 若宮
Hitomi Wakamiya
仁美 若宮
高野 正秀
Masahide Takano
正秀 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013147420A priority Critical patent/JP2015019679A/ja
Priority to EP14755717.7A priority patent/EP3022672A2/en
Priority to KR1020167003627A priority patent/KR20160033721A/ko
Priority to TW103124039A priority patent/TW201505603A/zh
Priority to US14/901,198 priority patent/US10042598B2/en
Priority to RU2016104900A priority patent/RU2642941C2/ru
Priority to PCT/JP2014/003697 priority patent/WO2015008470A2/en
Priority to CN201811229131.1A priority patent/CN109637622A/zh
Priority to CN201410340206.9A priority patent/CN104298344B/zh
Publication of JP2015019679A publication Critical patent/JP2015019679A/ja
Priority to US16/026,214 priority patent/US10664216B2/en
Priority to US16/851,780 priority patent/US11341726B2/en
Withdrawn legal-status Critical Current

Links

Images

Abstract

【課題】多種多様な医療用装置の情報を一元化すると共に、複数の画像表示装置における表示を制御する。【解決手段】情報処理装置は、複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、取得部により取得された複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と、複数の画像表示装置に対して、生成された提示用情報を出力する提供部とを備える。【選択図】図6

Description

本発明は、情報処理装置に関する。
頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display、HMD))が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイと光源とを利用して画像を表す画像光を生成し、生成された画像光を投写光学系や導光板等を利用して使用者の眼に導くことにより、使用者に虚像を認識させる。
特許文献1には、このような頭部装着型表示装置を用いることで、医療環境における情報の表示を改善するためのシステムが記載されている。特許文献1に記載の技術では、クエリーに基づいて複数の情報源から情報が取得され、取得された情報は、規則に基づきフィルター処理され、眼鏡ヘッドセット式ビューアーの接眼レンズへ投影される。また、特許文献1に記載の技術では、頭部装着型表示装置の装着者の視線に基づいて、固定された大型ディスプレイの表示についての制御権や優先権が決定される。特許文献2には、医療用顔面装着型映像表示装置(頭部装着型表示装置)が記載されている。特許文献2に記載の技術では、内視鏡検査又は内視鏡手術時に内視鏡と共に使用される内視鏡周辺機器の動作状態情報が、頭部装着型表示装置に表示される。特許文献3、4には、頭部装着型表示装置において、拡張現実感技術を応用することで、歯科手術における情報の表示を行うための方法が記載されている。特許文献3、4に記載の技術では、術部の実像に対して、術前イメージやシミュレーション画像等が重畳して表示される。
特開2006−102495号公報 特開2001−104331号公報 特開2010−259497号公報 特開2013−34764号公報
医学の進歩と電子機器の進歩により、現在の医療の現場は急速な進化を遂げている。医療の現場では、例えば、心電図、心拍数計、血圧計、パルスオキシメーター、血糖値計、レントゲン、内視鏡のような、多種多様な医療用の装置(以降「医療用装置」と呼ぶ。)が使用されている。このような多種多様な医療用装置の情報を把握して、作業を行うことは、医療の現場に従事する者にとって大きな負担となる。このため、多種多様な医療用装置の情報を一元化することのできるシステムが望まれていた。特許文献1に記載された技術では、複数の情報源(医療用装置)から情報を取得することはできるものの、取得した情報を、複数の頭部装着型表示装置に対して、どのように表示させるかについては何ら考慮されていなかった。また、特許文献2〜4に記載された技術では、対象としている医療用装置が限定されているため、多種多様な医療用装置の情報を一元化することができないという課題があった。
また、このような課題は、頭部装着型表示装置に限らず、例えば頭部装着型表示装置のような画像表示装置に表示させるための情報を生成する情報処理装置全般に共通する課題であった。このように、多種多様な医療用装置の情報を一元化すると共に、複数の画像表示装置における表示を制御することが可能な情報処理装置が望まれていた。そのほか、情報処理装置には、汎用性の向上、利便性の向上、製造コストの低減、信頼性の向上といった、種々の要望があった。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一形態によれば、情報処理装置が提供される。この情報処理装置は;複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と;前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と;複数の画像表示装置に対して、生成された前記提示用情報を出力する提供部と、を備える。この形態の情報処理装置によれば、生成部は、取得部により取得された複数の医療用装置情報を用いて提示用情報を生成するため、情報処理装置に接続されている多種多様な医療用装置の情報(医療用装置情報)を一元化することができる。また、提供部は、複数の画像表示装置に対して、生成された提示用情報を出力するため、複数の画像表示装置における表示を制御することができる。この結果、多種多様な医療用装置の情報を一元化すると共に、複数の画像表示装置における表示を制御することが可能な情報処理装置を実現することができる。
(2)上記形態の情報処理装置において;前記生成部は、前記複数の画像表示装置に対して共通する前記提示用情報を生成する第1のモードと、前記複数の画像表示装置にそれぞれ対応する複数の前記提示用情報を生成する第2のモードと、を有していてもよい。この形態の情報処理装置によれば、生成部は、一元化されている医療用装置情報を用いて、複数の画像表示装置に対して共通する提示用情報を生成する第1のモードと、複数の画像表示装置にそれぞれ対応する複数の提示用情報を生成する第2のモードと、を有する。情報処理装置は、生成部におけるこれらのモードを使い分けることによって、複数の画像表示装置における表示を制御することもできる。
(3)上記形態の情報処理装置において;前記生成部は、前記第1のモードにおいて、特定の前記画像表示装置の使用者によって選択された前記医療用装置情報を少なくとも含む、共通の前記提示用情報を生成してもよい。この形態の情報処理装置によれば、生成部は、特定の画像表示装置の使用者によって選択された医療用装置情報を少なくとも含む共通の提示用情報を生成し、提供部は、複数の画像表示装置に対して、生成された共通の提示用情報を出力する。この結果、情報処理装置は、複数の画像表示装置における表示を、特定の画像表示装置の使用者の選択に基づいて制御することが可能となる。
(4)上記形態の情報処理装置では;さらに;前記複数の画像表示装置を相互に識別するための情報と、当該画像表示装置が前記特定の画像表示装置であるか否かを表す情報と、を関連付けて記憶する装置間関係記憶部を備え;前記生成部は、前記第1のモードにおいて、前記装置間関係記憶部を用いて前記特定の画像表示装置を識別してもよい。この形態の情報処理装置によれば、生成部は、装置間関係記憶部を用いて簡便に、複数の画像表示装置から特定の画像表示装置を識別することができる。
(5)上記形態の情報処理装置において;前記生成部は、前記第2のモードにおいて、前記複数の画像表示装置の使用者によってそれぞれ選択された取得した前記医療用装置情報を少なくとも含む、前記複数の提示用情報を生成してもよい。この形態の情報処理装置によれば、生成部は、複数の画像表示装置の使用者によってそれぞれ選択された医療用装置情報を少なくとも含む、複数の提示用情報を生成し、提供部は、複数の画像表示装置に対して、生成された複数の提示用情報をそれぞれ出力する。この結果、情報処理装置は、複数の画像表示装置における表示を、各画像表示装置の使用者の選択に基づいて別個に制御することが可能となる。
(6)上記形態の情報処理装置において;前記生成部は、前記第2のモードにおいて、前記使用者のそれぞれの役割に応じた前記医療用装置から取得した前記医療用装置情報を少なくとも含む、前記複数の提示用情報を生成してもよい。この形態の情報処理装置によれば、生成部は、使用者のそれぞれの役割に応じた医療用装置から取得した医療用装置情報を少なくとも含む、複数の提示用情報を生成し、提供部は、複数の画像表示装置に対して、生成された複数の提示用情報をそれぞれ出力する。この結果、情報処理装置は、複数の画像表示装置における表示を、各画像表示装置の使用者の役割に応じて別個に制御することが可能となり、画像表示装置の使用者の利便性を向上させることができる。
(7)上記形態の情報処理装置では、さらに;前記複数の画像表示装置を相互に識別するための情報と、当該画像表示装置の使用者の役割とを関連付けて記憶する役割記憶部を備え;前記生成部は、前記第2のモードにおいて、前記役割記憶部を用いて前記使用者の役割を識別してもよい。この形態の情報処理装置によれば、生成部は、役割記憶部を用いて簡便に使用者の役割を識別することができる。
(8)上記形態の情報処理装置において;前記生成部は、前記第2のモードにおいて、さらに、生成された前記複数の提示用情報を結合した結合情報を生成し;前記提供部は、前記特定の画像表示装置に対して、生成された前記結合情報を出力してもよい。この形態の情報処理装置によれば、生成部は、生成された複数の提示用情報を結合した結合情報を生成し、提供部は、特定の画像表示装置に対して生成された結合情報を出力する。この結果、特定の画像表示装置の使用者は、情報処理装置に接続されている複数の画像表示装置において、どのような提示用情報が表示されているのかを知ることができる。この結果、特定の画像表示装置の使用者の利便性を向上させることができる。
(9)上記形態の情報処理装置において;前記生成部は、前記提示用情報を生成する際に、前記医療用装置情報に含まれる画像の縦横比を維持したまま、前記画像を拡大または縮小してもよい。この形態の情報処理装置によれば、生成部は、医療用装置情報に含まれる画像の縦横比を維持したまま、画像を拡大または縮小するため、提示用情報が生成される際に、医療用装置により取得された医療用装置情報に予期しない歪みが生じることを抑制できる。
(10)上記形態の情報処理装置において;前記情報処理装置には、前記画像表示装置として、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置が接続されてもよい。この形態の情報処理装置によれば、多種多様な医療用装置の情報を一元化すると共に、複数の頭部装着型表示装置における表示を制御することが可能な情報処理装置を実現することができる。
(11)上記形態の情報処理装置において;前記提供部は、さらに;前記頭部装着型表示装置から、前記頭部装着型表示装置を装着した状態における使用者の視界方向の画像を取得し;取得された前記視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し;抽出した前記特徴に基づいて生成部により生成された前記提示用情報を補正し、補正後の前記提示用情報を出力してもよい。この形態の情報処理装置によれば、提供部は、頭部装着型表示装置の使用者の視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し、抽出した特徴に基づいて、生成された提示用情報を補正する。このため、提示用情報に、例えばCT画像、MRI画像、レントゲン画像等の不可視情報が含まれる場合において、外景に含まれる物体(例えば、患者の体等)に不可視情報を一致させることができる。この結果、頭部装着型表示装置の使用者の利便性を向上させることができる。さらに、頭部装着型表示装置は、補正後の提示用情報を受信することができるため、頭部装着型表示装置は、受信した提示用情報をそのまま表示すればよい。この結果、頭部装着型表示装置の構成をシンプルにすることができる。
(12)本発明の一形態によれば、情報処理システムが提供される。この情報処理システムは;複数の医療用装置と;情報処理装置と;複数の頭部装着型表示装置であって、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置と、を備え;前記情報処理装置は;前記複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と;前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と;前記複数の頭部装着型表示装置に対して、生成された前記提示用情報を出力する提供部と、を備え;前記頭部装着型表示装置は;前記情報処理装置から前記提示用情報を取得する提示用情報取得部と;取得された前記提示用情報を前記虚像として前記頭部装着型表示装置の使用者に視認させる画像表示部と、を備える。この形態の情報処理システムによれば、多種多様な医療用装置の情報(医療用装置情報)を情報処理装置に一元化すると共に、複数の頭部装着型表示装置における表示を制御することが可能な情報処理システムを実現することができる。
上述した本発明の各形態の有する複数の構成要素は全てが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな構成要素との差し替え、限定内容の一部削除を行うことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、取得部と、生成部と、提供部と、の3つの要素のうちの一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、取得部を有していてもよく、有していなくてもよい。また、この装置は、生成部を有していてもよく、有していなくてもよい。また、この装置は、提供部を有していてもよく、有していなくてもよい。こうした装置は、例えば情報処理装置として実現できるが、情報処理装置以外の他の装置としても実現可能である。前述した情報処理装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
なお、本発明は、種々の態様で実現することが可能であり、例えば、情報処理装置、情報処理方法、情報処理システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、頭部装着型表示システム、これらの方法、装置またはシステムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体等の形態で実現することができる。
本発明の一実施形態における情報処理システムの概略構成を示す説明図である。 情報処理装置の構成を機能的に示すブロック図である。 共通映像仕様の一例を示す説明図である。 管理テーブルの一例を示す説明図である。 ヘッドマウントディスプレイの構成を機能的に示すブロック図である。 提示用情報生成処理の手順を示すフローチャートである。 提示用情報の生成方法について説明するための説明図である。 提示用情報の生成方法について説明するための説明図である。 提示用情報の第1の例を示す説明図である。 提示用情報の第2の例を示す説明図である。 提示用情報の第3の例を示す説明図である。 複数のヘッドマウントディスプレイにおいて提示用情報が虚像として表示されている様子を示す説明図である。 異なる位置にある複数のヘッドマウントディスプレイにおいて提示用情報が虚像として表示されている様子を示す説明図である。 ステップS122〜S134が2回実行された結果複数のヘッドマウントディスプレイにおいて提示用情報が虚像として表示されている様子を示す説明図である。 第2実施形態における情報処理装置の構成を機能的に示すブロック図である。 結合情報生成処理の手順を示すフローチャートである。 結合情報の生成方法について説明するための説明図である。 ヘッドマウントディスプレイにおいて結合情報が虚像として表示されている様子を示す説明図である。 変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。
A.第1実施形態:
A−1.情報処理システムの構成:
図1は、本発明の一実施形態における情報処理システム1000の概略構成を示す説明図である。情報処理システム1000は、複数の医療用装置501〜50nと、情報処理装置300と、画像表示装置100と、を備えている。情報処理システム1000は、医療の現場において使用されるシステムであり、情報処理装置300は、複数の医療用装置501〜50nから情報を取得して一元化し、画像表示装置100へ表示させるための提示用情報を生成する。医療用装置501〜50nと、画像表示装置100とは、有線接続または無線接続によって、情報処理装置300と接続されている。なお、以降では「任意の複数」を表す文字として「n」を用いる。nは1以上の整数である。
本実施形態では、医療の現場として、手術室における手術現場を例示するが、情報処理システム1000は、診察室、処置室、治療室、分娩室等で使用されてもよい。また、本実施形態では、画像表示装置100として、頭部装着型表示装置を例示するが、画像表示装置100は、固定型のディスプレイ、携帯可能なディスプレイ、スマートフォン等でもよい。以降、頭部装着型表示装置100を「ヘッドマウントディスプレイ100(Head Mounted Display、HMD)」とも呼ぶ。また、図1では、1台のヘッドマウントディスプレイ100を図示しているが、後述する図2のように、複数台のヘッドマウントディスプレイ100a〜100nが情報処理装置300に接続されていてもよい。
なお、以降の説明において、ヘッドマウントディスプレイ100a〜100nを特に区別せず説明する場合は、単に「ヘッドマウントディスプレイ100」と呼ぶ。同様に、医療用装置501〜50nを特に区別せず説明する場合は、単に「医療用装置500」と呼ぶ。
医療用装置501〜50nは、医療用途で使用される種々の装置である。医療用装置501〜50nの例としては、例えば、室内外の静止画および動画を撮影するための可視光カメラ、術部の静止画および動画を撮影するための可視光カメラ、心電図検査装置、手術用タイマー、生体モニター、心拍数計、脈拍計、血圧計、超音波検査装置、パルスオキシメーター、血糖値計、CT(Computed Tomography、コンピューター断層撮影)画像撮影装置、MRI(Magnetic Resonance Imaging、核磁気共鳴画像法)画像撮影装置、レントゲン(X線)画像撮影装置、透視画像撮影装置、内視鏡画像、サーモグラフィー画像撮影装置等を使用することができる。
A−2.情報処理装置の構成:
図2は、情報処理装置300の構成を機能的に示すブロック図である。情報処理装置300は、第1の入出力部310と、ROM320と、RAM330と、通信インターフェイス340と、CPU350と、外部記憶装置380とを備え、各部はバスにより相互に接続されている。
取得部としての第1の入出力部310は、複数の第1の入出力部311〜31nを備えている。第1の入出力部311〜31nは、例えば、USB(Universal Serial Bus)、HDMI(High Definition Multimedia Interface(登録商標))、DVI(Digital Visual Interface)、VGA(Video Graphics Array)、コンポジット、RS−232C(Recommended Standard 232)、赤外線、近距離無線通信(例えばBluetooth(登録商標))、無線LAN(例えばIEEE802.11)、有線LAN(例えばIEEE802.3)などの通信規格に準拠した入出力インターフェイスである。第1の入出力部311〜31nは、接続されている医療用装置501〜50nから入力される情報をそれぞれ取得する。医療用装置から入力される情報とは、医療用装置により測定または撮像等された情報である。以降では「医療用装置情報」とも呼ぶ。
本実施形態では、第1の入出力部311はDVIに準拠し、第1の入出力部312はHDMIに準拠し、第1の入出力部313はHDMIに準拠し、第1の入出力部31nは無線LANに準拠した入出力インターフェイスである。図2において、第1の入出力部311には、医療用装置501と固定式のディスプレイ700とが接続されている。同様に、第1の入出力部312には医療用装置502が、第1の入出力部313には医療用装置503が、第1の入出力部31nには医療用装置50nが、それぞれ接続されている。このように、第1の入出力部310は、異なる種類の通信規格に準拠した第1の入出力部311〜31nにより構成されている。このため、第1の入出力部310には、様々な通信規格に準拠した医療用装置を接続することが可能となり、情報処理装置300の汎用性を向上させることができる。なお、第1の入出力部310は、入力された信号を、例えばディスプレイ700等の表示装置に対してそのまま出力することもできる。
通信インターフェイス(I/F)340は、有線LANのインターフェイスである。通信インターフェイス340は、インターネットINTの回線を通じて、外部の施設の医師PRと情報処理装置300とを通信可能に接続するほか、イントラネットを通じて院内LANに接続されているデータベースODと情報処理装置300とを通信可能に接続する。医師PRは、例えば、情報処理装置300に接続されているヘッドマウントディスプレイ100の使用者の指導に当たる医師や、外部の専門医等が想定される。データベースODには、手術等の処置の手順を表す手順情報、電子カルテシステム、電子化された学術書等が記憶されている。
CPU350は、ROM320に格納されているコンピュータープログラムをRAM330に展開して実行することにより、情報処理装置300を制御する。また、CPU350は、生成部360、第2の入出力部370の機能を実現する。生成部360は、後述の提示用情報生成処理を実行することで、ヘッドマウントディスプレイ100へ表示させるための提示用情報を生成する。本実施形態の生成部360は、提示用情報生成処理における処理のモードとして、以下に示す2つのモードを有する。
(1)共通の提示用情報を生成する第1のモード
(2)ヘッドマウントディスプレイ100a〜100nにそれぞれ対応する複数の提示用情報を生成する第2のモード
提供部としての第2の入出力部370は、複数の第2の入出力部371〜37nを備えている。第2の入出力部371〜37nは、第1の入出力部310と同様に、様々な通信規格に準拠した入出力インターフェイスである。詳細は第1の入出力部310と同様であるため説明を省略する。
本実施形態では、第2の入出力部371と第2の入出力部372とは無線LANに準拠し、第2の入出力部373はUSBに準拠し、第2の入出力部37nはDVIに準拠した入出力インターフェイスである。図2において、第2の入出力部371には、画像表示装置としてのヘッドマウントディスプレイ100aが接続されている。同様に、第2の入出力部372にはヘッドマウントディスプレイ100bが、第2の入出力部373にはヘッドマウントディスプレイ100cが、第2の入出力部37nにはヘッドマウントディスプレイ100nが、それぞれ接続されている。このように、第2の入出力部370は、異なる種類の通信規格に準拠した第2の入出力部371〜37nにより構成されている。このため、第2の入出力部370には、様々な通信規格に準拠したヘッドマウントディスプレイを接続することが可能となり、情報処理装置300の汎用性を向上させることができる。
外部記憶装置380は、図示しないROM、RAM、DRAM、ハードディスク、フラッシュメモリー等によって構成されている。外部記憶装置380は、共通映像仕様381と、管理テーブル382と、不可視情報記憶部としての不可視情報383と、手術の記録384と、動作モード385とを含む。
図3は、共通映像仕様381の一例を示す説明図である。共通映像仕様381は、提示用情報の映像信号についての、標準的な仕様を規定するためのテーブルである。共通映像仕様381は、提示用情報生成処理において、生成部360が提示用情報を生成する際に使用される。
本実施形態の共通映像仕様381には、映像信号の仕様として、映像信号に含まれる画像の画素数と、縦横比と、解像度と、圧縮方法と、符号化方法とが含まれている。共通映像仕様381は、予め定められて外部記憶装置380内に記憶されている。共通映像仕様381を定める際は、第2の入出力部370に接続されているヘッドマウントディスプレイ100a〜100nにおいて採用されている映像信号の仕様を考慮することが好ましい。
図4は、管理テーブル382の一例を示す説明図である。役割記憶部および装置間関係記憶部としての管理テーブル382は、第2の入出力部370に接続されているヘッドマウントディスプレイ100の情報を管理するため、より具体的には、第2の入出力部371〜37nにそれぞれ接続されているヘッドマウントディスプレイ100a〜100nの情報を管理するためのテーブルである。管理テーブル382は、提示用情報生成処理において生成部360が提示用情報を生成する際に使用されるほか、第2の入出力部371〜37nがヘッドマウントディスプレイ100a〜100nに対して提示用情報を送信する際にも使用される。
本実施形態の管理テーブル382は、識別子と、装置間関係と、役割と、映像仕様とが関連付けられて記憶されている。「識別子」には、第2の入出力部370に接続されているヘッドマウントディスプレイ100を相互に識別するための一意な識別子が格納されている。「装置間関係」には、第2の入出力部370に接続されている複数のヘッドマウントディスプレイ100a〜100nの主従関係を表す文字列が格納されている。本実施形態では、1台のヘッドマウントディスプレイ100を主(マスタ)とし、他のヘッドマウントディスプレイ100を従(スレーブ)とする。「役割」には、識別子によって識別されるヘッドマウントディスプレイ100の使用者が、医療の現場においてどのような役割を担っているかを表す文字列が格納されている。「映像仕様」には、識別子によって識別されるヘッドマウントディスプレイ100における映像信号の仕様(映像信号に含まれる画像の画素数、縦横比、解像度、圧縮方法、符号化方法等)のパターンを表す文字列が格納されている。
図4の例では、識別子「1」により識別されるヘッドマウントディスプレイ100の使用者は「執刀医」であり、当該ヘッドマウントディスプレイ100の映像仕様は「仕様A」であることがわかる(エントリE01)。同様に、識別子「n」により識別されるヘッドマウントディスプレイ100の使用者は「看護師」であり、当該ヘッドマウントディスプレイ100の映像仕様は「仕様E」であることがわかる(エントリE0n)。また、図4の例では、識別子「1」により識別されるヘッドマウントディスプレイ100がマスタであり、他の識別子により識別されるヘッドマウントディスプレイ100はスレーブであることがわかる(エントリE01〜E0n)。
管理テーブル382は、予め定められて外部記憶装置380に記憶されていてもよいし、情報処理装置300に対してヘッドマウントディスプレイ100が接続された際に、初期処理として自動的に生成されもよい。具体的には、例えば、生成部360は、第2の入出力部370に対するヘッドマウントディスプレイ100の接続を検出した際に、当該ヘッドマウントディスプレイ100に対して一意な識別子を付与すると共に、ヘッドマウントディスプレイ100から、主従(マスタ/スレーブ)の指定と、使用者の役割と、映像仕様とを取得する。生成部360は、付与した識別子と、主従の指定と、取得した役割と、映像仕様とを管理テーブル382に格納する。第2の入出力部370に対してヘッドマウントディスプレイ100a〜100nが接続される度に、上記のような初期処理を行うことによって、生成部360は管理テーブル382を自動的に生成することができる。
管理テーブル382のうちの「装置間関係」は、上述のように、ヘッドマウントディスプレイ100から取得するほか、例えば、以下のような方法で決定されてもよい。
・ヘッドマウントディスプレイ100から取得した役割に応じて決定する。例えば、生成部360は、執刀医のヘッドマウントディスプレイ100をマスタとして、執刀医以外のヘッドマウントディスプレイ100をスレーブとする。
・ヘッドマウントディスプレイ100の現在位置情報を取得し、各ヘッドマウントディスプレイの位置関係に応じて決定する。例えば、生成部360は、ヘッドマウントディスプレイ100の現在位置情報を取得し、手術台の中央に最も近接した位置にあるヘッドマウントディスプレイ100をマスタとして、他のヘッドマウントディスプレイ100をスレーブとする。
・ヘッドマウントディスプレイ100のハードウェア、ソフトウェア構成の相違に基づいて決定する。例えば、生成部360は、ヘッドマウントディスプレイ100の型番を取得し、特定の型番のヘッドマウントディスプレイ100をマスタとして、他のヘッドマウントディスプレイ100をスレーブとする。
管理テーブル382のうちの「役割」は、上述のように、ヘッドマウントディスプレイ100から取得するほか、例えば、以下のような方法で決定されてもよい。
・ヘッドマウントディスプレイ100の現在位置情報に基づいて決定する。例えば、情報処理装置300の外部記憶装置380には、予め、手術室内における設備(手術台、医療用装置500)のレイアウトと、手術室内における役割ごとのスタッフの立ち位置のレイアウトと、を含むレイアウト情報を記憶しておく。そして、生成部360は、ヘッドマウントディスプレイ100の現在位置情報を取得し、取得した現在位置情報をレイアウト情報と照合することで、当該ヘッドマウントディスプレイ100の使用者の役割を決定する。
・ヘッドマウントディスプレイ100の使用者の視界方向の画像(外景画像)に基づいて決定する。生成部360は、ヘッドマウントディスプレイ100から外景画像を取得し、外景画像を画像認識することで、使用者が視認している医療用装置500の種類、手術室内の設備の種類、患者の体の部分等を特定する。生成部360は、特定したこれらの情報に応じて、当該ヘッドマウントディスプレイ100の使用者の役割を決定する。
図2の不可視情報383(不可視情報記憶部)には、物体の外観に現れない情報である不可視情報が記憶されている。不可視情報は、物体の構造を表した画像や文字情報であり、物体が生体である場合、例えば、CT画像、MRI画像、レントゲン(X線)画像、透視画像、超音波診断画像、内視鏡画像、サーモグラフィー画像、および、これらに付随する文字情報である。不可視情報は、予め撮影されて、不可視情報383に記憶されている。
図2の手術の記録384は、情報処理装置300が取得した医療用装置情報と、情報処理装置300が生成した提示用情報と、取得または生成の日時と、を対応付けて記録するための記録部である。情報処理装置300が取得した医療用装置情報とは、情報処理装置300が、第1の入出力部311〜31nにそれぞれ接続されている複数の医療用装置501〜50nから取得した医療用装置情報を意味する。また、情報処理装置300が生成した提示用情報とは、提示用情報生成処理において、生成部360が生成したすべての提示用情報を意味する。情報処理装置300が取得、生成した情報の記録は、手術(診察、処置、治療)のログとほぼ同視することができる。従って、このようにすれば、手術等が終了した後において、手術のログを、手術内容の分析、研修、学術等に利用することができる。
図2の動作モード385には、生成部360の提示用情報生成処理における処理のモード(すなわち、生成部360の動作モード)が記憶されている。動作モード385の内容は、情報処理装置300が備える図示しない入力デバイスにより変更可能である。また、ヘッドマウントディスプレイ100からの変更指示によっても変更可能である。
A−3.頭部装着型表示装置の構成:
図5は、ヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。以降では、ヘッドマウントディスプレイ100の構成の一例としてヘッドマウントディスプレイ100aを例示して説明する。ヘッドマウントディスプレイ100aは、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置であって、情報処理装置300から取得した提示用情報を虚像として表示する。ヘッドマウントディスプレイ100aは、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10とを備えている。画像表示部20と制御部10とは、ケーブル40を介して各種信号の伝送を行う。
A−3−1.制御部の構成:
制御部10は、例えばタッチパッド、十字キー、フットスイッチ、ジェスチャー、マイクロホン等の入力デバイスに対する操作入力を取得する入力情報取得部110と、ROMやハードディスク等により構成される記憶部120と、ヘッドマウントディスプレイ100aの各部に電力を供給する電源130と、無線LANやBluetooth等の所定の無線通信規格に則って他の機器との間で無線通信を行う無線通信部132と、現在位置取得部134と、CPU140と、情報処理装置300や種々の外部機器OAを接続するためのインターフェイス180と、送信部(Tx)51、52とを備え、各部は図示しないバスにより相互に接続されている。現在位置取得部134は、GPS衛星からの信号を受信することにより、ヘッドマウントディスプレイ100aの使用者の現在位置を検出し、使用者の現在位置を表す現在位置情報を生成する。なお、現在位置取得部134は、複数の基地局の電波を受信し、受信した電波の強弱を判定することによって現在位置情報を生成してもよい。現在位置情報は、例えば緯度経度を表す座標によって実現することができる。インターフェイス180は、情報処理装置300の第1の入出力部310と同様に、様々な通信規格に準拠することができる。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム(ОS)150、画像処理部160、音声信号を右イヤホン32のスピーカーと左イヤホン34のスピーカーとに対して供給する音声処理部170、表示制御部190として機能する。画像処理部160は、提示用情報取得部としてのインターフェイス180や無線通信部132を介して入力される提示用情報の映像信号に基づいて信号を生成する。そして、画像処理部160は、生成した信号を、送信部51、52と、ケーブル40とを介して画像表示部20に供給することで、画像表示部20における表示を制御する。画像表示部20に供給するための信号は、周知のアナログ形式やディジタル形式を用いることができる。表示制御部190は、画像表示部20の右表示駆動部22および左表示駆動部24を制御する制御信号を生成し、送信部51、52を介して送信する。制御信号とは、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFを個別に切り替えるための信号である。
A−3−2.画像表示部の構成:
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、画像を表す画像光を生成し射出する右表示駆動部22および左表示駆動部24と、画像光を使用者の両眼へ導く右光学像表示部26および左光学像表示部28(図2)と、画像取得部としてのカメラ61と、9軸センサー66とを含む。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD(Liquid Crystal Display)制御部211および右LCD241と、右投写光学系251とを含む。右バックライト制御部201は、受信部53を介して入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、入力された映像信号に基づいて右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することで、右LCD241を透過する光の透過率を変化させ、右バックライト221から照射される照明光を、画像を表す有効な画像光へと変調する。右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左表示駆動部24は、右表示駆動部22と同様の構成を有し、右表示駆動部22と同様に動作する。
右光学像表示部26と左光学像表示部28とは、使用者が画像表示部20を装着した際に使用者の左右の眼前に位置するように配置されている(図2)。右光学像表示部26は、光透過性の樹脂材料等によって形成された右導光板261を含む。右導光板261は、右表示駆動部22から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REへ導く。右導光板261には、回折格子を用いても良いし半透過反射膜を用いても良い。左光学像表示部28は、右光学像表示部26と同様の構成を有し、右光学像表示部26と同様に動作する。このようにして、ヘッドマウントディスプレイ100aの使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は虚像を視認することができる。本実施形態のヘッドマウントディスプレイ100aの使用者は、視野のうち虚像が表示された部分については、虚像と、虚像の背後の外景とを同時に見ることができる。また、視野のうち虚像が表示されていない部分については、左右の光学像表示部26、28を透過して、外景を直接見ることができる。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーである。9軸センサー66は、画像表示部20が使用者の頭部に装着されているときには、ヘッドマウントディスプレイ100aの使用者の頭部の動きを検出する動き検出部として機能する。ここで、頭部の動きとは、頭部の速度・加速度・角速度・向き・向きの変化を含む。なお、頭部の向きを「方位情報」とも呼ぶ。視界画像取得部としてのカメラ61は、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置に配置されている。カメラ61は、画像表示部20の表側方向、換言すれば、ヘッドマウントディスプレイ100aを装着した状態における使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得する。カメラ61はいわゆる可視光カメラである。本実施形態におけるカメラ61は単眼カメラであるが、ステレオカメラを採用してもよい。
A−4.提示用情報生成処理:
図6は、提示用情報生成処理の手順を示すフローチャートである。提示用情報生成処理は、ヘッドマウントディスプレイ100へ表示させるための提示用情報を生成する処理であり、情報処理装置300(図2)の生成部360が実行する。提示用情報生成処理は、共通の提示用情報を生成する第1のモードと、ヘッドマウントディスプレイ100a〜100nにそれぞれ対応する複数の提示用情報を生成する第2のモードと、に分かれている。また、第2のモードにおいて実行される処理は、ステップS120〜S134から構成される初期処理と、ステップS136〜S142から構成される個別処理とに大別できる。
生成部360は、動作モード385に記憶されている内容を参照することで、生成部360の動作モードを確認する(ステップS100)。
A−4−1.第1のモード:
動作モードが「第1のモード」である場合(ステップS100:第1のモード)、生成部360は、管理テーブル382から、マスタであるヘッドマウントディスプレイ100を検索する(ステップS110)。具体的には、生成部360は、管理テーブル382を参照し、「装置間関係」にマスタと記憶されているエントリを検索し、検索されたエントリの「識別子」を取得する。
生成部360は、マスタであるヘッドマウントディスプレイ100から情報源の選択要求を取得する(ステップS112)。具体的には、生成部360は、ステップS110において取得した識別子を有するヘッドマウントディスプレイ100に対して、情報源の選択要求を送信するよう要求する。ここで、情報源の選択要求とは、例えば以下a1〜a6に列挙するような要求を意味する。
(a1)医療用装置500によって取得された医療用装置情報の閲覧要求
(a2)外部の施設の医師PRとの通話要求
(a3)院内データベースODに記録されているデーターの閲覧要求
(a4)不可視情報383に記録されているデーターの閲覧要求
(a5)手術の記録384に記録されているデーターの閲覧要求
(a6)ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500の医療用装置情報の閲覧要求
要求a1の場合の情報源は医療用装置500である。同様に、要求a2の場合の情報源は医師PRであり、要求a3の場合の情報源はデータベースODであり、要求a4の場合の情報源は不可視情報383であり、要求a5の場合の情報源は手術の記録384であり、要求a6の場合の情報源は使用者による表示部の視認が困難な医療用装置500である。ここで、「使用者による表示部の視認が困難な医療用装置500」とは、例えば、以下のような医療用装置500の総称である。
・医療用装置500が使用者の死角にあるために、使用者から表示部(ディスプレイ等)が視認できない、または視認しづらい医療用装置500。
・医療用装置500が使用者から離れた場所にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500。
・医療用装置500は使用者の死角でなく、かつ、使用者から近い場所にあるものの、使用者の視線と表示部とが対向していないために、使用者から表示部が視認できない、または視認しづらい医療用装置500。
上記の要求a1〜a6は、単独で発行されてもよいし、組み合わせられてもよい。ただし、本実施形態においては、情報源の取得要求には、少なくとも要求a1が含まれるものとする。情報源の選択要求は、ヘッドマウントディスプレイ100の使用者の操作に応じて適宜発行される。
ヘッドマウントディスプレイ100は、例えば、以下の手順b1〜b5によって、情報処理装置300に対して情報源の選択要求を送信することができる。
(b1)ヘッドマウントディスプレイ100の使用者は、ヘッドマウントディスプレイ100の入力デバイス(タッチパッド、十字キー、フットスイッチ、ジェスチャー、マイクロホン等)を介して、希望する情報源と、情報源内の情報を特定するための情報と、を入力する。入力方法として、マイクロホンを介した音声入力を採用すれば、使用者が手を用いて操作することが困難な医療の現場においてヘッドマウントディスプレイ100が使用される場合の、使用者の利便性を大きく向上させることができる。なお、要求a1、a6の場合、「情報源内の情報を特定するための情報」は入力不要である。
(b2)ヘッドマウントディスプレイ100の入力情報取得部110は、使用者の操作入力に応じた信号を取得し、OS150へ送信する。
(b3)ヘッドマウントディスプレイ100のOS150は、情報源の選択要求を生成する。具体的には、要求a1の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、手順b1で指定された情報源を特定するための識別子と、を含んだ情報源の選択要求を生成する。要求a2〜a5の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、手順b1で指定された情報源を特定するための識別子と、情報源内の情報を特定するための情報と、を含んだ情報源の選択要求を生成する。要求a6の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、ヘッドマウントディスプレイ100の現在位置情報と、方位情報と、を含んだ情報源の選択要求を生成する。なお、この現在位置情報および方位情報は、要求a6の「使用者による表示部の視認が困難な医療用装置500」を特定するために用いられる。
(b4)ヘッドマウントディスプレイ100のOS150は、インターフェイス180や無線通信部132を介して接続されている情報処理装置300に対して、手順b3で生成した情報源の選択要求を送信する。
(b5)情報処理装置300の第2の入出力部370は、生成部360に対して、受信した情報源の選択要求を送信する。
提示用情報生成処理(図6)のステップS114において、生成部360は、情報源の選択要求に含まれる、情報源を特定するための情報と、情報源内の情報を特定するための情報と、を取得する。さらに、生成部360は、情報源を特定するための情報として、現在位置情報および方位情報が挿入されている場合は、当該現在位置情報と方位情報とを、他の全ての医療用装置500から取得した位置情報と比較して、「使用者による表示部の視認が困難な医療用装置500」を特定する。なお、ステップS114において生成部360は、現在位置情報および方位情報に対してさらに、ヘッドマウントディスプレイ100の9軸センサー66により得られた使用者の頭部の動き(頭部の速度・加速度・角速度・向き・向きの変化)を組み合わせて、「使用者による表示部の視認が困難な医療用装置500」を特定してもよい。
生成部360は、指定(特定)された情報源にアクセスして、指定された情報を取得する。そして、生成部360は、取得した情報を用いて、第2の入出力部370に接続されている全てのヘッドマウントディスプレイ100に提供するための、共通の提示用情報を生成する。この共通の提示用情報を「提示用情報PN*」とも呼ぶ。生成部360は、生成した提示用情報PN*を手術の記録384に記憶させる(ステップS116)。
図7は、提示用情報の生成方法について説明するための説明図である。ステップS116により取得された情報が単数である場合、生成部360は、取得された情報CP1に含まれる画像を、共通映像仕様381に規定されている映像信号の仕様に沿って変換することによって、提示用情報PNを生成する(図7(A))。生成部360は、この変換にあたって、特に、取得された情報CP1に含まれる画像の縦横比と、共通映像仕様381に規定されている画像の縦横比とが異なる場合、取得された情報CP1に含まれる画像の縦横比を維持したまま、画像を拡大または縮小する。すると、提示用情報PNの縦方向または横方向に画像のない余白部分(図において斜線で表す)が生じる。
生成部360は、余白部分に関して、以下のc1、c2のいずれかの手順を実行する。これにより、余白部分がヘッドマウントディスプレイ100において虚像として表示されて、使用者の視界を遮ることを抑制することができる。
(c1)生成部360は、提示用情報PNの余白部分に対して黒色のダミードットデーターを挿入する。
(c2)生成部360は、提示用情報PNの余白部分に対して、ヘッドマウントディスプレイ100の右表示駆動部22および左表示駆動部24における画像光生成の有効/無効を切り替えるための信号(Enable信号)をLo値(無効を示す値)とする。
このようにすれば、提示用情報PNに含まれる画像の縦横比が変わることがない。情報処理装置300が使用される医療の現場における画像(例えば、術部の静止画および動画、CT画像、MRI画像、レントゲン画像等)は、使用者が視認する画像の実寸感覚が損なわれないように、医療用装置500において撮影された画像の縦横比を厳密に維持することが好ましい。その点、ステップS116により取得された情報CP1に含まれる画像の縦横比を維持することとすれば、情報源が医療用装置500である場合に、医療用装置500により測定または撮像等された医療用装置情報に予期しない歪みが生じることを抑制できる。なお、図7(B)は、取得された情報CP1に含まれる画像の縦横比を維持せず、共通映像仕様381に規定されている画像の縦横比に合わせて拡大した結果、情報に歪みが生じた提示用情報PNxを表している。
図8は、提示用情報の生成方法について説明するための説明図である。ステップS116により取得された情報が複数である場合、生成部360は、取得された全ての情報(図10の例では、医療用装置情報CP2、CP3)に含まれる画像が配置された第1の画像を生成する。この際も、生成部360は、取得された情報に含まれる画像の縦横比を維持する。また、取得された情報に含まれる画像は、第1の画像の端部に配置されることが好ましい。生成部360は、生成した第1の画像を、共通映像仕様381に規定されている映像信号の仕様に沿って変換することによって、提示用情報PNを生成する(図8)。なお、生成部360は、第1の画像のうち、画像が配置されていない余白部分(図において斜線で表す)について、上述した方法c1またはc2のいずれかの手順を実行する。これにより、余白部分がヘッドマウントディスプレイ100において虚像として表示されて、使用者の視界を遮ることを抑制することができる。
図9は、提示用情報の第1の例を示す説明図である。図9(A)は、情報源の選択要求において、不可視情報383に記憶されている患者のレントゲン画像(CP4)が指定された場合に、生成部360によって生成される提示用情報PNの一例である。なお、情報源の選択要求において、不可視情報を取得することが可能な医療用装置500(レントゲン画像撮影装置)が指定された場合にも、図9(A)と同様の提示用情報が生成される。
図9(B)は、情報源の選択要求において、医療用装置500としての手術用タイマーと、医療用装置500としての脈拍計と、医療用装置500としての生体モニターと、が指定された場合に、生成部360によって生成される提示用情報PNの一例である。提示用情報PNの各端部には、手術用タイマーから取得された現在時刻CP5および手術開始からの経過時間CP7と、脈拍計から取得された脈拍の画像CP6と、生体モニターから取得された心拍数(HR)と、血圧(SYS/DIA)と、動脈血酸素飽和度(SpO2)との画像CP8が配置されている。
図10は、提示用情報の第2の例を示す説明図である。図10(A)は、情報源の選択要求において、院内データベースODに記憶されている学術書(CP9)と、院内データベースODに記憶されている手術の手順情報(CP10)と、が指定された場合に、生成部360によって生成される提示用情報PNの一例である。図10(B)は、情報源の選択要求において、医療用装置500としての術部の静止画および動画を撮影するための可視光カメラと、外部の施設の医師PRとの通話と、が指定された場合に、生成部360によって生成される提示用情報PNの一例である。
図11は、提示用情報の第3の例を示す説明図である。図11は、情報源の選択要求において、医療用装置500としての生体モニターが指定された場合に、生成部360によって生成される提示用情報PNの一例である。図11に示す生体モニターは、第1の入出力部310に接続できるインターフェイスを備えていない。しかし、情報処理装置300が可視光カメラを備える構成とした上で、可視光カメラが生体モニターの画面(CP13)を撮影することとすれば、生成部360は、第1の入出力部310に接続できるインターフェイスを持たない医療用装置からの医療用装置情報を用いて、図11のように、提示用情報PNを生成することができる。
なお、提示用情報PNの生成に際して、ヘッドマウントディスプレイ100は、情報源の選択要求において、各情報源における情報の「配置」、「大きさ」、「透過度」等を直接的または間接的に指定してもよい。ここで「直接的に指定する」とは、ヘッドマウントディスプレイ100が、各情報が配置される座標、大きさ、透過度を示す数値を指定することを意味する。また、「間接的に指定する」とは、例えば、ヘッドマウントディスプレイ100が、外景を優先させる「外景優先モード」と、画像を優先させる「画像優先モード」等、予め用意された表示モードのうちから所望のモードを指定することを意味する。例えば、外景優先モードの場合、生成部360は、図8のように、情報を端部に小さく配置して、画面中央における使用者の視界を妨げない提示用情報PNを生成する。画像優先モードの場合、生成部360は、図9(A)のように、情報を画面中央に大きく配置した提示用情報PNを生成する。
提示用情報生成処理(図6)のステップS118において、生成部360は、生成した提示用情報PN*を、全ての第2の入出力部370(第2の入出力部371〜第2の入出力部37n)へ送信する。第2の入出力部371は、受信した提示用情報PN*に含まれる画像を、ヘッドマウントディスプレイ100aの映像信号の仕様に沿って変換する。なお、この際に、第2の入出力部371は管理テーブル382の「映像仕様」を参照してもよい。映像仕様の変換後、第2の入出力部371は、ヘッドマウントディスプレイ100aに対して提示用情報PN*を送信する。同様に、第2の入出力部372〜第2の入出力部37nは、受信した提示用情報PN*に含まれる画像を、ヘッドマウントディスプレイ100b〜100nの映像信号の仕様に沿ってそれぞれ変換し、変換後の提示用情報PN*を、ヘッドマウントディスプレイ100b〜100nに対してそれぞれ送信する。
図12は、複数のヘッドマウントディスプレイ100aと100bとにおいて、提示用情報PN*が虚像として表示されている様子を示す説明図である。第2の入出力部371から送信された提示用情報PN*を、インターフェイス180または無線通信部132を介して受信したヘッドマウントディスプレイ100aでは、画像処理部160による上述の表示処理が行われる。この結果、ヘッドマウントディスプレイ100aの使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、ヘッドマウントディスプレイ100aの使用者は、視野VRに提示用情報PN*の虚像VIを視認することができる。また、使用者は、右光学像表示部26および左光学像表示部28を透過して、手術台に横たわる患者の様子を直接視認することができる(外景SC)。同様に、第2の入出力部372から送信された提示用情報PN*を受信したヘッドマウントディスプレイ100bでは、画像処理部160による上述の表示処理が行われ、ヘッドマウントディスプレイ100bの使用者は、視野VRに提示用情報PN*の虚像VIを視認することができる。図12の例では、ヘッドマウントディスプレイ100aの使用者が視認する虚像VI(PN*)と、ヘッドマウントディスプレイ100bの使用者が視認する虚像VI(PN*)とには、共に、術部の静止画および動画を撮影するための医療用装置502から取得された医療用装置情報CPが表示されている。
図13は、異なる位置にある複数のヘッドマウントディスプレイ100aと100bとにおいて、提示用情報PN*が虚像として表示されている様子を示す説明図である。情報処理装置300の第2の入出力部370(第2の入出力部371〜第2の入出力部37n)は、図13に示すように、提示用情報に含まれる画像の向きや大きさを、外景SCに含まれる対象物体の向きや大きさと一致させるフィッティング処理を行ってもよい。対象物体とは、医療の現場においては、例えば患者の体や体の一部である。以降、第2の入出力部371を例示して、フィッティング処理について説明する。提示用情報生成処理(図6)のステップS118において、第2の入出力部371は、提示用情報PN*に含まれる画像をヘッドマウントディスプレイ100aの映像信号の仕様に沿って変換した後、以下の手順d1〜d5に示す処理を行う。
(d1)第2の入出力部371は、ヘッドマウントディスプレイ100aに対して、カメラ61を用いた外景画像の撮像を指示し、撮像された外景画像を取得する。
(d2)第2の入出力部371は、下記1、2のような画像認識の方法を用いて、外景画像に含まれる対象物体の特徴を抽出する。なお、方法1と2とは、組み合わせてもよい。
1.対象物体のエッジ(特徴)を検出する。
2.対象物体に予め付されたマーカー(特徴)を検出する。なお、物体に付すマーカーは種々の種類のマーカーを使用可能である。例えば、テープ、シール、マジック、レーザーマーカー、マジックテープ(登録商標)等を使用することができる。また、対象物体に付すマーカーの数は任意である。
(d3)第2の入出力部371は、受信した提示用情報に含まれる画像を画像認識することで、対象物体の特徴を抽出する。この際、第2の入出力部371は、上記1、2と同様の画像認識の方法を使用することができる。
(d4)第2の入出力部371は、手順d2で抽出された外景画像の特徴と、手順d3で抽出された提示用情報の特徴と、の位置が一致するように、提示用情報PN*に含まれる画像CPを補正する。具体的には、手順d2、d3において方法1を用いた場合、第2の入出力部371は、外景画像のエッジと、提示用情報のエッジとの、輪郭や特徴的な部位の位置が一致するように、提示用情報PN*に含まれる画像CPに対して、拡大、縮小、回転、反転、トリミング、歪みの付与、ノイズの除去の少なくともいずれかの加工を行う。ここで、特徴的な部位とは、対象物体が生体である場合、切開された皮膚の輪郭、内蔵の輪郭、関節、四肢の先端、血管、骨等である。一方、手順d2、d3において方法2を用いた場合、第2の入出力部371は、外景画像のマーカーと、提示用情報のマーカーと、の位置が一致するように、提示用情報PN*に含まれる画像CPに対して、拡大、縮小、回転、反転、トリミング、歪みの付与、ノイズの除去の少なくともいずれかの加工を行う。
このようにすれば、第2の入出力部370(第2の入出力部371〜第2の入出力部37n)は、ヘッドマウントディスプレイ100(頭部装着型表示装置)の使用者の視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し、抽出した特徴に基づいて、生成部360により生成された提示用情報を補正する。このため、提示用情報に、例えばCT画像、MRI画像、レントゲン画像等の不可視情報が含まれる場合において、外景に含まれる物体(例えば、患者の体等)に不可視情報を一致させることができる。この結果、ヘッドマウントディスプレイ100の使用者の利便性を向上させることができる。また、上記のフィッティング処理は、特定のヘッドマウントディスプレイ100に接続されている第2の入出力部370において実行されるため、他のヘッドマウントディスプレイ100に接続されている第2の入出力部370に対して処理負荷をかけることがない。さらに、ヘッドマウントディスプレイ100は、フィッティング処理が施された後の提示用情報を受信することができるため、ヘッドマウントディスプレイ100の画像処理部160は、受信した提示用情報をそのまま表示すればよい。この結果、ヘッドマウントディスプレイ100の構成をシンプルにすることができる。
以上のように、生成部360の動作モードが「第1のモード」である場合、生成部360は、管理テーブル382の装置間関係が「マスタ」であるヘッドマウントディスプレイ100(すなわち、特定の画像表示装置)の使用者によって選択された医療用装置情報を少なくとも含む、共通の提示用情報PN*を生成する。第2の入出力部370(提供部)は、第2の入出力部371〜37nにそれぞれ接続されている複数のヘッドマウントディスプレイ100a〜100n(画像表示装置)に対して、生成された共通の提示用情報PN*をそれぞれ出力する。この結果、情報処理装置300は、複数のヘッドマウントディスプレイ100a〜100nにおける表示を、特定のヘッドマウントディスプレイ100の使用者の選択に基づいて制御することが可能となる。
A−4−2.第2のモード(初期処理):
提示用情報生成処理(図6)のステップS100において、動作モードが「第2のモード」である場合(ステップS100:第2のモード)、生成部360は、提示用情報生成処理において使用する変数iに「1」をセットする(ステップS120)。その後、生成部360は、管理テーブル382のi番目のエントリを参照する(ステップS122)。生成部360は、管理テーブル382のi番目のエントリに格納されている「識別子」と、「役割」とを取得する(ステップS124)。
なお、以降では、ステップS124において取得した識別子を有するヘッドマウントディスプレイ100を「ヘッドマウントディスプレイ100i」とも呼ぶ。ヘッドマウントディスプレイ100iは、初期処理において、現在処理中であるヘッドマウントディスプレイ100を指している。例えば、変数i=1である場合、ヘッドマウントディスプレイ100iは、管理テーブル382の1番目のエントリE01に格納されている、識別子が1である執刀医のヘッドマウントディスプレイ100aを指す。
提示用情報生成処理(図6)のステップS126において、生成部360は、ヘッドマウントディスプレイ100iの使用者の役割に応じた医療用装置500を特定する。具体的には、生成部360は、ステップS124で取得した「役割」を用いて、当該役割を遂行するにあたって、ヘッドマウントディスプレイ100iの使用者がチェックすべき医療用装置500を特定する。これは、医療の現場での慣例に従って特定される。例えば、役割が執刀医であれば、CT画像やレントゲン画像等の不可視情報を取得する装置が医療用装置500として特定され、役割が麻酔科医であれば、血圧計、心電図、気道内圧計、換気量計、カプノグラム、パルスオキシメーターが医療用装置500として特定される。なお、情報処理装置300は、役割と、役割に応じて必要な医療用装置500とを関連付けたテーブルを、予め外部記憶装置380に記憶していてもよい。
医療用装置500を特定後、ステップS128において生成部360は、第1の入出力部311〜31nが取得した医療用装置501〜50nの医療用装置情報のうち、ステップS126で特定された医療用装置500から取得した医療用装置情報を用いて、ヘッドマウントディスプレイ100iへ送信するための提示用情報PNiを生成する。なお、生成部360が提示用情報を生成する方法は、図7および図8で説明した通りである。その後、生成部360は、生成した提示用情報PNiを手術の記録384に記憶させる。
ステップS130において、生成部360は、ステップS124で生成した提示用情報PNiを、ヘッドマウントディスプレイ100iが接続されている第2の入出力部370iへ送信する。第2の入出力部370iは、受信した提示用情報PNiに含まれる画像を、ヘッドマウントディスプレイ100iの映像信号の仕様に沿って変換する。また、この際、第2の入出力部370iは、フィッティング処理を実行してもよい。詳細は、ステップS118で説明した通りである。
図14は、ステップS122〜S134が2回実行された結果、複数のヘッドマウントディスプレイ100aと100bとにおいて、提示用情報PNiが虚像として表示されている様子を示す説明図である。インターフェイス180または無線通信部132を介して提示用情報PNiを受信したヘッドマウントディスプレイ100iでは、画像処理部160による上述の表示処理が行われる。この結果、ヘッドマウントディスプレイ100iの使用者は、自身の役割に応じた医療用装置500から取得された医療用装置情報が含まれた提示用情報PNiの虚像を視認することができる。図14の例では、ヘッドマウントディスプレイ100aの使用者が視認する虚像VI(i)には、執刀医がチェックすべき医療用装置500から取得された医療用装置情報CP4が表示されている。また、ヘッドマウントディスプレイ100bの使用者が視認する虚像VI(i)には、第1助手がチェックすべき医療用装置500から取得された医療用装置情報CP2と、CP3とが表示されている。
提示用情報生成処理(図6)のステップS132において、生成部360は、変数iをインクリメントする。その後、生成部360は、変数iがn以上でないかを判定する(ステップS134)。変数iがn未満である(ステップS134:NO)ということは、すなわち、第2の入出力部370に接続されているヘッドマウントディスプレイ100のうち、初期処理が終了していないヘッドマウントディスプレイ100が存在することを意味する。このため、生成部360は、処理をステップS122へ遷移させ、初期処理を継続する。一方、変数iがn以上である(ステップS134:YES)ということは、全てのヘッドマウントディスプレイ100についての初期処理が終了したことを意味する。このため、生成部360は、処理をステップS136の個別処理へ遷移させる。
以上のように、生成部360の動作モードが「第2のモード」である場合、生成部360は、初期処理のステップS122〜S134を繰り返し実行することによって、複数のヘッドマウントディスプレイ100i(100a〜100n)の使用者のそれぞれの役割に応じた医療用装置500から取得した医療用装置情報を少なくとも含む、複数の提示用情報PNiを生成し、第2の入出力部370(提供部)は、第2の入出力部371〜37nにそれぞれ接続されている複数のヘッドマウントディスプレイ100a〜100n(画像表示装置)に対して、生成された複数の提示用情報PNiを順次出力する。この結果、情報処理装置300は、複数のヘッドマウントディスプレイ100a〜100nにおける表示を、各ヘッドマウントディスプレイ100の使用者の役割に応じて、別個に制御することが可能となり、ヘッドマウントディスプレイ100の使用者の利便性を向上させることができる。
A−4−3.第2のモード(個別処理):
個別処理では、生成部360は、ヘッドマウントディスプレイ100からの要求に基づいて、要求された医療用装置500から取得した医療用装置情報や、要求された医療用装置500以外の情報源から取得した情報を含む提示用情報を生成する。
提示用情報生成処理(図6)のステップS136において、生成部360は、ヘッドマウントディスプレイ100から情報源の選択要求を受信したか否かを判定する。情報源の選択要求とは、ステップS112において説明した要求a1〜a6と同様である。情報源の選択要求を受信していない場合(ステップS136:なし)、生成部360は、ステップS136に処理を遷移させ、情報源の選択要求の受信を待機する。
一方、情報源の選択要求を受信した場合(ステップS136:あり)、生成部360は、情報源の選択要求に含まれるヘッドマウントディスプレイ100iの識別子と、情報源を特定するための情報と、情報源内の情報を特定するための情報と、を取得する(ステップS128)。さらに、生成部360は、情報源を特定するための情報として、現在位置情報および方位情報が挿入されている場合は、当該現在位置情報と方位情報とを、他の全ての医療用装置500から取得した位置情報と比較して、「使用者による表示部の視認が困難な医療用装置500」を特定する。ここで、生成部360は、ステップS114と同様に、現在位置情報および方位情報対して、ヘッドマウントディスプレイ100使用者の頭部の動きを組み合わせてもよい。なお、ヘッドマウントディスプレイ100iとは、情報源の選択要求の発行元であるヘッドマウントディスプレイ100(すなわち、現在処理中であるヘッドマウントディスプレイ100)を指す。
ステップS140において、生成部360は、指定された情報源にアクセスして、指定された情報を取得する。そして、生成部360は、取得した情報を用いて、ヘッドマウントディスプレイ100i用の提示用情報PNiを生成し、生成した提示用情報PNiを手術の記録384に記憶させる。なお、生成部360が提示用情報を生成する方法は、図7および図8で説明した通りである。その後、生成部360は、生成した提示用情報PNiを手術の記録384に記憶させる。
ステップS142において、生成部360は、ステップS140で生成した提示用情報PNiを、ヘッドマウントディスプレイ100iが接続されている第2の入出力部370iへ送信する。第2の入出力部370iは、受信した提示用情報PNiに含まれる画像を、ヘッドマウントディスプレイ100iの映像信号の仕様に沿って変換する。また、この際、第2の入出力部370iは、フィッティング処理を実行してもよい。詳細は、ステップS118で説明した通りである。
インターフェイス180または無線通信部132を介して提示用情報PNiを受信したヘッドマウントディスプレイ100iでは、画像処理部160による上述の表示処理が行われる。この結果、情報源の選択要求を送信したヘッドマウントディスプレイ100iの使用者は、情報源の選択要求において指定した情報源から取得された情報が含まれた提示用情報PNiの虚像を視認することができる。
以上のように、生成部360の動作モードが「第2のモード」である場合、生成部360は個別処理を実行することによって、複数のヘッドマウントディスプレイ100i(100a〜100n)の使用者によってそれぞれ選択された医療用装置情報を少なくとも含む、複数の提示用情報PNiを生成する。第2の入出力部370(提供部)は、第2の入出力部371〜37nにそれぞれ接続されている複数のヘッドマウントディスプレイ100a〜100n(画像表示装置)に対して、生成された複数の提示用情報PNiを順次出力する。この結果、情報処理装置300は、複数のヘッドマウントディスプレイ100a〜100nにおける表示を、各ヘッドマウントディスプレイ100の使用者の選択に基づいて別個に制御することが可能となる。
以上のように、第1実施形態の情報処理装置300によれば、生成部360は、第1の入出力部310(取得部、第1の入出力部311〜第1の入出力部31n)により取得された複数の医療用装置情報を用いて提示用情報PNを生成するため、情報処理装置300の第1の入出力部310に接続されている多種多様な医療用装置500(医療用装置501〜50n)の情報(医療用装置情報)を一元化することができる。また、第2の入出力部370(提供部)は、複数のヘッドマウントディスプレイ100a〜100n(画像表示装置)に対して、生成された提示用情報PNを出力するため、複数のヘッドマウントディスプレイ100a〜100nにおける表示を制御することができる。この結果、多種多様な医療用装置500の情報を一元化すると共に、複数のヘッドマウントディスプレイ100a〜100nにおける表示を制御することが可能な情報処理装置300を実現することができる。
さらに、生成部360は、一元化されている医療用装置情報から、複数のヘッドマウントディスプレイ100a〜100n(画像表示装置)に対して共通する共通の提示用情報PN*を生成する第1のモードと、複数のヘッドマウントディスプレイ100a〜100nにそれぞれ対応する複数の提示用情報PNiを生成する第2のモードと、を有する。このため、情報処理装置300は、生成部360におけるこれらのモードを使い分けることによって、複数のヘッドマウントディスプレイ100a〜100nにおける表示を制御することもできる。
以上説明したように、第1実施形態の情報処理システム1000によれば、多種多様な医療用装置500(医療用装置501〜50n)の情報(医療用装置情報)を情報処理装置300に一元化すると共に、複数のヘッドマウントディスプレイ100a〜100n(頭部装着型表示装置)における表示を制御することが可能な情報処理システム1000を実現することができる。
A−5.付加的処理:
なお、提示用情報生成処理(図6)では、さらに、以下のような付加的処理を実行してもよい。付加的処理は、単独で付加してもよいし、組み合わせて付加してもよい。
A−5−1.付加的処理1:
付加的処理1では、情報処理装置300は、提示用情報に対する色変換処理を行う。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、ヘッドマウントディスプレイ100のカメラ61に外景画像を取得させる。そして、第2の入出力部370は、取得された外景画像の明度、コントラスト、彩度、色相に応じて、提示用情報に含まれる画像の視認性を向上させるような色変換処理を実施する。例えば、第2の入出力部370は、提示用情報に含まれる画像の色相を、外景画像の色相の補色へと変換する色変換処理を行うことができる。
このように、付加的処理1によれば、ヘッドマウントディスプレイ100の使用者に対する虚像VIの視認性をより向上させることができる。
A−5−2.付加的処理2:
付加的処理2では、情報処理装置300は、ヘッドマウントディスプレイ100の使用者の頭の小さなブレに付随する虚像VIの揺れを抑制する、いわゆるスタビライザー機能を実現する。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、所定の時間ごとに、上記手順d1〜d4において説明したフィッティング処理と、提示用情報生成処理のステップS118、S130、S142の提示用情報の送信と、を繰り返す。これにより、所定の時間ごとに、外景画像の撮影と、提示用情報に含まれる画像の補正および表示が繰り返されることとなるため、使用者の頭部の経時的な動きに追従した提示用情報を虚像VIとして表示させることができる。
しかし、ヘッドマウントディスプレイ100の使用者の頭の微小な動きやゆらぎに追従して提示用情報が度々変わることは、かえって使用者の眼精疲労を誘発するおそれや、使用者の集中力を妨げるおそれがある。そこで、第2の入出力部370は、さらに、上記手順d1と手順d2との間に、以下の手順e1、e2で示す処理を行ってもよい。
(e1)第2の入出力部370は、手順c1で撮影された外景画像と、前回実行されたフィッティング処理の手順d1で撮影された外景画像との間の、RGBヒストグラムの変化量を求める。
(e2)第2の入出力部370は、手順f1で求めた変化量が所定の閾値を超える場合、手順d2以降の処理を継続する。
このように、付加的処理2によれば、第2の入出力部370は、前回実行されたフィッティング処理における外景画像と、現在実行中のフィッティング処理における外景画像と間の変化量が小さい場合、すなわち、ヘッドマウントディスプレイ100の使用者の頭の動きが微小である場合は、提示用情報に含まれる画像の補正は行わない。この結果、ヘッドマウントディスプレイ100の使用者の頭の微小な動きやゆらぎに追従して提示用情報が度々変わることを抑制することができるため、使用者の眼精疲労や集中力低下を抑制することができる。なお、スタビライザー機能のON/OFFを使用者によって指定することが可能な構成にしてもよい。
A−5−3.付加的処理3:
付加的処理3では、情報処理装置300は、ヘッドマウントディスプレイ100の画像表示部20と、使用者の視界方向にある物体との間の距離に応じて、提示用情報に含まれる画像が虚像VIとして表示される大きさを変更する。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、上記手順d1〜d4において説明したフィッティング処理に代えて、以下の手順f1〜f3に示す処理を行うことができる。なお、本処理を実施する場合、ヘッドマウントディスプレイ100には、さらに測距センサーを備える構成とする。測距センサーは、反射光によって使用者の視界方向にある物体と画像表示部20との間の距離を取得するためのセンサーであり、例えば、カメラ61の近傍に配置することができる。
(f1)第2の入出力部370は、ヘッドマウントディスプレイ100から、定期的に測距センサーの測定値を取得する。
(f2)第2の入出力部370は、取得した測距センサーの測定値に応じて拡大率(または縮小率)を決定する。
(f3)第2の入出力部370は、決定した拡大、縮小率を用いて、提示用情報に含まれる画像に対して、拡大、縮小、回転、反転、トリミング、歪みの付与、ノイズの除去の少なくともいずれかの加工を行う。
このように、付加的処理3によれば、第2の入出力部370は、ヘッドマウントディスプレイ100の使用者の視界方向にある物体と、画像表示部20との間の距離に応じて、提示用情報が虚像VIとして表示される大きさを変更することができる。このため、ヘッドマウントディスプレイ100における使用者の利便性を向上させることができる。
B.第2実施形態:
本発明の第2実施形態では、生成部360が結合情報を生成可能な構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
B−1.情報処理システムの構成:
第2実施形態における情報処理システム1000aの概略構成は、図1に示す第1実施形態とほぼ同様である。ただし、第2実施形態の情報処理システム1000aは、情報処理装置300に代えて情報処理装置300aを備える。
B−2.情報処理装置の構成:
図15は、第2実施形態における情報処理装置300aの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、生成部360に代えて生成部360aを備える点である。生成部360aは、動作モードが「第2のモード」である場合に、提示用情報生成処理に並行させて、後述の結合情報生成処理を実行する。結合情報生成処理は、第2の入出力部370に接続されている全てのヘッドマウントディスプレイ100(ヘッドマウントディスプレイ100a〜100n)の提示用情報を結合した結合情報を生成する処理である。
B−3.頭部装着型表示装置の構成:
第2実施形態におけるヘッドマウントディスプレイ100の概略構成は、図5に示す第1実施形態と同様である。
B−4.提示用情報生成処理:
第2実施形態における提示用情報生成処理の手順は、図6に示す第1実施形態と同様である。
B−5.付加的処理:
なお、第2実施形態の提示用情報生成処理においても、「A−5−1.付加的処理1」〜「A−5−3.付加的処理3」において説明した、第1実施形態と同様の付加的処理を実行してもよい。
B−6.結合情報生成処理:
図16は、結合情報生成処理の手順を示すフローチャートである。結合情報生成処理は、ヘッドマウントディスプレイ100へ表示させるための結合情報を生成する処理であり、情報処理装置300a(図15)の生成部360aが実行する。結合情報生成処理は、提示用情報生成処理(図6)のステップS100において、動作モードが「第2のモード」である場合に(ステップS100:第2のモード)、図6で説明した初期処理と個別処理とに並行して実行される。
生成部360aは、ヘッドマウントディスプレイ100から結合情報の要求を受信したか否かを判定する(ステップS200)。ここで、結合情報の要求とは、結合情報の送信を求める旨の要求であり、要求元のヘッドマウントディスプレイ100の識別子と共に送信される。結合情報の要求を受信していない場合(ステップS200:なし)、生成部360aは、ステップS200に処理を遷移させ、結合情報の要求の受信を待機する。
一方、結合情報の要求を受信した場合(ステップS200:あり)、生成部360aは、結合情報の要求に含まれる、要求元のヘッドマウントディスプレイ100iの識別子を取得する(ステップS202)。ここで、ヘッドマウントディスプレイ100iとは、結合情報の要求の発行元であるヘッドマウントディスプレイ100(すなわち、現在処理中であるヘッドマウントディスプレイ100)を指す。
ステップS204において、生成部360aは、手術の記録384にアクセスする。そして、生成部360aは、第2の入出力部370に接続されている全てのヘッドマウントディスプレイ100(ヘッドマウントディスプレイ100a〜100n)について、生成部360aが生成した最新の提示用情報をそれぞれ取得する。なお、最新の提示用情報であることは、手術の記録384において、提示用情報に対応付けられて記憶されている「生成の日時」によって判断することができる。なお、ここでは、要求元のヘッドマウントディスプレイ100iの提示用情報を、取得対象から除外してもよい。生成部360aは、取得した複数の提示用情報を結合して、結合情報を生成する。
図17は、結合情報の生成方法について説明するための説明図である。生成部360aは、取得された複数の提示用情報に対して、以下の手順g1〜g4に示した処理を行う。
(g1)生成部360aは、取得された提示用情報の総数と、共通映像仕様381に記憶されている解像度とに応じて、提示用情報の縮小率を決定する。
(g2)生成部360aは、手順g1で決定した縮小率で、i番目の提示用情報(提示用情報PNi)に含まれる画像を縮小する。
(g3)生成部360aは、手順g2で縮小した画像を、他の画像と重ならない位置にレイヤー配置して上書き保存し、結合情報JNとする。
(g4)生成部360aは、変数iをインクリメントし、「i≧取得された提示用情報の総数」が成立するまで、上記手順g2、g3を繰り返す。
(g5)生成部360aは、結合情報JNのうち、提示用情報の画像が配置されていない余白部分(図において斜線で表す)に対して、上記c1、c2で説明したと同様の手順を実行し、ダミードットデーターの挿入か、Enable信号の調整を行う。
(g6)生成部360aは、生成された結合情報JNに含まれる画像を、共通映像仕様381に規定されている映像信号の仕様に沿って変換する。
図17の例には、上記のようにして生成され、6つの提示用情報PN1〜PN6が、それぞれ重ならない位置に配置された結合情報JNが例示されている。
結合情報生成処理(図16)のステップS206において、生成部360aは、ステップS204で生成した結合情報JNを、ヘッドマウントディスプレイ100iが接続されている第2の入出力部370iへ送信した後、処理をステップS200へ遷移させる。第2の入出力部370iは、受信した提示用情報PNiに含まれる画像を、ヘッドマウントディスプレイ100iの映像信号の仕様に沿って変換する。
図18は、ヘッドマウントディスプレイ100iにおいて、結合情報JNが虚像として表示されている様子を示す説明図である。第2の入出力部370iから送信された結合情報JNを、インターフェイス180または無線通信部132を介して受信したヘッドマウントディスプレイ100iでは、画像処理部160による上述の表示処理が行われる。この結果、ヘッドマウントディスプレイ100iの使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、ヘッドマウントディスプレイ100iの使用者は、視野VRに結合情報JNの虚像VIを視認することができる。図18の例では、ヘッドマウントディスプレイ100gの使用者の視野VRにおいて、ヘッドマウントディスプレイ100a〜100f用の提示用情報PN1〜6が結合された結合情報JNを表す虚像VIが表示されている。なお、図18では、紙面の都合上、提示用情報PN3〜6の図示を省略している。
以上のように、第2実施形態の生成部360aは、提示用情報生成処理で生成された複数の提示用情報PNiを結合した結合情報JNを生成し、第2の入出力部370(提供部)は、結合情報の要求を発行した特定のヘッドマウントディスプレイ100i(画像表示装置)に対して、生成された結合情報JNを出力する。この結果、特定のヘッドマウントディスプレイ100iの使用者は、情報処理装置300に接続されている複数のヘッドマウントディスプレイ100a〜100n(画像表示装置)において、どのような提示用情報PNが表示されているのかを知ることができ、特定のヘッドマウントディスプレイ100iの使用者の利便性を向上させることができる。
C.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記実施形態では、情報処理システムの構成について例示した。しかし、情報処理システムの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、情報処理システムを構成する各装置の追加・削除・変換等を行うことができる。また、情報処理システムを構成する装置のネットワーク構成の変更を行うことができる。
例えば、情報処理装置の管理テーブル、不可視情報、手術の記録、院内LANに接続されているデータベースODに格納されていてもよい。また、データベースODは、院内に限らず、インターネットINTを介した外部(例えば、院外に設けられているクラウドサーバー等)に設けられていてもよい。
・変形例2:
上記実施形態では、情報処理装置の構成について例示した。しかし、情報処理装置の構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
例えば、情報処理装置は、タッチパネル、入力ボタン、キーボード、マウス、マイク、カメラ等、種々の入力デバイスを備えていてもよい。同様に、情報処理装置は、ディスプレイ、インジケーター、手術に関する簡易なログを出力するためのプリンター等、種々の出力デバイスを備えていてもよい。
例えば、生成部、第2の入出力部(提供部)における各機能は、CPUがROMやハードディスクに格納されているコンピュータープログラムをRAMに展開して実行することにより実現されるものとして記載した。しかし、これら機能は、当該機能を実現するために設計されたASIC(Application Specific Integrated Circuit:特定用途向け集積回路)を用いて実現されてもよい。
例えば、情報処理装置において、ディスプレイを備える構成とする。その上で、情報処理装置の生成部は、結合情報生成処理において生成した結合情報を、情報処理装置のディスプレイに表示させてもよい。このようにすれば、情報処理装置の近傍に立つ利用者は、全てのヘッドマウントディスプレイ(画像表示装置)における表示内容を一見して把握することができ、便利である。
・変形例3:
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。例えば、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth等の無線の信号伝送路を介した接続により接続されていてもよい。また、例えば、電源として、一次電池や、燃料電池、太陽電池、熱電池等を採用してもよい。
上記実施形態における、制御部と、画像表示部とに対する構成要素の割り振りは、あくまで一例であり、種々の態様を採用可能である。例えば、以下のような態様としてもよい。(i)制御部にCPUやメモリー等の処理機能を搭載、画像表示部には表示機能のみを搭載する態様、(ii)制御部と画像表示部との両方にCPUやメモリー等の処理機能を搭載する態様、(iii)制御部と画像表示部とを一体化した態様(例えば、画像表示部に制御部が含まれ眼鏡型のウェアラブルコンピューターとして機能する態様)、(iv)制御部の代わりにスマートフォンや携帯型ゲーム機を使用する態様、(v)制御部と画像表示部とを無線通信かつワイヤレス給電可能な構成とすることにより、ケーブルを廃した態様。
例えば、入力情報取得部は、上記実施形態に例示した以外の種々の方法を用いて、使用者からの操作入力を取得してもよい。例えば、フットスイッチ(使用者の足により操作するスイッチ)による操作入力を取得してもよい。また、例えば、画像表示部に赤外線センサー等の視線検知部を設けた上で、使用者の視線を検知し、視線の動きに対応付けられたコマンドによる操作入力を取得してもよい。また、例えば、カメラを用いて使用者のジェスチャーを検知し、ジェスチャーに対応付けられたコマンドによる操作入力を取得してもよい。ジェスチャー検知の際は、使用者の指先や、使用者の手に付けられた指輪や、使用者の手にする医療器具等を動き検出のための目印にすることができる。フットスイッチや視線による操作入力を取得可能とすれば、入力情報取得部は、使用者が手を離すことが困難である医療の現場においても、使用者からの操作入力を容易に取得することができる。
例えば、ヘッドマウントディスプレイは、両眼タイプの透過型ヘッドマウントディスプレイであるものとしたが、単眼タイプのヘッドマウントディスプレイとしてもよい。また、使用者がヘッドマウントディスプレイを装着した状態において外景の透過が遮断される非透過型ヘッドマウントディスプレイとして構成してもよい。上記実施形態では、画像表示部を眼鏡のように装着するヘッドマウントディスプレイであるとしているが、例えば、帽子のように装着するタイプの画像表示部等、他の形状の画像表示部を採用したヘッドマウントディスプレイとしてもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略してもよい。さらに、例えば、自動車や飛行機等の車両に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。そのほか、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
図19は、変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。図19(A)の例の場合、画像表示部20aが、右光学像表示部26に代えて右光学像表示部26aを備え、左光学像表示部28に代えて左光学像表示部28aを備えている。右光学像表示部26aは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28aは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め上に配置されている。図19(B)の例の場合、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備え、左光学像表示部28に代えて左光学像表示部28bを備えている。右光学像表示部26bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとして実現することもできる。
例えば、上記実施形態では、表示駆動部は、バックライトと、バックライト制御部と、LCDと、LCD制御部と、投写光学系を用いて構成されるものとした。しかし、上記の態様はあくまで例示である。表示駆動部は、これらの構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。例えば、表示駆動部は、フロントライト方式や反射方式を用いて画像光を射出してもよい。また、例えば、表示駆動部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部と、投写光学系とを備える構成としても良い。また、例えば、表示駆動部は、LCDに代えてデジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置に対して本発明を適用することも可能である。
・変形例4:
上記実施形態では、提示用情報生成処理の一例を示した。しかし、提示用情報生成処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、上記実施形態で説明した不可視情報は、2次元的に表現された画像を想定した。しかし、医療用装置として、3次元的な不可視画像を撮影可能な装置が接続されてもよい。また、外部記憶装置に記憶されている不可視情報は、撮像機器を用いて撮像された複数の画像から作成された3次元モデルであってもよい。3次元的に表現された不可視情報を用いる場合、生成部は、提示用情報の生成に先立って、3次元モデルのレンダリングを行う。そして、レンダリング後の画像を用いて、提示用情報を生成する。このようにすれば、様々な方向から、対象物体の外観に現れない情報を視認することができる。
例えば、第1のモードの提示用情報生成処理において、生成部は、共通の提示用情報を複数生成してもいい。具体的には、例えば、第2の入出力部に接続されているヘッドマウントディスプレイを、m(mは1以上の整数)個のグループに分割する。その上で、生成部は、第1のグループに共通の提示用情報・・・第mのグループに共通の提示用情報のように、各グループに共通の提示用情報を、複数生成してもよい。
例えば、第2のモードの提示用情報生成処理(初期処理)において、第2の入出力部に接続されている複数のヘッドマウントディスプレイに関して、変数iを用いてシリアルに初期処理をおこなっている。しかし、初期処理は、第2の入出力部に接続されている複数のヘッドマウントディスプレイに関して、並列に実行されてもよい。
例えば、第2のモードの提示用情報生成処理のうち、初期処理と、個別処理とのうちの、いずれか一方を省略してもよい。また、初期処理は、第2のモードの提示用情報生成処理が開始された直後に実行されなくてもよい。初期処理と同様の処理は、使用者や他のアプリケーションからの要求に応じて、適宜実行されてもよい。
例えば、第1のモードおよび第2のモードに共通して、提示用情報を受信したヘッドマウントディスプレイでは、使用者の要求に応じて、提示用情報に含まれる画像が虚像VIとして表示される大きさを拡大、縮小してもよい。同様に、ヘッドマウントディスプレイは、使用者の要求に応じて、提示用情報に含まれる画像を非表示としてもよく、提示用情報に含まれる画像に対して色変換を行ってもよい。また、使用者からの要求の入力方法として、マイクロホンを介した音声入力を採用すれば、使用者が手を用いて操作することが困難な医療の現場においてヘッドマウントディスプレイが使用される場合の、使用者の利便性を大きく向上させることができる。
・変形例5:
上記実施形態では、結合情報生成処理の一例を示した。しかし、結合情報生成処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、生成部は、生成する結合情報に対して、提示用情報の縮小画像以外の、他の情報を含ませてもよい。例えば、以下に列挙する情報を含ませてもよい。
・その提示用情報が供給されているヘッドマウントディスプレイを識別するための文字列や画像
・その提示用情報が供給されているヘッドマウントディスプレイの使用者の役職を表す文字列や画像
・医療用装置の医療用装置情報
・院内データベースに記録されているデーター
・不可視情報に記録されているデーター
・不可視情報に記録されているデーター
・表示部の視認が困難な医療用装置の医療用装置情報
例えば、生成部は、結合情報の要求を、特定のヘッドマウントディスプレイからのみ受け付け可能としてもよい。特定のヘッドマウントディスプレイとは、例えば、マスタであるヘッドマウントディスプレイ、使用者が特定の役割を担っているヘッドマウントディスプレイ等である。
・変形例6:
上記実施形態では、共通映像仕様と、管理テーブルとの一例を示した。しかし、これらの詳細はあくまで一例であり、種々の変更が可能である。例えば、フィールド(項目)の追加、削除、変更を行うことができる。また、管理テーブルは、複数のテーブルに分割して正規化してもよい。
例えば、管理テーブルには、ヘッドマウントディスプレイを相互に識別するための識別子に代えて、または識別子と共に、ヘッドマウントディスプレイの使用者の声紋が記憶されていてもよい。そうすれば、情報処理装置は、マイクロホンを介して取得した使用者の声紋に基づいて、当該使用者が使用するヘッドマウントディスプレイの装置間関係、役割、映像仕様を取得し、提示用情報生成処理を実行することができる。
例えば、管理テーブルには、ヘッドマウントディスプレイの識別子に対応付けてさらに、ヘッドマウントディスプレイと情報処理装置との通信に使用するための情報(例えば、ヘッドマウントディスプレイのIPアドレス、MACアドレス、暗号化鍵等)が記憶されていてもよい。また、管理テーブルには、映像信号の仕様のパターンを表す「映像仕様」に変えて、各ヘッドマウントディスプレイにおいて採用されている実際の映像仕様そのもの(すなわち、共通映像仕様に記憶されている項目と同様の項目)が記憶されていてもよい。
例えば、管理テーブルは、ヘッドマウントディスプレイの識別子ごとに、装置間関係と、役割と、映像仕様とを記憶することとした。しかし、使用者ごとに「ユーザーID」を割り当てて、当該ユーザーIDごとに、装置間関係と、役割と、映像仕様とを記憶してもよい。
・変形例7:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部
20…画像表示部
22…右表示駆動部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
32…右イヤホン
34…左イヤホン
40…ケーブル
51…送信部
52…送信部
53…受信部
54…受信部
61…カメラ(画像取得部)
110…入力情報取得部
100…ヘッドマウントディスプレイ(画像表示装置、頭部装着型表示装置)
120…記憶部
130…電源
140…CPU
160…画像処理部
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
300…情報処理装置
310…第1の入出力部
311〜31n…第1の入出力部(取得部)
320…ROM
330…RAM
340…通信インターフェイス
350…CPU
360…生成部
370…第2の入出力部(提供部)
371〜37n…第2の入出力部
380…外部記憶装置
381…共通映像仕様
382…管理テーブル(役割記憶部、装置間関係記憶部)
383…不可視情報
384…手術の記録
385…動作モード
500…医療用装置
501〜50n…医療用装置
700…ディスプレイ
1000…情報処理システム
OA…外部機器
PC…パーソナルコンピューター
OD…データベース
VI…虚像
PN…提示用情報
JN…結合情報
VR…視野
PR…医師
MP1…位置
UP1…現在位置
CP1…医療用装置情報

Claims (13)

  1. 情報処理装置であって、
    複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、
    前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と、
    複数の画像表示装置に対して、生成された前記提示用情報を出力する提供部と、
    を備える、情報処理装置。
  2. 請求項1に記載の情報処理装置であって、
    前記生成部は、前記複数の画像表示装置に対して共通する前記提示用情報を生成する第1のモードと、前記複数の画像表示装置にそれぞれ対応する複数の前記提示用情報を生成する第2のモードと、を有する、情報処理装置。
  3. 請求項2に記載の情報処理装置であって、
    前記生成部は、前記第1のモードにおいて、特定の前記画像表示装置の使用者によって選択された前記医療用装置情報を少なくとも含む、共通の前記提示用情報を生成する、情報処理装置。
  4. 請求項3に記載の情報処理装置であって、さらに、
    前記複数の画像表示装置を相互に識別するための情報と、当該画像表示装置が前記特定の画像表示装置であるか否かを表す情報と、を関連付けて記憶する装置間関係記憶部を備え、
    前記生成部は、前記第1のモードにおいて、前記装置間関係記憶部を用いて前記特定の画像表示装置を識別する、情報処理装置。
  5. 請求項2から請求項4のいずれか一項に記載の情報処理装置であって、
    前記生成部は、前記第2のモードにおいて、前記複数の画像表示装置の使用者によってそれぞれ選択された前記医療用装置情報を少なくとも含む、前記複数の提示用情報を生成する、情報処理装置。
  6. 請求項2から請求項4のいずれか一項に記載の情報処理装置であって、
    前記生成部は、前記第2のモードにおいて、前記使用者のそれぞれの役割に応じた前記医療用装置から取得した前記医療用装置情報を少なくとも含む、前記複数の提示用情報を生成する、情報処理装置。
  7. 請求項6に記載の情報処理装置であって、さらに、
    前記複数の画像表示装置を相互に識別するための情報と、当該画像表示装置の使用者の役割とを関連付けて記憶する役割記憶部を備え、
    前記生成部は、前記第2のモードにおいて、前記役割記憶部を用いて前記使用者の役割を識別する、情報処理装置。
  8. 請求項2から請求項7のいずれか一項に記載の情報処理装置であって、
    前記生成部は、前記第2のモードにおいて、さらに、生成された前記複数の提示用情報を結合した結合情報を生成し、
    前記提供部は、前記特定の画像表示装置に対して、生成された前記結合情報を出力する、情報処理装置。
  9. 請求項1から請求項8のいずれか一項に記載の情報処理装置であって、
    前記生成部は、前記提示用情報を生成する際に、前記医療用装置情報に含まれる画像の縦横比を維持したまま、前記画像を拡大または縮小する、情報処理装置。
  10. 請求項1から請求項9のいずれか一項に記載の情報処理装置であって、
    前記情報処理装置には、前記画像表示装置として、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置が接続される、情報処理装置。
  11. 請求項10に記載の情報処理装置であって、
    前記提供部は、さらに、
    前記頭部装着型表示装置から、前記頭部装着型表示装置を装着した状態における使用者の視界方向の画像を取得し、
    取得された前記視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し、
    抽出した前記特徴に基づいて生成部により生成された前記提示用情報を補正し、補正後の前記提示用情報を出力する、情報処理装置。
  12. 情報処理方法であって、
    (a)複数の医療用装置から取得された情報である複数の医療用装置情報を取得する工程と、
    (b)取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する工程と、
    (c)複数の画像表示装置に対して、生成された前記提示用情報を出力する工程と、
    を備える、情報処理方法。
  13. 情報処理システムであって、
    複数の医療用装置と、
    情報処理装置と、
    複数の頭部装着型表示装置であって、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置と、
    を備え、
    前記情報処理装置は、
    前記複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、
    前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と、
    前記複数の頭部装着型表示装置に対して、生成された前記提示用情報を出力する提供部と、
    を備え、
    前記頭部装着型表示装置は、
    前記情報処理装置から前記提示用情報を取得する提示用情報取得部と、
    取得された前記提示用情報を前記虚像として前記頭部装着型表示装置の使用者に視認させる画像表示部と、
    を備える、情報処理システム。
JP2013147420A 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム Withdrawn JP2015019679A (ja)

Priority Applications (11)

Application Number Priority Date Filing Date Title
JP2013147420A JP2015019679A (ja) 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム
RU2016104900A RU2642941C2 (ru) 2013-07-16 2014-07-11 Устройство обработки информации, способ обработки информации и система обработки информации
KR1020167003627A KR20160033721A (ko) 2013-07-16 2014-07-11 정보 처리 장치, 정보 처리 방법 및, 정보 처리 시스템
TW103124039A TW201505603A (zh) 2013-07-16 2014-07-11 資訊處理裝置、資訊處理方法及資訊處理系統
US14/901,198 US10042598B2 (en) 2013-07-16 2014-07-11 Information processing apparatus, information processing method, and information processing system
EP14755717.7A EP3022672A2 (en) 2013-07-16 2014-07-11 Information processing apparatus, information processing method, and information processing system
PCT/JP2014/003697 WO2015008470A2 (en) 2013-07-16 2014-07-11 Information processing apparatus, information processing method, and information processing system
CN201811229131.1A CN109637622A (zh) 2013-07-16 2014-07-16 信息处理装置、信息处理方法以及信息处理系统
CN201410340206.9A CN104298344B (zh) 2013-07-16 2014-07-16 信息处理装置、信息处理方法以及信息处理系统
US16/026,214 US10664216B2 (en) 2013-07-16 2018-07-03 Information processing apparatus, information processing method, and information processing system
US16/851,780 US11341726B2 (en) 2013-07-16 2020-04-17 Information processing apparatus, information processing method, and information processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013147420A JP2015019679A (ja) 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム

Publications (1)

Publication Number Publication Date
JP2015019679A true JP2015019679A (ja) 2015-02-02

Family

ID=52484698

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013147420A Withdrawn JP2015019679A (ja) 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム

Country Status (1)

Country Link
JP (1) JP2015019679A (ja)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017010424A1 (ja) * 2015-07-16 2017-01-19 木村 正 画像表示制御装置、表示装置、及び、画像表示システム
JP2017049775A (ja) * 2015-09-01 2017-03-09 株式会社東芝 メガネ型ウエアラブル端末およびこの端末を用いる方法
JP2017068360A (ja) * 2015-09-28 2017-04-06 ブラザー工業株式会社 情報表示装置
JP2017063844A (ja) * 2015-09-28 2017-04-06 ブラザー工業株式会社 情報出力装置
JP2017191546A (ja) * 2016-04-15 2017-10-19 ミラマ サービス インク 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
JP2018112716A (ja) * 2017-01-13 2018-07-19 ディーブイエックス株式会社 映像統合システム
JP2018121686A (ja) * 2017-01-30 2018-08-09 セイコーエプソン株式会社 内視鏡操作支援システム
JP2018534011A (ja) * 2015-10-14 2018-11-22 サージカル シアター エルエルシー 拡張現実感手術ナビゲーション
JP2019101293A (ja) * 2017-12-05 2019-06-24 オリンパス株式会社 頭部装着型表示装置、表示システム及び表示方法
WO2019176556A1 (ja) * 2018-03-13 2019-09-19 ソニー株式会社 医療機器管理システム及び医療機器管理方法
JP2020512120A (ja) * 2017-03-29 2020-04-23 ビビオール アクチェンゲゼルシャフト ユーザーの健康状態を評価するシステム
JP2021509512A (ja) * 2017-12-28 2021-03-25 エシコン エルエルシーEthicon LLC 受信されたデータセットの検証並びにそのソース及び完全性の認証に基づく外科用ネットワーク、器具、及びクラウド応答
CN113038902A (zh) * 2018-11-14 2021-06-25 任昇俊 利用扩增实境的手术辅助装置
JP2021520551A (ja) * 2018-04-27 2021-08-19 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 患者の医学的状態もしくは治療又はその両方と関連付けられた拡張現実の提示
JP2022104972A (ja) * 2018-04-12 2022-07-12 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US11446113B2 (en) 2018-09-11 2022-09-20 Sony Corporation Surgery support system, display control device, and display control method
JP2022141975A (ja) * 2016-11-11 2022-09-29 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 走査ベースの位置付けを伴う遠隔操作手術システム
WO2023140120A1 (ja) * 2022-01-21 2023-07-27 ソニーグループ株式会社 手術ロボットシステム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005208823A (ja) * 2004-01-21 2005-08-04 Seiko Epson Corp プロジェクタのネットワークシステム
JP2006102495A (ja) * 2004-10-01 2006-04-20 General Electric Co <Ge> 外科手術室の情報ディスプレイの注視検出及びユーザの制御用優先順位付けのための方法及び装置
JP2008234072A (ja) * 2007-03-16 2008-10-02 Ricoh Co Ltd 画面共有システム、画面共有プログラム及びプログラム配信方法
JPWO2008026258A1 (ja) * 2006-08-30 2010-01-14 東京特殊電線株式会社 画像表示装置および画像表示プログラム
EP2544039A1 (en) * 2011-07-04 2013-01-09 BAE Systems Plc. Display system
US20130093738A1 (en) * 2010-06-28 2013-04-18 Johannes Manus Generating images for at least two displays in image-guided surgery
JP2014155207A (ja) * 2013-02-14 2014-08-25 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005208823A (ja) * 2004-01-21 2005-08-04 Seiko Epson Corp プロジェクタのネットワークシステム
JP2006102495A (ja) * 2004-10-01 2006-04-20 General Electric Co <Ge> 外科手術室の情報ディスプレイの注視検出及びユーザの制御用優先順位付けのための方法及び装置
JPWO2008026258A1 (ja) * 2006-08-30 2010-01-14 東京特殊電線株式会社 画像表示装置および画像表示プログラム
JP2008234072A (ja) * 2007-03-16 2008-10-02 Ricoh Co Ltd 画面共有システム、画面共有プログラム及びプログラム配信方法
US20130093738A1 (en) * 2010-06-28 2013-04-18 Johannes Manus Generating images for at least two displays in image-guided surgery
EP2544039A1 (en) * 2011-07-04 2013-01-09 BAE Systems Plc. Display system
JP2014155207A (ja) * 2013-02-14 2014-08-25 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017010424A1 (ja) * 2015-07-16 2017-01-19 木村 正 画像表示制御装置、表示装置、及び、画像表示システム
JP2017049775A (ja) * 2015-09-01 2017-03-09 株式会社東芝 メガネ型ウエアラブル端末およびこの端末を用いる方法
JP2017068360A (ja) * 2015-09-28 2017-04-06 ブラザー工業株式会社 情報表示装置
JP2017063844A (ja) * 2015-09-28 2017-04-06 ブラザー工業株式会社 情報出力装置
JP2018534011A (ja) * 2015-10-14 2018-11-22 サージカル シアター エルエルシー 拡張現実感手術ナビゲーション
JP2017191546A (ja) * 2016-04-15 2017-10-19 ミラマ サービス インク 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
JP7367140B2 (ja) 2016-11-11 2023-10-23 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 走査ベースの位置付けを伴う遠隔操作手術システム
JP2022141975A (ja) * 2016-11-11 2022-09-29 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 走査ベースの位置付けを伴う遠隔操作手術システム
JP7016068B2 (ja) 2017-01-13 2022-02-04 ディーブイエックス株式会社 映像統合システム
JP2018112716A (ja) * 2017-01-13 2018-07-19 ディーブイエックス株式会社 映像統合システム
JP2018121686A (ja) * 2017-01-30 2018-08-09 セイコーエプソン株式会社 内視鏡操作支援システム
JP7106569B2 (ja) 2017-03-29 2022-07-26 ビビオール アクチェンゲゼルシャフト ユーザーの健康状態を評価するシステム
JP2020512120A (ja) * 2017-03-29 2020-04-23 ビビオール アクチェンゲゼルシャフト ユーザーの健康状態を評価するシステム
JP2019101293A (ja) * 2017-12-05 2019-06-24 オリンパス株式会社 頭部装着型表示装置、表示システム及び表示方法
JP7017385B2 (ja) 2017-12-05 2022-02-08 オリンパス株式会社 頭部装着型表示装置、表示システム及び表示方法
JP7301844B2 (ja) 2017-12-28 2023-07-03 エシコン エルエルシー 受信されたデータセットの検証並びにそのソース及び完全性の認証に基づく外科用ネットワーク、器具、及びクラウド応答
JP2021509512A (ja) * 2017-12-28 2021-03-25 エシコン エルエルシーEthicon LLC 受信されたデータセットの検証並びにそのソース及び完全性の認証に基づく外科用ネットワーク、器具、及びクラウド応答
JPWO2019176556A1 (ja) * 2018-03-13 2021-05-13 ソニーグループ株式会社 医療機器管理システム及び医療機器管理方法
JP7294318B2 (ja) 2018-03-13 2023-06-20 ソニーグループ株式会社 医療機器管理システム及び医療機器管理方法
WO2019176556A1 (ja) * 2018-03-13 2019-09-19 ソニー株式会社 医療機器管理システム及び医療機器管理方法
JP2022104972A (ja) * 2018-04-12 2022-07-12 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP7419424B2 (ja) 2018-04-12 2024-01-22 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
JP7300802B2 (ja) 2018-04-27 2023-06-30 インターナショナル・ビジネス・マシーンズ・コーポレーション 患者の医学的状態もしくは治療又はその両方と関連付けられた拡張現実の提示
JP2021520551A (ja) * 2018-04-27 2021-08-19 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 患者の医学的状態もしくは治療又はその両方と関連付けられた拡張現実の提示
US11446113B2 (en) 2018-09-11 2022-09-20 Sony Corporation Surgery support system, display control device, and display control method
CN113038902B (zh) * 2018-11-14 2022-03-11 任昇俊 利用扩增实境的手术辅助装置
JP7014935B2 (ja) 2018-11-14 2022-02-01 スン チュン イム 拡張現実を利用した手術補助装置
JP2022507478A (ja) * 2018-11-14 2022-01-18 スン チュン イム 拡張現実を利用した手術補助装置
CN113038902A (zh) * 2018-11-14 2021-06-25 任昇俊 利用扩增实境的手术辅助装置
WO2023140120A1 (ja) * 2022-01-21 2023-07-27 ソニーグループ株式会社 手術ロボットシステム

Similar Documents

Publication Publication Date Title
US11341726B2 (en) Information processing apparatus, information processing method, and information processing system
JP6252004B2 (ja) 情報処理装置、情報処理方法、および、情報処理システム
JP2015019679A (ja) 情報処理装置、情報処理方法、および、情報処理システム
US10169925B2 (en) Head mounted display and control method for head mounted display
JP6299067B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6311393B2 (ja) 情報処理装置、情報処理方法、および、情報処理システム
US10197803B2 (en) Augmented reality glasses for medical applications and corresponding augmented reality system
US20210022599A1 (en) Augmented and extended reality glasses for use in surgery visualization and telesurgery
JP6264855B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6409927B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2017136103A (ja) 撮像システム、表示装置、及び、撮像システムの制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160523

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170321

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170519

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20171031

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20171122