JP2019101293A - 頭部装着型表示装置、表示システム及び表示方法 - Google Patents

頭部装着型表示装置、表示システム及び表示方法 Download PDF

Info

Publication number
JP2019101293A
JP2019101293A JP2017233596A JP2017233596A JP2019101293A JP 2019101293 A JP2019101293 A JP 2019101293A JP 2017233596 A JP2017233596 A JP 2017233596A JP 2017233596 A JP2017233596 A JP 2017233596A JP 2019101293 A JP2019101293 A JP 2019101293A
Authority
JP
Japan
Prior art keywords
display
unit
image
wearer
head
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017233596A
Other languages
English (en)
Other versions
JP7017385B2 (ja
Inventor
孝之 井田
Takayuki Ida
孝之 井田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2017233596A priority Critical patent/JP7017385B2/ja
Publication of JP2019101293A publication Critical patent/JP2019101293A/ja
Application granted granted Critical
Publication of JP7017385B2 publication Critical patent/JP7017385B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】複数の設定を保持し利用者毎に最適な設定を読出して表示制御を行うことにより、複数人で連携して作業をする場合に効果的な表示を行う。【解決手段】 頭部装着型表示装置は、画像を受信する画像受信部と、装着者の頭部に装着される筐体に取り付けられ前記装着者の眼前に前記画像に基づく虚像を形成する表示部と、前記筐体の複数の装着者毎の前記虚像の表示制御のための設定情報を保持する記憶部と、前記筐体がいずれの装着者に装着されているかを設定する設定部と、前記筐体の傾斜角度を検出する角度検出部と、前記角度検出部によって検出された傾斜角度と、前記設定部により設定された装着者についての前記設定情報に含まれる閾値の角度との比較に基づいて、前記虚像の表示のオン,オフを判定する制御部と、前記制御部の判定結果に基づいて、前記虚像の表示のオン,オフ制御を行う表示制御部とを具備する。【選択図】図1

Description

本発明は、医療用に好適な頭部装着型表示装置、表示システム及び表示方法に関する。
従来より、内視鏡装置が医療分野において広く利用されている。内視鏡装置は、細長い可撓性を有する挿入部を有する医療機器であり、術者は、その挿入部を被検体内に挿入して、被検体内を観察することができる。内視鏡によって撮像された被検体内の内視鏡画像は、モニタに表示可能である。近年、内視鏡画像を表示するモニタとして、頭部に装着してユーザの視界内に配置した表示ユニットに映像を表示する頭部装着型表示装置が採用されることがある。
頭部装着型表示装置は、装着者の視野内に仮想表示領域を配置し、仮想表示領域上に映像信号に基づく虚像を表示するように構成されている。頭部装着型表示装置として、シースルー光学系を採用した装置も開発されており、この表示装置を用いることで、外界の視界を遮ることなく各種情報の表示が可能である。
例えば、手術等においてこのようなシースルー光学系を採用した頭部装着型表示装置を採用した場合には、シースルー光学系を介して患者を直接観察すると同時に、仮想表示領域に表示された内視鏡画像を確認することができる。
しかしながら、医療従事者は、常に内視鏡映像を見るとは限らず、手術室内の他のスタッフや機材等を見る場合もある。この場合には、頭部装着型表示装置に表示されている内視鏡画像が視界の妨げになることがある。頭部装着型表示装置の筐体表面に触れることで、仮想表示領域の表示をオフにできる機能を有するものもあるが、筐体表面は非滅菌領域であることから、ドクターやスクラブナースは表示のオンオフ操作を行うことができない。
そこで、特許文献1においては、使用者の視線方向を検出し、検出した視線方向に応じて、外形を優先する外形優先表示と虚像を優先する虚像優先表示を切り替える技術が開示されている。
特開2017−138609号公報
しかしながら、特許文献1の提案では、複数人で連携して例えば患者への処置を行う医療現場等での使用は考慮されておらず、一人の使用者の作業モードのみに応じて優先する表示の切り替えが行われるようになっている。このため、医療現場等においては、必ずしも有効な表示制御を行うことができるとは限らないという問題があった。
本発明は、複数の設定を保持し利用者毎に最適な設定を読出して表示制御を行うことにより、複数人で連携して作業をする場合に効果的な表示を行うことができる頭部装着型表示装置、表示システム及び表示方法を提供することを目的とする。
本発明の一態様による頭部装着型表示装置は、画像を受信する画像受信部と、装着者の頭部に装着される筐体に取り付けられ前記装着者の眼前に前記画像に基づく虚像を形成する表示部と、前記筐体の複数の装着者毎の前記虚像の表示制御のための設定情報を保持する記憶部と、前記筐体がいずれの装着者に装着されているかを設定する設定部と、前記筐体の傾斜角度を検出する角度検出部と、前記角度検出部によって検出された傾斜角度と、前記設定部により設定された装着者についての前記設定情報に含まれる閾値の角度との比較に基づいて、前記虚像の表示のオン,オフを判定する制御部と、前記制御部の判定結果に基づいて、前記虚像の表示のオン,オフ制御を行う表示制御部とを具備する。
本発明の一態様による表示システムは、複数の頭部装着型表示装置と前記複数の頭部装着型表示装置の装着者の情報を送信するシステムコントローラとを具備した表示システムにおいて、前記複数の頭部装着型表示装置は、それぞれ、制御情報の送受信を行う送受信部と、画像を受信する画像受信部と、装着者の頭部に装着される筐体に取り付けられ前記装着者の眼前に前記画像に基づく虚像を形成する表示部と、前記筐体の複数の装着者毎の前記虚像の表示制御のための設定情報を保持する記憶部と、前記筐体がいずれの装着者に装着されているかを設定する設定部と、前記筐体の傾斜角度を検出する角度検出部と、前記角度検出部によって検出された傾斜角度と、前記設定部により設定された装着者についての前記設定情報に含まれる閾値の角度との比較に基づいて、前記虚像の表示のオン,オフを判定する制御部と、前記制御部の判定結果に基づいて、前記虚像の表示のオン,オフ制御を行う表示制御部と、前記筐体の位置情報を取得して前記送受信部により前記システムコントローラに出力する位置検出部とを具備し、前記システムコントローラは、前記複数の頭部装着型表示装置から受信した各位置情報に基づいて、前記複数の頭部装着型表示装置のそれぞれの装着者を判定して判定結果を各頭部装着型表示装置の前記設定部に与える。
本発明の一態様による表示方法は、画像を受信する画像受信ステップと、装着者の頭部に装着される筐体に取り付けられ前記装着者の眼前に前記画像に基づく虚像を形成する表示ステップと、前記筐体の複数の装着者毎の前記虚像の表示制御のための設定情報を保持する記憶ステップと、前記筐体がいずれの装着者に装着されているかを設定する設定ステップと、前記筐体の傾斜角度を検出する角度検出ステップと、前記角度検出ステップにおいて検出された傾斜角度と、前記設定ステップにより設定された装着者についての前記設定情報に含まれる閾値の角度との比較に基づいて、前記虚像の表示のオン,オフを判定する制御ステップ、前記制御ステップの判定結果に基づいて、前記虚像の表示のオン,オフ制御を行う表示制御ステップとを具備する。
本発明によれば、複数の設定を保持し利用者毎に最適な設定を読出して表示制御を行うことにより、複数人で連携して作業をする場合に効果的な表示を行うことができるという効果を有する。
第1の実施の形態に係る頭部装着型表示装置を含む表示システムを示すブロック図。 図1の頭部装着型表示装置をユーザが装着した状態を説明するための説明図。 設定情報の内容を説明するための説明図。 図3の設定内容に対する制御部11の表示制御を説明するための説明図。 図3の設定内容に対する制御部11の表示制御を説明するための説明図。 第1の実施の形態の動作を説明するためのフローチャート。 本発明の第2の実施の形態において採用される動作フローを示すフローチャート。 第2の実施の形態において記憶部12に記憶される設定情報の内容を説明するための説明図。 ナースの目に視認される仮想表示領域上の虚像の表示領域を説明するための説明図。 本発明の第3の実施の形態に係る頭部装着型表示装置を示すブロック図。 第3の実施の形態において記憶部12に記憶される設定情報の内容を説明するための説明図。 第3の実施の形態において採用される動作フローを示すフローチャート。 本発明の第4の実施の形態に係る頭部装着型表示装置を含む表示システムを示すブロック図。 第4の実施の形態における装着者の判定方法を説明するための説明図。
以下、図面を参照して本発明の実施の形態について詳細に説明する。
(第1の実施の形態)
図1は本発明の第1の実施の形態に係る頭部装着型表示装置を含む表示システムを示すブロック図である。また、図2は図1の頭部装着型表示装置をユーザが装着した状態を説明するための説明図である。
本実施の形態は、シースルー型の頭部装着型表示装置を採用し、連携して作業を行う頭部装着型表示装置の装着者毎に、最適な虚像の表示制御を可能にするものである。なお、本実施の形態においては、内視鏡観察下において、患者の腹腔内の患部等に対して複数の術者が連携して処置を行う手術の例について説明するが、本実施の形態はこのような手術に利用される装置に限定されるものではない。
なお、一般的な手術の現場では、患者の執刀医及び助手の2人以上のドクターとドクターに器具を手渡しするスクラブナース(以下、単にナースともいう)の3人以上で手術が行われることが多いが、本実施の形態はこれに限らず頭部装着型表示装置を装着する2人以上の作業者の連携作業を支援するものである。
本実施の形態の表示システムは、図1に示すように、n個(nは2以上の整数)の頭部装着型表示装置D1〜Dn(以下、それぞれを区別する必要がない場合には、頭部装着型表示装置Dという)を有する。
先ず図2を参照して、ドクターやナース等の装着者50が頭部装着型表示装置Dを装着する様子について説明する。図2に示す頭部装着型表示装置Dは、眼鏡型により構成された例を示しているが、帽子型やゴーグル型等の各種形状の装置を採用することができる。頭部装着型表示装置Dは、図1の回路を内蔵した筐体を頭部50aに取り付けるための支持部を有している。例えば、頭部装着型表示装置Dが眼鏡型で構成された場合には、図2に示すように、眼鏡フレーム61のツル61a及び鼻当て61bが主な支持部となり、頭部装着型表示装置Dは装着者50の頭部50aに十分な固定力で支持される。これにより、頭部装着型表示装置Dは、ユーザの50の頭部50aの動きに合わせて移動し、顔の向きに応じて向きを変える。
図2において、眼鏡フレーム61の一部には、図1の頭部装着型表示装置D中の各回路が収納される回路収納部61cが設けられている。また、眼鏡フレーム61の側部には、例えば装着者の視界と同様の視野範囲を撮像する撮像部20(図1参照)を収納する撮像部収納部20aが配設されている。撮像部20は撮像して得た撮像画像を記録部21に与える。記録部21は、供給された撮像画像を記録するようになっている。
眼鏡フレーム61の左右のリムに嵌込まれる左右のレンズ61dは、シースルー光学系を構成する。レンズ61dは、観察対象物からの光を透過させて装着者の目に入射させることで、透過した光の知覚による像(以下、実像という)を形成可能とする。
また、回路収納部61c内には、後述する表示部13及び表示制御部14が設けられており、レンズ61dは表示部13の一部を構成する。表示制御部14は映像信号に基づく映像光を表示部13から出射させる。表示部13を構成するレンズ61dは、映像光を導光してその出射方向を装着者の目の方向に向ける。これにより、装着者50の目による視界の一部に、目から所定距離に知覚される仮想表示領域が形成され、この仮想表示領域において映像信号に基づく画像(虚像)が視認されることになる。
なお、上記説明では、レンズ61dが表示部13を構成するものとして説明したが、レンズ61dは単に観察対象物からの光を透過させる機能のみを備え、レンズ61dとは別体の導光部材によって映像信号に基づく映像光を目に導くようになっていてもよい。更に、レンズ61dを省略して、空気によってシースルー光学系を構成してもよい。本実施の形態におけるシースルー型の頭部装着型表示装置は、装着者の目に実像と虚像の両方を知覚させることができるものであれば、光学系の構成はどのようなものであってもよい。
術野には、例えば、図1の内視鏡25、プロセッサ30、システムコントローラ40及び複数の頭部装着型表示装置Dが配設される。内視鏡25は、被検体の体腔内に挿入される細長で可撓性を有する図示しない挿入部と、挿入部の基端に接続され、各種操作器が設けられた図示しない操作部とを有している。操作部からは図示しないケーブルが延設され、このケーブルを介して内視鏡25とプロセッサ30とを電気的に接続されるようになっている。
内視鏡25は、挿入部の先端部から被検体に照明光を照射する。挿入部の先端部には図示しない撮像素子が配置されており、撮像素子の受光面には、被検体によって反射された被検体からの反射光(戻り光)が被写体光学像として結像するようになっている。撮像素子はこの光学像を光電変換して撮像信号を得る。内視鏡25は、撮像素子によって取得した撮像信号をプロセッサ30に出力するようになっている。
プロセッサ30は制御部31を有している。制御部31は、CPU等を用いたプロセッサによって構成されて、図示しないメモリに記憶されたプログラムに従って動作して各部を制御するものであってもよいし、ハードウェアの電子回路で機能の一部又は全部を実現するものであってもよい。
プロセッサ30は信号処理部32を有しており、この信号処理部32は制御部31に制御されて、内視鏡25からの撮像信号を受信して信号処理を行い内視鏡画像(動画像及び静止画像)を得る。プロセッサ30は、信号処理部32による信号処理後の内視鏡画像を送信部33に与える。送信部33は、制御部31に制御されて、入力された内視鏡画像をシステムコントローラ40に送信するようになっている。
システムコントローラ40は制御部41を有している。制御部41は、CPU等を用いたプロセッサによって構成されて、図示しないメモリに記憶されたプログラムに従って動作して各部を制御するものであってもよいし、ハードウェアの電子回路で機能の一部又は全部を実現するものであってもよい。
システムコントローラ40の信号受信部42は、制御部41に制御されて、プロセッサ30の送信部33から送信された内視鏡画像を受信するようになっている。システムコントローラ40は、頭部装着型表示装置D1,D2,…,Dnにそれぞれ対応した画像送信部43B1,43B2,…,43Bn(以下、それぞれを区別する必要がない場合には、画像送信部43Bという)を備えている。画像送信部43B1,43B2,…43Bnは、制御部41に制御されて、信号受信部42において受信した内視鏡画像をそれぞれ頭部装着型表示装置D1,D2,…Dnに供給することができるようになっている。
システムコントローラ40は、頭部装着型表示装置D1,D2,…,Dnにそれぞれ対応した制御情報送受信部43A1,43A2,…,43An(以下、それぞれを区別する必要がない場合には、制御情報送受信部43Aという)を備えている。制御情報送受信部43A1,43A2,…43Anは、制御部41からの各種制御情報をそれぞれ頭部装着型表示装置D1,D2,…Dnに送信すると共に、頭部装着型表示装置D1,D2,…Dnからの各種制御情報を受信して制御部41に供給することができるようになっている。制御部41は、各頭部装着型表示装置Dとの間で制御情報を送受信することで、各頭部装着型表示装置Dへの内視鏡画像の送信を個別に制御することができるようになっている。
頭部装着型表示装置D1,D2,…Dnは、相互に同一構成である。頭部装着型表示装置Dは制御部11を備えており、制御部11は、CPU等を用いたプロセッサによって構成されて、記憶部12に記憶されたプログラムに従って動作して各部を制御するものであってもよいし、ハードウェアの電子回路で機能の一部又は全部を実現するものであってもよい。
頭部装着型表示装置Dは、制御情報送受信部15を備えている。制御情報送受信部15は、制御部11からの各種制御情報をプロセッサ40に送信すると共に、プロセッサ40からの各種制御情報を受信して制御部11に供給することができるようになっている。また、頭部装着型表示装置Dは、画像受信部16を備えている。画像受信部16は、制御部11に制御されて、プロセッサ40からの内視鏡画像を受信して表示制御部14に供給するようになっている。
表示制御部14は、入力された内視鏡画像(映像信号)を表示部13に与える。表示部13は、この映像信号に基づく映像光を出射し、レンズ61dの図示しない導光部材によって、映像光を装着者50の目に入射させる。こうして、装着者50の目による視界の一部の、目から所定距離に知覚される仮想表示領域に、映像信号に基づく内視鏡画像が虚像として視認されることになる。
本実施の形態においては、表示制御部14は、内視鏡画像を表示部13に出力して虚像を表示させる状態(以下、オン状態ともいう)と、内視鏡画像の表示部13への出力を停止して虚像を非表示とする状態(以下、オフ状態ともいう)とが制御部11によって制御されるようになっている。制御部11は、表示制御部14のオン,オフ状態の表示制御を、記憶部12に記憶された設定情報に基づいて行うようになっている。
本実施の形態においては、記憶部12には、複数の制御対象(装着者)に関する設定情報が制御対象毎に記憶されるようになっている。図3はこの設定情報の内容を説明するための説明図である。図3の例では、装着者がドクター、ドクター助手及びスクラブナースについて個別に設定内容が登録されていることを示している。図3の例では、ドクター及びドクター助手については、水平方向を基準として、術者の視線方向が−10度未満の場合に虚像を表示させるオン状態にし、−10度以上の場合に虚像の表示を停止するオフ状態に設定することを示している。なお、視線方向は、水平方向を0度とし、上方の角度を正、下方の角度を負とする。
また、図3の例では、スクラブナースについては、水平方向を基準として、術者の視線方向が−10度以上の場合に虚像を表示させるオン状態にし、−10度未満の場合に虚像の表示を停止するオフ状態に設定することを示している。このように、記憶部12の設定情報は、装着者毎に個別に設定されている。
なお、記憶部12に記憶させる設定情報は、ユーザ操作によって更新可能である。
図4A及び図4Bは図3の設定内容に対する制御部11の表示制御を説明するための説明図である。制御部11は、装着者50の視線方向と記憶部12に記憶されている設定情報中の閾値(角度)との比較によって、虚像のオン,オフ制御を行う。この表示制御のために、頭部装着型表示装置Dには角度検出部17が設けられている。角度検出部17は加速度センサによって構成することができ、頭部装着型表示装置Dの傾斜角度を求めて角度情報を制御部11に出力するようになっている。制御部11は、角度検出部17の検出結果に基づいて、頭部装着型表示装置Dの装着者の視線方向を判定する。
頭部装着型表示装置Dは、主にツル61aと鼻当て61bとによって装着者50の頭部50aに略固定されるようになっており、装着者50の視線方向に対する傾斜角度は略規定されている。従って、制御部11は、角度検出部17が検出した頭部装着型表示装置Dの傾斜角度に基づいて、装着者50の視線方向を判定することが可能である。
なお、制御部11はキャリブレーションによって、視線方向の判定精度を向上させてもよい。例えば、装着者50に視線を水平方向に向かせた状態で操作部19の操作を行うことで、制御部11は当該操作時点における傾斜角度を水平方向と判定するようにしてもよい。なお、操作部19は、図示しないスイッチ、キー、ボタン等により構成されており、ユーザ操作を受け付けて操作信号を制御部11に供給するようになっている。
例えば、図4Aはドクター及びドクター助手(以下、両者を単にドクターという)に対する設定を示している。制御部11は、ドクターが視線を水平方向を基準に−10度よりも下方に向けた(−10度未満)ものと判定した場合には、オン状態にするように表示制御部14を制御する。逆に、ドクターが水平方向を基準に下方10度以上に上方に視線を向けた(−10度以上)ものと判定した場合には、オフ状態にするように表示制御部14を制御する。
これに対し、図4Bはスクラブナースに対する設定を示している。制御部11は、ナースが視線を水平方向を基準に−10度よりも下方に向けた(−10度未満)ものと判定した場合には、オフ状態にするように表示制御部14を制御する。逆に、ナースが水平方向を基準に下方10度以上に上方に視線を向けた(−10度以上)ものと判定した場合には、オン状態にするように表示制御部14を制御する。
患者に対する執刀はドクターが行う。一般的に、この執刀作業においては、図示しないベッドに横たわった患者の方向に対してドクターは視線を向ける。即ち、ドクターの視線方向は、水平方向を基準に−10度未満になることが多い。内視鏡観察下での執刀作業では、患者の方向にドクターの視線が向くと同時に、当該患者の内視鏡画像を観察可能であることが好ましい。逆に、ドクターが例えば水平よりも上方に視線を向ける場合には、処置具の受け渡し等のために、虚像の表示をオフ状態にして実像のみ視認できる方が好ましい。そこで、ドクターについては、水平を基準に−10度未満でオン状態を設定し、−10度以上でオフ状態を設定する。
一方、スクラブナースは、基本的にドクターと同様の内視鏡画像を確認できた方がよい。しかし、必要な処置具をドクターに手渡すために、処置具が載置された処置具台上から処置具を選択する必要があり、一般的に水平方向よりも下方に位置する台上に視線を向ける場合には、虚像をオフ状態にした方が正確な選択作業が可能である。そこで、ナースについては、水平を基準に−10度未満でオフ状態を設定し、−10度以上でオン状態を設定する、ドクターとは異なる制御を行う。
なお、上記説明では、オン,オフ制御のための閾値の角度は予め定めた−10度に設定した例を示したが、例えば、装着者毎に、虚像のオン,オフ制御の判定に用いる視線方向に視線を向けさせた状態で操作部19の操作を行わせて傾斜角度を求めることで、各装着者が希望する閾値の設定情報を記憶部12に記憶させておくことも可能である。
本実施の形態においては、制御部11が記憶部12内のいずれの設定情報を用いるかを設定するための設定部18が設けられている。設定部18は、装着者が図3のいずれの対象(装着者)であるかを設定するようになっている。設定部18は、例えば、操作部19の図示しない設定ボタンの操作に基づいて、表示制御の対象となる装着者を制御部11に指定することができるようになっている。制御部11は、設定部18に指定された装着者について、記憶部12に記録された設定情報を読出す。制御部11は、角度検出部17が検出した傾斜角度と記憶部12に記憶されている指定された装着者についての設定内容とに基づいて、頭部装着型表示装置D毎に虚像の表示制御を行う。
次に、このように構成された実施の形態の動作について図5を参照して説明する。図5は頭部装着型表示装置Dの動作を説明するためのフローチャートである。
例えば、2人のドクターと、スクラブナースとが参加する内視鏡観察下手術を行う場合について説明する。図示しない手術台上には患者が横たわり、例えばこの患者の両側に2人のドクターが位置し、執刀医であるドクターに対して処置具等を手渡せるようにスクラブナースが待機しているものとする。2人のドクターとスクラブナースとは、それぞれ頭部装着型表示装置D1〜D3を装着しているものとする。
内視鏡25は、挿入部が例えば患者の体腔内に挿入されて、体腔内を撮像して撮像信号をプロセッサ30に出力する。プロセッサ30は、信号処理部32によって撮像信号に対する信号処理を行って、内視鏡画像を生成する。送信部33は、生成された内視鏡画像をシステムコントローラ40に送信する。システムコントローラ40の制御部41は、信号受信部42において内視鏡画像を受信させる。一方、ドクター及びナースが装着している頭部装着型表示装置D1〜D3の制御部11は、制御情報送受信部15により内視鏡画像の伝送をシステムコントローラ40に要求する。制御部41は、制御情報送受信部43Aにより受信した制御情報に基づいて、内視鏡画像を画像送信部43B1〜43B3から頭部装着型表示装置D1〜D3に送信させる。
こうして、頭部装着型表示装置D1〜D3の画像受信部16において、内視鏡画像が受信されて表示制御部14に供給される。制御部11がオン状態の制御を行った場合には、表示制御部14は、制御部11に制御されて内視鏡画像に基づく映像信号を表示部13に供給する。これにより、表示部13により各装着者の目に内視鏡画像が虚像として視認される。制御部11がオフ状態の制御を行った場合には、表示制御部14は、制御部11に制御されて内視鏡画像の表示部13への出力を停止し、虚像の表示をオフにする。この場合には、装着者に虚像が視認されることはなく、装着者は実像を見やすくなる。
このような虚像のオン,オフ制御のために、先ず設定部18において制御対象の設定が行われる。即ち、頭部装着型表示装置D1,D2の設定部18は、例えば操作部19の操作によって、装着者がドクターであることを設定する。また、頭部装着型表示装置D3の設定部18は、例えば操作部19の操作によって、装着者がスクラブナースであることを設定する。
図5のステップS1において、制御部11は設定部18の設定に従って表示制御の対象を決定する。即ち、頭部装着型表示装置D1,D2の制御部11は対象をドクターに設定し、頭部装着型表示装置D3の制御部11は対象をスクラブナースに設定する。
ステップS2において、頭部装着型表示装置D1,D2の制御部11は、記憶部12からドクターに関する設定情報を読出し、頭部装着型表示装置D3の制御部11は、記憶部12からナースに関する設定情報を読出す。各頭部装着型表示装置Dの制御部11は、ステップS3において、角度検出部17の角度検出結果を読出し、ステップS4において、それぞれ装着者の視線方向を判定する。
次のステップS5において、制御部11は、角度検出結果に基づく視線方向の角度と、記憶部12から読出した設定情報に含まれる閾値の角度との比較を行う(ステップS5)。この比較の結果、制御部11は虚像のオン制御又はオフ制御を行う。
いま、例えば、ドクターが執刀の最中であるものとする。この場合には、ドクターは、患者に視線を向ける。この場合の視線方向は、水平方向を基準に−10度未満である場合が多く、頭部装着型表示装置D1,D2の制御部11は、図3の設定情報から表示制御部14に対してオン状態を指示する(ステップS6)。これにより、ドクターは患者を確認すると同時に、仮想表示領域に表示された内視鏡画像(虚像)を確認することができる。ドクターは、執刀を行う対象の方向、即ち手先の方向に視線を向けたままで内視鏡画像を手元側で確認することができ、ハンドアイコーディネーションが可能となる。
このようなドクターによる執刀時に、ナースは、処置具を選択するために処置具台上に視線を向けるものとする。そうすると、この場合の視線方向は、水平方向を基準に−10度未満であることが多く、頭部装着型表示装置D3の制御部11は、図3の設定情報から表示制御部14に対してオフ状態を指示する(ステップS7)。これにより、ナースが装着する頭部装着型表示装置D3においては、表示部13による虚像は表示されず、ナースは処置具台上を見やすくなり、処置具の確実な選択が可能となる。
このように、本実施の形態においては、ドクターが装着する頭部装着型表示装置D1,D2における表示制御と、ナースが装着する頭部装着型表示装置D3における表示制御とを個別に行うことが可能である。
なお、ドクターが処置具の受け渡し等のために、視線を水平方向を基準に−10度の角度よりも上方に向けた場合には、制御部11はオフ状態を設定し、表示部13による虚像は非表示となる。これにより、不要に内視鏡画像が表示されることを防止して、作業性を向上させることが可能である。
また、ナースは処置具台上に視線を落とさない場合には、ドクターと同様の内視鏡画像を確認することができ、ドクターの指示等に対する理解を深めることが可能である。
このように、本実施の形態においては、表示制御の対象毎の設定情報を記憶すると共に、表示制御の対象をそれぞれ設定することができることから、連携して作業を行う装着者毎に、その作業の内容に応じた個別の表示制御が可能である。これにより、複数人で連携して作業をする場合の作業効率を向上させることができる。
(第2の実施の形態)
図6は本発明の第2の実施の形態において採用される動作フローを示すフローチャートである。図6において図5と同一の手順には同一符号を付して説明を省略する。本実施の形態におけるハードウェア構成は図1と同様である。
第1の実施の形態においては、設定情報としてはオン状態、オフ状態の閾値となる視線方向と比較する角度のみを設定して、虚像のオン制御又はオフ制御を行うものとして説明した。本実施の形態は、虚像のオン,オフ制御だけでなく、オン状態における表示態様についても制御するようにしたものである。
即ち、図6に示すように、制御部11は、ステップS5においてオン判定を行うと、次のステップS8において、表示制御の対象がナースであるか否かを判定する。制御部11は、表示制御の対象がドクターである場合にはステップS9において通常の全画面表示を行い、表示制御の対象がナースである場合にはステップS10において子画面表示を行う。
次に、このように構成された実施の形態の動作について図7及び図8を参照して説明する。図7は本実施の形態において記憶部12に記憶される設定情報の内容を説明するための説明図である。また、図8はナースの目に視認される仮想表示領域上の虚像の表示領域を説明するための説明図である。
図7において、ドクター及びドクター助手に関する設定情報は図3と同様である。図7の例では、ナースに関する設定情報が図3と異なり、スクラブナースについては、水平方向を基準として−10度未満でオフ状態、−10度以上でオン状態が設定されるだけでなく、オン状態において子画面での表示が行われることを示している。
いま、例えばドクターに渡す処置具の選択のために、ナースが視線を水平方向を基準に−10度の角度よりも下方に向けるものとする。この場合には、ナースが装着する頭部装着型表示装置Dの制御部11は、ステップS5から処理をステップS7に移行してオフ状態を設定し、表示部13による虚像は非表示とする。これにより、不要に内視鏡画像が表示されることを防止して、ナースによる確実な選択作業を可能にする。
次に、ナースは、選択した処置具をドクターに渡すために、視線を水平方向を基準に−10度の角度よりも上方に向けるものとする。そうすると、ナースが装着する頭部装着型表示装置Dの制御部11は、ステップS5においてオン判定を行った後、ステップS8おいて対象がナースであることを判定して処理をステップS10に移行する。ステップS10において、制御部11は、表示制御部14を制御して、表示部13に内視鏡画像を子画面表示させる。
図8はこの場合における虚像の表示領域を示しており、表示部13において形成可能な仮想表示領域DVに対して、ナースに視認させる内視鏡画像(虚像)の表示領域72は十分に小さい子画面である。ナースについては、処置具の受け渡しのために、内視鏡画像の視認性を向上させるよりも、ドクターの実像の視認性を良好にした方がよい場合がある。ナースについては子画面である表示領域72において虚像を視認させることにより、処置具の受け渡し等に際して、内視鏡画像によりドクターの実像の視認性が悪化することを防止することができる。
なお、ドクターについては、ドクターが装着する頭部装着型表示装置Dの制御部11は、ステップS8からステップS9に処理を移行して、第1の実施の形態と同様に、虚像を図8の表示領域71に全画面表示する。
このように本実施の形態においては、第1の実施の形態と同様に、虚像の表示のオン,オフ制御を装着者毎に可能にすることができるという効果だけでなく、虚像の表示態様についても、装着者毎に個別に設定可能であるという利点を有する。例えば、ナースについては、虚像を子画面表示することができ、ナースの視界が内視鏡画像によって阻害されることを防止して、ナースの作業性を向上させることができる。
(第3の実施の形態)
図9は本発明の第3の実施の形態に係る頭部装着型表示装置を示すブロック図である。図9において図1と同一の構成要素には同一符号を付して説明を省略する。
第1及び第2の実施の形態においては、設定情報としては視線方向と比較する角度のみをオン状態、オフ状態の閾値として設定する例を説明した。本実施の形態は、視線方向と比較する角度だけでなく、受信画像や撮像して得た画像に基づいて、オン,オフ制御を行うものである。
頭部装着型表示装置DGは、特徴記録部22を備えた点が図1の頭部装着型表示装置Dと異なる。なお、図1の頭部装着型表示装置Dに代えて頭部装着型表示装置DGを採用した表示システムを構築してもよく、頭部装着型表示装置Dと頭部装着型表示装置DGとが混在する表示システムを採用してもよい。
特徴記録部22には、表示制御を判定するための画像に関する画像特徴が記録されている。例えば、特徴記録部22には、内視鏡画像に特有の画像特徴、例えば、臓器の画像の画像特徴の情報が記録されている。また、特徴記録部22には、被写体がドクターである場合に特有の画像特徴の情報が記録されている。
撮像部20は、頭部装着型表示装置DGを装着する装着者の視界と同様の視野範囲を撮像して、撮像画像を記録部21に与えると共に、制御部11にも出力する。また、画像受信部16は受信した内視鏡画像を制御部11に出力する。
制御部11は、公知の画像認識処理によって、撮像部20からの撮像画像の画像特徴と特徴記録部22に記録されている画像特徴との比較を行い、撮像部20からの撮像画像にドクターの画像が含まれるか否かを判定するようになっている。また、制御部11は、画像認識処理によって、画像受信部16において受信した画像の画像特徴と特徴記録部22に記録されている画像特徴との比較を行い、受信した画像が有効な内視鏡画像であるか否かを判定する。例えば、内視鏡25の挿入部が体内に挿入されていない場合等においては、画像受信部16において受信する画像は体腔内を撮像して得た有効な内視鏡画像ではない。
図10は本実施の形態において記憶部12に記憶される設定情報の内容を説明するための説明図である。図10において、ドクター及びナースに関する視線方向と比較する角度に関する設定情報は図3と同様である。図10の例では、画像認識結果に応じて、虚像のオン,オフ制御を行うことを示している。
即ち、装着者がドクターである場合の頭部装着型表示装置DGの制御部11は、画像認識結果によって有効な内視鏡画像が受信されていないと判定した場合には、装着者の視線方向の角度に拘わらず、虚像の表示をオフにするように、表示制御部14を制御する。
また、装着者がナースである場合の頭部装着型表示装置DGの制御部11は、画像認識結果によって撮像部20の被写体がドクターであるものと判定した場合には、装着者の視線方向の角度に拘わらず、虚像の表示をオフにするように、表示制御部14を制御する。
なお、制御部11は、受信する画像及び撮像した画像の両方についての画像認識結果に基づいて表示制御を行う例について説明したが、いずれか一方についての画像認識結果に基づいて表示制御を行うようになっていてもよい。
次に、このように構成された実施の形態の動作について図11を参照して説明する。図11は第3の実施の形態において採用される動作フローを示すフローチャートである。図11において図5と同一の手順には同一符号を付して説明を省略する。図11のフローは、ステップS11〜S15の手順を付加した点が図5のフローと異なる。
即ち、図11に示すように、制御部11は、ステップS4において視線方向を判定した後、ステップS11において、自機の装着者がドクターかナースかを判定する。装着者がドクターである場合の頭部装着型表示装置DGの制御部11は、次のステップS12において、画像受信部16において受信している画像についての画像認識処理を実行し、有効な内視鏡画像が入力されているか否かを判定する。制御部11は、有効な内視鏡画像が入力されていない場合には、装着者の視線方向の角度に拘わらず、虚像の表示をオフにするように、表示制御部14を制御する(ステップS7)。これにより、観察する必要の無い画像を虚像として表示することで、実像の視認性が悪化してしまうことを防止することができる。なお、制御部11は、有効な内視鏡画像が入力されていると判定した場合には、ステップS5において角度検出結果と閾値との比較に基づく判定を行う。
一方、装着者がナースである場合の頭部装着型表示装置DGの制御部11は、ステップS11からステップS14に処理を移行し、撮像部20において撮像して得た撮像画像についての画像認識処理を実行し、撮像画像中にドクターの画像が含まれるか否か、即ち、ナースが顔をドクターに向けているか否かを判定する(ステップS15)。制御部11は、ナースが顔をドクターに向けていると判定した場合には、装着者の視線方向の角度に拘わらず、虚像の表示をオフにするように、表示制御部14を制御する(ステップS7)。なお、制御部11は、ナースが顔をドクターに向けていないと判定した場合には、ステップS5において角度検出結果と閾値との比較に基づく判定を行う。
これにより、ナースが処置具等をドクターに手渡すためにドクターに顔を向けた場合等においては、虚像の表示をオフにすることができ、実像の視認性を向上させて確実な手渡し作業等を可能にする。
このように本実施の形態においては、第1の実施の形態と同様の効果が得られると共に、画像認識によって、虚像の表示が必要ない場合を判定し、実像の視認性を向上させることができる。これにより、作業性を向上させることが可能である。
(第4の実施の形態)
図12は本発明の第4の実施の形態に係る頭部装着型表示装置を含む表示システムを示すブロック図である。図12において図1と同一の構成要素には同一符号を付して説明を省略する。
上記各実施の形態においては、表示制御の対象となる装着者については、設定部18が操作部19のユーザ操作に基づいて設定するものと説明した。これに対し、本実施の形態は設定部18が自動的に装着者を判定して装着者の設定を行う例を示している。なお、本実施の形態における表示制御については、上記第1乃至第3の実施の形態のいずれの制御方法を採用してもよい。
図12の表示システムは、システムコントローラ40に代えてシステムコントローラ80を採用すると共に、頭部装着型表示装置Dに代えて頭部装着型表示装置DH(DH1,DH2,…DHn)を採用するものである。頭部装着型表示装置DHは、位置検出部24を採用すると共に、設定部18は、制御情報送受信部15が受信したシステムコントローラ80からの情報に基づいて装着者を設定する点が第1の実施の形態と異なる。
位置検出部24は、例えばGPS(global positioning system)を利用して、頭部装着型表示装置DHの位置を検出し、検出結果を制御部11に供給することができるようになっている。制御部11は位置の検出結果を制御情報送受信部15を介してシステムコントローラ80に転送する。
システムコントローラ80の制御部41は、各頭部装着型表示装置DHからそれぞれの位置検出結果が制御情報送受信部43Aを介して与えられる。制御部41は受信した各位置検出結果に基づいて、各頭部装着型表示装置DHの装着者がドクターであるかスクラブナースであるかを判定し、判定結果を制御情報送受信部43Aを介して各頭部装着型表示装置DHに送信するようになっている。設定部18は制御情報送受信部15を介して受信した判定結果を制御部11に設定するようになっている。
例えば、制御部41は、位置検出結果に基づいて各頭部装着型表示装置DH同士の距離関係を求め、求めた距離関係に基づいてドクターであるかナースであるかを判定してもよい。
図13はこの場合の判定方法を説明するための説明図である。図13は出入り口92を有する手術室91の平面形状を示し、手術室91内におけるドクター及びナースの位置関係を示している。図13中の「Dr」を囲った丸印95はドクターの位置を示し、「助」を囲った丸印96,97はドクター助手の位置を示し、「看」を囲った丸印98はナースの位置を示している。通常、手術に際して、ドクター及びドクター助手は、図13の丸印95〜97に示すように、患者が横たわるベッド93の近傍に位置し、ナースは、丸印98に示すように、処置具台94の近傍に位置することが多い。
制御部41は、ドクター及びナースが装着する各頭部装着型表示装置DHの位置検出結果を用いて、各頭部装着型表示装置DHを基準に他の各頭部装着型表示装置DHまでの距離を求める。制御部41は、各頭部装着型表示装置DHについて求めた他の頭部装着型表示装置DHまでの距離の和が最も大きい頭部装着型表示装置DHについて、装着者はナースであると判定する。図13に示すように、ドクター同士は比較的近接した位置に位置するのに対し、ナースは、ドクター及びドクター助手から比較的離れた位置に位置する。従って、他の頭部装着型表示装置DHまでの距離の和が最も大きい頭部装着型表示装置DHは、ナースが装着しているものと判定することができる。また、ナースが装着している頭部装着型表示装置DH以外の頭部装着型表示装置DHは、ドクター又はドクター助手が装着するものであると考えられる。
制御部41は、各頭部搭載型表示装置DHについての装着者の情報を各頭部搭載型表示装置DHに送信させる。こうして、各頭部搭載型表示装置DHの設定部18はシステムコントローラ80からの情報に基づいて、自動的に自機の装着者を設定することができる。
システムコントローラ80は、画像解析部81を備えた点がシステムコントローラ40と異なる。また、図12の表示システムはカメラ90を備える。なお、上述した位置検出結果を用いる判定方法を採用する場合には、画像解析部81及びカメラ90は省略可能である。
カメラ90は、例えば手術室の天井に配置されており、手術室内のドクター、ドクター助手及びナースを撮像することができるようになっている。カメラ90が撮像して得た撮像画像は画像解析部81に供給される。画像解析部81は入力された撮像画像に対する画像解析処理によって画像特徴を抽出し、図示しないメモリに記録されている画像特徴の情報との比較に基づいて、撮像画像中の人物を特定し、画像解析結果を制御部41に出力する。制御部41は、人物の画像解析結果に基づいて、例えば、図13と同様の判定方法によって、ドクターとナースとを判定し、その位置の検出結果を取得することが可能である。
また、画像解析部81は、ドクターとナースとの画像特徴を用いて、撮像画像中のドクターとナースとを判定することができる場合もある。この場合には、制御部41は、画像解析部81の解析結果に基づいて、ドクターの位置とナースの位置との検出結果を得ることができる。
制御部41は、これらの手法によって求めたドクターとナースについての位置の検出結果と、制御情報送受信部43Aを介して各頭部装着型表示装置DHから受信した位置検出結果との比較に基づいて、各頭部装着型表示装置DHの装着者がドクターであるかナースであるかを判定して、判定結果を各頭部装着型表示装置DHに送信する。
こうして、設定部18は、自機の装着者をシステムコントローラ80からの情報に基づいて自動的に設定することができる。
なお、上記説明では、各頭部装着型表示装置DHからの位置検出結果をシステムコントローラ80に与え、システムコントローラ80において各頭部装着型表示装置DHを装着する装着者を判定し、判定結果を各頭部装着型表示装置DHに送信する例を説明したが、システムコントローラ80の制御部41の制御を、いずれか1つ又は複数の頭部装着型表示装置DHの制御部11において実行するようになっていてもよい。この場合には、虚像の表示制御のためのシステムコントローラ80は省略可能である。
更に、図9の頭部装着型表示装置DGにおいては、単独でドクターが装着しているかナースが装着しているかを画像認識によって判定可能である。例えば、スクラブナースがドクターに受け渡す鉗子、スコープ、ガーゼ等の器具等の画像特徴を特徴記録部22に記録させる。頭部装着型表示装置DGの制御部11は、撮像部20によって撮像して得た撮像画像の画像特徴と特徴記録部22から読み出した画像特徴との比較によって、スクラブナースがドクターに受け渡す器具が撮像されているか否かを判定する。例えば、制御部11は、所定比率以上の期間、器具が撮像されていることを判定した場合には、当該頭部装着型表示装置DGの装着者がナースであり、その他の頭部装着型表示装置DGの装着者はドクターであると判定してもよい。
また、患者の術部の画像特徴、例えば、ドレープやトラカール等の画像特徴を特徴記録部22に記録した場合には、頭部装着型表示装置DGの制御部11は、撮像部20によって撮像して得た撮像画像の画像特徴と特徴記録部22から読み出した画像特徴との比較によって、患者術部が撮像されているか否かを判定することができる。例えば、所定比率以上の期間、患者術部が撮像されていることを判定した場合には、当該頭部装着型表示装置DGの装着者はドクターであり、その他の頭部装着型表示装置DGの装着者はナースであると判定してもよい。
これらの場合において、画像上の特徴部分のサイズが所定の閾値よりも大きいか否かによって、特徴記録部22から読出した画像特徴に対応する画像が検出されたか否かを判定するようになっていてもよい。
表示制御等の他の作用については、上記各実施の形態と同様である。
このように本実施の形態においては、表示制御の対象となる装着者を自動的に特定することができる。これにより、ユーザの設定作業を必要とすることなく、自動的に、装着者毎に、装着者の作業に適した虚像の表示制御が可能であり、作業性を著しく向上させることができる。
本発明は、上記各実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記各実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
例えば、上記各実施の形態においては、虚像のオン,オフ制御の閾値として水平方向を基準とした−10度を採用した例を示したが、これに限定されるものではなく適宜設定可能であることは明らかである。
11…制御部、12…記憶部、13…表示部、14…表示制御部、15…制御情報送受信部、16…画像受信部、17…角度検出部、18…設定部、19…操作部、20…撮像部、D…頭部装着型表示装置。

Claims (13)

  1. 画像を受信する画像受信部と、
    装着者の頭部に装着される筐体に取り付けられ前記装着者の眼前に前記画像に基づく虚像を形成する表示部と、
    前記筐体の複数の装着者毎の前記虚像の表示制御のための設定情報を保持する記憶部と、
    前記筐体がいずれの装着者に装着されているかを設定する設定部と、
    前記筐体の傾斜角度を検出する角度検出部と、
    前記角度検出部によって検出された傾斜角度と、前記設定部により設定された装着者についての前記設定情報に含まれる閾値の角度との比較に基づいて、前記虚像の表示のオン,オフを判定する制御部と、
    前記制御部の判定結果に基づいて、前記虚像の表示のオン,オフ制御を行う表示制御部と
    を具備したことを特徴とする頭部装着型表示装置。
  2. 前記記憶部は、装着者がドクター又はナースである場合の前記設定情報を保持する
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  3. 前記設定部は、ユーザ操作に基づいて、前記装着者の設定を行う
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  4. 前記設定部は、前記装着者の判定結果が与えられて、前記装着者の設定を行う
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  5. 前記制御部は、ユーザ操作に基づいて、前記設定情報を変更する
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  6. 前記設定情報として、装着者毎の視線方向を示す角度が閾値として設定されており、
    前記制御部は、前記傾斜角度から求めた装着者の視線方向の角度と前記設定情報中の角度の閾値との比較に基づいて、前記虚像の表示のオン,オフを判定する
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  7. 前記設定情報は、前記装着者毎の虚像の表示態様を指定する情報を含み、
    前記制御部は、前記虚像の表示時において、前記設定情報に基づいて前記装着者毎に前記虚像の表示態様を変更する判定を行う
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  8. 前記設定情報は、前記画像の種類に応じた虚像の表示制御の情報を含み、
    前記制御部は、前記画像受信部が受信した画像の種類によっては、前記角度検出部によって検出された傾斜角度に拘わらず、前記虚像の表示をオフにする判定を行う
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  9. 周辺を撮像して撮像画像を得る撮像部を更に具備し、
    前記設定情報は、前記撮像画像の種類に応じた虚像の表示制御の情報を含み、
    前記制御部は、前記撮像画像の種類によっては、前記角度検出部によって検出された傾斜角度に拘わらず、前記虚像の表示をオフにする判定を行う
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  10. 周辺を撮像して撮像画像を得る撮像部を更に具備し、
    前記設定部は、前記撮像画像の画像解析に基づいて前記装着者を判定して設定する
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  11. 前記制御部は、前記装着者がドクターである場合には、前記装着者の視線が水平方向よりも下方の所定の角度よりも下方に向いている場合に前記虚像の表示をオンにし、前記所定の角度よりも上方に向いている場合に前記虚像の表示をオフにすると共に、前記装着者がナースである場合には、前記装着者の視線が水平方向よりも下方の所定の角度よりも下方に向いている場合に前記虚像の表示をオフにし、所定の角度よりも上方に向いている場合に前記虚像の表示をオンにする
    ことを特徴とする請求項1に記載の頭部装着型表示装置。
  12. 複数の頭部装着型表示装置と前記複数の頭部装着型表示装置の装着者の情報を送信するシステムコントローラとを具備した表示システムにおいて、
    前記複数の頭部装着型表示装置は、それぞれ
    制御情報の送受信を行う送受信部と、
    画像を受信する画像受信部と、
    装着者の頭部に装着される筐体に取り付けられ前記装着者の眼前に前記画像に基づく虚像を形成する表示部と、
    前記筐体の複数の装着者毎の前記虚像の表示制御のための設定情報を保持する記憶部と、
    前記筐体がいずれの装着者に装着されているかを設定する設定部と、
    前記筐体の傾斜角度を検出する角度検出部と、
    前記角度検出部によって検出された傾斜角度と、前記設定部により設定された装着者についての前記設定情報に含まれる閾値の角度との比較に基づいて、前記虚像の表示のオン,オフを判定する制御部と、
    前記制御部の判定結果に基づいて、前記虚像の表示のオン,オフ制御を行う表示制御部と、
    前記筐体の位置情報を取得して前記送受信部により前記システムコントローラに出力する位置検出部とを具備し、
    前記システムコントローラは、
    前記複数の頭部装着型表示装置から受信した各位置情報に基づいて、前記複数の頭部装着型表示装置のそれぞれの装着者を判定して判定結果を各頭部装着型表示装置の前記設定部に与える
    ことを特徴とする表示システム。
  13. 画像を受信する画像受信ステップと、
    装着者の頭部に装着される筐体に取り付けられ前記装着者の眼前に前記画像に基づく虚像を形成する表示ステップと、
    前記筐体の複数の装着者毎の前記虚像の表示制御のための設定情報を保持する記憶ステップと、
    前記筐体がいずれの装着者に装着されているかを設定する設定ステップと、
    前記筐体の傾斜角度を検出する角度検出ステップと、
    前記角度検出ステップにおいて検出された傾斜角度と、前記設定ステップにより設定された装着者についての前記設定情報に含まれる閾値の角度との比較に基づいて、前記虚像の表示のオン,オフを判定する制御ステップ、
    前記制御ステップの判定結果に基づいて、前記虚像の表示のオン,オフ制御を行う表示制御ステップと
    を具備したことを特徴とする表示方法。
JP2017233596A 2017-12-05 2017-12-05 頭部装着型表示装置、表示システム及び表示方法 Active JP7017385B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017233596A JP7017385B2 (ja) 2017-12-05 2017-12-05 頭部装着型表示装置、表示システム及び表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017233596A JP7017385B2 (ja) 2017-12-05 2017-12-05 頭部装着型表示装置、表示システム及び表示方法

Publications (2)

Publication Number Publication Date
JP2019101293A true JP2019101293A (ja) 2019-06-24
JP7017385B2 JP7017385B2 (ja) 2022-02-08

Family

ID=66973613

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017233596A Active JP7017385B2 (ja) 2017-12-05 2017-12-05 頭部装着型表示装置、表示システム及び表示方法

Country Status (1)

Country Link
JP (1) JP7017385B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113835352A (zh) * 2021-09-29 2021-12-24 歌尔光学科技有限公司 一种智能设备控制方法、系统、电子设备及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0678247A (ja) * 1992-08-24 1994-03-18 Olympus Optical Co Ltd 頭部装着式ディスプレイ装置
JPH11331732A (ja) * 1998-05-18 1999-11-30 Canon Inc ヘッドマウント型映像表示装置
JP2008185609A (ja) * 2007-01-26 2008-08-14 Sony Corp 表示装置、表示方法
JP2009294558A (ja) * 2008-06-09 2009-12-17 Nikon Corp プロジェクタ
JP2010096864A (ja) * 2008-10-14 2010-04-30 Canon Inc 収差補正方法、画像処理装置および画像処理システム
JP2012203128A (ja) * 2011-03-24 2012-10-22 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2015019679A (ja) * 2013-07-16 2015-02-02 セイコーエプソン株式会社 情報処理装置、情報処理方法、および、情報処理システム
JP2016061827A (ja) * 2014-09-16 2016-04-25 ソニー株式会社 表示制御装置、表示制御方法、表示制御システムおよび頭部装着ディスプレイ
JP2017138609A (ja) * 2017-03-09 2017-08-10 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0678247A (ja) * 1992-08-24 1994-03-18 Olympus Optical Co Ltd 頭部装着式ディスプレイ装置
JPH11331732A (ja) * 1998-05-18 1999-11-30 Canon Inc ヘッドマウント型映像表示装置
JP2008185609A (ja) * 2007-01-26 2008-08-14 Sony Corp 表示装置、表示方法
JP2009294558A (ja) * 2008-06-09 2009-12-17 Nikon Corp プロジェクタ
JP2010096864A (ja) * 2008-10-14 2010-04-30 Canon Inc 収差補正方法、画像処理装置および画像処理システム
JP2012203128A (ja) * 2011-03-24 2012-10-22 Seiko Epson Corp 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2015019679A (ja) * 2013-07-16 2015-02-02 セイコーエプソン株式会社 情報処理装置、情報処理方法、および、情報処理システム
JP2016061827A (ja) * 2014-09-16 2016-04-25 ソニー株式会社 表示制御装置、表示制御方法、表示制御システムおよび頭部装着ディスプレイ
JP2017138609A (ja) * 2017-03-09 2017-08-10 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113835352A (zh) * 2021-09-29 2021-12-24 歌尔光学科技有限公司 一种智能设备控制方法、系统、电子设备及存储介质
CN113835352B (zh) * 2021-09-29 2023-09-08 歌尔科技有限公司 一种智能设备控制方法、系统、电子设备及存储介质

Also Published As

Publication number Publication date
JP7017385B2 (ja) 2022-02-08

Similar Documents

Publication Publication Date Title
JP6574939B2 (ja) 表示制御装置、表示制御方法、表示制御システムおよび頭部装着ディスプレイ
CN110200702B9 (zh) 集成眼球凝视跟踪用于立体观看器的医疗装置、系统和方法
JP6264087B2 (ja) 表示制御装置、表示装置および表示制御システム
JP2021090753A (ja) ナビゲートされるロボット外科手術のための変動する不透明性を有する拡張現実ヘッドセット
JP6693507B2 (ja) 情報処理装置、情報処理方法及び情報処理システム
CN109478346A (zh) 使用虚拟现实头戴式显示器增强的眼科手术体验
JP4098535B2 (ja) 医療用立体表示装置
WO2014103193A1 (ja) 内視鏡下手術支援システム及び画像制御方法
JPWO2017145475A1 (ja) 医療用情報処理装置、情報処理方法、医療用情報処理システム
US11094283B2 (en) Head-wearable presentation apparatus, method for operating the same, and medical-optical observation system
US11950968B2 (en) Surgical augmented reality
US20160000514A1 (en) Surgical vision and sensor system
JP2016158911A (ja) 画像表示装置を使った外科手術方法及び、その外科手術に用いる装置
JP2018107603A (ja) センサ情報取得装置、センサ情報取得方法、センサ情報取得プログラム及び医療器具
JP4383188B2 (ja) 立体観察システム
US20210121245A1 (en) Surgeon interfaces using augmented reality
US20210251717A1 (en) Extended reality headset opacity filter for navigated surgery
JP7017385B2 (ja) 頭部装着型表示装置、表示システム及び表示方法
WO2019021781A1 (en) SURGICAL SUPPORT SYSTEM, INFORMATION PROCESSING METHOD, AND INFORMATION PROCESSING APPARATUS
US11224329B2 (en) Medical observation apparatus
JP6617766B2 (ja) 医療用観察システム、表示制御システムおよび表示制御装置
JP7134656B2 (ja) 医療用表示制御装置、および表示制御方法
CN117012342A (zh) 用于基于估计的外科医生姿态确定造影的技术
WO2024006492A1 (en) Systems and methods for stereoscopic visualization in surgical robotics without requiring glasses or headgear

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200821

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200821

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220127