JP7403286B2 - 表示装置、表示システム、表示装置の制御方法およびプログラム - Google Patents

表示装置、表示システム、表示装置の制御方法およびプログラム Download PDF

Info

Publication number
JP7403286B2
JP7403286B2 JP2019202620A JP2019202620A JP7403286B2 JP 7403286 B2 JP7403286 B2 JP 7403286B2 JP 2019202620 A JP2019202620 A JP 2019202620A JP 2019202620 A JP2019202620 A JP 2019202620A JP 7403286 B2 JP7403286 B2 JP 7403286B2
Authority
JP
Japan
Prior art keywords
display device
state
display
display element
turned
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019202620A
Other languages
English (en)
Other versions
JP2021076680A (ja
JP2021076680A5 (ja
Inventor
剛志 岩佐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019202620A priority Critical patent/JP7403286B2/ja
Priority to US17/083,371 priority patent/US20210141227A1/en
Publication of JP2021076680A publication Critical patent/JP2021076680A/ja
Publication of JP2021076680A5 publication Critical patent/JP2021076680A5/ja
Application granted granted Critical
Publication of JP7403286B2 publication Critical patent/JP7403286B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3228Monitoring task completion, e.g. by use of idle timers, stop commands or wait commands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3231Monitoring the presence, absence or movement of users
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234Power saving characterised by the action undertaken
    • G06F1/325Power saving in peripheral device
    • G06F1/3262Power saving in digitizer or tablet
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

本発明は、表示装置、表示装置の制御方法およびプログラムに関する。
仮想空間を体験できる技術としてVR(Virtual Reality)技術が、また、現実空間と仮想空間をリアルタイム且つシームレスに融合させる技術として、複合現実感、いわゆるMR(Mixed Reality)技術が知られている。ビデオシースルー型HMD(Head Mounted Display:頭部装着型表示装置)を利用したMRシステムでは、HMD内蔵の撮像ユニットによって取得された現実空間画像にCG(Computer Graphics)画像を重畳した合成画像をHMD装着者が観察する。これらの画像は左右の眼に対応してそれぞれ独立しており、ステレオ動画像による立体的なMR空間をHMD装着者に提示できる。VRでは、現実空間画像の代わりに仮想空間画像が用いられる。
VRやMRシステムに代表される高精細かつ高精度な動画像を扱う装置では、表示デバイスとしてOLED(Organic Light-Emitting Diode)が用いられることも多い。OLEDは発展途上のデバイスであり、経年劣化や焼き付きといった問題がある。これらを低減または防止するため、使用時以外は可能な限り消灯させることが望ましい。また、HMDを装着すると、装着者が酔いを感じる場合があるため、長時間使用への注意を喚起する旨のメッセージをディスプレイに表示するものも多い。
特許文献1では、一定時間経過後にパネルや電源をOFFすることに加え、使用状態検出部によってMR体験の再開や延長を指示する方法が開示されている。
特開2008-257671公報
しかしながら、特許文献1に記載の技術では、体験を中断した場合も、その後一定時間はディスプレイが消灯しない可能性があった。
本発明は、上記の課題に鑑みてなされたものであり。不要なディスプレイの点灯を抑制する技術を提供することを目的とする。
上記の目的を達成する本発明の一態様による表示装置は、
画像を表示するための表示素子を有する表示装置であって、
前記表示装置がユーザに装着されている装着状態であるか否かを判定する装着状態判定手段と、
前記表示装置が静止している静止状態であるか又は動いている動き状態であるかを判定する動き状態判定手段と、
前記表示装置が前記装着状態であり且つ前記動き状態である場合、前記表示素子を点灯可能状態に状態遷移させる制御手段と、
を備え
前記表示装置は、前記表示装置と当該表示装置と接続された情報処理装置とを含むシステムにおける前記情報処理装置の所定のソフトウェアの起動前には第一の動作モードで動作すると共に、前記所定のソフトウェアの起動後には第二の動作モードで動作し、
前記制御手段は、前記点灯可能状態への状態遷移時に、或いは、前記点灯可能状態でユーザ操作を受け付ける入力部を介してユーザ操作が受け付けられたことに応じて、前記表示素子を点灯させ、
前記制御手段は、
前記表示装置が前記第一の動作モードである場合、前記表示素子の点灯時に、当該点灯時から第一の期間が経過した後に前記表示素子を消灯させる第一のタイマを設定し、
前記表示装置が前記第二の動作モードである場合、前記表示素子の点灯時に、当該点灯時から前記第一の期間よりも長い第二の期間が経過した後に前記ユーザへの通知メッセージを出力させるための第二のタイマを設定することを特徴とする。
本発明によれば、不要なディスプレイの点灯を抑制することができる。
第一実施形態における撮像表示システムの概略構成を示すブロック図並びに模式図 第一実施形態における画像処理制御回路の構成を示す概略模式図 第一実施形態における撮像表示装置の状態遷移を示す概略模式図 第一実施形態における撮像表示システムの制御動作を示すタイムチャート 第一実施形態における撮像表示システムの制御動作の別例を示すタイムチャート 第二実施形態における撮像表示システムの制御構成を示す概略模式図
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
(第一実施形態)
<システム構成>
図1は、本実施形態における撮像表示装置を含む撮像表示システムを示す図であり、図1(a)がシステムブロック図、図1(b)がシステムの外観および装着例を表した模式図である。図1に示す通り、撮像表示システム1は、頭部装着型の撮像表示装置(以下、HMD)10、画像合成装置(PCWS:PC WorkStation、PCワークステーション)30、及び両者を接続するケーブル20を含む。画像合成装置30は、現実空間と仮想空間とが融合した複合現実(MR)空間の画像(以下、合成画像)を生成してHMD10に提供する。なお、ケーブル20は有線接続の通信経路として図示しているが、無線接続の通信経路を用いても構わない。
まず、HMD10の構成について説明する。図1(a)において、撮像素子150aおよび150bは、CMOS(Complementary Metal Oxide Semidonductor)イメージセンサやCCD(Charge Coupled Device)イメージセンサなどである。制御回路からの制御信号に基づいて設定された露光時間やセンサゲイン、露光開始タイミング等に従って、不図示の光学系を介して現実空間の撮像画像を取得する。
表示素子110aおよび110bは、OLED(Organic Light-Emitting Diode)やLCD(Liquid Crystal Display)などであり、不図示の光学系を介してHMD10の装着者に対して合成画像を提示する。本実施形態では右目用画像と左目用画像とを用いた立体画像を扱うため、撮像素子150aおよび150b、表示素子110aおよび110bは、右目用と左目用とで対の構成となる。
また、撮像素子150aおよび150bの撮像画像からは、合成画像のベースとなる背景用画像並びにCG画像を生成するための位置検出用画像が生成される。背景用画像と位置検出用画像は、必要とされる画角や解像度、画像処理などが異なるため、本実施形態では同じ撮像素子の撮像画像から他方を切り出す方法を想定しているが、別々の撮像素子を用いる場合もある。
IMU(Inertial Measurement Unit)120は、3軸の角速度と加速度を検出し、装置の位置姿勢を算出可能な、いわゆる位置姿勢センサであり、HMD10の位置姿勢情報を検出する。SW(Switch)130は、装着者が押下することのできる入力部である。近接センサ140は、HMD10が装着者の頭部に対してMR体験可能な状態で装着されたか否かを検知する。画像処理制御回路(以下、制御部)100は、撮像画像や表示画像に必要な画像処理を施すと共に各デバイスを制御し、画像合成装置30と協調して動作する。立体画像の撮像および表示に関する技術については公知であるため、説明を省略する。
画像合成装置30は、位置検出部300と、CG生成部310と、合成部320とを含む。位置検出部300は、HMD10から伝送された位置検出用画像およびHMD10の位置姿勢情報に基づいて、CG画像を生成する位置や視線の角度などCG画像生成に必要な情報を出力する。CG生成部310は、位置検出部300の出力に従って、所定のCG画像を生成する。CG画像は、画像剛性装置30内の不図示のHDD(Hard Disc Drive)等に格納された不図示のCADデータに基づいてレンダリングされる。合成部320は、HMD10から伝送された背景用画像にCG画像を重畳することで合成画像を生成し、表示用画像としてHMD10に対して出力する。
<画像処理制御回路の構成>
図2は、画像処理制御回路100の詳細な構成と各種外部デバイスとの関係、並びに画像処理制御回路100内部または周辺での画像および制御信号の流れの概略を示す模式図である。
画像処理制御回路100は、画像処理回路600及び表示制御回路500の他、不図示の各種制御回路(デバイス制御や、後述の動作モードの管理など画像合成装置30との通信制御を行う回路)を含む。
画像処理回路600は、ガンマ調整や歪曲補正、撮像系画像処理など不図示の各種画像処理回路の他、合成画像の画像データにメッセージ(OSD、On-Screen Display)を重畳するメッセージ重畳部610を有する。画像処理回路600に入力されてメッセージ重畳部610を経た画像データは、表示素子110a、110bに出力される。
表示制御回路500は、表示パネル制御部510と、表示内容制御部520とを含む。表示内容制御部520は、表示パネル制御部510からの指示情報(例えばSW押下情報)560や不図示のタイマからのタイムアウト情報に基づいて、メッセージ重畳部610に対してメッセージ制御信号570を出力する。メッセージ制御信号570とは、合成画像に重畳するメッセージ種別および重畳要否を指定する制御信号である。
表示パネル制御部510は、IMU120から入力されたHMD10の位置姿勢情報、近接センサ140から入力された装着情報(又は非装着情報)、SW130から入力されたスイッチの押下情報、不図示のタイマから入力されたタイムアウト情報に基づいて、パネル点灯制御後信号550を表示素子110a、110bへ出力する。このパネル点灯制御後信号550によって表示素子110a、110bの点灯/消灯を制御することができる。また、表示パネル制御部510は、SW130の押下情報を取得すると、後述する撮像表示システム1の動作モードに応じて不図示のタイマをセットする。
なお、図2に図示された構成は、これに限定されない。例えば、IMU120やSW130、近接センサ140などが別途不図示の各種制御回路経由で表示パネル制御部510や表示内容制御部520に接続されても構わない。
<HMDの状態>
ここで、図3を用いて表示制御に関するHMD10の状態を説明する。図3(a)は、IMU120および近接センサ140によって検知されるHMD10の状態を示した図である。IMU120によってHMD10が動いている(動き中(動き状態)、図中α)か、或いは、止まっている(静止中(静止状態))かを検知できる(動き状態判定処理)。また、近接センサ140によってHMD10が装着者の頭部に対してMR体験が可能な状態で装着されている(装着中(装着状態)、図中β)か否か(すなわち非装着状態であるか)を検知できる(装着状態判定処理)。従って、装着中と非装着の状態間を装着検知または解除検知のイベントによって遷移し、また静止中と動き中の状態間を動き検知または静止検知のイベントによって遷移するため、図中I~IVで示す4状態が存在する。これをベン図にしたものが図3(b)である。なお、動き検知および静止検知の発生条件について、意識して体を止めていない限り人間の頭部は微妙に動いているのが自然であることを加味し、閾値やチャタリング防止時間などを実験的に最適化するようにしてもよい。
<ユースケース>
続いて、図4を用いて、本実施形態のユースケースについて説明する。図中上から下に向かって時間が経過し、区間A~Pまで刻々と状況が変化している。「装着状態」については近接センサ140の出力に基づいて装着か非装着かが決まる。「動き状態」についてはIMU120の出力に基づいて動き中か静止中かが決まる。「表示可否」は、「装着状態」と「動き状態」との論理積によって決まり、装着中且つ動き中のみ表示可(即ち表示素子110a、110bを点灯させてもよい点灯可能状態)となる。
「パネル状態」は表示素子110a、110bの点灯/消灯を表し、少なくとも「表示可否」が表示可でないと点灯させない。「表示内容」は、表示素子110a、110b(以下、パネル)への出力画像データを表す。例えば、"使用前注意"および"長時間警告"の2種類のメッセージの何れかが重畳された合成画像か、或いは、メッセージが重畳されない合成画像かが選択される。「SW入力」はSW130が押下されたことを示す。「タイマ」は、表示パネル制御部510によって設定されるとカウントダウンを開始または一時停止し、カウントダウンが完了するとタイムアウトを通知する。図中薄い斜線部分はカウントダウンが一時停止中であることを示す。タイマの設定時間は、1回のMR体験に適切な時間、例えば30分などに設定してもよい。
以降、最初の区間Aから順に説明する。区間Aは、撮像表示システム1が起動しており、MR体験をする準備が整った状態(動作モード)でHMD10が机上などに置かれている状態である。装着者がHMD10を手に取って持ち上げて(区間B)、頭部に正しく被って装着を完了する(区間C)。画面を表示させるために装着者がSW130を押下すると、タイマのカウントダウン(30分)が始まる(区間D)。
もう一度SW130を押下すると、タイマがキャンセルされると共に、MR体験を開始する前の注意事項が記載された"使用前注意"メッセージが表示される(区間E)。なお、区間Cまたは区間Dに関する動作は、適宜省略する設計にしてもよい。MR体験を開始するために再度SW130を押下するとメッセージが消え、タイマのカウントダウンが始まる(区間F)。
区間Gは、装着者がMR体験を一時中断するため、例えば、頭部に装着具を装着したままHMD10を跳ね上げるための跳ね上げ機構(不図示)を利用した状態である。このとき、タイマは少なくともキャンセルさえしなければ、一時停止させてもよいし、一時停止させなくともよい。図中斜線で示す通り一時停止させた場合は、装着者が跳ね上げ機構を下ろしてMR体験を再開(区間H)したら、カウントダウンを再開させる。
図中点線で示す通りに一時停止しなかった場合は、その間にタイムアウトが発生すれば、パネル状態は消灯であるものの、画像データ(表示内容)としては"長時間警告"メッセージが出力される。この場合、装着者が跳ね上げ機構を下ろした時点で"長時間警告"メッセージが表示された状態でパネルが点灯する。
一方、タイマを一時停止させた場合は、MR体験再開後(区間H)にタイムアウトが発生すると、"長時間警告"メッセージが表示される(区間I)。メッセージ出力中に前述と同様にHMD10を跳ね上げて作業を中断している間(区間J)も、画像データとしてはメッセージの出力が継続される。跳ね上げ機構を下ろしてパネル点灯後(区間K)にSW130を押下すると、"長時間警告"メッセージが消えてMR体験を継続できる(区間L)。このとき、当然タイマのカウントダウンも開始される。
装着者が作業を終了してHMD10を頭部から外すと(区間M)、区間Gと同様タイマを一時停止させてもよい。外したHMD10を頭部型の置台などに設置している間(区間N)は、装着中かつ静止中となる。HMD10を置台から外し(区間O)、机上に安置されて非装着かつ静止中となったら(区間P)、タイマがキャンセルされて区間Aと同様の状態に戻る。
以上、撮像表示システム1が起動しておりMR体験をする準備が整った状態(合成画像を表示可能な動作モード)でのユースケースを説明した。
次に、図5を参照しながら、撮像表示システム1が起動する前の動作モードにおけるユースケースを説明する。システムが起動する前の動作モードとは、PC(画像合成装置30)側で必要なソフトウェアが起動しておらず、パネルには合成画像ではなくPCのデスクトップ画面が表示されているような状態である。この場合、MR体験できる状態にないため、パネルが点灯されても、なるべく短時間、例えば1分で消灯させたい。
図中の区間A'から区間C'までは図4のユースケースと同様である。表示可能かつパネル消灯状態(区間C')でSW130が押下されると、タイマのカウントダウン(1分)が始まる(区間D')。カウントダウンが完了してタイムアウトが発生すると、パネル状態がパネル消灯状態に戻る(区間E')。
そして、パネル点灯中(区間F')に再度SW130が押下されると、タイマが再設定されてカウントダウン(1分)が再度始まる(区間G')。この状態でHMD10を頭部から外すとタイマがキャンセルされると共にパネル消灯状態となり(区間H')、机上に置かれるなどすると区間A'と同様の状態(区間I')に戻る。
以上、図4及び図5を参照して説明したように、HMD10は、HMD10を含む撮像表示システム1の起動前には第一の動作モードで動作すると共に、撮像表示システム1の起動後には第二の動作モードで動作することができる。
そして、HMD10が第一の動作モードである場合、図5に示したように、表示素子110a、110bの点灯時に、当該点灯時から第一の期間(例えば1分)が経過した後に表示素子110a、110bを消灯させる第一のタイマを設定する。第一のタイマのタイムアウトに応じて、表示素子110a、110bが自動的に消灯される。
また、HMD10が第二の動作モードである場合、図4に示したように、表示素子110a、110bの点灯時に、当該点灯から第二の期間(例えば30分)が経過した後に第二のタイマを設定する。第二のタイマは、ユーザへの通知メッセージ(例えば長時間連続使用していることを警告するメッセージ)を出力させるためのタイマである。
そして、HMD10が撮像表示システム1の起動後の第二の動作モード(図4)である場合、HMD10が装着状態から非装着状態へ遷移したことに応じて(例えば区間G、区間M)、点灯中の表示素子110a、110bを消灯するとともに、第二のタイマの設定を継続する。また、HMD10が撮像表示システム1の起動後の第二の動作モード(図4)である場合、第二のタイマ(例えば30分)の設定時に、既に当該タイマを設定済である場合には、再度の設定は行わずに設定済のタイマの設定を継続してもよい。
第二のタイマ(例えば30分)のタイムアウトに応じて、表示素子110a、110bが点灯中であるか消灯中であるかに関わらず、ユーザへの通知メッセージを表示用画像データとして表示素子110a、110bへ出力する。ここで、通知メッセージとは、例えば図4の「表示内容」として表示されるメッセージであり、長時間連続使用していることを警告するメッセージである。これにより、ユーザへの注意喚起を行うことが可能となる。なお、通知メッセージの表示中に、入力部(例えばプッシュスイッチSW)によりユーザ操作が受け付けられた場合、既に確認が済んだことから通知メッセージの表示を停止してもよい。
また、図4の例では、点灯可能状態において、ユーザ操作を受け付ける入力部(例えばプッシュスイッチSW)を介してユーザ操作が受け付けられたことに応じて、表示素子110a、110bを点灯させる(例えば区間Dの開始時点)例を説明したが、当該例に限定されない。点灯可能状態への状態遷移時に自動的に表示素子110a、110bを点灯させるようにしてもよい。また、入力部(例えばプッシュスイッチSW)を介したユーザ操作は、特定の状態のときだけ有効化されてもよい。例えば、本実施形態で説明したように、HMD10が装着状態であり、且つ動き状態であるときだけ有効に動作するように構成してもよい。すなわち、当該状態以外の時にユーザ操作が行われても、タイマの設定を実行したりできないように構成してもよい。
なお、本実施形態では、上記説明した通りのシステム構成によってOSDメッセージ制御およびディスプレイ点灯制御を実行する例を説明したが、これに限定されるものではない。例えば、撮像素子を省いたVR装置や、IMUの代わりに撮像画像によって静止判定を行う場合にも本実施形態の制御を適用可能であり、各種パラメータもシステム構成および装置の使用目的に応じて適宜設計してもよい。また、入力部としては、プッシュスイッチSWの他にもタッチパネルやジェスチャ動作を用いた方法などでも構わない。例えば、撮像表示装置が備える撮像部(画像撮像素子150a、150b)の撮像結果に基づいてユーザのジェスチャ動作を解析し、当該ジェスチャ動作に基づいてユーザ操作を受け付けるようにしてもよい。さらに、制御構成をハードウェアとして実装してもソフトウェアによって実装しても構わない。
以上説明したように、本実施形態では、HMDがユーザに装着されている装着状態であり且つHMDが動いている動き状態である場合に、表示素子を点灯可能状態に制御する。これにより、ユーザがHMDを使用していないと考えられる時における不要なディスプレイの点灯を抑制することができる。
なお、動作モードに関しては、他の装置(例えば画像合成装置30)からの指示に基づいて、又は、入力部により受け付けられたユーザ操作(例えば図4及び図5で説明したユーザ操作とは異なるユーザ操作)に基づいて、動作モード間を切り替え可能に構成されてもよい。
(第二実施形態)
本実施形態に係るシステム構成は、第一実施形態で図1(a)を用いて説明した撮像表示装置以外の基本的な構成については第一実施形態と同様であるため、詳細な説明は省略する。
<システム構成>
図6は、本実施形態に係る撮像表示システム1'のシステムブロック図である。第一実施形態における図1(a)との差異は、図1における撮像表示装置10の小型化のため、画像処理制御回路100の大半を分離し、画像処理制御回路400として画像処理装置40に収めて別装置化した点である。
本実施形態における撮像表示装置10'内には、各デバイスとの通信および外部(第一実施形態の画像合成装置30と異なり、本実施形態では画像処理装置40)との通信を行う通信制御回路190が実装されている。これにより、図2で示したパネル点灯制御信号550や、近接センサ140、IMU120、SW130の出力信号などが、画像信号に加えてケーブル20を通る。
なお、本実施形態では、上記説明した通りの構成によって画像処理装置40は独立した筐体を有する構成としたが、当該構成に限定されるものではない。例えば、PCIExpress拡張ボードのようにPCWS(画像合成装置30)の筐体内部に設置可能な形態としても構わない。
以上説明したように、本実施形態によれば、不要なディスプレイの点灯を抑制することができる。
なお、上述の各実施形態では、HMDを例に説明を行ったが、HMDに限定されない。例えば、タブレットなどの携帯型の表示装置であってもよい。例えば、近接センサを用いてユーザに保持されていることを検知した場合に、ユーザに装着されている装着状態と判定すればよい。また、静止状態か動き状態かの判定についてもHMDと同様に行うことができる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
10:撮像表示装置、100,400:画像処理制御回路、110a,110b:表示素子(左目用および右目用)、120:位置姿勢センサ、130:スイッチ(SW)、140近接センサ、150a,150b:撮像素子(左目用および右目用)、510:表示パネル制御部、520:表示内容制御部、610:メッセージ重畳部

Claims (12)

  1. 画像を表示するための表示素子を有する表示装置であって、
    前記表示装置がユーザに装着されている装着状態であるか否かを判定する装着状態判定手段と、
    前記表示装置が静止している静止状態であるか又は動いている動き状態であるかを判定する動き状態判定手段と、
    前記表示装置が前記装着状態であり且つ前記動き状態である場合、前記表示素子を点灯可能状態に状態遷移させる制御手段と、
    を備え
    前記表示装置は、前記表示装置と当該表示装置と接続された情報処理装置とを含むシステムにおける前記情報処理装置の所定のソフトウェアの起動前には第一の動作モードで動作すると共に、前記所定のソフトウェアの起動後には第二の動作モードで動作し、
    前記制御手段は、前記点灯可能状態への状態遷移時に、或いは、前記点灯可能状態でユーザ操作を受け付ける入力部を介してユーザ操作が受け付けられたことに応じて、前記表示素子を点灯させ、
    前記制御手段は、
    前記表示装置が前記第一の動作モードである場合、前記表示素子の点灯時に、当該点灯時から第一の期間が経過した後に前記表示素子を消灯させる第一のタイマを設定し、
    前記表示装置が前記第二の動作モードである場合、前記表示素子の点灯時に、当該点灯時から前記第一の期間よりも長い第二の期間が経過した後に前記ユーザへの通知メッセージを出力させるための第二のタイマを設定することを特徴とする表示装置。
  2. 前記制御手段は、前記第一のタイマのタイムアウトに応じて、前記表示素子を消灯することを特徴とする請求項に記載の表示装置。
  3. 前記入力は、前記表示装置が前記装着状態であり且つ前記動き状態である場合に前記ユーザ操作の受け付けが有効になることを特徴とする請求項又はに記載の表示装置。
  4. 前記制御手段は、ユーザへの通知メッセージの表示中に、前記入力により前記ユーザ操作が受け付けられた場合、前記通知メッセージの表示を停止することを特徴とする請求項乃至の何れか1項に記載の表示装置。
  5. 前記入力は、プッシュスイッチであることを特徴とする請求項乃至の何れか1項に記載の表示装置。
  6. 前記入力は、前記表示装置が備える撮像部の撮像結果に基づいてジェスチャ動作を解析し、前記ジェスチャ動作に基づいて前記ユーザ操作を受け付けることを特徴とする請求項乃至の何れか1項に記載の表示装置。
  7. 前記装着状態判定手段は、前記装着状態であるか、又は、前記表示装置がユーザに装着されていない非装着状態であるかを判定し、
    前記制御手段は、前記表示装置が前記装着状態であり且つ前記動き状態である場合、前記表示素子を点灯可能状態にして、前記表示装置が前記非装着状態である又は前記静止状態である場合、前記表示素子を点灯可能状態にしないことを特徴とする請求項1に記載の表示装置。
  8. 前記点灯可能状態は、前記表示素子を点灯することが許可されている状態であることを特徴とする請求項1乃至の何れか1項に記載の表示装置。
  9. 前記表示装置は、前記ユーザの頭部に装着される頭部装着型表示装置であることを特徴とする請求項1乃至の何れか1項に記載の表示装置。
  10. 画像を表示するための表示素子を含む表示装置と、当該表示装置と接続された情報処理装置とを有する表示システムであって、
    前記表示装置がユーザに装着されている装着状態であるか否かを判定する装着状態判定手段と、
    前記表示装置が静止している静止状態であるか又は動いている動き状態であるかを判定する動き状態判定手段と、
    前記表示装置が前記装着状態であり且つ前記動き状態である場合、前記表示素子を点灯可能状態に状態遷移させる制御手段と、
    を備え
    前記表示装置は、前記情報処理装置の所定のソフトウェアの起動前には第一の動作モードで動作すると共に、前記所定のソフトウェアの起動後には第二の動作モードで動作し、
    前記制御手段は、前記点灯可能状態への状態遷移時に、或いは、前記点灯可能状態でユーザ操作を受け付ける入力部を介してユーザ操作が受け付けられたことに応じて、前記表示素子を点灯させ、
    前記制御手段は、
    前記表示装置が前記第一の動作モードである場合、前記表示素子の点灯時に、当該点灯時から第一の期間が経過した後に前記表示素子を消灯させる第一のタイマを設定し、
    前記表示装置が前記第二の動作モードである場合、前記表示素子の点灯時に、当該点灯時から前記第一の期間よりも長い第二の期間が経過した後に前記ユーザへの通知メッセージを出力させるための第二のタイマを設定することを特徴とする表示システム。
  11. 画像を表示するための表示素子を有する表示装置の制御方法であって、
    前記表示装置がユーザに装着されている装着状態であるか否かを判定する工程と、
    前記表示装置が静止している静止状態であるか又は動いている動き状態であるかを判定する工程と、
    前記表示装置が前記装着状態であり且つ前記動き状態である場合、前記表示素子を点灯可能状態に状態遷移させる工程と、
    を有し、
    前記表示装置は、前記表示装置と当該表示装置と接続された情報処理装置とを含むシステムにおける前記情報処理装置の所定のソフトウェアの起動前には第一の動作モードで動作すると共に、前記所定のソフトウェアの起動後には第二の動作モードで動作し、
    前記制御方法は、
    前記点灯可能状態への状態遷移時に、或いは、前記点灯可能状態でユーザ操作を受け付ける入力部を介してユーザ操作が受け付けられたことに応じて、前記表示素子を点灯させる工程と、
    前記表示装置が前記第一の動作モードである場合、前記表示素子の点灯時に、当該点灯時から第一の期間が経過した後に前記表示素子を消灯させる第一のタイマを設定する工程と、
    前記表示装置が前記第二の動作モードである場合、前記表示素子の点灯時に、当該点灯時から前記第一の期間よりも長い第二の期間が経過した後に前記ユーザへの通知メッセージを出力させるための第二のタイマを設定する工程と、
    をさらに有することを特徴とする表示装置の制御方法。
  12. コンピュータを、請求項1乃至の何れか1項に記載の表示装置の各手段として機能させるためのプログラム。
JP2019202620A 2019-11-07 2019-11-07 表示装置、表示システム、表示装置の制御方法およびプログラム Active JP7403286B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019202620A JP7403286B2 (ja) 2019-11-07 2019-11-07 表示装置、表示システム、表示装置の制御方法およびプログラム
US17/083,371 US20210141227A1 (en) 2019-11-07 2020-10-29 Display device, display system, method of controlling display device, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019202620A JP7403286B2 (ja) 2019-11-07 2019-11-07 表示装置、表示システム、表示装置の制御方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2021076680A JP2021076680A (ja) 2021-05-20
JP2021076680A5 JP2021076680A5 (ja) 2022-11-10
JP7403286B2 true JP7403286B2 (ja) 2023-12-22

Family

ID=75847775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019202620A Active JP7403286B2 (ja) 2019-11-07 2019-11-07 表示装置、表示システム、表示装置の制御方法およびプログラム

Country Status (2)

Country Link
US (1) US20210141227A1 (ja)
JP (1) JP7403286B2 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009171505A (ja) 2008-01-21 2009-07-30 Nikon Corp ヘッドマウントディスプレイ
US20180078183A1 (en) 2016-09-22 2018-03-22 Apple Inc. Systems and methods for determining axial orientation and location of a user's wrist

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009171505A (ja) 2008-01-21 2009-07-30 Nikon Corp ヘッドマウントディスプレイ
US20180078183A1 (en) 2016-09-22 2018-03-22 Apple Inc. Systems and methods for determining axial orientation and location of a user's wrist

Also Published As

Publication number Publication date
JP2021076680A (ja) 2021-05-20
US20210141227A1 (en) 2021-05-13

Similar Documents

Publication Publication Date Title
US12086919B2 (en) Video pipeline
US10534428B2 (en) Image processing device and image processing method, display device and display method, and image display system
US5808588A (en) Shutter synchronization circuit for stereoscopic systems
US9411162B2 (en) Mixed reality presenting system, virtual reality presenting system, display apparatus, information processing apparatus, control method, and program
JP2006267604A (ja) 複合情報表示装置
JP2009031334A (ja) プロジェクタ及びプロジェクタの投射方法
WO2012133379A1 (ja) ヘッドマウントディスプレイ,及びその輝度調整方法
JP2007213407A (ja) 仮想現実画像表示装置
WO2017022769A1 (ja) ヘッドマウントディスプレイ、表示制御方法及びプログラム
US10748340B1 (en) Electronic device with coordinated camera and display operation
JP7403286B2 (ja) 表示装置、表示システム、表示装置の制御方法およびプログラム
JP6806220B2 (ja) 電子デバイス、及び電子デバイスの制御方法
WO2019093278A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2008113317A (ja) 遠隔作業支援システム
TWI633465B (zh) 虛擬實境裝置及虛擬實境裝置的操作方法
US11449296B2 (en) Display system, display method, and program
JP2009020180A (ja) 映像表示装置
WO2021014673A1 (ja) 映像表示制御装置、方法およびプログラム
KR20180055637A (ko) 전자 장치 및 그의 제어 방법
CN106155283B (zh) 一种电子设备和信息处理方法
CN108140357B (zh) 信息处理装置
TW202040214A (zh) 可於子母畫面模式顯示虛擬場景以及現實場景之頭戴式顯示系統、相關方法以及相關電腦可讀取記錄媒體
JP4612835B2 (ja) 画像表示装及び画像表示システム
US20240119643A1 (en) Image processing device, image processing method, and computer-readable storage medium
US20240098234A1 (en) Head-Mounted Electronic Device with Reliable Passthrough Video Fallback Capability

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221028

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221028

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231113

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231212

R151 Written notification of patent or utility model registration

Ref document number: 7403286

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151