JP6540572B2 - 表示装置および表示制御方法 - Google Patents

表示装置および表示制御方法 Download PDF

Info

Publication number
JP6540572B2
JP6540572B2 JP2016064824A JP2016064824A JP6540572B2 JP 6540572 B2 JP6540572 B2 JP 6540572B2 JP 2016064824 A JP2016064824 A JP 2016064824A JP 2016064824 A JP2016064824 A JP 2016064824A JP 6540572 B2 JP6540572 B2 JP 6540572B2
Authority
JP
Japan
Prior art keywords
unit
display
moving object
image
display unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016064824A
Other languages
English (en)
Other versions
JP2017183852A (ja
Inventor
宏征 高橋
宏征 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2016064824A priority Critical patent/JP6540572B2/ja
Priority to EP17774385.3A priority patent/EP3439297A4/en
Priority to PCT/JP2017/010635 priority patent/WO2017169841A1/ja
Publication of JP2017183852A publication Critical patent/JP2017183852A/ja
Priority to US15/851,826 priority patent/US10377487B2/en
Application granted granted Critical
Publication of JP6540572B2 publication Critical patent/JP6540572B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U10/00Type of UAV
    • B64U10/10Rotorcrafts
    • B64U10/13Flying platforms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Computer Hardware Design (AREA)
  • Theoretical Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)

Description

本発明は、画像を表示可能な例えばヘッドマウントディスプレイ等の表示装置および表示装置を用いた表示制御方法に関する。
近年、ドローン(小型無人飛行機)など無線で遠隔操作される移動体にカメラを搭載し、カメラで撮影した画像をリアルタイムで地上のディスプレイに表示することが行われている。このようなディスプレイを、移動体を操作する操作コントローラに設けた場合、操作者は、飛行する移動体を見ているとディスプレイに表示される画像を確認できず、他方、ディスプレイを見ていると移動体を見ることができない。このように操作者は、移動体と撮影画像とを同時には視認できないため、操作ミスによる事故の危険性や移動体を何処かに見失ってしまう等の恐れがある。
カメラで撮影した画像と外界の実景とを同時に表示できる技術に関しては、従来、透過型(シースルー)の表示装置が知られている。例えば特許文献1の表示操作部メガネは、角度センサと視点センサとを内蔵し、これらのセンサにより検出される観者の視線の向きに合わせて表示するカメラの向きが制御される。また視点センサにより検知される観者の目の焦点距離に応じてカメラの電動ズームレンズの焦点も制御される。
また、例えば特許文献2には、車両の周囲に設けた複数台のカメラからの画像を切り換えて外界の景色に重ねて表示可能なHMD(ヘッドマウントディスプレイ)が開示されている。HMDは、それを装着する運転者の頭部の向きを検出する検出部を備え、検出部の検出結果つまり運転者の視線方向に応じて車両の死角を写すカメラが選択される。
特開2000−333161号公報 特開2009−278234号公報
しかし、ドローンのように位置が常時変化する移動体からの撮影画像は、移動体が操作者の視界から外れたときに操作者に混乱を招く場合がある。また、操作者の誤操作により移動体が事故を引き起こし、または予期しない場所に移動して制御不能に陥る危険性も否定できない。
本発明は、こうした事情に鑑みてなされたものであり、移動体で撮影された画像を表示部に表示する表示装置または表示制御方法において、操作者が撮影画像に混乱することなく移動体を視認できること、または仮に移動体を見失ったとしても容易に発見できる等の利便性を高めた技術を提供することを目的としている。
上述した課題を解決するため、本発明は、遠隔操作される移動体に搭載されたカメラで撮影される画像を表示可能な表示装置であって、使用者の頭部に装着可能であって画像を表示可能な表示部と、前記表示部における画像表示を制御する表示制御手段と、移動体から送信されてくる撮影画像および移動体の位置情報を受信する受信部と、当該表示装置の位置を検出する位置検出部とを備え、前記表示制御手段は、前記位置検出部より検出された当該表示装置の位置に対する、前記受信部より受信した前記移動体の位置情報に基づく相対位置に応じた情報を前記表示部に表示可能な表示装置である。
この構成の表示装置によれば、移動体の相対位置に応じた情報を表示部に表示することにより、操作者は移動体の位置を容易に知ることができる。また表示部が表示する画像に操作者が混乱しないようにすることができる。
上記構成の表示装置において、前記表示部の向きを検出する向き検出部と、前記向き検出部より検出される当該表示部の向き、および前記位置検出部より検出される当該表示部の位置に対する特定の範囲内に前記移動体が存在するか否かを判断する判断部を備え、前記表示制御手段は、前記移動体が前記特定の範囲内に存在するか否かに応じて、前記表示部へ表示する画像を切り換えることが好ましい。
この構成の表示装置によれば、移動体が特定の範囲内に存在するか否かに応じて表示部への表示を切り換えるので、操作者が移動体を操作中に不要な画像が表示されて操作者が混乱しないようにすることができる。
また、上記構成の表示装置において、前記判断部が前記特定の範囲内に移動体が存在しないと判断したとき、前記表示制御手段は前記表示部への前記撮影画像の表示をOFFにすることが好ましい。
この構成の表示装置によれば、移動体が特定の範囲内に存在しない場合に撮像画像を表示しないので、操作者を混乱させないようにし、誤操作を防ぐことができる。また、特定の範囲内に存在しない移動体を探す際に、撮影画像が邪魔になることもない。
また、上記構成の表示装置において、前記判断部が前記特定の範囲内に移動体が存在しないと判断し、かつ、前記表示部の向きが特定向きであるとき、前記表示制御手段は前記表示部への表示を所定の画像に切り換えることが好ましい。
この構成の表示装置によれば、操作者が例えば移動体から目を離して他の画像を見ようとした場合に所定の画像に切り換わるので、操作者の利便性を高めることができる。
また、上記構成の表示装置において、前記判断部が前記特定の範囲内に移動体が存在しないと判断したとき、前記表示制御手段は、前記表示部の向きと前記移動体の相対位置とに基づいて、当該移動体の方向に関する情報を前記表示部に表示することが好ましい。
この構成の表示装置によれば、操作者が仮に移動体を見失ったとしても移動体の方向に関する情報が表示されるので、移動体の発見を容易にし、利便性を高めることができる。
また、上記構成の表示装置において、前記特定の範囲内に移動体が存在しないとき、移動体に対する遠隔操作を行うための操作情報を入力する操作部の操作を制限する操作制限手段を備えることが好ましい。
この構成の表示装置によれば、例えば操作者の視界の外に移動体が存在する場合に、操作者が誤って操作部を操作することにより、移動体が予期せぬ方向や場所に移動してしまうのを防ぐことができる。
また、上記構成の表示装置において、前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算する速度演算部を備え、前記速度演算部より演算された移動体の速度が所定の速度以上であるとき、前記表示制御手段は前記表示部への前記撮影画像の表示をOFFにすることが好ましい。
この構成の表示装置によれば、例えば移動体を目的値にまで高速で移動させる際に撮影画像の表示を自動的にOFFにすることにより、移動体を操作中の操作者の視認性を確保し、利便性を高めることができる。
また、上記構成の表示装置において、前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算する速度演算部を備え、前記表示制御手段は、前記特定の範囲内に移動体が存在すれば前記撮影画像の表示をONにするとともに、前記速度演算部より演算された移動体の速度が所定の速度よりも遅いと判断したとき、所定範囲よりも広い範囲の撮影画像を表示する広角モードに切り換えることが好ましい。
この構成の表示装置によれば、例えば移動体が目的地に近づいたときには速度を遅くし、広角モードで撮影対象物の大まかな位置をとらえることができるので、利便性を高めることができる。
また、上記構成の表示装置において、前記表示制御手段は、前記速度演算部より演算された移動体の速度が、前記所定の速度よりも遅い停止判断速度以下であるとき、所定範囲よりも狭い範囲の撮影画像を表示するズームモードに切り換えることが好ましい。
この構成の表示装置によれば、例えば移動体が目的地に到着し停止したときにはズームモードで撮影対象物の詳細をとらえることができるので、利便性を高めることができる。
また、本発明は、遠隔操作される移動体に搭載されたカメラで撮影される画像を、使用者の頭部に装着可能な表示部に表示する表示制御方法であって、移動体から送信されてくる撮影画像および当該移動体の位置情報を受信部より受信するステップと、位置検出部より前記表示部の位置を検出するステップと、前記位置検出部より検出された当該表示部の位置に対する、前記受信部より受信した前記移動体の位置情報に基づく相対位置を演算するステップと、演算した相対位置に応じた情報を前記表示部に表示するステップとを含む表示制御方法である。
この表示制御方法によれば、移動体の相対位置に応じた情報を表示部に表示することにより、操作者は移動体の位置を容易に知ることができる。また表示部が表示する画像に操作者が混乱しないようにすることができる。
上記表示制御方法において、向き検出部より前記表示部の向きを検出するステップと、前記向き検出部より検出される当該表示部の向き、および前記位置検出部より検出される当該表示部の位置に対する特定の範囲内に前記移動体が存在するか否かを判断するステップと、前記特定の範囲内に前記移動体が存在するか否かに応じて前記表示部へ表示する画像を切り換えるステップとを含むことが好ましい。
この表示制御方法によれば、移動体が特定の範囲内に存在するか否かに応じて表示部への表示を切り換えるので、操作者が移動体を操作中に不要な画像が表示されて操作者が混乱しないようにすることができる。
また、上記表示制御方法において、前記特定の範囲内に移動体が存在しないと判断したとき、前記表示部への前記撮影画像の表示をOFFにするステップを含むことが好ましい。
この表示制御方法によれば、移動体が特定の範囲内に存在しない場合に撮像画像を表示しないので、操作者を混乱させないようにし、誤操作を防ぐことができる。また、特定の範囲内に存在しない移動体を探す際に、撮影画像が邪魔になることもない。
また、上記表示制御方法において、前記特定の範囲内に移動体が存在しないと判断し、かつ、前記表示部の向きが特定向きであるとき、前記表示部への表示を所定の画像に切り換えるステップを含むことが好ましい。
この表示制御方法によれば、操作者が例えば移動体から目を離して他の画像を見ようとした場合に所定の画像に切り換わるので、操作者の利便性を高めることができる。
また、上記表示制御方法において、前記特定の範囲内に移動体が存在しないと判断したとき、前記表示部の向きと前記移動体の相対位置とに基づいて、当該移動体の方向に関する情報を前記表示部に表示するステップを含むことが好ましい。
この表示制御方法によれば、操作者が仮に移動体を見失ったとしても移動体の方向に関する情報が表示されるので、移動体の発見を容易にし、利便性を高めることができる。
また、上記表示制御方法において、前記特定の範囲内に移動体が存在しないとき、移動体に対する遠隔操作を行うための操作情報を入力する操作部の操作を制限するステップを含むことが好ましい。
この表示制御方法によれば、例えば操作者の視界の外に移動体が存在する場合に、操作者が誤って操作部を操作することにより、移動体が予期せぬ方向や場所に移動してしまうのを防ぐことができる。
また、上記表示制御方法において、前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算するステップと、演算された移動体の速度が所定の速度以上であるとき、前記表示部への前記撮影画像の表示をOFFにするステップを含むことが好ましい。
この表示制御方法によれば、例えば移動体を目的値にまで高速で移動させる際に撮影画像の表示を自動的にOFFにすることにより、移動体を操作中の操作者の視認性を確保し、利便性を高めることができる。
また、上記表示制御方法において、前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算するステップと、前記特定の範囲内に移動体が存在すると判断したとき前記表示部への前記撮影画像の表示をONにするステップと、演算された移動体の速度が所定の速度よりも遅いと判断したとき、所定範囲よりも広い範囲の撮影画像を表示する広角モードに切り換えるステップとを含むことが好ましい。
この表示制御方法によれば、例えば移動体が目的地に近づいたときには速度を遅くし、広角モードで撮影対象物の大まかな位置をとらえることができるので、利便性を高めることができる。
また、上記表示制御方法において、演算された移動体の速度が、前記所定の速度よりも遅い停止判断速度以下であるとき、所定範囲よりも狭い範囲の撮影画像を表示するズームモードに切り換えるステップを含むことが好ましい。
この表示制御方法によれば、例えば移動体が目的地に到着し停止したときにはズームモードで撮影対象物の詳細をとらえることができるので、利便性を高めることができる。
本発明によれば、移動体の操作者が撮影画像に混乱することなく移動体の位置を確実に視認することができる。また、仮に移動体を見失ったとしても容易に移動体を発見することができる。これらにより、利便性の高い表示装置および表示制御方法を提供することができる。
本発明の一実施形態を示す図である。 図1の実施形態による画像表示システム全体を含む回路ブロック図である。 本発明の他の実施形態を示す図である。 本発明の一実施形態による表示制御方法を説明するためのフローチャートである。
図1に本発明の一実施態様を示す。本実施形態の表示装置は、例えば透過型の表示部11を備えるHMD(ヘッドマウントディスプレイ)10であって、遠隔操作される移動体であるドローン(小型無人機)90に搭載されたカメラ80の撮影画像が表示部11に表示される。ただし、本発明に係る表示装置は、必ずしも図1に示すHMDに限定されるものではない。また、表示部は、画像が表示可能であれば透過型でなくてもよい。また、ここでは、移動体の例として空中を飛行するドローンを挙げて説明するが、移動体は、例えば小型ヘリコプターまたは飛行船などの遠隔操作される任意の無人機であってもよい。また、移動体は、必ずしも飛行体でなくても、例えば人が近づけない危険な環境で走行可能な無人車両や、瓦礫などの複雑な地形でも移動できる特殊な足回りを備えた作業ロボットなどでもよい。つまり、表示装置を装着する観者が目で追跡可能な範囲で移動することが想定される移動体であれば、特定の機種に限定されない。
図1に示す実施形態において、ドローン90は、操作コントローラ30により、その飛行が無線で遠隔操作される。ここで、HMD10の「使用者」とは、HMD10(または表示部11)を頭部に装着する者(以下、「HMD装着者」という。)をいうが、本実施形態ではその使用者自身が、操作コントローラ30を操作してドローン90の飛行をコントロールする操作者でもある。
図2は、本実施形態による画像表示システムの全体を含む回路ブロック図である。
先ず、ドローン90の構成について説明する。ドローン90には、CPU91、ROM92およびRAM93が内部バス99に接続されたマイクロコンピュータシステムが内部に構成されている。操作コントローラ30から無線で送信される制御指令信号は、無線接続IF96により受信される。受信した制御指令信号をCPU91が解析し、その制御指令信号に従って機体制御部94によりドローン90の飛行が制御される。
ドローン90は、位置情報取得部95としてGPSを搭載している。位置情報取得部95は、GPSに加えて、高度計やドローン90またはカメラ80の向きを検出する方位センサ(電子コンパス)を含むものでもよい。位置情報取得部95により取得される位置情報は、ドローン90の三次元位置およびドローン90(またはカメラ80)の向きの情報を含むことができる。位置情報取得部95により取得されたドローン90の位置情報は、無線接続IF96を介して操作コントローラ30に送信される。
ドローン90に搭載されるカメラ80は、カメラ制御部81により制御される。カメラ80で撮影された画像の画像データ信号は、一旦、カメラ制御部81の画像RAMに格納され、無線接続IF96を介して操作コントローラ30に随時送信される。
また、カメラ制御部81は、CPU91の制御下で、または操作コントローラ30から送信されるズーム指令信号に応じて、カメラ80の光学系等を制御してもよい。ここで、カメラ80の光学モードは、標準モード、広角モードおよびズームモードに分けられる。標準モードが所定範囲を撮影する焦点位置にレンズが制御されたモードであるとした場合、広角モードは、標準モードよりも広い範囲を撮影するようにレンズの焦点位置が制御されたモードである。また、ズームモードは、標準モードよりも狭い範囲を撮影するようにレンズの焦点位置が制御されたモードである。
また、カメラ制御部81は、カメラ80が撮影した画像をデジタルズーム処理することもできる。この場合、デジタルズーム処理における広角モードとは、カメラ80が撮影した画像をそのまま出力するモードであり、ズームモードとは、カメラ80が撮影した広角モードの画像の一部を切り出し、拡大して出力するモードを意味する。
これらの他、ドローン90は、飛行に必要な電源容量のバッテリ97およびバッテリ97からの電力を飛行駆動部、カメラ80および各種制御部に配電する電源回路98を搭載している。
次に、操作コントローラ30の構成を説明する。操作コントローラ30は、ドローン90の遠隔操作を行うための操作情報を入力する操作部32を備えている。操作部32は、具体的には操作コントローラ30の筐体に設けたジョイスティック、押しボタン等の各種操作スイッチ類により構成される。また、操作コントローラ30には、操作部32に入力された操作情報に応じた制御指令信号等をドローン90に対して送信し、ドローン90からの位置情報や撮影画像データ等を受信する送受信部である無線接続IF31が備えられている。
操作コントローラ30の内部バス49には、CPU41、ROM42、RAM43の他に、位置検出部45、画像生成部44、およびHMD10とのデータ通信を行う通信IF46などが接続されている。
CPU41は、ドローン90の操作制限手段である他に、本発明に係るHMD10の表示部11にカメラ80からの撮影画像を表示する制御を行う表示制御手段としても機能する。なお、CPU41がROM42に記憶されるプログラムを実行することで、後述する相対位置演算部、視界内有無判断部、速度演算部等の処理が実現される。
位置検出部45は、例えばGPSであり、操作コントローラ30の現在位置を検出する。本実施形態では、HMD装着者が操作コントローラ30を操作してドローン90をコントロールすることから、HMD10と操作コントローラ30との距離は非常に近い。そのため、位置検出部45により検出した操作コントローラ30の位置を、HMD10および表示部11の位置とみなすことができる。
画像生成部44は、CPU41の制御下で、表示部11に表示させる画像の生成、加工、表示モードの切り換え等の処理を行う。具体的には、後述するように、ドローン90の相対位置や方向を表示部11に表示させる画像や、操作者が例えば他の画像を見ようと下を向いた時に表示部11に表示させる所定の画像を生成することができる。また、画像生成部44は、画像を拡大または縮小して再構成するデジタルズーム処理を行うこともできる。画像生成部44は、生成した画像データをアナログまたはデジタルのビデオ信号として表示部11に出力するものでもよい。なお、画像生成部はHMD10内に設けられていてもよく、この場合はCPU12の制御下で、表示部11に表示させる画像の生成、加工、表示モードの切り換え(広角モード/ズームモードに切り換えるデジタルズーム処理を含む)等の処理を行ってもよい。
通信IF46は、有線または無線により接続されるHMD10との間の相互の情報通信を行うインタフェースである。操作コントローラ30からHMD10へは、カメラ80で撮影された撮影データが送信される。また、ドローン90から送信された移動体位置情報に基づいて、画像生成部44により画像化されたデータ(数値、文字、方位・速度・距離マーカ等を含む)などが、通信IF46を介してHMD10に送信される。
他方、HMD10からは、後述する向き検出部12で検出される向きの情報が出力され、通信IF46を介して操作コントローラ30に受信される。
これらの他に、操作コントローラ30の動作に必要な電力を回路に供給するバッテリ47および電源回路48が設けられている。
次に、HMD10の構成を説明する。HMD10には、CPU12、ROM13、RAM14および通信IF16が内部バス19に接続されたマイクロコンピュータシステムが搭載されている。内部バス19にはまた、透過型の表示部11が接続されている。CPU12、操作コントローラ30から送信され、通信IF16により受信した画像データ信号(ビデオ信号を含む)を表示部11に表示させる。
HMD10には、向き検出部15が備えられている。向き検出部15は、HMD装着者(ドローン90の操作者)の頭の向きを的確に検出するため、例えば装着具10a(図1参照)に内蔵されることが好ましい。向き検出部15は、例えば方位センサ(電子コンパス)と3軸加速度センサを組み合わせたセンサユニットであることが好ましい。つまり、方位センサによりHMD10が向いている方角を検出し、3軸加速度センサにより検出される重力加速度をそれに加味することで、三次元の向きを正確に検出することができる。
HMD10にはまた、画像の表示動作に必要な電力を回路や表示部11に供給するバッテリ17および電源回路18が設けられている。
なお、ここでは、HMD10への画像表示を制御する表示制御手段が、ドローン90の操作コントローラ30に組み込まれた実施形態を説明した。その他の態様として、図2の破線10’で囲む表示装置のシステム要素の全部または一部を、操作コントローラ30から分離して構成してもよい。例えば、CPU41、ROM42、RAM43、画像生成部44、位置検出部45などの表示制御手段を構成する主要な要素を、例えば図3に示す専用のCB(コントロールボックス)20に搭載してもよい。更には、表示制御手段をASIC等によりワンチップ化できれば、HMD10の表示部11にそれを組み込んでもよい。
次に、図4のフローチャートを参照して、表示制御手段による表示制御方法を説明する。なお、以下説明する表示制御方法は、CPU41がROM42に予め記憶された制御プログラムに従って演算処理により行われる。
CPU41は、位置検出部45である例えばGPSにより、操作コントローラ30の現在の位置を検出する(ステップS10)。
続いてCPU41は、無線接続IF31より受信したドローン90の位置情報を取得する(ステップS11)。
CPU41の相対位置演算部は、位置検出部45より検出された操作コントローラ30の位置に対するドローン90の相対位置を演算する(ステップS12)。
HMD10の向き検出部15は、HMD10の向きを検出する。HMD10の向き検出部15の検出値は、操作コントローラ30に随時出力されている。これにより、操作コントローラ30のCPU41は、向き検出部15からの検出値に基づいて、当該HMD10の向き情報を取得する(ステップS13)。
CPU41は、向き検出部15の検出値に基づいて取得したHMD10の向きと、相対位置演算部が演算したドローン90の相対位置との関係から、HMD10を基準にした特定の範囲内にドローン90が存在するか否か判断する。ここで、「特定の範囲」とは、例えばHMD10を装着する操作者の視界とすることができる。この場合の操作者(HMD装着者)の視界の範囲は、HMD10の位置を基点に、標準的な人の視野角(例えば上下120度、左右200度)を当てはめて設定される立体角の範囲とすることができる。
本実施形態では、CPU41の視界内有無判断部が、HMD装着者、つまり操作者の視界内にドローン90が存在するか判断する(ステップS14)。視界内有無判断部が、操作者の視界内にドローン90が存在しないと判断すると(ステップS14:No)、CPU41は、ドローン90からの撮影画像の表示部11への表示をOFFにする(ステップS15)。
このように、ドローン90が視界から外れたときに撮影画像をOFFにすることで、操作者に混乱を生じさせないようにすることができ、またドローン90への操作ミスを防ぐことができる。また、ドローン90を探す際に、撮影画像が邪魔になることもない。
なお、フローチャートには示していないが、操作者の視界内にドローン90が戻った時点で、CPU41は、撮影画像の表示部11への表示をONにする。また、ドローン90が操作者の視界から外れた期間であっても、操作者が操作コントローラ30またはCB20に画像表示ONの操作入力を行った場合には、表示部11に撮影画像を表示してもよい。
視界内有無判断部が操作者の視界内にドローン90が存在しないと判断し、かつ、向き検出部15より検出されたHMD10の向きが特定向きであるとき(ステップS16:Yes)、CPU41は、表示部11への表示を所定の画像に切り換える(ステップS17)。
ここで、「特定向き」であるときとは、例えば、操作者が手元の操作コントローラ30に視線を向けるなど、ドローン90以外の他の画像を見ようとする場合などが相当する。そのような場合には、例えばヘルプメニュー、設定メニュー、マニュアルガイドなどの所定の画像を表示部11に表示することで、操作者の利便性を高めることができる。
また、視界内有無判断部が操作者の視界内にドローン90が存在しないと判断したとき、CPU41は、HMD10の向きとドローン90の相対位置とに基づいて、ドローン90の方向に関する情報を表示部11にガイド表示する(ステップS18)。ドローン90の方向に関する情報を表示する態様としては、HMD10の現在位置を基準としてドローン90が存在する方向を矢印で示すこと、模擬レーダー画面にドローン90の位置をプロットすること、ドローンの相対位置を数値、文字、マーカ等で表示することなどがある。また、ドローン90までの距離や速度など、ドローン90を探すために補助となる情報も、方向に関する情報に併せて表示してもよい。
このように、ドローン90の方向に関する情報を表示することで、ドローン90から目を離した場合でも迅速かつ容易にドローン90を発見することができ、目視による追跡を再開させることができる。
更に、CPU41は、操作者の視界内にドローン90が存在しない期間、ドローン90の遠隔操作を行う操作コントローラ30の操作部32の操作を制限してもよい(ステップS19)。また、このときCPU41は、ドローン90をその場で停止させホバリングさせる制御指令信号をドローン90に対して出力してもよい。
このような操作制限処理を設けることにより、操作者の視界からドローン90が外れた場合に、操作者の誤操作によりドローン90が事故を起こしたり、予期しない場所へ移動して制御不能となるような事態を防ぐことができる。
一方、視界内有無判断部が操作者の視界内にドローン90が存在すると判断したとき(ステップS14:Yes)、CPU41の速度演算部は、無線接続IF31より受信したドローン90の位置情報に基づいて、ドローン90の速度Vを演算する(ステップS20)。そして、演算されたドローン90の速度Vが所定の速度V1以上(V≧V1)であるとき(ステップS22:Yes)、CPU41は、表示部11への撮影画像の表示をOFFにする(ステップS15)。
例えば、ドローン90を目的の場所まで高速で移動させる場合には、操作者はドローン90を注視しながら遠隔操作する。そのため、表示部11には撮像画像を表示する必要がなく、むしろこれらの画像が操作の邪魔になる場合もある。本実施形態では、ドローン90の速度Vが所定の速度V1以上に速いときに撮影画像の表示をOFFにすることにより、操作者がドローン90を目で追跡する際の視認性を確保し、利便性を高めている。なお、ドローン90の速度Vは水平方向成分における速度でもよく、高さ方向成分における速度を用いてもよい。また、ドローン90の速度Vは水平方向成分と高さ方向成分を合成した速度を用いてもよい。
次に、CPU41は、ドローン90の速度Vが所定の速度V1よりも遅いとき(ステップS22:No)、CPU41は、表示部11への撮影画像を広角モードに切り換える(ステップS23)。広角モードでは、カメラ80が撮影したサイズの画像データが表示部11にそのまま出力され、所定範囲よりも広い範囲の撮影画像が表示される。なお、CPU41は、ドローン90に指令信号を送信して、カメラ80の光学系を広角モードに制御してもよい。
例えば、ドローン90がある速度未満のスピードで移動しているときには、撮影すべき目的地周辺にドローン90が位置している場合が多い。そのため、自動的に広角モードに切り換えることにより、撮影対象物の大まかな位置をとらえることができ、操作者の利便性が向上する。
更に、CPU41は、ドローン90の速度Vがほぼ停止と判断される停止判断速度V2(V2<<V1)以下であるとき(ステップS24:Yes)、CPU41は、表示部11の表示モードをズームモードに切り換える(ステップS25)。ズームモードでは、CPU41は、カメラ80が撮影した画像の一部を切り出し、所定範囲よりも狭い範囲の拡大した画像を表示部11に表示させる。なお、CPU41は、ドローン90に指令信号を送信し、カメラ80の光学系をズームモードに制御してもよい。
例えば、ドローン90が停止判断速度V2以下、つまりほぼ停止しているときは、撮影すべき目的地にドローン90が到達している場合が多い。そのため、自動的にズームモードに切り換えることにより、撮影対象物の詳細をとらえることができ、操作者の利便性が向上する。
10、10’ HMD(ヘッドマウントディスプレイ)
10a 装着具
11 表示部
12 向き検出部
16 通信IF
20 CB(コントロールボックス)
30 操作ボックス
31 無線接続IF
32 操作部
41 CPU
44 画像生成部
45 位置検出部
46 通信IF
80 カメラ
90 ドローン(移動体)
96 無線接続IF

Claims (16)

  1. 遠隔操作される移動体に搭載されたカメラで撮影される画像を表示可能な表示装置であって、
    使用者の頭部に装着可能であって画像を表示可能な表示部と、
    前記表示部における画像表示を制御する表示制御手段と、
    移動体から送信されてくる撮影画像および移動体の位置情報を受信する受信部と、
    当該表示装置の位置を検出する位置検出部と
    前記表示部の向きを検出する向き検出部と、
    前記向き検出部より検出される当該表示部の向き、および前記位置検出部より検出される当該表示部の位置に対する特定の範囲内に前記移動体が存在するか否かを判断する判断部と
    を備え、
    前記表示制御手段は、前記位置検出部より検出された当該表示装置の位置に対する、前記受信部より受信した前記移動体の位置情報に基づく相対位置に応じた情報を前記表示部に表示可能であり、前記移動体が前記特定の範囲内に存在するか否かに応じて、前記表示部へ表示する画像を切り換える、表示装置。
  2. 前記判断部が前記特定の範囲内に移動体が存在しないと判断したとき、前記表示制御手段は前記表示部への前記撮影画像の表示をOFFにする、請求項に記載の表示装置。
  3. 前記判断部が前記特定の範囲内に移動体が存在しないと判断し、かつ、前記表示部の向きが特定向きであるとき、前記表示制御手段は前記表示部への表示を所定の画像に切り換える、請求項に記載の表示装置。
  4. 前記判断部が前記特定の範囲内に移動体が存在しないと判断したとき、前記表示制御手段は、前記表示部の向きと前記移動体の相対位置とに基づいて、当該移動体の方向に関する情報を前記表示部に表示する、請求項に記載の表示装置。
  5. 前記特定の範囲内に移動体が存在しないとき、移動体に対する遠隔操作を行うための操作情報を入力する操作部の操作を制限する操作制限手段を備える、請求項1〜4の何れか1項に記載の表示装置。
  6. 前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算する速度演算部を備え、
    前記速度演算部より演算された移動体の速度が所定の速度以上であるとき、前記表示制御手段は前記表示部への前記撮影画像の表示をOFFにする、請求項1〜の何れか1項に記載の表示装置。
  7. 前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算する速度演算部を備え、
    前記表示制御手段は、前記特定の範囲内に移動体が存在すれば前記撮影画像の表示をONにするとともに、前記速度演算部より演算された移動体の速度が所定の速度よりも遅いと判断したとき、所定範囲よりも広い範囲の撮影画像を表示する広角モードに切り換える、請求項1〜の何れか1項に記載の表示装置。
  8. 前記表示制御手段は、前記速度演算部より演算された移動体の速度が、前記所定の速度よりも遅い停止判断速度以下であるとき、所定範囲よりも狭い範囲の撮影画像を表示するズームモードに切り換える、請求項に記載の表示装置。
  9. 遠隔操作される移動体に搭載されたカメラで撮影される画像を、使用者の頭部に装着可能な表示部に表示する表示制御方法であって、
    移動体から送信されてくる撮影画像および当該移動体の位置情報を受信部より受信するステップと、
    位置検出部より前記表示部の位置を検出するステップと、
    前記位置検出部より検出された当該表示部の位置に対する、前記受信部より受信した前記移動体の位置情報に基づく相対位置を演算するステップと、
    演算した相対位置に応じた情報を前記表示部に表示するステップと
    向き検出部より前記表示部の向きを検出するステップと、
    前記向き検出部より検出される当該表示部の向き、および前記位置検出部より検出される当該表示部の位置に対する特定の範囲内に前記移動体が存在するか否かを判断するステップと、
    前記特定の範囲内に前記移動体が存在するか否かに応じて前記表示部へ表示する画像を切り換えるステップと
    を含む表示制御方法。
  10. 前記特定の範囲内に移動体が存在しないと判断したとき、前記表示部への前記撮影画像の表示をOFFにするステップを含む、請求項に記載の表示制御方法。
  11. 前記特定の範囲内に移動体が存在しないと判断し、かつ、前記表示部の向きが特定向きであるとき、前記表示部への表示を所定の画像に切り換えるステップを含む、請求項に記載の表示制御方法。
  12. 前記特定の範囲内に移動体が存在しないと判断したとき、前記表示部の向きと前記移動体の相対位置とに基づいて、当該移動体の方向に関する情報を前記表示部に表示するステップを含む、請求項に記載の表示制御方法。
  13. 前記特定の範囲内に移動体が存在しないとき、移動体に対する遠隔操作を行うための操作情報を入力する操作部の操作を制限するステップを含む、請求項9〜12の何れか1項に記載の表示制御方法。
  14. 前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算するステップと、
    演算された移動体の速度が所定の速度以上であるとき、前記表示部への前記撮影画像の表示をOFFにするステップを含む、請求項9〜13の何れか1項に記載の表示制御方法。
  15. 前記受信部より受信した前記移動体の位置情報に基づいて当該移動体の速度を演算するステップと、
    前記特定の範囲内に移動体が存在すると判断したとき前記表示部への前記撮影画像の表示をONにするステップと、
    演算された移動体の速度が所定の速度よりも遅いと判断したとき、所定範囲よりも広い範囲の撮影画像を表示する広角モードに切り換えるステップとを含む、請求項9〜13の何れか1項に記載の表示制御方法。
  16. 演算された移動体の速度が、前記所定の速度よりも遅い停止判断速度以下であるとき、所定範囲よりも狭い範囲の撮影画像を表示するズームモードに切り換えるステップを含む、請求項15に記載の表示制御方法。
JP2016064824A 2016-03-29 2016-03-29 表示装置および表示制御方法 Expired - Fee Related JP6540572B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016064824A JP6540572B2 (ja) 2016-03-29 2016-03-29 表示装置および表示制御方法
EP17774385.3A EP3439297A4 (en) 2016-03-29 2017-03-16 DISPLAY DEVICE AND DISPLAY CONTROL METHOD
PCT/JP2017/010635 WO2017169841A1 (ja) 2016-03-29 2017-03-16 表示装置および表示制御方法
US15/851,826 US10377487B2 (en) 2016-03-29 2017-12-22 Display device and display control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016064824A JP6540572B2 (ja) 2016-03-29 2016-03-29 表示装置および表示制御方法

Publications (2)

Publication Number Publication Date
JP2017183852A JP2017183852A (ja) 2017-10-05
JP6540572B2 true JP6540572B2 (ja) 2019-07-10

Family

ID=59965445

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016064824A Expired - Fee Related JP6540572B2 (ja) 2016-03-29 2016-03-29 表示装置および表示制御方法

Country Status (4)

Country Link
US (1) US10377487B2 (ja)
EP (1) EP3439297A4 (ja)
JP (1) JP6540572B2 (ja)
WO (1) WO2017169841A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017206042A1 (zh) * 2016-05-31 2017-12-07 中国科学院深圳先进技术研究院 基于智能眼镜的遮挡物透视方法及装置
JP6919222B2 (ja) * 2017-02-27 2021-08-18 セイコーエプソン株式会社 表示装置、及び、表示装置の制御方法
JP2020005146A (ja) * 2018-06-28 2020-01-09 株式会社リコー 出力制御装置、表示端末、情報処理装置、移動体、遠隔制御システム、出力制御方法、プログラムおよび撮影制御装置
TWI693829B (zh) * 2018-12-24 2020-05-11 緯創資通股份有限公司 電子裝置及其影像測距方法
JP2020155923A (ja) * 2019-03-20 2020-09-24 ソニー株式会社 リモートコントロール装置と撮像制御装置およびその方法
CN117678235A (zh) * 2022-01-24 2024-03-08 深圳市大疆创新科技有限公司 可移动平台的控制方法、头戴式设备、系统和存储介质

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0937137A (ja) 1995-07-25 1997-02-07 Minolta Co Ltd 移動型立体カメラ装置
US5905525A (en) 1995-07-13 1999-05-18 Minolta Co., Ltd. Image display apparatus having a display controlled by user's head movement
JP2000333161A (ja) 1999-05-21 2000-11-30 Hitachi Denshi Ltd 監視用cctvシステム
JP2009278234A (ja) 2008-05-13 2009-11-26 Konica Minolta Holdings Inc 表示システム
JP6026088B2 (ja) * 2011-08-09 2016-11-16 株式会社トプコン 遠隔操作システム
WO2014007873A2 (en) * 2012-03-20 2014-01-09 Wagreich David Image monitoring and display from unmanned vehicle
JPWO2014077046A1 (ja) * 2012-11-13 2017-01-05 ソニー株式会社 画像表示装置及び画像表示方法、移動体装置、画像表示システム、並びにコンピューター・プログラム
JP5983547B2 (ja) * 2013-07-02 2016-08-31 株式会社デンソー ヘッドアップディスプレイ及びプログラム
CN103426282A (zh) * 2013-07-31 2013-12-04 深圳市大疆创新科技有限公司 遥控方法及终端
US8903568B1 (en) 2013-07-31 2014-12-02 SZ DJI Technology Co., Ltd Remote control method and terminal
WO2017022179A1 (ja) * 2015-08-06 2017-02-09 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 無人飛行体、飛行制御方法、飛行制御プログラム及び操縦器
US20180025649A1 (en) * 2016-02-08 2018-01-25 Unmanned Innovation Inc. Unmanned aerial vehicle privacy controls
JP6919222B2 (ja) * 2017-02-27 2021-08-18 セイコーエプソン株式会社 表示装置、及び、表示装置の制御方法

Also Published As

Publication number Publication date
JP2017183852A (ja) 2017-10-05
WO2017169841A1 (ja) 2017-10-05
EP3439297A4 (en) 2019-12-11
US20180120900A1 (en) 2018-05-03
US10377487B2 (en) 2019-08-13
EP3439297A1 (en) 2019-02-06

Similar Documents

Publication Publication Date Title
JP6540572B2 (ja) 表示装置および表示制御方法
US11235871B2 (en) Control method, control system, and smart glasses for first person view unmanned aerial vehicle flight
US9158305B2 (en) Remote control system
US10269132B2 (en) Displaying images according to head posture and camera posture
WO2014077046A1 (ja) 画像表示装置及び画像表示方法、移動体装置、画像表示システム、並びにコンピューター・プログラム
JP4012749B2 (ja) 遠隔操縦システム
CN107205111B (zh) 摄像装置、移动装置、摄像系统、摄像方法和记录介质
US20230097676A1 (en) Tactical advanced robotic engagement system
JP2019134383A (ja) 遠隔操作システム、及びその通信方法
KR20180025416A (ko) 모션 인식 및 가상 현실을 이용한 드론 비행 제어 시스템 및 방법
WO2020110292A1 (ja) 表示制御システム、表示制御装置及び表示制御方法
KR20160107788A (ko) 체감형 무인항공기 제어 장치 및 그 제어 방법
JP7024997B2 (ja) 飛行体操縦システム及び飛行体操縦システムを用いて飛行体を操縦する方法
JP3252129B2 (ja) ヘリコプタの操縦支援装置
US10559132B2 (en) Display apparatus, display system, and control method for display apparatus
JP6890759B2 (ja) 飛行経路案内システム、飛行経路案内装置及び飛行経路案内方法
JP6699944B2 (ja) 表示システム
JP6821864B2 (ja) 表示制御システム、表示制御装置及び表示制御方法
EP3865984B1 (en) Methods and systems for searchlight control for aerial vehicles
JP2021091276A (ja) 移動体用操縦支援方法及び移動体用操縦支援システム
KR102019942B1 (ko) 시뮬레이션 멀미 탐지 및 조종객체 제어 장치와 방법
CN117678235A (zh) 可移动平台的控制方法、头戴式设备、系统和存储介质
KR20060072273A (ko) 헬멧을 이용한 실시간 영상 디스플레이 장치 및 그를이용한 무인항공기의 카메라 조절 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190527

R150 Certificate of patent or registration of utility model

Ref document number: 6540572

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees