JP2019124849A - 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 - Google Patents
頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 Download PDFInfo
- Publication number
- JP2019124849A JP2019124849A JP2018006080A JP2018006080A JP2019124849A JP 2019124849 A JP2019124849 A JP 2019124849A JP 2018006080 A JP2018006080 A JP 2018006080A JP 2018006080 A JP2018006080 A JP 2018006080A JP 2019124849 A JP2019124849 A JP 2019124849A
- Authority
- JP
- Japan
- Prior art keywords
- display
- unit
- imaging
- image data
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/37—Details of the operation on graphic patterns
- G09G5/377—Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2621—Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/06—Adjustment of display parameters
- G09G2320/0693—Calibration of display systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0464—Positioning
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/12—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
- G09G2340/125—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels wherein one of the images is motion video
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2358/00—Arrangements for display data security
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/18—Use of a frame buffer in a display terminal, inclusive of the display panel
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Optics & Photonics (AREA)
- Computing Systems (AREA)
- Controls And Circuits For Display Device (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は上記事情に鑑みてなされたものであり、撮像画像を利用するシステムや装置において、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用することを目的とする。
本発明によれば、撮像部の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。これにより、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。従って、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
この構成によれば、明瞭度を低下させる処理の対象である非表示領域を、記憶部に記憶した非表示情報に基づいて特定する。これにより、撮像すべきでない事物の画像を含む可能性のある非表示領域を、適切に特定できる。
この構成によれば、撮像画像データに非表示対象が写る領域を、明瞭度を低下させる処理の対象とするので、撮像すべきでない事物の画像を適切に秘匿し、保護できる。
この構成によれば、非表示対象の位置および/または方向を示す情報に基づき、撮像画像データにおいて、非表示領域を適切に特定できる。
この構成によれば、撮像部からの距離を基準として、非表示領域を適切に特定できる。
この構成によれば、予め非表示対象として設定された物体の外観が撮像画像データに含まれる場合に、撮像画像データの非表示対象の明瞭度を低下させるので、非表示対象の視認を防止または抑制できる。例えば、秘匿すべき情報が印刷された印刷物、掲示物、書物、コンピューターのディスプレイ等を非表示対象としてもよい。秘匿すべき情報として、人のプライバシーに関する情報情報や個人情報が挙げられ、具体的には、人の顔、身体、服装、名札、名刺、個人名が掲載された掲示物等がある。また、例えば、機密情報として保護される非表示対象として、機械や設備そのもの、或いは、設計図面等が挙げられる。
この構成によれば、撮像画像データの処理に適した非表示情報を利用できる。
この構成によれば、撮像すべきでない事物の画像を含む可能性のある非表示領域を、表示部の位置に対応して特定できる。このため、撮像部が移動可能な構成において、撮像すべきでない事物の画像を含む可能性のある撮像画像を適切に利用できる。
この構成によれば、画像を部分的に置換する処理により、非表示領域の明瞭度を低下させることができる。
この構成によれば、マップデータを利用して、非表示領域を容易に特定できる。
この構成によれば、必要に応じてマップデータを作成し、このマップデータを利用して、非表示領域を容易に特定できる。
この構成によれば、画像を置換する処理により、非表示領域を含む撮像画像全体の明瞭度を低下させることができる。
この構成によれば、撮像部が撮像する条件を制御することで撮像画像データの明瞭度を低下させるので、撮像画像データの画像処理を簡易化、或いは省略できる。このため、処理負荷を軽減できる。
この構成によれば、操作に応じて非表示情報を生成するので、撮像画像データにおいて明瞭度を低下させる処理の対象を適切に設定できる。
この構成によれば、頭部装着型表示装置により、撮像部の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。このため、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。また、頭部装着型表示装置はサーバーから非表示情報を受信できるため、撮像画像データの処理に適した非表示情報を利用できる。これにより、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
本発明によれば、撮像部の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。これにより、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。従って、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
[1−1.表示システムの構成]
図1は、本発明を適用した実施形態に係る表示システム100の概略構成図である。
表示システム100は、複数のHMD(Head Mounted Display)1と、サーバー200とを備え、HMD1とサーバー200とは通信ネットワーク2により通信可能に接続される。
サーバー200は、いわゆるクラウドサーバーとして構成され、具体的なハードウェア構成は任意である。すなわち、サーバー200を1台のサーバー装置で構成する例に限定されず、サーバー200の機能を複数のサーバー装置に分散して実行する構成であってもよい。
使用者U1がいる場所と、使用者U2、U3がいる場所とは、通信ネットワークに接続可能であれば地理的制約はなく、遠隔地であってもよいし、近接した場所であってもよい。従って、HMD1A、1B、1Cは、近接した位置で使用されてもよいし、遠く離れた状態で使用されてもよい。
ここで、HMD1Aを例に挙げて、HMD1の構成を説明する。HMD1B、1Cについては図示及び説明を省略する。
コントローラー10Aは、箱形の本体11に、使用者U1の操作を受け付ける各種のスイッチや操作パッド14等を備える。画像表示部20Aは、本実施形態では眼鏡形状を有し、右保持部21と、左保持部23と、前部フレーム27とを有する本体に、右表示ユニット22、左表示ユニット24、右導光板26、及び左導光板28を備える。
右導光板26及び左導光板28は、光透過性の樹脂等によって形成される光学部品である。例えば、右導光板26及び左導光板28はプリズムである。右導光板26は、右表示ユニット22が出力する画像光を使用者U1の右眼に向けて導き、左導光板28は、左表示ユニット24が出力する画像光を使用者の左眼に導く。これにより、使用者U1の両眼に画像光が入射し、使用者U1が画像を視認できる。
カメラ61(撮像部)は、画像表示部20Aの前部フレーム27に配設される。カメラ61の撮像範囲および撮像方向については後述する。カメラ61は、右導光板26及び左導光板28を透過する外光を遮らない位置に設けられる。図2の例では、カメラ61が前部フレーム27の端部ER側に配置されているが、端部EL側に配置されてもよく、右導光板26と左導光板28との連結部に配置されてもよい。
接続ケーブル40は、オーディオコネクター46を備え、ステレオヘッドホンを構成する右イヤホン32及び左イヤホン34と、マイク63とを有するヘッドセット30が、オーディオコネクター46に接続される。
マイク63は、音声を集音して、音声信号を音声インターフェイス182(図4)に出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
電源スイッチ18は、HMD1Aの電源のオン/オフを切り替えるスイッチである。また、本体11は、コントローラー10Aを、外部の装置に接続するインターフェイスとして、USB(Universal Serial Bus)コネクター19を備える。
図3に、カメラ61の画角(撮像範囲)をCで示す。カメラ61は、使用者U1の両眼が向く方向、すなわち使用者U1にとって前方を撮像する。なお、カメラ61の実際の画角は一般的なデジタルカメラと同様に上下方向にも拡がる。
図3に示すように、使用者U1が両眼で対象物OBを注視すると、使用者U1の視線は、図中符号RD、LDに示すように対象物OBに向けられる。この場合、使用者U1から対象物OBまでの距離は、30cm〜10m程度であることが多く、1m〜4m程度であることが、より多い。そこで、HMD1Aについて、通常使用時における使用者U1から対象物OBまでの距離の上限、及び下限の目安を定めてもよい。この目安は調査や実験により求めてもよいし使用者U1が設定してもよい。カメラ61の光軸、及び画角Cは、通常使用時における対象物OBまでの距離が、設定された上限の目安に相当する場合、及び、下限の目安に相当する場合に、この対象物OBが画角に含まれるように、設定されることが好ましい。
なお、以下の説明では、画角Cに対応するカメラ61の撮像範囲を、単に撮像範囲とする。
従って、使用者U1が、画像表示部20Aの表示画像を認識し、知覚する距離を、HMD1Aの機能により調整可能である。
図4は、HMD1Aを構成する各部の構成を示すブロック図である。
コントローラー10Aは、プログラムを実行してHMD1Aを制御するメインプロセッサー125を備える。メインプロセッサー125には、メモリー118及び不揮発性記憶部121が接続される。メインプロセッサー125には、入力装置として操作部170が接続される。
メインプロセッサー125には、センサー類として、6軸センサー111、磁気センサー113、及び、GPS115が接続される。
GPS(Global Positioning System)115は、図示しないGPSアンテナを備え、GPS衛星から送信される無線信号を受信する受信機である。GPS115は、GPS信号に基づき、コントローラー10Aの現在位置の座標を検出または算出する。
センサーハブ192は、画像表示部20Aが備える各種センサーの検出値を取得してメインプロセッサー125に出力する。FPGA194は、メインプロセッサー125と画像表示部20Aの各部との間で送受信するデータの処理、及び、インターフェイス196を介した伝送を実行する。
右表示ユニット22は、画像光を発するOLED(Organic Light Emitting Diode)ユニット221を備える。OLEDユニット221が発する画像光は、レンズ群等を含む光学系により、右導光板26に導かれる。左表示ユニット24は、画像光を発するOLEDユニット241を備える。OLEDユニット241が発する画像光は、レンズ群等を含む光学系により、左導光板28に導かれる。
照度センサー65は、受光量(受光強度)に対応する検出値を、インターフェイス211に出力する。LEDインジケーター67は、インターフェイス211を介して入力される信号に従って点灯および消灯する。
磁気センサー237は、例えば、3軸の地磁気センサーである。
また、センサーハブ192は、メインプロセッサー125の制御に従ってLEDインジケーター67への通電を開始及び停止させ、カメラ61が撮像を開始及び終了するタイミングに合わせて、LEDインジケーター67を点灯または点滅させる。
制御部150は、記憶部140が記憶するプログラムを実行することにより、記憶部140が記憶するデータを処理して、HMD1Aを制御する。
図6は、HMD1Aの動作を示すフローチャートであり、HMD1Aにより非表示情報147を生成する処理を示す。
制御部150は、非表示情報処理部158により、マップデータ146を取得し(ステップS31)、非表示情報147を取得する(ステップS32)。ここで、非表示情報処理部158は、サーバー200から非表示情報およびマップデータを取得してもよい。
制御部150は、ステップS40で一時記憶された撮像画像データを、通信制御部152により、サーバー200に送信する(ステップS41)。カメラ61が出力する撮像画像データが動画像データであって、連続して出力される場合、制御部150は、所定時間毎に動画像データを区切ってステップS41の処理を実行してもよい。また、制御部150は、記憶部140の記憶領域の一部またはメモリー118にバッファーメモリーを形成し、ステップS40でバッファーメモリーに動画像データを一時記憶してもよい。この場合、制御部150は、一時記憶した動画像データをステップS41でストリーミング送信してもよい。
図8において符号Aは、カメラ61の撮像画像データの一例として、撮像画像データ301を示し、符号Bは、撮像画像データ301に対しマスク処理を施した処理後画像データ311を示す。
マスク処理で明瞭度を低下させる具体的な方法としては、次の(1)〜(3)が挙げられる。
(2)非表示領域を塗りつぶす方法。非表示情報処理部158は、非表示領域を予め設定された単色で塗りつぶす処理、或いは、設定された幾何学模様等を重畳する画像処理を行う。
マスク処理が施された処理後画像データ311では、非表示領域303に対応する領域313、及び、非表示領域305に対応する領域315が、マスク処理によって明瞭度が低下した状態となっている。このため、プライバシー保護や機密情報の保護を確保した上で、HMD1Aから、カメラ61の撮像画像データをサーバー200やHMD1B、1Cに送信することができる。
撮像制御部155がカメラ61を制御することにより、カメラ61は、第1解像度で撮像を行い(ステップS61)、撮像画像データをバッファーに記憶する(ステップS62)。バッファーは、メモリー118や不揮発性記憶部121の記憶領域に形成することができる。カメラ61は、撮像制御部155の制御により、第2解像度で撮像を実行し(ステップS63)、撮像画像データをバッファーに記憶する(ステップS64)。
これにより、カメラ61の撮像画像データに撮像すべきでない事物が写っている領域を非表示領域とすることにより、非表示領域の明瞭度を低下させる処理が行われる。これにより、撮像すべきでない事物の画像の明瞭度を低下させた撮像画像データを得ることができる。従って、撮像すべきでない事物の画像を含んでいる可能性がある撮像画像を、適切に利用できる。
図10は、第2実施形態におけるHMD1Aの動作を示すフローチャートであり、HMD1Aがカメラ61により撮像を行い、撮像画像データをサーバー200に送信する一連の動作を示す。
第2実施形態における表示システム100およびHMD1Aの構成は、上記第1実施形態と同様であるため、構成について図示及び説明を省略する。
制御部150は、ステップS98で一時記憶された撮像画像データを、通信制御部152により、サーバー200に送信する(ステップS99)。カメラ61が出力する撮像画像データが動画像データであって、連続して出力される場合、制御部150は、所定時間毎に動画像データを区切ってステップS99の処理を実行してもよい。また、制御部150は、記憶部140の記憶領域の一部またはメモリー118にバッファーメモリーを形成し、ステップS100でバッファーメモリーに動画像データを一時記憶してもよい。この場合、制御部150は、一時記憶した動画像データをステップS101でストリーミング送信してもよい。
図11に示す撮像画像データ351は、画像表示部20Aからの距離が、設定された所定距離より近い領域353が明瞭に撮像される一方、所定距離より遠い領域355が、焦点が適切でない画像となっている。このように、遠方の焦点状態が適切でない状態を、背景ぼけとも呼ぶ。
例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者Uの左眼に対応して画像を表示する表示部と、使用者Uの右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者Uの身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
Claims (16)
- 使用者の頭部に装着され、画像を表示する表示部と、
前記表示部に設けられ、前記表示部に対する所定方向の画像を撮像する撮像部と、
前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する制御部と、
を備える頭部装着型表示装置。 - 非表示対象を特定する非表示情報を記憶する記憶部を備え、
前記制御部は、前記非表示情報に基づいて前記非表示領域を特定する、請求項1記載の頭部装着型表示装置。 - 前記制御部は、前記撮像部の撮像範囲において、前記撮像部の撮像画像データに前記非表示対象の画像が含まれる領域を、前記非表示領域として特定する、請求項2記載の頭部装着型表示装置。
- 前記記憶部が記憶する前記非表示情報は、前記非表示対象の位置及び方向の少なくともいずれかを示す情報を含む、請求項2または3記載の頭部装着型表示装置。
- 前記記憶部が記憶する前記非表示情報は、前記非表示対象の前記撮像部からの距離を指定する情報を含む、請求項2または3記載の頭部装着型表示装置。
- 前記非表示対象は、予め設定された物体であり、
前記記憶部が記憶する前記非表示情報は、前記撮像部の撮像画像データから前記非表示対象の外観を検出するための情報を含む、請求項2または3記載の頭部装着型表示装置。 - 通信部を備え、
前記制御部は、外部の装置から前記通信部によって前記非表示情報を受信し、前記記憶部に記憶させる、請求項2から6のいずれか1項に記載の頭部装着型表示装置。 - 前記表示部の位置を検出する検出部を備え、
前記制御部は、前記検出部の検出結果から前記表示部の位置を特定し、前記表示部の位置と前記非表示情報とに基づいて、前記撮像画像データにおける前記非表示領域を検出する、請求項1から7のいずれか1項に記載の頭部装着型表示装置。 - 前記表示部が移動可能な範囲の少なくとも一部を含むマップデータを有し、
前記制御部は、前記マップデータにおける前記非表示領域を特定する、請求項1から8のいずれか1項に記載の頭部装着型表示装置。 - 前記制御部は、前記表示部が移動可能な範囲の前記マップデータを作成し、作成した前記マップデータにおける前記非表示領域を特定する、請求項9記載の頭部装着型表示装置。
- 前記撮像部は、第1撮像解像度で撮像した第1撮像画像データと、前記第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力し、
前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記第1撮像画像データにおける前記非表示領域を、前記第2撮像画像データで対応する領域の画像と置き換える、請求項1から10のいずれか1項に記載の頭部装着型表示装置。 - 前記撮像部は、第1撮像解像度で撮像した第1撮像画像データと、前記第1撮像解像度より低い第2撮像解像度で撮像した第2撮像画像データと、を出力し、
前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記非表示対象の画像を含む前記第1撮像画像データを前記第2撮像画像データと置き換える、請求項1から10のいずれか1項に記載の頭部装着型表示装置。 - 前記制御部は、前記非表示領域の明瞭度を低下させる処理において、前記撮像部の撮像条件を制御して前記撮像部に撮像を実行させ、明瞭度が異なる部分を有する撮像画像データを生成させる、請求項1から10のいずれか1項に記載の頭部装着型表示装置。
- 操作を受け付ける操作部を備え、
前記制御部は、前記操作部が受け付けた操作により、前記撮像部の撮像範囲において前記非表示対象が指定された場合に、指定された前記非表示対象の位置および方向の少なくともいずれかに基づいて、前記非表示情報を生成する、請求項2から5のいずれか1項に記載の頭部装着型表示装置。 - 頭部装着型表示装置と、サーバーとを備え、
前記サーバーは、
非表示対象を特定する非表示情報を記憶するサーバー記憶部と、
前記サーバー記憶部に記憶された前記非表示情報を前記頭部装着型表示装置に送信する送信部と、を備え、
前記頭部装着型表示装置は、
使用者の頭部に装着され、画像を表示する表示部と、
前記表示部に設けられ、前記表示部に対する所定方向の画像を撮像する撮像部と、
通信部と、
前記通信部により前記サーバーから受信される前記非表示情報を記憶する記憶部と、
前記記憶部に記憶された前記非表示情報に基づいて、前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する制御部と、を備える、
表示システム。 - 使用者の頭部に装着され、画像を表示する表示部を備える頭部装着型表示装置の制御方法であって、
前記表示部に設けられる撮像部によって、前記表示部に対する所定方向の画像を撮像し、
前記撮像部の撮像範囲における非表示領域を特定し、前記撮像部の撮像画像データに対し前記非表示領域の明瞭度を低下させる処理を行い、処理後の前記撮像画像データを出力する、
頭部装着型表示装置の制御方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018006080A JP7047394B2 (ja) | 2018-01-18 | 2018-01-18 | 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 |
CN201910038527.6A CN110060614B (zh) | 2018-01-18 | 2019-01-16 | 头部佩戴型显示装置及其控制方法、显示系统 |
US16/249,996 US11178344B2 (en) | 2018-01-18 | 2019-01-17 | Head-mounted display apparatus, display system, and method of controlling head-mounted display apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018006080A JP7047394B2 (ja) | 2018-01-18 | 2018-01-18 | 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019124849A true JP2019124849A (ja) | 2019-07-25 |
JP7047394B2 JP7047394B2 (ja) | 2022-04-05 |
Family
ID=67214449
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018006080A Active JP7047394B2 (ja) | 2018-01-18 | 2018-01-18 | 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11178344B2 (ja) |
JP (1) | JP7047394B2 (ja) |
CN (1) | CN110060614B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023210195A1 (ja) * | 2022-04-28 | 2023-11-02 | 株式会社Nttドコモ | 特定システム |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7134784B2 (ja) * | 2018-08-20 | 2022-09-12 | 株式会社東芝 | 監視システム、監視方法、およびプログラム |
US10937191B2 (en) * | 2018-10-23 | 2021-03-02 | Dell Products, Lp | Predictive simultaneous localization and mapping system using prior user session positional information |
JP2020135306A (ja) * | 2019-02-18 | 2020-08-31 | セイコーエプソン株式会社 | 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法 |
JP2021162607A (ja) * | 2020-03-30 | 2021-10-11 | セイコーエプソン株式会社 | 表示システム、情報処理装置及び表示システムの表示制御方法 |
US11914835B2 (en) | 2020-11-16 | 2024-02-27 | Samsung Electronics Co., Ltd. | Method for displaying user interface and electronic device therefor |
JP2022144581A (ja) * | 2021-03-19 | 2022-10-03 | セイコーエプソン株式会社 | 表示システム、表示装置及び表示装置の制御方法 |
DE102021109082A1 (de) | 2021-04-12 | 2022-10-13 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren und Vorrichtung zur Posenbestimmung in einer Datenbrille |
WO2023163799A1 (en) * | 2022-02-23 | 2023-08-31 | Qualcomm Incorporated | Foveated sensing |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006217161A (ja) * | 2005-02-02 | 2006-08-17 | Advanced Telecommunication Research Institute International | 画像撮影システム |
US20080024390A1 (en) * | 2006-07-31 | 2008-01-31 | Henry Harlyn Baker | Method and system for producing seamless composite images having non-uniform resolution from a multi-imager system |
JP2008236141A (ja) * | 2007-03-19 | 2008-10-02 | Sony Corp | 画像処理装置、画像処理方法 |
US20080316328A1 (en) * | 2005-12-27 | 2008-12-25 | Fotonation Ireland Limited | Foreground/background separation using reference images |
WO2009001530A1 (ja) * | 2007-06-22 | 2008-12-31 | Panasonic Corporation | カメラ装置、および、撮影方法 |
JP2014212473A (ja) * | 2013-04-19 | 2014-11-13 | 株式会社ニコン | 通信装置、及び頭部装着表示装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002142214A (ja) | 2000-11-02 | 2002-05-17 | Matsushita Electric Ind Co Ltd | 映像監視システム |
US9122053B2 (en) * | 2010-10-15 | 2015-09-01 | Microsoft Technology Licensing, Llc | Realistic occlusion for a head mounted augmented reality display |
US8823798B2 (en) * | 2011-12-23 | 2014-09-02 | Xerox Corporation | Obscuring identification information in an image of a vehicle |
US9124762B2 (en) * | 2012-12-20 | 2015-09-01 | Microsoft Technology Licensing, Llc | Privacy camera |
US9460340B2 (en) * | 2014-01-31 | 2016-10-04 | Google Inc. | Self-initiated change of appearance for subjects in video and images |
US9571785B2 (en) * | 2014-04-11 | 2017-02-14 | International Business Machines Corporation | System and method for fine-grained control of privacy from image and video recording devices |
KR101990368B1 (ko) * | 2014-05-07 | 2019-09-30 | 한화테크윈 주식회사 | 감시 카메라 및 감시 시스템 |
JP6367102B2 (ja) * | 2014-12-09 | 2018-08-01 | 株式会社キーエンス | 監視システム |
JP6481456B2 (ja) * | 2015-03-26 | 2019-03-13 | 富士通株式会社 | 表示制御方法、表示制御プログラム、及び情報処理装置 |
US10102758B1 (en) * | 2017-05-02 | 2018-10-16 | Here Global B.V. | Method and apparatus for privacy-sensitive routing of an aerial drone |
US10740617B2 (en) * | 2017-12-19 | 2020-08-11 | Intel Corporation | Protection and recovery of identities in surveillance camera environments |
-
2018
- 2018-01-18 JP JP2018006080A patent/JP7047394B2/ja active Active
-
2019
- 2019-01-16 CN CN201910038527.6A patent/CN110060614B/zh active Active
- 2019-01-17 US US16/249,996 patent/US11178344B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006217161A (ja) * | 2005-02-02 | 2006-08-17 | Advanced Telecommunication Research Institute International | 画像撮影システム |
US20080316328A1 (en) * | 2005-12-27 | 2008-12-25 | Fotonation Ireland Limited | Foreground/background separation using reference images |
US20080024390A1 (en) * | 2006-07-31 | 2008-01-31 | Henry Harlyn Baker | Method and system for producing seamless composite images having non-uniform resolution from a multi-imager system |
JP2008236141A (ja) * | 2007-03-19 | 2008-10-02 | Sony Corp | 画像処理装置、画像処理方法 |
WO2009001530A1 (ja) * | 2007-06-22 | 2008-12-31 | Panasonic Corporation | カメラ装置、および、撮影方法 |
JP2014212473A (ja) * | 2013-04-19 | 2014-11-13 | 株式会社ニコン | 通信装置、及び頭部装着表示装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023210195A1 (ja) * | 2022-04-28 | 2023-11-02 | 株式会社Nttドコモ | 特定システム |
Also Published As
Publication number | Publication date |
---|---|
CN110060614B (zh) | 2022-08-09 |
US20190222774A1 (en) | 2019-07-18 |
US11178344B2 (en) | 2021-11-16 |
JP7047394B2 (ja) | 2022-04-05 |
CN110060614A (zh) | 2019-07-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7047394B2 (ja) | 頭部装着型表示装置、表示システム、及び、頭部装着型表示装置の制御方法 | |
US11231897B2 (en) | Display system, display device, information display method, and program | |
US10785472B2 (en) | Display apparatus and method for controlling display apparatus | |
US11536964B2 (en) | Head-mounted display apparatus, display control method, and computer program | |
JP6391685B2 (ja) | 仮想オブジェクトの方向付け及び可視化 | |
US10838205B2 (en) | Head mounted display, control method thereof, and computer program | |
CN108535868B (zh) | 头部佩戴型显示装置及其控制方法 | |
US10949055B2 (en) | Display system, display apparatus, control method for display apparatus | |
JP2018141824A (ja) | 表示装置、及び、表示装置の制御方法 | |
CN109960039B (zh) | 显示系统、电子设备以及显示方法 | |
CN109960481B (zh) | 显示系统及其控制方法 | |
US20170289533A1 (en) | Head mounted display, control method thereof, and computer program | |
US20220174260A1 (en) | Utilizing dual cameras for continuous camera capture | |
JP6590050B2 (ja) | 表示装置、表示システム、表示装置の制御方法、及び、プログラム | |
JP2019164420A (ja) | 透過型頭部装着型表示装置および透過型頭部装着型表示装置の制御方法、透過型頭部装着型表示装置の制御のためのコンピュータープログラム | |
JP2018142764A (ja) | 表示システム、表示装置、及び、表示装置の制御方法 | |
US11589024B2 (en) | Multi-dimensional rendering | |
JP2017134630A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
US20220373796A1 (en) | Extended field-of-view capture of augmented reality experiences | |
US20220279151A1 (en) | Projector with field lens | |
JP2019114236A (ja) | 表示システム、電子機器、及び、表示方法 | |
CN112053444A (zh) | 基于光通信装置叠加虚拟对象的方法和相应的电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201210 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210914 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211111 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220222 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220307 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7047394 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |