JP2018005778A - 画像表示装置、画像表示システムおよび画像表示方法 - Google Patents
画像表示装置、画像表示システムおよび画像表示方法 Download PDFInfo
- Publication number
- JP2018005778A JP2018005778A JP2016135200A JP2016135200A JP2018005778A JP 2018005778 A JP2018005778 A JP 2018005778A JP 2016135200 A JP2016135200 A JP 2016135200A JP 2016135200 A JP2016135200 A JP 2016135200A JP 2018005778 A JP2018005778 A JP 2018005778A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- captured image
- missing
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Processing Or Creating Images (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【課題】画像データの伝送エラー等が生じて画像に欠落が生じた場合に、HMD装着者に違和感の少ないMR画像を提示できるようにする。【解決手段】合成画像で欠落が発生すると、同画像を用いた処理結果であるCG抽出画像も同じ領域が欠落したものとなる。一方、1つ前のフレームにおけるCG抽出画像と、過去のCGオブジェクトの位置姿勢変化とから、CG推定画像を生成する。そして、このCG推定画像と撮像画像とから、補間用画像を生成する。一方、合成画像において欠落が発生した場合は、表示用画像として補間用画像を全面表示するか、もしくは欠落部分のみを補間用画像で補間し、表示用画像とする。【選択図】図2
Description
本発明は、特に、撮像画像にCG画像を重畳して表示するために用いて好適な画像表示装置、画像表示システム、画像表示方法およびプログラムに関する。
従来、現実空間と仮想空間とをリアルタイムに且つシームレスに融合させる技術として、複合現実感、いわゆるMR(Mixed Reality)技術が知られている。MR技術の中には、ビデオシースルー型HMD(Head Mounted Display)を利用したMRシステムがある。MRシステムでは、HMDに内蔵された撮像ユニットによって取得された現実空間画像にCG(Computer Graphics)画像を重畳した合成画像をHMD装着者は観察できる。これらの画像は左右の眼に対応してそれぞれ独立しており、ステレオ動画像による立体的なMR空間をHMD装着者に提示できる。
MRシステムは一般に、現実空間の撮像およびMR画像の表示を主に司るHMDと、CG画像の生成や現実空間画像への重畳の他各種画像処理を主に司るPC(Personal Computer)やWS(WorkStation)とで構成される。また、両者の間では、金属または光ケーブル等による有線接続、またはワイヤレスLAN(Local Area Network)等による無線接続によって画像データ等が伝送される。
上記MRシステムでは、エラーその他何らかの理由によってデータ伝送が途切れた場合にもHMD装着者にできるだけ違和感をなくすため、欠落した画像データを補間する技術が知られている。特許文献1には、アクセスポイント切替時に発生する欠落フレームを、既に伝送されたCG画像をHMDの位置姿勢情報に応じて補正して撮像画像に重畳する方法が開示されている。
しかしながら、特許文献1に記載の方法では、画像合成時における表示装置の位置姿勢情報に基づいてCG画像を補正するため、固定されずに動くオブジェクト(CG画像)に対しては補正が対応できないという課題がある。
本発明は前述の問題点に鑑み、画像データの伝送エラー等が生じて画像に欠落が生じた場合に、HMD装着者に違和感の少ないMR画像を提示できるようにすることを目的としている。
本発明に係る画像表示装置は、現実空間を撮像して撮像画像を生成する撮像手段と、前記撮像画像が生成されたときの位置姿勢情報を取得する取得手段と、前記撮像手段によって生成された撮像画像と前記位置姿勢情報とを、前記撮像画像にCG画像を重畳する画像処理装置に送信する送信手段と、前記画像処理装置から前記撮像画像と前記CG画像とが重畳された合成画像を受信する受信手段と、前記撮像画像と、前記受信手段によって受信された合成画像とに基づいて、前記CG画像に相当するCG抽出画像を抽出する抽出手段と、前記撮像手段によって過去に生成された撮像画像の位置姿勢変化を算出し、前記算出した撮像画像の位置姿勢変化に基づいて、前記抽出手段によって過去に抽出されたCG抽出画像の位置姿勢変化を算出する算出手段と、前記算出手段によって算出された位置姿勢変化に基づいて、前記受信手段によって最新に受信された合成画像のCG画像に相当するCG推定画像を推定する推定手段と、前記推定手段によって推定されたCG推定画像と前記撮像手段によって最新に生成された撮像画像とを重畳して補間用画像を生成する生成手段と、前記生成手段によって生成された補間用画像を表示部に表示する表示制御手段と、を有することを特徴とする。
本発明によれば、画像データの伝送エラー等が生じて画像に欠落が生じた場合に、HMD装着者に違和感の少ないMR画像を提示することができる。
(第1の実施形態)
以下、本発明の第1の実施形態について、図面を参照しながら説明する。
図1は、本実施形態における画像表示システム100の概要を説明するための図である。
図1に示すように、画像表示システム100は、頭部装着型の画像表示装置(以下、HMD)10と、現実空間と仮想空間とが融合した複合現実(MR)空間の画像を生成してHMD10に提供する画像処理装置90とで構成されている。また、HMD10と画像処理装置90とはケーブル20で接続されている。なお、ケーブル20は有線接続の通信経路として図示しているが、無線接続の通信経路を用いても構わない。
以下、本発明の第1の実施形態について、図面を参照しながら説明する。
図1は、本実施形態における画像表示システム100の概要を説明するための図である。
図1に示すように、画像表示システム100は、頭部装着型の画像表示装置(以下、HMD)10と、現実空間と仮想空間とが融合した複合現実(MR)空間の画像を生成してHMD10に提供する画像処理装置90とで構成されている。また、HMD10と画像処理装置90とはケーブル20で接続されている。なお、ケーブル20は有線接続の通信経路として図示しているが、無線接続の通信経路を用いても構わない。
図2は、本実施形態に係る画像表示システム100の内部構成例を示すブロック図である。なお、本実施形態の画像表示システム100は右目用画像と左目用画像とを用いた立体画像を扱うため、HMD10内における位置姿勢センサ204以外の各構成要素は右目用と左目用とで対の構成となるが、図2では簡単化のため片方のみを示している。また、立体画像の撮像および表示に関する技術については公知であるため、詳細な説明は省略する。
画像処理装置90は、位置検出部251、CG生成部252、および合成部253で構成されている。位置検出部251は、HMD10から伝送された現実空間の撮像画像およびHMD10の位置姿勢情報に基づいて、CG画像を生成する位置や視線の角度などCG画像の生成に必要な情報を出力する。CG生成部252は、位置検出部251から出力された情報に従って、所定のCG画像を生成する。ここで、CG画像は、画像処理装置90内のHDD(Hard Disc Drive)等に格納された不図示のCADデータを基にレンダリングされる。合成部253は、CG画像を現実空間の撮像画像に合成し、合成画像をHMD10に出力する。
図3は、本実施形態におけるHMD10の動作手順の一例を示すフローチャートである。以下、図2に記載のHMD10の各構成の動作について、図3のフローチャートを参照しながら説明する。
撮像部201は、CCD(電荷結合素子)やCMOS(相補性金属酸化膜半導体)等の撮像素子(イメージセンサ)、その光学系並びに制御回路とで構成される。まず、S301においては、不図示の制御部からの制御信号に基づいて設定された露光時間やセンサゲイン、露光開始タイミング等に従って、撮像部201は、現実空間の撮像画像を取得する。
撮像部201は、CCD(電荷結合素子)やCMOS(相補性金属酸化膜半導体)等の撮像素子(イメージセンサ)、その光学系並びに制御回路とで構成される。まず、S301においては、不図示の制御部からの制御信号に基づいて設定された露光時間やセンサゲイン、露光開始タイミング等に従って、撮像部201は、現実空間の撮像画像を取得する。
そして、S302において、位置姿勢センサ204は、撮像タイミングと同期して、HMD10の位置姿勢を検出して位置姿勢情報を取得する。位置姿勢センサ204としては、3軸加速度+3軸角速度センサを統合した6軸MEMS(Micro−Electro−Mechanical Systems)センサモジュール等を用いる。また、位置姿勢センサ204は、取得したデータを画像処理装置90へも送信する。
次に、S303において、撮像部201は、取得した撮像画像を画像処理装置90に送信するとともに、DRAM(Dynamic Random Access Memory)等の記憶素子からなる格納部202に撮像画像を格納する。格納部202は、最新の撮像画像のフレームに相当する合成画像を取得できるまで数フレーム相当を格納可能なサイズのリングバッファ等で構成される。
次に、S304において、抽出部205は、前述した手順に従って生成された合成画像を画像処理装置90から受信する。なお、合成画像は、抽出部205、欠落検知部209、および表示制御部208へ送られる。抽出部205は、画像処理装置90から取得した過去の合成画像をも保持している。
次に、S305において、抽出部205は、合成画像と、格納部202に格納された、合成画像と同タイミングの撮像画像とを用いてCG成分を抽出し、CG抽出画像を生成する。CG成分の抽出方法としては、例えば合成画像と撮像画像との差分画像を二値化することでCG成分の領域を検出し、合成画像の当該領域をCG抽出画像とする方法が、最も簡単な例として挙げられる。その他、公知の画像検出アルゴリズムを種々適用可能である。また、抽出部205は、画像処理装置90から取得した過去の合成画像およびCG抽出画像を保持している。
位置姿勢情報生成部206は、位置姿勢センサ204で取得した過去の位置姿勢情報を保持している。次に、S306において、位置姿勢情報生成部206は、位置姿勢センサ204で取得したHMD10の位置姿勢情報の履歴から位置姿勢変化を検出する。そして、HMD10の位置姿勢変化と、過去の複数の異なるフレームにおけるCG抽出画像とから、フレーム間におけるCG抽出画像(CGオブジェクト)の位置姿勢変化を画像処理によって算出する。そして、位置姿勢情報生成部206は、算出結果を推定部207へ出力する。なお、CG抽出画像の中に複数の独立した動きをもったCGオブジェクトが存在した場合は、個々のオブジェクト毎に位置姿勢変化が異なる。この場合は、CGオブジェクト毎に位置姿勢変化を算出するものとする。
次に、S307において、推定部207は、抽出部205より伝送された過去の一つ以上のフレームにおけるCG抽出画像と、位置姿勢情報生成部206より取得した位置姿勢変化の情報とから、最新フレームにおけるCG画像を推定する。そして、推定したCG画像をCG推定画像として生成し、生成したCG推定画像を、再構成部203へ出力する。
次に、S308において、再構成部203は、格納部202に格納されている、最新フレームの合成画像に対応する撮像画像と、推定部207で生成されたCG推定画像とに基づいて、最新フレームにおける合成画像を推定する。そして、再構成部203は、画像処理装置90から出力された合成画像に欠落があった場合に用いる補間用画像を再構成する。そして、再構成された補間用画像を表示制御部208へ出力する。
次に、S309において、欠落検知部209は、画像処理装置90から出力された合成画像における欠落状況を算出する。欠落状況の算出には、パリティチェック、チェックサム、CRC(Cyclic Redundancy Check)等の一般的なエラーチェック方法を用いればよい。これらのチェックは、画像データのフレーム毎やライン毎にヘッダ情報を付与し、フレーム番号やライン番号と組み合わせてもよい。また、不図示の画像処理装置90との画像データ通信を制御する通信部にて生成されるパケットロス情報を用いてもよい。これらを適宜組み合わせることによって、欠落検知部209は、画像データ欠落の有無並びに欠落箇所を特定することができ、その欠落箇所を画像欠落情報として表示制御部208へ出力する。
次に、表示制御部208は、欠落検知部209より取得した合成画像の画像欠落情報に基づいて、表示部210に表示する表示用画像を設定する。具体的には、S310において、表示制御部208は、欠落検知部209より取得した合成画像の画像欠落情報に基づいて、画像処理装置90から出力された合成画像において欠落箇所が存在するか否かを判定する。この判定の結果、欠落箇所が存在しない場合は、S311において、表示制御部208は、合成画像を全面表示するよう設定する。一方、欠落箇所が存在する場合は、S312において、表示制御部208は、欠落状況に応じて適切な表示内容を設定する。なお、S312における表示内容を設定する詳細な手順については後述する。
表示部210は、OLED(Organic ElectroLuminescence Display)やLCD(Liquid Crystal Display)などの表示素子(ディスプレイ)、その光学系並びに制御回路とで構成される。S213においては、表示制御部208は、設定した表示用画像を表示部210の表示素子に表示する。これにより、HMD10の装着者に対してMR空間が提示されることになる。
なお、図3に示す各処理は、1フレーム毎に繰り返される。また、ソフトウェアプログラムによる処理ではなく論理回路等のハードウェアによって実装される場合には、図3に示すシーケンシャルな動作に限らず、明確な因果関係が必要でない処理については並列に動作させることが可能である。
図4は、前述のS312における表示内容を設定する詳細な処理手順の一例を示すフローチャートである。以下、図4を用いてS312における表示制御部208の動作例並びにその変形例について説明する。
図4(a)は、最も簡易な動作例を示しており、画像に欠落箇所が存在する場合に、S401において、表示制御部208は、再構成画像を全面表示するよう設定する。この例は、いわゆるフレーム欠落やフレームエラーの対処内容としても用いることができる。
図4(b)は、画像の欠落量に基づく処理の例を示しており、S411において、表示制御部208は、画像の欠落割合が所定値(例えば全体の50%)を超えているか否かをチェックする。このチェックの結果、所定値(50%)を超えている場合は、S412において、表示制御部208は、再構成画像を全面表示するよう設定する。一方、所定値以下(50%以下)の場合には、S413において、表示制御部208は、欠落箇所のみ再構成画像を表示し、それ以外は合成画像を表示するよう設定する。つまり、表示制御部208は、再構成画像から欠落領域を切り取り、画像処理装置90から出力された合成画像に補間して表示するよう設定する。このように、欠落割合が50%を超えている場合は再構成画像を全面表示するよう設定するので、HMD装着者に違和感の少ないMR画像を提供することができる。
図4(c)は、画像の欠落場所に基づく処理の例を示しており、S421において、表示制御部208は、画像の欠落領域にCG領域と重複する領域があるか否かをチェックする。このチェックの結果、重複領域がある場合は、S422において、表示制御部208は、再構成画像を全面表示するよう設定する。一方、重複領域がない場合は、S423において、表示制御部208は、欠落領域のみ再構成画像を表示し、それ以外は合成画像を表示するよう設定する。つまり、表示制御部208は、再構成画像から欠落領域を切り取り、画像処理装置90から出力された合成画像に補間して表示するよう設定する。このように、CG領域と重複する場合は再構成画像を全面表示するよう設定するので、HMD装着者に違和感の少ないMR画像を提供することができる。
図4(d)は、画像の欠落量と欠落場所との組み合わせに基づく処理の例を示しており、まず、S431において、表示制御部208は、画像の欠落割合が所定値(全体の50%)を超えているか否かをチェックする。このチェックの結果、所定値(50%)を超えている場合は、S432において、表示制御部208は、再構成画像を全面表示するよう設定する。一方、所定値以下(50%以下)である場合には、S433において、表示制御部208は、画像の欠落領域にCG領域と重複する領域があるか否かをチェックする。このチェックの結果、重複領域がある場合は、S432に進み、表示制御部208は、再構成画像を全面表示するよう設定する。一方、重複領域がない場合には、S434において、表示制御部208は、欠落領域のみ再構成画像を表示し、それ以外は合成画像を表示するよう設定する。つまり、表示制御部208は、再構成画像から欠落領域を切り取り、画像処理装置90から出力された合成画像に補間して表示するよう設定する。
なお、上述した欠落量の閾値や欠落場所の特徴、並びに組み合わせの方法について、この限りではなく、システムおよびその使用目的に応じて適宜設定すればよい。
図5は、画像表示システム100の画像表示装置10の動作について、時系列に沿った模式画像を用いて例示した図である。図5において、撮像部201から出力される撮像画像をA群とし、画像処理装置90から出力される合成画像をB群としている。また、抽出部から出力されるCG抽出画像をC群とし、推定部207から出力されるCG推定画像をD群とし、再構成部203から出力される補間用画像をE群としている。
また、横方向に4列ある時系列は、左から順にフレーム(N−2)、フレーム(N−1)、フレームN、フレーム(N+1)としている。図5においては、例えばフレーム(N−2)時点での撮像画像はA(N−2)、フレーム(N+1)時点での補間用画像はE(N+1)としている。なお、各列はある撮像タイミングにおける一つの撮像画像に基づいた同一フレームではあるものの、同時刻に処理されるものではない。各種画像処理や装置間伝送等に時間を要するため、例えばある撮像画像を生成してから、これに対応する合成画像を得られるまで、解像度にも依存するものの、数フレーム分のレイテンシが存在する。
また、以下の説明では、フレーム間を表す方法として、フレーム(N−2)とフレーム(N−1)との間を21、フレーム(N−1)とフレームNとの間を10、フレームNとフレーム(N+1)との間を01、と定義する。さらに、撮像画像と紐付く位置姿勢センサ204の出力データから算出される位置姿勢変化の情報群をaとし、位置姿勢情報生成部206から出力されるCG抽出画像(CGオブジェクト)の位置姿勢変化の情報群をcとする。これにより、例えば撮像画像A(N−2)から撮像画像A(N−1)までのHMD10の位置姿勢変化をa21とし、CG抽出画像C(N−1)からCG抽出画像C(N)までのCGオブジェクトの位置姿勢変化をc10とする。なお、図5に示す例では、CGオブジェクトは自動車オブジェクトの1つのみであるため、CGオブジェクトはCG抽出画像に等しい。
図5に示す例は、HMD10の装着者が左方向に移動しながら家を見ている例である。そして、合成画像には、左方向に通過する自動車が画像処理装置90によってCGオブジェクトとして重畳されている。ここで、フレームNにおける合成画像B(N)で斜線部に示す範囲で欠落が発生した場合について説明する。
合成画像B(N)で欠落が発生すると、同画像を用いた処理結果であるCG抽出画像C(N)も同じ領域が欠落したものとなる。一方、1つ前のフレームにおけるCG抽出画像C(N−1)と、過去のCGオブジェクトの位置姿勢変化c21、c32、・・・とから、推定部207によりCG推定画像D(N)が生成される。また、このCG推定画像D(N)と撮像画像A(N)とから、再構成部203により補間用画像E(N)も生成される。したがって、図4(a)〜図4(d)の何れかの手順により、表示制御部208は欠落部分を修復して表示設定を行うことができる。
ここで、図5に示す例では、合成画像B(N)に応じてCG抽出画像C(N)にも欠落が発生するため、欠落が発生した次のフレームのCG推定画像D(N+1)を生成するために用いるデータが若干変更される。CG抽出画像C(N)の欠落状況によって、その前後のCG抽出画像の位置姿勢変化c10、c01が充分に検出できない場合もある。したがって、そのような場合は、以下の処理を行うようにする。
まず、欠落が発生する以前のCG抽出画像の位置姿勢変化c21、c32、・・・から、想定される位置姿勢変化(c10+c01に相当する部分)を外挿し、これとCG抽出画像C(N−1)とに基づいてCG推定画像D(N+1)を生成する。CG抽出画像C(N)の欠落していない領域から位置姿勢変化c10、c01が検出可能な場合は、双方の手法を組み合わせてもよい。なお、2フレーム以上連続して合成画像に欠落が発生した場合も同様の処理を行うことで対応できる。つまり、欠落が発生した最初のフレーム以前のデータを用いて、欠落が発生した2つ目以降のフレームに相当するCG推定画像を生成する。
以上、本実施形態では、上記説明した通りのシステム構成によって合成画像内の欠落の修復を行ったが、本発明はこれによって何ら限定されるものではない。例えば、欠落検知部209における合成画像の欠落状況について、前述したエラーチェック情報に基づく方法の他にも、合成画像と補間用画像との差分画像に基づいて算出してもよい。この場合、再構成部203から欠落検知部209へ補間用画像が出力されることになる。
以上説明したように、本実施形態画像表示システムによれば、画像データの伝送エラー等により生じた画像欠落を修復し、HMD装着者に違和感の少ないMR画像を提示することができる。
(第2の実施形態)
以下、本発明の第2の実施形態について説明する。本実施形態においては、位置姿勢情報生成部206の機能以外の基本的な構成および処理プロセスは第1の実施形態と同様であるため、詳細な説明は省略する。以下、第1の実施形態と異なる点について説明する。
以下、本発明の第2の実施形態について説明する。本実施形態においては、位置姿勢情報生成部206の機能以外の基本的な構成および処理プロセスは第1の実施形態と同様であるため、詳細な説明は省略する。以下、第1の実施形態と異なる点について説明する。
図2において、位置姿勢情報生成部206は、3つの機能を有する。まず、第1の機能として、複数の異なるフレームの撮像画像から画像処理によってHMD10の位置姿勢変化を検出する。画像処理による方法では、撮像画像内の特徴量(例えばオブジェクト)の位置姿勢変化を検出してもよいし、CGを合成するために設置するマーカの位置姿勢変化を検出してもよい。
第2の機能としては、HMD10の位置姿勢変化の情報として、第1の機能にて検出したデータのみを用いるか、それに加えて位置姿勢センサ204の出力データとの双方を用いるかを選択する。第3の機能としては、第2の機能により選択されたHMD10の位置姿勢変化の情報と、過去の複数の異なるフレームのCG抽出画像とから、画像処理によりフレーム間におけるCG抽出画像の位置姿勢変化を算出する。本実施形態では、図5において、HMD10の位置姿勢変化の情報群aは、撮像画像内の特徴量またはマーカの位置姿勢変化、もしくはこれに位置姿勢センサ204の出力データを組み合わせた位置姿勢変化の情報群となる。これにより、撮像画像の位置姿勢変化をより正確に求めることができる。
以上説明したように、本実施形態に係る画像表示システムによれば、画像データの伝送エラー等により生じた画像の欠落を修復し、HMD装着者により違和感の少ないMR画像を提示することができる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
201 撮像部
203 再構成部
204 位置姿勢センサ
205 抽出部
206 位置姿勢情報生成部
207 推定部
208 表示制御部
203 再構成部
204 位置姿勢センサ
205 抽出部
206 位置姿勢情報生成部
207 推定部
208 表示制御部
Claims (13)
- 現実空間を撮像して撮像画像を生成する撮像手段と、
前記撮像画像が生成されたときの位置姿勢情報を取得する取得手段と、
前記撮像手段によって生成された撮像画像と前記位置姿勢情報とを、前記撮像画像にCG画像を重畳する画像処理装置に送信する送信手段と、
前記画像処理装置から前記撮像画像と前記CG画像とが重畳された合成画像を受信する受信手段と、
前記撮像画像と、前記受信手段によって受信された合成画像とに基づいて、前記CG画像に相当するCG抽出画像を抽出する抽出手段と、
前記撮像手段によって過去に生成された撮像画像の位置姿勢変化を算出し、前記算出した撮像画像の位置姿勢変化に基づいて、前記抽出手段によって過去に抽出されたCG抽出画像の位置姿勢変化を算出する算出手段と、
前記算出手段によって算出された位置姿勢変化に基づいて、前記受信手段によって最新に受信された合成画像のCG画像に相当するCG推定画像を推定する推定手段と、
前記推定手段によって推定されたCG推定画像と前記撮像手段によって最新に生成された撮像画像とを重畳して補間用画像を生成する生成手段と、
前記生成手段によって生成された補間用画像を表示部に表示する表示制御手段と、
を有することを特徴とする画像表示装置。 - 前記受信手段によって受信された合成画像の欠落を検知する欠落検知手段を更に有し、
前記表示制御手段は、前記欠落検知手段によって欠落が検知された場合に、前記補間用画像を表示部に表示することを特徴とする請求項1に記載の画像表示装置。 - 前記欠落検知手段により欠落が検知され、該欠落の割合が所定値以下である場合に、前記表示制御手段は、前記補間用画像のうちの前記欠落した領域を前記合成画像に補間し、前記補間された合成画像を前記表示部に表示することを特徴とする請求項2に記載の画像表示装置。
- 前記欠落検知手段により欠落が検知され、該欠落の領域が前記CG画像に相当する領域と重なっていない場合に、前記表示制御手段は、前記補間用画像のうちの前記欠落した領域を前記合成画像に補間し、前記補間された合成画像を前記表示部に表示することを特徴とする請求項2に記載の画像表示装置。
- 前記欠落検知手段により欠落が検知され、該欠落の割合が所定値以下であり、かつ該欠落の領域が前記CG画像に相当する領域と重なっていない場合に、前記表示制御手段は、前記補間用画像のうちの前記欠落した領域を前記合成画像に補間し、前記補間された合成画像を前記表示部に表示することを特徴とする請求項2に記載の画像表示装置。
- 前記欠落検知手段は、前記受信手段によって受信された合成画像のパケットロス情報に基づいて欠落を検知することを特徴とする請求項2〜5の何れか1項に記載の画像表示装置。
- 前記欠落検知手段は、前記合成画像と前記補間用画像との差分に基づいて欠落を検知することを特徴とすることを特徴とする請求項2〜5の何れか1項に記載の画像表示装置。
- 前記取得手段は、前記画像表示装置の位置姿勢を検出するセンサを用いて前記位置姿勢情報を取得することを特徴とする請求項1〜7の何れか1項に記載の画像表示装置。
- 前記算出手段は、前記取得手段によって取得された位置姿勢情報の履歴に基づいて前記撮像手段によって過去に生成された撮像画像の位置姿勢変化を算出することを特徴とする請求項1〜8の何れか1項に記載の画像表示装置。
- 前記算出手段は、前記撮像手段によって過去に生成された撮像画像の中の特徴量またはマーカの変化を検出することにより、前記撮像手段によって過去に生成された撮像画像の位置姿勢変化を算出することを特徴とする請求項1〜8の何れか1項に記載の画像表示装置。
- 請求項1〜10の何れか1項に記載の画像表示装置と、前記画像処理装置とを有することを特徴とする画像表示システム。
- 現実空間を撮像して撮像画像を生成する撮像手段を有する画像表示装置の画像表示方法であって、
前記撮像画像が生成されたときの位置姿勢情報を取得する取得工程と、
前記撮像手段によって生成された撮像画像と前記位置姿勢情報とを、前記撮像画像にCG画像を重畳する画像処理装置に送信する送信工程と、
前記画像処理装置から前記撮像画像と前記CG画像とが重畳された合成画像を受信する受信工程と、
前記撮像画像と、前記受信工程において受信された合成画像とに基づいて、前記CG画像に相当するCG抽出画像を抽出する抽出工程と、
前記撮像手段によって過去に生成された撮像画像の位置姿勢変化を算出し、前記算出した撮像画像の位置姿勢変化に基づいて、前記抽出工程において過去に抽出されたCG抽出画像の位置姿勢変化を算出する算出工程と、
前記算出工程において算出された位置姿勢変化に基づいて、前記受信工程において最新に受信された合成画像のCG画像に相当するCG推定画像を推定する推定工程と、
前記推定工程において推定されたCG推定画像と前記撮像手段によって最新に生成された撮像画像とを重畳して補間用画像を生成する生成工程と、
前記生成工程において生成された補間用画像を表示部に表示する表示制御工程と、
を有することを特徴とする画像表示方法。 - 現実空間を撮像して撮像画像を生成する撮像手段を有する画像表示装置を制御するためのプログラムであって、
前記撮像画像が生成されたときの位置姿勢情報を取得する取得工程と、
前記撮像手段によって生成された撮像画像と前記位置姿勢情報とを、前記撮像画像にCG画像を重畳する画像処理装置に送信する送信工程と、
前記画像処理装置から前記撮像画像と前記CG画像とが重畳された合成画像を受信する受信工程と、
前記撮像画像と、前記受信工程において受信された合成画像とに基づいて、前記CG画像に相当するCG抽出画像を抽出する抽出工程と、
前記撮像手段によって過去に生成された撮像画像の位置姿勢変化を算出し、前記算出した撮像画像の位置姿勢変化に基づいて、前記抽出工程において過去に抽出されたCG抽出画像の位置姿勢変化を算出する算出工程と、
前記算出工程において算出された位置姿勢変化に基づいて、前記受信工程において最新に受信された合成画像のCG画像に相当するCG推定画像を推定する推定工程と、
前記推定工程において推定されたCG推定画像と前記撮像手段によって最新に生成された撮像画像とを重畳して補間用画像を生成する生成工程と、
前記生成工程において生成された補間用画像を表示部に表示する表示制御工程と、
をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016135200A JP2018005778A (ja) | 2016-07-07 | 2016-07-07 | 画像表示装置、画像表示システムおよび画像表示方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016135200A JP2018005778A (ja) | 2016-07-07 | 2016-07-07 | 画像表示装置、画像表示システムおよび画像表示方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018005778A true JP2018005778A (ja) | 2018-01-11 |
Family
ID=60949376
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016135200A Withdrawn JP2018005778A (ja) | 2016-07-07 | 2016-07-07 | 画像表示装置、画像表示システムおよび画像表示方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018005778A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109640037A (zh) * | 2018-11-26 | 2019-04-16 | 安徽吉露科技有限公司 | 一种监管效果好的远程监控定位系统 |
WO2024004338A1 (ja) * | 2022-06-30 | 2024-01-04 | キヤノン株式会社 | 頭部装着型表示装置、状態判断装置、頭部装着型表示装置の制御方法、状態判断装置の制御方法、およびプログラム |
-
2016
- 2016-07-07 JP JP2016135200A patent/JP2018005778A/ja not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109640037A (zh) * | 2018-11-26 | 2019-04-16 | 安徽吉露科技有限公司 | 一种监管效果好的远程监控定位系统 |
WO2024004338A1 (ja) * | 2022-06-30 | 2024-01-04 | キヤノン株式会社 | 頭部装着型表示装置、状態判断装置、頭部装着型表示装置の制御方法、状態判断装置の制御方法、およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5113426B2 (ja) | 頭部装着型表示装置、及びその制御方法 | |
US8233011B2 (en) | Head mounted display and control method therefor | |
JP5303685B2 (ja) | 拡張現実感提供装置 | |
JP6439702B2 (ja) | 画像処理装置及び画像処理方法、コンピューター・プログラム、並びに画像表示システム | |
JP5917017B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP2015231106A (ja) | ヘッドマウントディスプレイ装置及びヘッドマウントディスプレイシステム | |
US11003408B2 (en) | Image generating apparatus and image generating method | |
JP6949475B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN110969706B (zh) | 增强现实设备及其图像处理方法、系统以及存储介质 | |
JP7082713B2 (ja) | ローリングシャッター画像/ビデオのsfm/slamに対するアプリケーションで畳み込みニューラルネットワークを用いる画像/ビデオにおけるローリングシャッター補正 | |
JP2018005778A (ja) | 画像表示装置、画像表示システムおよび画像表示方法 | |
US11100716B2 (en) | Image generating apparatus and image generation method for augmented reality | |
JP6515512B2 (ja) | 表示装置、表示装置のキャリブレーション方法、およびキャリブレーションプログラム | |
KR101315398B1 (ko) | 3차원 증강 현실 표시 장치 및 방법 | |
JP2015201734A (ja) | 画像処理装置、画像処理装置の制御方法およびプログラム | |
US11263999B2 (en) | Image processing device and control method therefor | |
JP7253302B1 (ja) | 情報処理システム、プログラム及び情報処理方法 | |
JP4144981B2 (ja) | 立体画像表示装置 | |
US20210241425A1 (en) | Image processing apparatus, image processing system, image processing method, and medium | |
JP7175715B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
WO2021106136A1 (ja) | 表示端末装置 | |
JP2023132157A (ja) | 画像表示装置、画像表示方法、及びプログラム | |
WO2022140419A1 (en) | Calibration for virtual or augmented reality systems | |
JP2024076738A (ja) | 画像表示装置、画像表示装置の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190626 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20190829 |