JP6456551B1 - 光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム - Google Patents

光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム Download PDF

Info

Publication number
JP6456551B1
JP6456551B1 JP2018511512A JP2018511512A JP6456551B1 JP 6456551 B1 JP6456551 B1 JP 6456551B1 JP 2018511512 A JP2018511512 A JP 2018511512A JP 2018511512 A JP2018511512 A JP 2018511512A JP 6456551 B1 JP6456551 B1 JP 6456551B1
Authority
JP
Japan
Prior art keywords
image
projection
shadow
optical device
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018511512A
Other languages
English (en)
Other versions
JPWO2019043854A1 (ja
Inventor
賢人 山▲崎▼
賢人 山▲崎▼
浩平 岡原
浩平 岡原
栞 有井
栞 有井
真理子 上野
真理子 上野
幹郎 佐々木
幹郎 佐々木
古木 一朗
一朗 古木
加藤 義幸
義幸 加藤
峯 慎吾
慎吾 峯
博信 阿倍
博信 阿倍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6456551B1 publication Critical patent/JP6456551B1/ja
Publication of JPWO2019043854A1 publication Critical patent/JPWO2019043854A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/08Power processing, i.e. workload management for processors involved in display operations, such as CPUs or GPUs

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Projection Apparatus (AREA)

Abstract

光学機器制御装置(1)は、光学機器と対象物との間に存在する物体を検出する物体検出部(11)と、検出された物体の影と投影するCGとが重複状態にあるか否かを判定する重なり判定部(12)と、投影画像データを投影画像生成部(14)に提供する属性管理部(13)と、重なり判定部(12)により物体の影とCGとが重複状態にあると判定された場合に、CGが物体の影以外の領域に投影されるように投影画像データを変更するレイアウト計算部(15)と、レイアウト計算部(15)により投影位置が変更されたCGを含む投影画像を生成する投影画像生成部(14)と、記憶部(16)と、を有することを特徴とする。

Description

本発明は、画像を投影又は撮影する光学機器を制御する光学機器制御装置、光学機器制御方法、及び光学機器制御プログラムに関する。
従来、カメラ又はセンサから取得したユーザの位置姿勢を基に付加情報としての電子情報(CG:Computer Graphics)を現実空間に重畳描画する拡張現実感技術がある。拡張現実感技術は、例えば、カメラなどの撮像装置から取得された二次元の画像を基に、任意の三次元座標系におけるカメラの位置姿勢を求めることで、計算機上で生成した三次元座標系におけるCGを現実空間に重畳描画することができる技術である。
プロジェクタは、投影レンズから出た光を物体に当てることで、映像を表示する装置であり、カメラとは光の進む向きが逆方向であること以外は、基本的に類似したモデルによって計算できることで知られている。したがって、任意の三次元座標系におけるプロジェクタの位置姿勢を求めることで、計算機上で生成した三次元座標系におけるCGを現実空間の任意の位置に投影することができる。
拡張現実感技術は、どこにCGを重畳描画するか、といった「幾何学的整合性」の課題に注目するものが一般的である。一方、ユーザに情報を伝えるために、重畳するCGをどのように管理するかに注目した技術をビューマネジメントという(例えば、非特許文献1参照)。また、拡張現実感技術を用いてCGによる注釈情報を表示する場合、「注釈情報同士や、注釈と説明対象の物体との重なりの量」、「注釈情報と被注釈情報との距離」、及び「時間系における注釈情報の移動量」の3要素が考慮されるべきこととして提案されている(例えば、非特許文献2参照)。
特許文献1は、観察者(ユーザ)とディスプレイなどの表示器との間に物体(光遮蔽物)がある場合、物体を検出する表示遮蔽物検出部と、表示遮蔽物検出部による検出の結果に基づいて情報のレイアウトを決定する表示レイアウト部を備える表示装置を提案している。
特許文献2は、投影対象を撮影する撮影手段と、撮影手段の撮影領域に応じて、注釈情報の表示態様を調整するアノテーション調整手段とを有する遠隔指示システムを提案している。
特許文献3は、外部装置から入力された注釈画像を被写体に投影する投影手段を有し、この投影手段によって注釈画像が投影された被写体を、撮像手段で撮影して得られた情報に基づき、被写体に投影される注釈画像を移動制御する制御手段を有する画像投影装置を提案している。
特許第3874737号公報(例えば、段落0020〜0029) 特許第5092459号公報(例えば、段落0037〜0048、0053〜0061) 特開2008−158419号公報(例えば、段落0031〜0041)
蔵田武志、酒田信親、牧田孝嗣著、「拡張現実感(AR):11.展望3:ARのインタフェース」、情報処理Vol.51、 No.4、 Apr.2010、pp.425−430 Ronald Azuma, Chris Furmanski、 "Evaluating Label Placement for Augmented Reality View Management"、 IEEE and ACM International Symposium on Mixed and Augmented Reality(ISMAR 2003)、(Tokyo7−10 October 2003)、 pp.66−75
しかしながら、光学機器(例えば、プロジェクタ)と投影対象との間に物体(光遮蔽物)が存在すると、投影対象に物体(光遮蔽物)の影ができるため、任意の位置にCGを投影できないなど、観察者に意図した情報が提供できない問題があった。
例えば、特許文献1に記載の装置は、観察者とモニタなどのデバイスとの間の物体のみを考慮しており、プロジェクタのように投影型の表示デバイスと投影対象との間にある物体については考慮していない。また、特許文献1に記載の装置は、CGが複数ある場合、CG同士の関係をどのように制御するかについての記載はない。
特許文献2に記載の装置は、CGの投影条件を調整するものであるが、追加するCGのみに注目しており、元からCGが複数ある場合についての記載はない。特許文献3に記載の装置は、複数のCGを移動させるものであるが、CGの移動のさせ方によっては、関連したCGが遠くなる可能性がある。
本発明は、上記課題を解決するためになされたものであり、光学機器と対象物との間に物体(光遮蔽物)がある場合であっても、適切な領域にグラフィクス画像を表示することができる光学機器制御装置、光学機器制御方法、及び光学機器制御プログラムを提供することを目的とする。
本発明に係る光学機器制御装置は、投影画像データに基づく投影画像を光学機器から対象物上に投影させる投影画像生成部と、現実空間情報取得装置によって取得された現実空間情報に基づいて、前記光学機器と前記対象物との間に存在する第1の物体を検出する物体検出部と、前記投影画像データと前記物体検出部による検出の結果とに基づいて、前記投影画像に含まれるグラフィクス画像が、前記投影画像が前記第1の物体によって前記対象物に到達しない領域である影と重複状態にあるか否かを判定する重なり判定部と、前記重なり判定部によって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記グラフィクス画像が前記影以外の領域に投影されるように前記投影画像データを変更する変更部と、前記重なり判定部によって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記変更部によって変更された投影画像データを前記投影画像データとして前記投影画像生成部に提供する管理部と、第1の画像及び第2の画像の属性を記憶する記憶部と、を有し、前記グラフィクス画像は、前記第1の画像と前記第2の画像とを含み、前記変更部は、前記重なり判定部によって前記第1の画像が前記影と前記重複状態にあると判定された場合に、力学モデルに基づいて前記第1の画像が受ける引力と斥力を算出し、算出した結果に基づいて、前記第2の画像の投影領域以外及び前記影以外の領域に前記第1の画像が投影されるように前記投影画像データを変更する、ことを特徴とする。前記斥力は、前記影の位置に基づいて前記第1の画像が受ける力と、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力とを含み、前記引力は、前記第1の画像が投影された位置に基づいて前記第1の画像が受ける力であり、かつ前記第1の画像と前記第2の画像とが共通の前記属性を備える場合に、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力である
本発明に係る光学機器制御方法は、投影画像データに基づく投影画像を光学機器から対象物上に投影させる投影画像生成ステップと、現実空間情報取得装置によって取得された現実空間情報に基づいて、前記光学機器と前記対象物との間に存在する第1の物体を検出する物体検出ステップと、前記投影画像データと前記物体検出ステップによる検出の結果とに基づいて、前記投影画像に含まれるグラフィクス画像が、前記投影画像が前記第1の物体によって前記対象物に到達しない領域である影と重複状態にあるか否かを判定する重なり判定ステップと、前記重なり判定ステップによって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記グラフィクス画像が前記影以外の領域に投影されるように前記投影画像データを変更する変更ステップと、前記重なり判定ステップによって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記変更ステップによって変更された投影画像データを前記投影画像データとして前記投影画像生成ステップに提供する管理ステップと、を有し、前記グラフィクス画像は、第1の画像と第2の画像とを含み、前記変更ステップでは、前記重なり判定ステップによって前記第1の画像が前記影と前記重複状態にあると判定された場合に、力学モデルに基づいて前記第1の画像が受ける引力と斥力を算出し、算出した結果に基づいて、前記第2の画像の投影領域以外及び前記影以外の領域に前記第1の画像が投影されるように前記投影画像データを変更する、ことを特徴とする。前記斥力は、前記影の位置に基づいて前記第1の画像が受ける力と、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力とを含み、前記引力は、前記第1の画像が投影された位置に基づいて前記第1の画像が受ける力であり、かつ前記第1の画像と前記第2の画像とが共通の属性を備える場合に、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力である
本発明によれば、光学機器と対象物との間に物体(光遮蔽物)がある場合であっても適切な領域にグラフィクス画像を表示することができるので、観察者に対して意図した情報を提供することができる。
本発明の実施の形態1に係る光学機器制御装置の構成を概略的に示す機能ブロック図である。 実施の形態1に係る光学機器制御装置のハードウェア構成の一例を示す図である。 実施の形態1に係る光学機器制御装置の動作を説明するための図である。 (a)及び(b)は、実施の形態1に係る光学機器制御装置の動作を説明するための図である。 (a)及び(b)は、実施の形態1に係る光学機器制御装置の動作を説明するための図である。 (a)から(c)は、実施の形態1に係る光学機器制御装置の動作を説明するための図である。 (a)から(d)は、実施の形態1に係る光学機器制御装置の動作を説明するための図である。 実施の形態1に係る光学機器制御装置の動作を示すフローチャートである。 実施の形態1における物体検出処理の一例を示すフローチャートである。 実施の形態1における重なり判定処理の一例を示すフローチャートである。 実施の形態1におけるCGの移動処理の一例を示すフローチャートである。 本発明の実施の形態2に係る光学機器制御装置の構成を概略的に示す機能ブロック図である。 実施の形態2に係る光学機器制御装置の動作を説明するための図である。 実施の形態2における物体検出処理の一例を示すフローチャートである。
以下に、本発明の実施の形態に係る光学機器制御装置、光学機器制御方法、及び光学機器制御プログラムを、添付図面を参照しながら説明する。以下の実施の形態は、例にすぎず、本発明の範囲内で種々の変更が可能である。
《1》実施の形態1
《1−1》構成
図1は、本発明の実施の形態1に係る光学機器制御装置1の構成を概略的に示す機能ブロック図である。光学機器制御装置1は、実施の形態1に係る光学機器制御方法を実施することができる装置である。また、光学機器制御装置1は、実施の形態1に係る光学機器制御プログラムを実行することができる装置である。
図1に示されるように、実施の形態1に係る光学機器制御装置1は、カメラ201a又はセンサ201bなど現実空間の情報を取得する装置である現実空間情報取得装置201と、プロジェクタ202aなど画像を投影する装置である画像投影装置202とに接続されている。現実空間情報取得装置201と画像投影装置202とは、別個の装置であってもよく、また、一体型の装置であってもよい。
図1に示されるように、実施の形態1に係る光学機器制御装置1は、物体検出部11と、重なり判定部12と、管理部としての属性管理部13と、投影画像生成部14と、変更部としてのレイアウト計算部15と、記憶部16と、を備える。
現実空間情報取得装置201は、カメラ201a又はセンサ201bなどによって現実空間情報G1を取得する。物体検出部11は、現実空間情報取得装置201から現実空間情報G1を受け取り、現実空間情報G1に基づいて光学機器(例えば、プロジェクタ202a)と投影対象(対象物)との間に存在する物体(例えば、図3で示される物体100としての手)を検出する。物体検出部11は、検出した物体100に関する検出物体情報G2を重なり判定部12に送る。
重なり判定部12は、物体検出部11から受け取った検出物体情報G2と、属性管理部13から読み込んだCG(後述するグラフィクス画像としてのCG104)の情報G3とから、投影画像に含まれるCG104が、プロジェクタ202aから出射される光が物体100によって投影対象に到達しない領域である影(すなわち、影領域)と重なっている重複状態にあるか否かを判定する(すなわち、重なり判定を行う)。
重なり判定部12は、重なり判定において物体100が各CG104を遮蔽するかどうかを判定する。重なり判定部12により判定された重なり判定の結果G4は、属性管理部13に送られる。なお、重なり判定部12は、投影画像に含まれるCG104が影と重なっている部分が存在する場合を重複状態と判定することも可能であるが、投影画像に含まれるCG104が影と重なっている部分の面積が、CG104の面積の一定割合以上となっている場合を重複状態と判定することも可能である。
属性管理部13は、記憶部16に記憶されている情報(記録内容)を読み込み、又は、記憶部16に情報を書き込む若しくは記録内容を書き換える管理部である。レイアウト計算部15は、CG104が物体100の影以外の領域に投影されるようにCG104の配置位置を変更する変更部である。レイアウト計算部15は属性管理部13からCG104の情報G3及び重なり判定の結果G4を受け取り、受け取ったCG104の情報G3及び重なり判定の結果G4を基にCG104の再配置座標16aを計算する。
レイアウト計算部15により計算されたCG104の再配置座標16aを含む情報G5は、属性管理部13に送られる。属性管理部13は、CG104の情報G3と、レイアウト計算部15により計算されたCG104の再配置座標16aを含む情報G5とを投影画像生成部14に提供する。
投影画像生成部14は、属性管理部13から受け取ったCG104の情報G3及びCG104の再配置座標16aを含む情報G5を基に投影画像データG6を生成し、画像投影装置202に送る。画像投影装置202は、投影画像生成部14から投影画像データG6を受け取り、CG104を含む投影画像(後述する投影画像102)を投影する。
記憶部16は、CG104に関する情報を記録する記録媒体又は記憶装置である。図1に示されるように、記憶部16には、例えば、CG104の再配置座標16aと、階層16bと、面積16cと、配置座標16dと、移動フラグ16eとが記憶される。
図2は、実施の形態1に係る光学機器制御装置1のハードウェア構成の一例を示す図である。光学機器制御装置1は、コンピュータであってもよい。光学機器制御装置1は、プロセッサであるCPU(Centaral Processing Unit)21と、GPU(Graphics Processing Unit)22と、メインメモリ23と、ストレージ24と、バス25とを備えている。
また、図2に示されるように、光学機器制御装置1には、現実空間情報取得装置201としてのカメラ201aと、現実空間情報取得装置201としてのセンサ201bと、画像投影装置202としてのプロジェクタ202aとが接続されている。現実空間情報取得装置201は、カメラ201a及びセンサ201bの一方のみであってもよい。また、現実空間情報取得装置201は、異なる位置から対象物を撮影する複数のカメラ201a又は異なる位置から対象物を検出する複数のセンサ201bであってもよい。
CPU21は、光学機器制御装置1の動作の全体を実行するための演算装置である。GPU22は、主に画像データ処理を行う演算装置である。メインメモリ23は、光学機器制御装置1のハードウェアがデータの消去及び書き換えが可能な記憶装置である。メインメモリ23は、揮発性であるが、ストレージ24より高速に動作することから、使用中のデータ又は直近で使用する必要が生じるデータを保存するために使用される。
光学機器制御プログラムは、CPU21で実行される。CPU21が光学機器制御プログラムを実行することにより、図1に示される物体検出部11、重なり判定部12、属性管理部13、投影画像生成部14、及びレイアウト計算部15の全体又は一部を実現することができる。
ストレージ24は、光学機器制御装置1のハードウェアによって、データの消去及び書き換えが可能な記憶装置であり、図1における記憶部16に対応する。このストレージに記憶されている光学機器制御プログラムの必要な情報はメインメモリ23において展開され、CPU21によって実行される。バス25は、データ交換用のデータ転送路である。
カメラ201aは、現実空間情報G1を取得するために必要な画像を撮影する現実空間情報取得装置201である。
センサ201bは、現実空間情報G1を取得するために必要な値を取得する現実空間情報取得装置201である。センサ201bは、例えば、位置を計測するGPS(Global Positioning System)、加速度を検出する加速度センサ、方位を計測する地磁気センサ、物体までの距離を計測する深度センサである。
プロジェクタ202aは、投影画像102を現実空間に投影するために必要な画像投影装置202である。
《1−2》動作
図3は、実施の形態1に係る光学機器制御装置1の動作を説明するための図である。図3に示されるように、実施の形態1では、例えば、現実空間情報取得装置201としてカメラ201aを用い、画像投影装置202としてプロジェクタ202aを用いる。図3に示されるように、カメラ201aはカメラ座標系(デバイス座標系)2011aを備え、プロジェクタ202aはプロジェクタ座標系2021aを備える。
図3には、プロジェクタ202aの視錐台2020aが示される。プロジェクタ202aの視錐台2020aは、プロジェクタ202aにより画像が投影される空間の範囲を示すものである。図3に示されるように、プロジェクタ202aの視錐台2020a内には、第1の物体としての物体(例えば、人の手)100が含まれている(すなわち、物体が存在している)。したがって、プロジェクタ202aにより投影される画像は、その一部が物体100により遮られている。
図4(a)及び(b)は、実施の形態1に係る光学機器制御装置1の動作を説明するための図である。図4(a)は、プロジェクタ202aの投影画像102を遮る物体が存在しない状態を示しており、図4(b)はプロジェクタ202aの投影画像102を遮る物体100が存在する状態を示している。
図4(a)に示されるように、プロジェクタ202aにより投影対象(対象物)としての投影面101上に投影画像102が投影されている。投影画像102には、個々のCG104が含まれる。投影画像102の中央部分には、プロジェクタ202aにより注釈を行う対象である部品(部品A)103が存在する。
また、投影画像102の右上部分には、部品103についてのCG(部品103が「部品A」であることを示す情報)104がプロジェクタ202aにより表示されている。CG104は、プロジェクタ202aにより投影される注釈のための付加情報である。図4(a)においては、プロジェクタ202aの投影画像102を遮る物体が存在しないため、CG(付加情報)104が観察者に視認可能である。
一方、図4(b)に示されるように、プロジェクタ202aの投影画像102を遮る物体100が存在する状態では、プロジェクタ202aの投影画像102の一部は、物体100によって遮られているため、投影画像102の一部に物体100の影である非投影領域(影領域)105が存在する。そして、図4(b)に示されるように、非投影領域105とCG104の配置位置(投影領域)とが重なっているため、CG104は観察者(例えば、部品103に対して手100による作業を行う作業者)にとって視認不能である。
図5(a)及び(b)は、実施の形態1に係る光学機器制御装置1の動作を説明するための図である。図5(a)及び(b)は、プロジェクタ202aの投影画像102を遮る物体100が存在する状態を示している。図5(a)及び(b)においては、CG104が非投影領域105と重なっており観察者にとって視認不能であることから、図4(a)及び(b)の状態からCG104の配置位置の移動(再配置)を行っている。
例えば、図5(a)ではCG104は投影画像102の左下に移動して表示されており、図5(b)ではCG104は投影画像102の左上に移動して表示されている。このように、実施の形態1に係る光学機器制御装置1は、CG104の配置位置が非投影領域105と重ならないように、CG104の配置位置の移動を行うことを特徴とする。これにより、物体100が存在してプロジェクタ202aの投影画像102の一部又は全部が遮られた場合であっても、CG104を観察者が視認可能とすることができる。
図6(a)から(c)は、実施の形態1に係る光学機器制御装置1の動作を説明するための図である。図6(a)から(c)は、プロジェクタ202aによって投影面101上に投影された投影画像102の平面図を示している。図6(a)から(c)は、投影画像102内に2個のCG(CG104a及びCG104b)104が含まれている状態を示している。
図6(a)は、プロジェクタ202aの投影画像102を遮る物体が存在しない状態を示しており、図6(b)及び(c)はプロジェクタ202aの投影画像102を遮る物体100が存在する状態を示している。図6(b)は、CG104bの移動前の状態を示しており、図6(c)はCG104bの移動後の状態を示している。
図6(a)に示されるように、投影画像102には、CG104として「部品A」を解説する(すなわち、「部品A」に関する)CG104a(第1の画像)と、「部品B」を解説するCG104b(第2の画像)とが含まれる。CG104aとCG104bとは、距離106ab離れて表示されている。
図6(b)に示されるように、物体100が存在することによって、「部品B」を解説するCG104bと物体100の影(すなわち、図5に示される非投影領域105)とが重なり、CG104bが観察者にとって視認不能となっているため、光学機器制御装置1は、CG104bの配置位置の移動(再配置)を行う。
図6(c)に示されるように、「部品B」を解説するCG104bは、図6(b)の状態から図における右上に移動されている。これにより、物体100の影とCG104bとが重なることがなくなり、CG104bが観察者にとって視認可能となる。移動後におけるCG104bの位置は、CG104bが物体100の影と重ならず、且つ、CG104bがCG104aと距離106ab′を確保できる位置であれば自由に設定可能である。距離106ab′は、例えば、予め決められた距離、CG104a及び物体100の影に重複しない範囲で、CG104bが投影画像102からはみ出さないようにする距離、又はユーザが指定した距離などにすることができる。
図7(a)から(d)は、実施の形態1に係る光学機器制御装置1の動作を説明するための図である。図7(a)から(d)は、プロジェクタ202aによって投影面101上に投影された投影画像102の平面図を示している。図7(a)から(d)は、投影画像102内に3個のCG(CG104a、CG104b、及びCG104c)104が含まれている状態を示している。
図7(a)は、CG104a,104b,104cの移動前の状態を示しており、図7(b)は、図7(a)に示されるCG104a,104b,104cの移動後の状態を示している。図7(c)は、CG104a,104b,104cの移動前の状態を示しており、図7(d)は、図7(c)に示されるCG104a,104b,104cの移動後の状態を示している。図7(a)及び(b)は、CG104a,104b,104cが互いに親子階層の属性(共通の属性)を有しない場合における移動の一例を示しており、図7(c)及び(d)は、CG104a,104b,104cが互いに親子階層の属性を有する場合における移動の一例を示している。
図7(a)に示されるように、投影画像102には、CG104として、「部品A」を解説するCG104aと、「部品B」を解説するCG104bと、「部品C」を解説するCG104cとが含まれている。CG104aとCG104bとの間には、距離106abで示される間隔が存在する。CG104aとCG104cとの間には、距離106acで示される間隔が存在する。
図7(a)に示されるように、物体100が存在することによって、「部品B」を解説するCG104b及び「部品C」を解説するCG104cと物体100の影とが重なる重複状態となり、CG104b及びCG104cが観察者にとって視認不能となっているため、図7(b)に示されるように、CG104b及びCG104cの配置位置の移動(再配置)を行う。
図7(b)に示されるように、「部品B」を解説するCG104bは、図における右上に移動している。これにより、物体100の影とCG104bとが重なることがなくなり、CG104bが観察者にとって視認可能となる。移動後におけるCG104bの位置は、CG104bが物体100の影及びCG104cと重ならず、且つ、CG104bがCG104aと距離106ab′を確保できる位置であれば自由に設定可能である。距離106ab′は、例えば、予め決められた距離、CG104a、CG104c、及び物体100の影に重複しない範囲で、CG104bが投影画像102からはみ出さないようにする距離、又はユーザが指定した距離などにすることができる。
図7(b)に示されるように、「部品C」を解説するCG104cは、図における左下に移動している。これにより、物体100の影とCG104cとが重なることがなくなり、CG104cが観察者にとって視認可能となる。移動後におけるCG104cの位置は、CG104cが物体100の影及びCG104bと重ならず、且つ、CG104cがCG104aと距離106ac′を確保できる位置であれば自由に設定可能である。距離106ac′は、例えば、予め決められた距離、CG104a、CG104b、及び物体100の影に重複しない範囲で、CG104cが投影画像102からはみ出さないようにする距離、又はユーザが指定した距離などにすることができる。
図7(c)及び(d)では、CG104bとCG104cとの間に親子階層の属性がある(例えば、CG104bが親で、CG104cが子である)場合について示されている。図7(c)に示されるように、投影画像102には、「部品A」を解説するCG104aと、「部品B」を解説するCG104bと、「部品C」を解説するCG104cとが含まれている。CG104aとCG104bとの間には、距離106abで示される間隔が存在する。
また、CG104bとCG104cとの間には、距離106bcで示される間隔が存在している。このような場合には、CG104bとCG104cとの間の距離106bc′が存在するように、CG104bとCG104cの配置位置の移動を行う。また、図7(a)及び(b)と同様に、CG104aとCG104bとの間の距離106ab′が存在するように、CG104bの配置位置の移動を行う。
図7(d)に示されるように、「部品B」を解説するCG104bと、「部品C」を解説するCG104cとは、図における左下に移動されている。これにより、物体100の影とCG104b及びCG104cとが重なることがなくなり、CG104b及びCG104cが視認可能となる。移動後におけるCG104cの位置は、CG104cが物体100の影及びCG104bと重ならず、且つ、CG104cがCG104aと距離106ac′を確保できる位置であれば自由に設定可能である。距離106ac′は、例えば、予め決められた距離、CG104a、CG104b、及び物体100の影に重複しない範囲で、CG104cが投影画像102からはみ出さないようにする距離、又はユーザが指定した距離などにすることができる。
また、移動後におけるCG104cの位置は、CG104cが物体100の影及びCG104aと重ならず、且つ、CG104cがCG104bと距離106bc′を確保できる位置であれば自由に設定可能である。距離106bc′は、CG104bとCG104cとの間に親子階層の属性等の共通の属性がある場合には、物体100の影及びCG104aと重ならない範囲内で、できるだけ短い距離であることが望ましい。具体的に言えば、CG104bとCG104cとが共通の属性を備える場合に、投影画像データの変更後におけるCG104bの投影位置とCG104cの投影位置との間の距離106bc′が、投影画像データの変更前におけるCG104bの投影位置とCG104cの投影位置との間の距離106bcより短くなるように、又は、予め決められた距離より短くなるように、投影画像データを変更する。
CG104(104a、104b、104c)の移動先は、元の位置に近い位置とすることが望ましい。また、CG104の移動先は、注釈を行う部品(オブジェクト)103に近い位置とすることが望ましい。また、CG104の移動距離は、短くすることが望ましい。光学機器制御装置1は、このような条件のもと、各CG104の移動を行う。
図8は、実施の形態1に係る光学機器制御装置1の動作を示すフローチャートである。図8に示される動作は、プロジェクタ202aと投影面101との間に光遮蔽物(物体100)があった場合、投影するCG104を任意の位置に投影できるかを判定し、投影できないと判断されたCG104は属性を考慮しつつ移動し、プロジェクタ202aから投影する投影画像102を生成し、実際に投影するまでのCG制御処理を示している。
以下、実施の形態1における光学機器制御装置1のCG制御処理について、図8を参照しながら説明する。ただし、光学機器制御装置1が行うCG制御処理は図8に示される処理と異なる処理であっても構わない。図8に示されるCG制御処理は、現実空間情報取得装置201に使用されるカメラ201a又はセンサ201bが現実空間情報G1を取得するごとに(例えば、一定の周期で)実行される。
図8に示されるように、ステップS11において、光学機器制御装置1は、現実空間情報取得装置201に、対象物を含む現実空間に基づく現実空間情報G1を取得させる。現実空間情報取得装置201がカメラ201aである場合には、カメラ201aは、現実空間情報G1として画像データを取得する。現実空間情報取得装置201がセンサ201bである場合には、センサ201bは、現実空間情報G1として検出値(例えば、深度センサの場合には距離情報)を取得する。
次のステップS12において、光学機器制御装置1は、現実空間情報取得装置201で取得した現実空間情報G1を基に、物体検出部11によってプロジェクタ202aと投影面101との間に物体100があるかを検出する。物体100が検出された場合(ステップS12においてYES)には、処理は次のステップS13に進む。
次のステップS13において、光学機器制御装置1は、重なり判定部12により、ステップS12で検出された物体100がCG104の投影を遮蔽しているかどうか(物体100の影とCG104とが重複状態であるか否か)を判定する。物体100がCG104を遮蔽していると判断された場合(ステップS13においてYES)には、処理は次のステップS14に進む。次のステップS14において、光学機器制御装置1は、ステップS13で遮蔽されていると判断されたCG104について、属性管理部13により記憶部16の移動フラグ16eを読み込み、移動フラグ16eを立てる。
次のステップS15において、光学機器制御装置1は、移動フラグ16eが立てられたCG104について、自身の位置及び属性と、他のCG104の位置及び属性とを基に、レイアウト計算部15によって目標となる位置までCG104を移動して投影画像102を生成する。このとき、移動フラグ16eが立てられたCG104は移動後の座標で、移動フラグ16eが立てられていないCG104はそのままの座標で投影画像102が生成される。
次のステップS16において、光学機器制御装置1は、画像投影装置202に、投影画像生成部14で生成した投影画像102を投影させる。
図9は、実施の形態1における物体検出処理の一例を示すフローチャートである。図9は、図8のステップS12における物体検出処理の一例を示している。ステップS21において、光学機器制御装置1は、現実空間情報取得装置201で取得した現実空間情報G1を基に、現実空間情報取得装置201で使用したデバイス(例えば、カメラ201a)の座標系2011aにおける物体100の位置及び形状を推定する。
次のステップS22において、光学機器制御装置1は、ステップS21で推定した結果(物体100の位置及び形状の情報)を、プロジェクタ座標系2021aにおける位置及び形状の情報に変換する。次のステップS23において、光学機器制御装置1は、プロジェクタの視錐台2020a内に物体100が存在するかどうかを判定する。物体100が視錐台2020a内に存在すると判定された場合には、図8のステップS12の判定がYESとなり、物体100が視錐台2020a内に存在しないと判定された場合には、図8のステップS12の判定がNOとなる。
図10は、実施の形態1における重なり判定処理の一例を示すフローチャートである。図10は、図8のステップS13におけるCG104の重なり判定処理の一例を示している。ステップS31において、光学機器制御装置1は、物体検出部11で検出した物体100をプロジェクタ画像座標系に投影する。
次のステップS32において、光学機器制御装置1は、投影された物体100の影の外形から物体100の影についての凸包(凸包絡)を生成する。なお、凸包とは、与えられた集合を含む最小の凸集合のことをいう。凸集合とは、与えられた集合内の任意の2点を結ぶ線分がこの集合に含まれるとき、この集合のことをいう。
次のステップS33において、光学機器制御装置1は、全てのCG104をプロジェクタ画像座標系に投影する。次のステップS34において、光学機器制御装置1は、投影されたCG104の外形から各CG104についての凸包を生成する。次のステップS35において、光学機器制御装置1は、検出した物体100の影の凸包とCG104の凸包とを1つずつ、総当たりで(すなわち、全ての組み合わせについて)抽出する。
次のステップS36において、光学機器制御装置1は、抽出した2つの凸包から共通部分の面積を計算し、この面積が予め定められた閾値(面積閾値)以上であるならばCG104と物体100の影とが重なっている(すなわち、重複状態である)と判断する。もし検出した物体100が複数ある場合は、この処理を物体100ごとに繰り返す。
なお、ステップS36の重なり判定の方法は、上記方法に限定されない。例えば、抽出した2つの凸包の共通部分の面積のCG104の凸包の面積に対する割合が、予め定められた割合(割合閾値)以上となった場合に、CG104と物体100の影とが重なっている(すなわち、重複状態である)と判断してもよい。
図11は、実施の形態1におけるCG104の移動処理の一例を示すフローチャートである。図11は、図8のステップS15におけるCG104の移動処理の一例を示している。ステップS41において、光学機器制御装置1は、処理ナンバーnを1とする。
次のステップS42において、光学機器制御装置1は、処理ナンバーnと投影画像102に含まれる投影するCG104の個数(総数)との比較を行い、処理ナンバーnが投影するCG104の個数以下の場合に、CG104の処理を続行する。処理ナンバーnが投影画像102に含まれるCG104の個数を上回った(すなわち、n>「CG104の個数」)場合(ステップS42においてYES)、CG104の移動処理は終了する。
処理ナンバーnが投影画像102に含まれるCG104の個数以下である場合(ステップS42においてNO)、処理はステップS43に進み、光学機器制御装置1は、CG104の移動フラグ16eが立っているかを確認する。移動フラグ16eが立っている場合(ステップS43においてYES)、次のステップS44からS47において、例えば、力学モデルによる描画アルゴリズムに従う計算を行う。
この描画アルゴリズムでは、複数の点(本願では、影とCG)の間に引力又は斥力が作用して、複数の点を近づけたり又は遠ざけたりする力学モデルにおいて、全ての点が安定した配置になるよう、互いに重ならないように点の位置を求める。
光学機器制御装置1は、CG104が受ける引力及び斥力の計算を行う。CG104は、例えば、物体100の影の位置から斥力を受け(ステップS44)、他のCG104から斥力を受け(ステップS45)、共通の属性(例えば、親子階層の属性)のCG104から引力を受け(ステップS46)、元の位置から引力を受ける(ステップS47)。
次のステップS48において、光学機器制御装置1は、CG104が受けた引力及び斥力を総合して、CG104の移動先の配置位置をレイアウト計算部15により計算する。次のステップS49において、光学機器制御装置1は、CG104の再配置座標16aを更新する。次のステップS50において、光学機器制御装置1は、処理ナンバーnを1インクリメントし、処理はステップS42に戻り、処理ナンバーnがCG104の個数を上回るまで処理を続行する。
《1−3》効果
以上に説明したように、実施の形態1に係る光学機器制御装置1、光学機器制御方法、及び光学機器制御プログラムによれば、物体検出部11と、重なり判定部12と、レイアウト計算部15を備え、重なり判定部12により物体100の影とCG104とが重なっている(重複状態にある)と判定された場合には、レイアウト計算部15により物体100の影と重ならない場所にCG104を移動して再配置する。これにより、光学機器(例えば、プロジェクタ202a)と投影対象(投影面101)との間に光遮蔽物(例えば、物体100)がある場合であっても、CG104を適切な場所に表示することができ、観察者に対して意図した情報を提供することができる。
実施の形態1に係る光学機器制御装置1、光学機器制御方法、及び光学機器制御プログラムによれば、複数のCG104(例えば、図7(c)、(d)における104b、104c)が互いに共通の属性を持つ場合には、これらの情報を基にCG104の配置位置が決定される。これにより、CG104同士に共通の属性があることが継続して表示され、観察者に対して意図した情報を提供することができる。
《2》実施の形態2
《2−1》構成
図12は、本発明の実施の形態2に係る光学機器制御装置1aの概略的な構成を示す機能ブロック図である。図12に示される光学機器制御装置1aは、図1に示される光学機器制御装置1と概して同じであるが、ユーザ視線推定部17を備える点が異なる。図12において、図1に示される構成要素と同一又は対応する構成要素には、図1に示される符号と同じ符号が付される。また、図1に示される構成と同一又は対応する構成については説明を省略する。
上記の実施の形態1では、プロジェクタ202aから投影されたCG104が物体100によって遮蔽された場合、CG104を移動させることで観察者に情報を提供するものについて説明を行った。しかし、実施の形態1では、観察者の視点及び視線(目の中心である視点と見ている対象とを結ぶ線)は考慮されていない。したがって、実施の形態2では、観察者の視線を考慮し、観察者と投影対象との間に物体(後述する物体100a)があっても観察者に意図した情報を提供することができる形態について記載する。なお、実施の形態2では、実施の形態1と同様に、光学機器(プロジェクタ202a)と投影対象との間に存在する物体100についても考慮する。
図12に示されるように、光学機器制御装置1aはユーザ視線推定部17を備える。ユーザ視線推定部17は、現実空間情報取得装置201で取得した現実空間情報G1を基に観察者(図13におけるユーザ203)の視線の推定を行う。ユーザ視線推定部17で推定されたユーザ203の視線に関する情報G7は、重なり判定部12に送られる。また、実施の形態2における物体検出部11aは、ユーザ203の視点と投影対象(投影面101)との間にある物体(第2の物体)100aの検出を行う。
重なり判定部12は、物体検出部11から受け取った検出物体情報G2と、ユーザ203の視線に関する情報G7と、属性管理部13から読み込んだCG104の情報G3とに基づいて、CG104の重なり判定を行う。重なり判定では、投影面101上において、CG104が物体検出部11により検出された物体100aによりユーザ203にとって視認不能となった視認不能領域(すなわち、物体100aによって視線が遮られて視認することができない領域)と重複状態にあるか否かを判定する。レイアウト計算部15は、CG104が物体100aによって視認不能となった視認不能領域以外の領域に投影されるように投影画像データG6を変更する。
図13は、実施の形態2に係る光学機器制御装置1aの動作を説明するための図である。図13に示されるように、実施の形態2に係る光学機器制御装置1aは実施の形態1に係る光学機器制御装置1とは異なり、プロジェクタ202aではなくユーザ203の視点203aが起点となっている。図13に示されるように、実施の形態2では、実施の形態1におけるプロジェクタ座標系2021aとプロジェクタの視錐台2020a(図3参照)とが、ユーザ座標系2031とユーザの視錐台2030とに置き換わっている。
ユーザ203の視錐台2030は、ユーザ203により視認される空間の範囲を示すものである。図13に示されるように、ユーザの視錐台2030内には、物体(第2の物体)100aが含まれている。したがって、ユーザ203により視認される画像は、その一部が物体100aにより遮られている。
図14は、実施の形態2における物体検出処理の一例を示すフローチャートである。図14は、図8のステップS12における物体検出処理の一例を示している。図14において、ステップS21からステップS23までの処理は、図9におけるステップS21からステップS23までの処理と同じである。次のステップS51において、光学機器制御装置1aは、ユーザ視線推定部17で推定したユーザ203の視線の位置をユーザ座標系2031に変換する。次のステップS52において、光学機器制御装置1aは、ユーザの視錐台2030内に物体100aがあるかどうかを判定する。
《2−2》効果
以上説明したように、実施の形態2に係る光学機器制御装置1a、光学機器制御方法、及び光学機器制御プログラムによれば、ユーザ視線推定部17が構成として追加されることにより、観察者(ユーザ203)の視点と投影対象(投影面101)との間に光遮蔽物(物体100)がある場合であっても、観察者が視認できる位置にCG104を表示することができ、観察者に意図した情報を提供することができる。
また、実施の形態2に係る光学機器制御装置1a、光学機器制御方法、及び光学機器制御プログラムによれば、実施の形態1に係る光学機器制御装置1、光学機器制御方法、及び光学機器制御プログラムと同様の効果が得られる。
《3》変形例
上記実施の形態1及び2においては、CG104を移動させることによってCG104を視認可能にしたが、CG104を縮小表示させることによって、又は、CG104の文字配列を変更する(例えば、横書きを縦書きに変更する)ことによって、又は、移動と縮小と文字配列の変更のいずれかの組み合わせによって、CG104を視認可能にしてもよい。
また、図7(b)及び(c)では、CG104bとCG104cとが親子階層の属性を持つ場合を説明したが、親子階層の属性を持つCG配置としたときにCGのいずれかが投影面101内に収まらない場合に、図7(a)及び(b)に示されるように親子階層の属性を考慮しないCG配置などの他の配置に切り換えるようにしてもよい。
1,1a 光学機器制御装置、 11,11a 物体検出部、 12 重なり判定部、
13 属性管理部、 14 投影画像生成部、 15 レイアウト計算部、 16 記憶部、 16a 再配置座標、 16b 階層、 16c 面積、 16d 配置座標、
16e 移動フラグ、 17 ユーザ視線推定部、 21 CPU、 22 GPU、
23 メインメモリ、 24 ストレージ、 25 バス、 100 物体、 101
投影面、 102 投影画像、 103 部品、 104 CG、 105 非投影領域、 106 距離、 201 現実空間情報取得装置、 201a カメラ、 201b センサ、 202 画像投影装置、 202a プロジェクタ、 203 ユーザ、
G1〜G7 情報。

Claims (9)

  1. 投影画像データに基づく投影画像を光学機器から対象物上に投影させる投影画像生成部と、
    現実空間情報取得装置によって取得された現実空間情報に基づいて、前記光学機器と前記対象物との間に存在する第1の物体を検出する物体検出部と、
    前記投影画像データと前記物体検出部による検出の結果とに基づいて、前記投影画像に含まれるグラフィクス画像が、前記投影画像が前記第1の物体によって前記対象物に到達しない領域である影と重複状態にあるか否かを判定する重なり判定部と、
    前記重なり判定部によって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記グラフィクス画像が前記影以外の領域に投影されるように前記投影画像データを変更する変更部と、
    前記重なり判定部によって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記変更部によって変更された投影画像データを前記投影画像データとして前記投影画像生成部に提供する管理部と、
    第1の画像及び第2の画像の属性を記憶する記憶部と、
    を有し、
    前記グラフィクス画像は、前記第1の画像と前記第2の画像とを含み、
    前記変更部は、前記重なり判定部によって前記第1の画像が前記影と前記重複状態にあると判定された場合に、力学モデルに基づいて前記第1の画像が受ける引力と斥力を算出し、算出した結果に基づいて、前記第2の画像の投影領域以外及び前記影以外の領域に前記第1の画像が投影されるように前記投影画像データを変更し、
    前記斥力は、前記影の位置に基づいて前記第1の画像が受ける力と、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力とを含み、
    前記引力は、前記第1の画像が投影された位置に基づいて前記第1の画像が受ける力であり、かつ前記第1の画像と前記第2の画像とが共通の前記属性を備える場合に、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力である
    ことを特徴とする光学機器制御装置。
  2. 前記影の位置に基づいて前記第1の画像が受ける力は、前記影の位置と前記第1の画像との間の距離が長いほど小さくなる、
    ことを特徴とする請求項1に記載の光学機器制御装置。
  3. 前記第1の画像が投影された位置に基づいて前記第1の画像が受ける力は、前記第1の画像が投影された位置と前記第1の画像との間の距離が長いほど大きくなる、
    ことを特徴とする請求項1又は2に記載の光学機器制御装置。
  4. 記変更部は、前記第1の画像と前記第2の画像とが共通の前記属性を備える場合に、前記投影画像データの変更後における前記第1の画像の投影位置と前記第2の画像の投影位置との間の距離が、前記投影画像データの変更前における前記第1の画像の投影位置と前記第2の画像の投影位置との間の距離より短くなるように、又は、予め決められた距離より短くなるように、前記投影画像データを変更する
    ことを特徴とする請求項1に記載の光学機器制御装置。
  5. 前記第1の画像の投影位置と前記第2の画像の投影位置との位置関係は、前記第1の画像の投影位置と前記第2の画像の投影位置との間の距離、及び前記第1の画像の投影位置の前記第2の画像の投影位置に対する配置方向の内の少なくとも一つに基づくものである
    ことを特徴とする請求項に記載の光学機器制御装置。
  6. 前記重なり判定部は、前記グラフィクス画像が前記影と前記重複状態にある部分の面積が予め定められた面積閾値以上である場合又は前記面積の前記グラフィクス画像に対する割合が予め定められた割合閾値以上である場合に、前記グラフィクス画像が前記影と前記重複状態にあると判定する
    ことを特徴とする請求項1からのいずれか1項に記載の光学機器制御装置。
  7. 前記現実空間情報取得装置によって取得された前記現実空間情報に基づいて、前記投影画像を観察する観察者の視線を推定する視線推定部を更に備え、
    前記物体検出部は、前記観察者の視点と前記対象物との間に存在する第2の物体を検出し、
    前記重なり判定部は、前記投影画像データと、前記視線推定部による推定の結果と、前記物体検出部による検出の結果とに基づいて、前記対象物上において、前記グラフィクス画像が前記物体検出部により検出された前記第2の物体により前記観察者に視認不能となった視認不能領域と前記重複状態にあるか否かを判定し、
    前記変更部は、前記重なり判定部により前記グラフィクス画像が前記視認不能領域と判定された場合に、前記グラフィクス画像が前記視認不能領域以外の領域に投影されるように前記投影画像データを変更する
    ことを特徴とする請求項1からのいずれか1項に記載の光学機器制御装置。
  8. 投影画像データに基づく投影画像を光学機器から対象物上に投影させる投影画像生成ステップと、
    現実空間情報取得装置によって取得された現実空間情報に基づいて、前記光学機器と前記対象物との間に存在する第1の物体を検出する物体検出ステップと、
    前記投影画像データと前記物体検出ステップによる検出の結果とに基づいて、前記投影画像に含まれるグラフィクス画像が、前記投影画像が前記第1の物体によって前記対象物に到達しない領域である影と重複状態にあるか否かを判定する重なり判定ステップと、
    前記重なり判定ステップによって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記グラフィクス画像が前記影以外の領域に投影されるように前記投影画像データを変更する変更ステップと、
    前記重なり判定ステップによって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記変更ステップによって変更された投影画像データを前記投影画像データとして前記投影画像生成ステップに提供する管理ステップと、
    を有し、
    前記グラフィクス画像は、第1の画像と第2の画像とを含み、
    前記変更ステップでは、前記重なり判定ステップによって前記第1の画像が前記影と前記重複状態にあると判定された場合に、力学モデルに基づいて前記第1の画像が受ける引力と斥力を算出し、算出した結果に基づいて、前記第2の画像の投影領域以外及び前記影以外の領域に前記第1の画像が投影されるように前記投影画像データを変更し、
    前記斥力は、前記影の位置に基づいて前記第1の画像が受ける力と、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力とを含み、
    前記引力は、前記第1の画像が投影された位置に基づいて前記第1の画像が受ける力であり、かつ前記第1の画像と前記第2の画像とが共通の属性を備える場合に、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力である
    ことを特徴とする光学機器制御方法。
  9. コンピュータに、
    投影画像データに基づく投影画像を光学機器から対象物上に投影させる投影画像生成処理と、
    現実空間情報取得装置によって取得された現実空間情報に基づいて、前記光学機器と前記対象物との間に存在する第1の物体を検出する物体検出処理と、
    前記投影画像データと前記物体検出処理による検出の結果とに基づいて、前記投影画像に含まれるグラフィクス画像が、前記投影画像が前記第1の物体によって前記対象物に到達しない領域である影と重複状態にあるか否かを判定する重なり判定処理と、
    前記重なり判定処理によって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記グラフィクス画像が前記影以外の領域に投影されるように前記投影画像データを変更する変更処理と、
    前記重なり判定処理によって前記グラフィクス画像が前記影と前記重複状態にあると判定された場合に、前記変更処理によって変更された投影画像データを前記投影画像データとして前記投影画像生成処理に提供する管理処理と、
    を実行させ、
    前記グラフィクス画像は、第1の画像と第2の画像とを含み、
    前記変更処理では、前記重なり判定処理によって前記第1の画像が前記影と前記重複状態にあると判定された場合に、力学モデルに基づいて前記第1の画像が受ける引力と斥力を算出し、算出した結果に基づいて、前記第2の画像の投影領域以外及び前記影以外の領域に前記第1の画像が投影されるように前記投影画像データを変更し、
    前記斥力は、前記影の位置に基づいて前記第1の画像が受ける力と、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力とを含み、
    前記引力は、前記第1の画像が投影された位置に基づいて前記第1の画像が受ける力であり、かつ前記第1の画像と前記第2の画像とが共通の属性を備える場合に、前記第2の画像の投影位置に基づいて前記第1の画像が受ける力である
    ことを特徴とする光学機器制御プログラム。
JP2018511512A 2017-08-31 2017-08-31 光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム Expired - Fee Related JP6456551B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/031300 WO2019043854A1 (ja) 2017-08-31 2017-08-31 光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム

Publications (2)

Publication Number Publication Date
JP6456551B1 true JP6456551B1 (ja) 2019-01-23
JPWO2019043854A1 JPWO2019043854A1 (ja) 2019-11-07

Family

ID=65037128

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018511512A Expired - Fee Related JP6456551B1 (ja) 2017-08-31 2017-08-31 光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム

Country Status (4)

Country Link
JP (1) JP6456551B1 (ja)
CN (1) CN111052218B (ja)
DE (1) DE112017007791B4 (ja)
WO (1) WO2019043854A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020143516A1 (zh) * 2019-01-07 2020-07-16 深圳市佛光照明有限公司 一种设置有发光标识的装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220400239A1 (en) * 2019-11-15 2022-12-15 Ntt Docomo, Inc. Information processing apparatus and projection system

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002029726A1 (en) * 2000-09-29 2002-04-11 Raytheon Company System and method for automatic placement of labels for interactive graphics applications
JP2005156591A (ja) * 2003-11-20 2005-06-16 Nippon Telegr & Teleph Corp <Ntt> 物品情報表示方法とそのシステム、サーバ装置、プログラム及びその記録媒体
JP2012058838A (ja) * 2010-09-06 2012-03-22 Sony Corp 画像処理装置、プログラム及び画像処理方法
JP2012098705A (ja) * 2010-10-07 2012-05-24 Nikon Corp 画像表示装置
JP2013156324A (ja) * 2012-01-27 2013-08-15 Seiko Epson Corp プロジェクター、および、プロジェクターによる画像投射方法
JP2015130555A (ja) * 2014-01-06 2015-07-16 株式会社東芝 画像処理装置、画像処理方法、および画像投影装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3874737B2 (ja) 2003-03-31 2007-01-31 株式会社東芝 表示装置
JP5092459B2 (ja) 2006-07-18 2012-12-05 富士ゼロックス株式会社 遠隔指示システム及び遠隔指示システム用のプログラム
JP2008158419A (ja) 2006-12-26 2008-07-10 Fuji Xerox Co Ltd 画像投影装置および画像制御システムおよび画像制御プログラム
US8007110B2 (en) 2007-12-28 2011-08-30 Motorola Mobility, Inc. Projector system employing depth perception to detect speaker position and gestures
JP5304848B2 (ja) * 2010-10-14 2013-10-02 株式会社ニコン プロジェクタ
JP6102215B2 (ja) * 2011-12-21 2017-03-29 株式会社リコー 画像処理装置、画像処理方法およびプログラム
JP5924020B2 (ja) * 2012-02-16 2016-05-25 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法
US9081418B1 (en) * 2013-03-11 2015-07-14 Rawles Llc Obtaining input from a virtual user interface
JP6263881B2 (ja) * 2013-07-10 2018-01-24 株式会社リコー 画像投射装置、画像投射装置の制御方法、および画像投射装置の制御プログラム
JP6459194B2 (ja) 2014-03-20 2019-01-30 セイコーエプソン株式会社 プロジェクター、及び投写画像制御方法
US9304599B2 (en) 2014-03-21 2016-04-05 Dell Products L.P. Gesture controlled adaptive projected information handling system input and output devices
JPWO2015170680A1 (ja) * 2014-05-09 2017-04-20 コニカミノルタ株式会社 投影システム
US20170070711A1 (en) * 2015-09-03 2017-03-09 Disney Enterprises, Inc. Intensity correction for projection systems

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002029726A1 (en) * 2000-09-29 2002-04-11 Raytheon Company System and method for automatic placement of labels for interactive graphics applications
JP2005156591A (ja) * 2003-11-20 2005-06-16 Nippon Telegr & Teleph Corp <Ntt> 物品情報表示方法とそのシステム、サーバ装置、プログラム及びその記録媒体
JP2012058838A (ja) * 2010-09-06 2012-03-22 Sony Corp 画像処理装置、プログラム及び画像処理方法
JP2012098705A (ja) * 2010-10-07 2012-05-24 Nikon Corp 画像表示装置
JP2013156324A (ja) * 2012-01-27 2013-08-15 Seiko Epson Corp プロジェクター、および、プロジェクターによる画像投射方法
JP2015130555A (ja) * 2014-01-06 2015-07-16 株式会社東芝 画像処理装置、画像処理方法、および画像投影装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020143516A1 (zh) * 2019-01-07 2020-07-16 深圳市佛光照明有限公司 一种设置有发光标识的装置

Also Published As

Publication number Publication date
WO2019043854A1 (ja) 2019-03-07
CN111052218A (zh) 2020-04-21
JPWO2019043854A1 (ja) 2019-11-07
DE112017007791B4 (de) 2021-10-07
CN111052218B (zh) 2022-04-19
DE112017007791T5 (de) 2020-04-16

Similar Documents

Publication Publication Date Title
TWI681663B (zh) 具有經由眼睛追蹤之延伸有效眼動範圍之近眼顯示器
CN109146965B (zh) 信息处理装置、计算机可读介质和头戴式显示装置
KR102298378B1 (ko) 정보 처리 장치, 정보 처리 방법, 및 프로그램
CN114647318A (zh) 跟踪设备的位置的方法
KR20180033138A (ko) 시선 검출 방법 및 장치
CN115509352A (zh) 使用传感器融合的经优化对象扫描
KR102539427B1 (ko) 화상 처리장치, 화상 처리방법, 및 기억매체
KR101661991B1 (ko) 모바일 확장 공간에서의 3d 드로잉을 지원하기 위한 hmd 장치 및 방법
KR102279300B1 (ko) 가상 물체 표시 제어 장치, 가상 물체 표시 시스템, 가상 물체 표시 제어 방법, 및 가상 물체 표시 제어 프로그램
JP6294054B2 (ja) 映像表示装置、映像提示方法及びプログラム
US11720996B2 (en) Camera-based transparent display
US9536351B1 (en) Third person view augmented reality
JP6456551B1 (ja) 光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム
CN110895433B (zh) 用于增强现实中用户交互的方法和装置
US11443719B2 (en) Information processing apparatus and information processing method
US20220300120A1 (en) Information processing apparatus, and control method
JP2018063567A (ja) 画像処理装置、画像処理方法およびプログラム
KR20230116765A (ko) 다중 카메라 홀 충전을 위한 방법 및 디바이스
CN109725728B (zh) 一种ar设备的显示修正方法和装置
JP6641525B2 (ja) 光学機器制御装置、光学機器制御方法、及び光学機器制御プログラム
US20230127539A1 (en) Information processing apparatus, information processing method, and information processing program
JP6482307B2 (ja) 情報処理装置およびその方法
CN115623185A (zh) 虚拟现实模拟器以及计算机可读取记录介质
CN115623184A (zh) 虚拟现实模拟器以及计算机可读取记录介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180301

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180301

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180301

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180508

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180807

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181218

R150 Certificate of patent or registration of utility model

Ref document number: 6456551

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees