JP6419118B2 - 画像表示システム - Google Patents

画像表示システム Download PDF

Info

Publication number
JP6419118B2
JP6419118B2 JP2016153668A JP2016153668A JP6419118B2 JP 6419118 B2 JP6419118 B2 JP 6419118B2 JP 2016153668 A JP2016153668 A JP 2016153668A JP 2016153668 A JP2016153668 A JP 2016153668A JP 6419118 B2 JP6419118 B2 JP 6419118B2
Authority
JP
Japan
Prior art keywords
image
eye
display
original
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016153668A
Other languages
English (en)
Other versions
JP2018023026A (ja
Inventor
正和 東原
正和 東原
和隆 猪口
和隆 猪口
丈慶 齋賀
丈慶 齋賀
順敬 斎藤
順敬 斎藤
恒樹 安孫子
恒樹 安孫子
裕 岡野
裕 岡野
俊樹 石野
俊樹 石野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016153668A priority Critical patent/JP6419118B2/ja
Priority to US15/664,194 priority patent/US20180041699A1/en
Publication of JP2018023026A publication Critical patent/JP2018023026A/ja
Application granted granted Critical
Publication of JP6419118B2 publication Critical patent/JP6419118B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0132Head-up displays characterised by optical features comprising binocular systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、観察者の頭部に装着され、撮像により取得した左眼用および右眼用撮像画像をそれぞれ観察者に左右の眼を通して観察させるビデオシースルー型のヘッドマウントディスプレイ(HMD)等の画像表示装置を用いた画像表示システムに関する。
上記のようなビデオシースルー型HMDは、現実の被写体を撮像して取得した撮像画像にCG(コンピュータグラフィクス)画像を重畳した表示画像をLCD等の表示素子に表示し、該表示素子からの光を表示光学系により観察者の眼に導く。このようなビデオシースルー型HMDは、撮像画像と表示画像との位置合わせを容易にする等の理由から、撮像する画角(以下、撮像画角という)が表示素子に表示する画角(以下、表示画角という)よりも広いことが望ましい。また、HMDを装着していない他の観察者も表示画像を観察することができるように、表示画像を外部表示装置に出力できることが望ましい。
このようなHMDは特許文献1および特許文献2に開示されている。特許文献1にて開示されたHMDは、その使用状況に応じて外部表示装置に出力する画像を切り替える。また、特許文献2にて開示されたHMDは、外部表示装置に出力する画像に対して表示光学系の歪逆補正やγ補正を行う画像補正部を有する。
特開2004−258123号公報 特開2006−041795号公報
しかしながら、表示画角が撮像画角よりも狭い場合において表示画像をそのまま外部表示装置に出力すると、外部表示装置を観察する観察者も狭い表示画角の表示画像しか観察することができない。外部表示装置を観察する観察者は、HMDを装着している観察者よりも広い表示画角の画像を観察できることが望ましい場合がある。特許文献1,2にて開示されたHMDは、外部表示装置に対して撮像画角より狭い表示画角の表示画像しか出力することができない。
本発明は、撮像画角が表示画角よりも広いビデオシースルー型HMDを用いる場合に、外部表示装置に出力可能な表示画像としてHMD内に表示する表示画像より広い表示画角に相当する画像を生成できるようにした画像表示システムを提供する。
本発明の一側面としての画像表示システムは、左眼用撮像画像および右眼用撮像画像をそれぞれ撮像により取得する左眼用撮像手段および右眼用撮像手段と、左眼用撮像画像および右眼用撮像画像である又は左眼用撮像画像および右眼用撮像画像のそれぞれに対して画像処理が行われることにより生成された左眼用処理画像および右眼用処理画像である左眼用原画像および右眼用原画像を用いて第1の左眼用表示画像および第1の右眼用表示画像を生成する第1の画像生成手段と、第1の左眼用表示画像および第1の右眼用表示画像をそれぞれ第1の観察者の左眼および右眼に観察させる第1の画像表示手段とを有する。第1の画像生成手段は、左眼用原画像および右眼用原画像のそれぞれの部分領域の画像に相当する第1の左眼用表示画像および前記第1の右眼用表示画像を生成する。左眼用原画像および右眼用原画像のうち少なくとも一方を用いて、上記部分領域を含み、かつ該部分領域より広い領域の画像に相当する第2の表示画像を生成する第2の画像生成手段をさらに有することを特徴とする。
なお、コンピュータを上記第1および第2の画像生成手段として機能させるコンピュータプログラムとしての画像表示プログラムも、本発明の他の一側面を構成する。
本発明によれば、撮像画角が第1の左眼用および右眼用表示画像のそれぞれの表示画角より広い場合において、該第1の左眼用および右眼用表示画像のそれぞれよりも広い表示画角の画像に相当する第2の表示画像を生成することができる。
本発明の実施例1であるビデオシースルー型HMDシステムの構成を示す図。 実施例1のHMDの構成を示す図。 実施例1のHMDシステムにおける撮像画像、広角モニタ用表示画像および左眼用表示画像を示す図。 本発明の実施例2であるビデオシースルー型HMDシステムの構成を示す図。 実施例2のHMDの構成を示す図。 実施例2のHMDを通して両眼で見える観察画像を示す図。 実施形2のHMDシステムにおける撮像画像、広角モニタ用表示画像および左眼用表示画像を示す図。 実施形2のHMDシステムにおける撮像画像、広角モニタ用表示画像および左眼用表示画像を示す図。 実施形2のHMDシステムにおける撮像画像、モニタ用合成表示画像および左眼用表示画像を示す図。 実施例1においてPCボードが実行する処理を示すフローチャート。
以下、本発明の実施例について図面を参照しながら説明する。
図1には、本発明の実施例1である画像表示システムとしてのビデオシースルー型HMDシステムの構成を示している。101はビデオシースルー型HMD(画像表示装置)、102はパーソナルコンピュータ、103は第2の画像表示手段としての外部モニタである。HMD101は不図示の観察者(第1の観察者:以下、HMD観察者という)の頭部に装着され、該HMD観察者の左眼および右眼に後述する左眼用表示画像および右眼用表示画像(の拡大虚像)を観察させる。
パーソナルコンピュータ102には、本HMDシステムの一部である画像処理装置としてのPCボード(第1の画像生成手段および第2の画像生成手段)120が組み込まれている。PCボード102は、画像表示用のコンピュータとして、コンピュータプログラムである画像表示プログラムに従って以下に説明する処理を行う。
PCボード120は、HMD101から出力された後述する左眼用撮像画像および右眼用撮像画像に対して画像処理を行うことにより左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する。PCボード120は、左眼用原画像および右眼用原画像を用いて第1の左眼用表示画像(以下、単に左眼用表示画像という)および第1の右眼用表示画像(以下、単に右眼用表示画像という)を生成し、これらをHMD201に出力する。また、PCボード120は、左眼用原画像および右眼用原画像のうち少なくとも一方を用いて後述する広角モニタ用表示画像(第2の表示画像)を生成し、画像出力手段として該広角モニタ用表示画像を外部モニタ103に出力する。
外部モニタ103は、入力された広角モニタ用表示画像を表示して、HMD観察者とは別の一人または複数人の観察者(第2の観察者:以下、モニタ観察者という)に観察させる。
図2には、HMD101の構成を示している。HMD101は、左眼用撮像部(左眼用撮像手段)104、右眼用撮像部(右眼用撮像手段)105、左眼用表示部106および右眼用表示部107を有する。左眼用表示部106および右眼用表示部107により、第1の画像表示手段が構成される。また、HMD101は、画像入出力部115を有する。
ビデオシースルー型であるHMD101は、現実世界を左眼用撮像部104と右眼用撮像部105によりそれぞれ撮像して左眼用撮像画像と右眼用撮像画像とを取得する。左眼用撮像部104は、左眼用撮像光学系104aと、左眼用撮像光学系104aにより形成された光学像としての被写体像を光電変換(撮像)する左眼用撮像素子104bとを有する。右眼用撮像部105は、右眼用撮像光学系105aと、右眼用撮像光学系105aにより形成された被写体像を撮像する右眼用撮像素子105bとを有する。
画像入出力部115は、左眼用および右眼用撮像部104,105がそれぞれ取得した左眼用および右眼用撮像画像をパーソナルコンピュータ102に装着されたPCボード120に出力する。
図10には、PCボード120が上述した画像表示プログラムに従って実行する処理の流れを示している。PCボード120は、画像入出力部115から出力された左眼用および右眼用撮像画像を取り込む(ステップS301)。
次に、PCボード120は、左眼用および右眼用撮像画像に対してそれぞれ別の画像であるCG画像を重畳する画像処理を行って、左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する(ステップS302)。そして、PCボード120は、左眼用および右眼用原画像からそれらの部分領域の画像を切り出して左眼用表示画像および右眼用表示画像を生成し、画像入出力部115に出力する(ステップS303)。
左眼用表示部106は、画像入出力部115から入力された左眼用表示画像を表示する左眼用表示素子106aと、左眼用表示素子106a(左眼用表示画像)からの光を左射出瞳に位置するHMD観察者の左眼108に導く右眼用表示光学系106bとを有する。右眼用表示部107は、画像入出力部115から入力された右眼用表示画像を表示する右眼用表示素子107aと、右眼用表示素子107a(右眼用表示画像)からの光を右射出瞳に配置されたHMD観察者の右眼109に導く右眼用表示光学系107bとを有する。
本実施例において、左眼用および右眼用撮像部104,105の水平方向での撮像画角はともに80度であり、左眼用および右眼用表示部106,107の水平方向での表示画角60度よりも広い。各撮像部の撮像画角が各表示部の表示画角より広いことで、各撮像部により取得した撮像画像から各表示画像を切り出す位置を調整して各表示部で表示する表示画像を生成することができ、撮像部と表示部との光軸のアライメント調整を容易に行うことができる。また、撮像画像を用いて現実世界の被写体距離の測定やCG画像の重畳のための特徴点検出を行う場合に、表示部における表示画角の端に存在する被写体に対しても精度良く被写体距離測定や特徴点検出を行うことができる。
図3(a)には、左眼用撮像部104が上述した撮像画角での撮像により取得した左眼用撮像画像を示している。また図3(b)には、PCボード120が左眼用撮像画像にCG画像110を重畳して生成した左眼用処理画像としての左眼用原画像を示す。さらに図3(c)には、左眼用原画像のうち一部である部分領域の画像に相当する左眼用表示画像を示す。PCボード120は、図3(b)に示す左眼用原画像から図3(c)に示すように左眼用表示部106での表示画角に合った部分領域を切り出して左眼用表示画像を生成する。
さらに、PCボード120は、外部モニタ103に、図3(b)に示した左眼用原画像を広角モニタ用表示画像として出力する(ステップS304)。
ここで、選択手段として機能するPCボード120は、外部モニタ103に、図3(b)に示した左眼用原画像を広角モニタ用表示画像として出力するか図3(c)に示した左眼用表示画像を出力するかを選択することができる。左眼用原画像に相当する広角モニタ用表示画像は、左眼用表示画像よりも広い領域を表示可能な画像である。PCボード120は、HMD観察者と同じ画像の観察を望むモニタ観察者による選択入力に応じて、図3(c)に示した左眼用表示画像を選択する。一方、HMD観察者が観察している画像よりも広い画角の画像の観察を望むモニタ観察者による選択入力に応じて、図3(b)に示した左眼用原画像を選択する。
図3(a)〜(c)を用いて説明した事項は、右眼用撮像画像、右眼用原画像および右眼用表示画素についても当てはまる。すなわち、PCボード120は、右眼用撮像画像にCG画像110を重畳することで右眼用処理画像としての右眼用原画像を生成する。そして、右眼用原画像から右眼用表示部107での表示画角に合った部分領域を切り出して右眼用表示画像を生成する。さらに、PCボード120は、外部モニタ103に、右眼用原画像を広角モニタ用表示画像として出力するか右眼用表示画像を出力するかを選択することができる。
また、外部モニタ103が2台ある場合には、PCボード120は、一方の外部モニタ103に左眼用原画像から生成された左眼用表示画像を表示させ、他方の外部モニタ103に右眼用原画像から生成された右眼用表示画像を表示させてもよい。また、一方の外部モニタ103に表示画角が広い図3(b)に示す左眼用原画像(広角モニタ用表示画像)を表示させ、他方の外部モニタ103に図3(c)に示す左眼用表示画像を表示させてもよい。
さらに、各撮像画像(例えば左眼用撮像画像)のアスペクト比が外部モニタ103のアスペクト比と異なる場合には、PCボード120は、左眼用原画像から外部モニタ103のアスペクト比に合った部分領域を切り出して左眼用表示画像を生成してもよい。また、これに代えて、切り出した左眼用表示画像を外部モニタ103のアスペクト比に合わせて拡大・縮小してもよい。
また、PCボード120は、図10に示した処理とは異なり、撮像画像の取り込み⇒広角モニタ用表示画像の切り出し⇒CG画像の重畳⇒表示画像の切り出しという流れで処理を行ってもよい。CG画像を重畳する処理やCG重畳画像に対する処理や伝送の負荷が大きいため、CG重畳処理を施す画像はできるだけ軽い(小さい)画像データであることが望ましいためである。
図4には、本発明の実施例2である画像表示システムとしてのビデオシースルー型HMDシステムの構成を示している。201はビデオシースルー型HMD(画像表示装置)、202はパーソナルコンピュータ、203,204はそれぞれ第2の画像表示手段としての2台の外部モニタである。HMD201は不図示のHMD観察者の頭部に装着され、該HMD観察者の左眼および右眼に後述する左眼用表示画像および右眼用表示画像(の拡大虚像)を観察させる。
パーソナルコンピュータ202には、本HMDシステムの一部である画像処理装置としてのPCボード(第1の画像生成手段および第2の画像生成手段)220が組み込まれている。PCボード202は、画像表示用のコンピュータとして、コンピュータプログラムである画像表示プログラムに従って以下に説明する処理を行う。
PCボード220は、HMD201から入力された後述する左眼用撮像画像および右眼用撮像画像に対して画像処理を行うことで左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する。PCボード220は、左眼用原画像および右眼用原画像を用いて第1の左眼用表示画像(以下、単に左眼用表示画像という)および第1の右眼用表示画像(以下、単に右眼用表示画像という)を生成し、これらをHMD201に出力する。また、PCボード220は、左眼用原画像および右眼用原画像のうち少なくとも一方を用いて後述する広角モニタ用表示画像(第2の表示画像)を生成する。そして、PCボード220は、画像出力手段として該広角モニタ用表示画像、左眼用表示画像および右眼用表示画像のいずれかを外部モニタ203,204に出力する。
外部モニタ203,204は、入力された広角モニタ用表示画像、左眼用表示画像および右眼用表示画像のいずれかを表示して、HMD観察者とは別の一人または複数人のモニタ観察者に観察させる。
図5には、HMD201の構成を示している。HMD201は、左眼用撮像部(左眼用撮像手段)205、右眼用撮像部(右眼用撮像手段)206、左眼用表示部207および右眼用表示部208を有する。左眼用表示部207および右眼用表示部208により、第1の画像表示手段が構成される。また、HMD201は、画像入出力部215を有する。
ビデオシースルー型であるHMD201は、現実世界を左眼用撮像部205と右眼用撮像部206によりそれぞれ撮像して左眼用撮像画像と右眼用撮像画像とを取得する。左眼用撮像部205は、左眼用撮像光学系205aと、左眼用撮像光学系205aにより形成された光学像としての被写体像を光電変換(撮像)する左眼用撮像素子205bとを有する。右眼用撮像部206は、右眼用撮像光学系206aと、右眼用撮像光学系206aにより形成された被写体像を撮像する右眼用撮像素子206bとを有する。
画像入出力部215は、左眼用および右眼用撮像部205,206がそれぞれ取得した左眼用および右眼用撮像画像をパーソナルコンピュータ202に装着されたPCボード220に出力する。PCボード220は、左眼用および右眼用撮像画像に対してそれぞれ別の画像であるCG画像を重畳する画像処理を行って左眼用処理画像および右眼用処理画像としての左眼用原画像および右眼用原画像を生成する。そして、PCボード220は、左眼用および右眼用原画像からそれらの部分領域の画像に相当する左眼用表示画像および右眼用表示画像を生成し、画像入出力部215に出力する。
左眼用表示部207は、画像入出力部215から入力された左眼用表示画像を表示する左眼用表示素子207aと、左眼用表示素子207a(左眼用表示画像)からの光を左射出瞳に配置されたHMD観察者の左眼209に導く右眼用表示光学系207bとを有する。右眼用表示部208は、画像入出力部215から入力された右眼用表示画像を表示する右眼用表示素子208aと、右眼用表示素子208a(右眼用表示画像)からの光を右射出瞳に配置されたHMD観察者の右眼210に導く右眼用表示光学系208bとを有する。
本実施例において、左眼用および左眼用撮像部205,206の水平方向での撮像画角はともに90度であり、左眼用および右眼用表示部207,208の水平方向での表示画角80度よりも広い。実施例1でも述べたように、各撮像部の撮像画角が各表示部の表示画角より広いことで、撮像部と表示部との光軸のアライメント調整を容易に行うことができる。また、撮像画像を用いて、表示部における表示画角の端に存在する被写体に対しても精度良く被写体距離測定や特徴点検出を行うことができる。
本実施例では、左眼用表示部207の水平方向での表示画角は、HMD観察者の左眼209の視軸を挟んで左側が40度で右側が20度であり、左側(すなわち外側)の方が右側(すなわち内側)よりも大きい。一方、右眼用表示部208の水平方向での表示画角は、HMD観察者の右眼210の視軸を挟んで右側が40度で左側が20度であり、右側(すなわち外側)の方が左側(すなわち内側)よりも大きい。このような表示画角の設定により、左眼用表示部207と右眼用表示部208のそれぞれの水平表示画角は60度であるものの、HMD観察者が両眼(209,210)で観察可能な水平表示画角は80度となり、広画角化が可能である。
図6には、左眼用表示部207の左眼用表示素子207aに左眼用表示画像211が表示され、右眼用表示部208の右眼用表示素子208aに右眼用表示画像212が表示されたときにHMD観察者が両眼を通して見る観察画像230を示す。左眼による左眼用表示画像211の観察画像と右眼による右眼用表示画像212の観察画像とがHMD観察者の脳内で融像されることで観察画像230が観察される。
左眼用表示画像212のうち左側の領域である左眼画像領域は左眼だけで観察され、右眼用表示画像212のうち右側の領域である右眼画像領域は右眼だけで観察される。そして、左眼用表示画像211のうち左眼画像領域より右側の領域および右眼用表示画像212のうち右眼画像領域より左側の領域である両眼画像領域はそれぞれ、左眼および右眼を通して互いに重なり合うように観察される。
図7(a)には、左眼用撮像部205が上述した撮像画角での撮像により取得した左眼用撮像画像を示している。また図7(b)には、PCボード220が左眼用撮像画像にCG画像213を重畳して生成した左眼用処理画像としての左眼用原画像を示す。さらに図7(c)には、左眼用原画像のうち一部である部分領域の画像に相当する左眼用表示画像を示す。PCボード220は、図7(b)に示す左眼用原画像から図7(c)に示すように左眼用表示部207での表示画角に合った部分領域を切り出して左眼用表示画像を生成する。
さらに、選択手段としてのPCボード220は、外部モニタ203に、図7(b)に示した左眼用原画像を広角モニタ用表示画像として出力するか図7(c)に示した左眼用表示画像を出力するかを選択することができる。左眼用原画像に相当する広角モニタ用表示画像は、左眼用表示画像よりも広い領域を表示可能な画像である。PCボード220は、HMD観察者と同じ画像の観察を望むモニタ観察者による選択入力に応じて、図7(c)に示した左眼用表示画像を選択する。一方、HMD観察者が観察している画像よりも広い画角の画像の観察を望むモニタ観察者による選択入力に応じて、図7(b)に示した左眼用原画像(広角モニタ用表示画像)を選択する。
図7(a)〜(c)を用いて説明した事項は、右眼用撮像画像、右眼用原画像および右眼用表示画素についても当てはまる。すなわち、PCボード220は、右眼用撮像画像にCG画像213を重畳することで右眼用原画像を生成する。そして、右眼用原画像から右眼用表示部208での表示画角に合った部分領域を切り出して右眼用表示画像を生成する。さらに、PCボード220は、外部モニタ204に、右眼用原画像を広角モニタ用表示画像として出力するか右眼用表示画像を出力するかを選択することができる。
また、PCボード220は、図8(a)に示す左眼用撮像画像から図8(b)に示すように予め切り出した両眼で観察可能な水平表示画角80度に相当する部分領域の画像に対してCG画像213を重畳してもよい。これにより、左眼用撮像画像よりも画角が小さい左眼用原画像を生成することができる。そして、PCボード220は、図8(b)に示す左眼用原画像から図8(c)に示すように左眼用表示部207での表示画角に合った部分領域を切り出して左眼用表示画像を生成してもよい。このような処理を行うことで、CG画像を重畳する画像処理を行う左眼用原画像のサイズが小さくなり、該画像処理や画像転送の負荷を低減することができる。さらに、外部モニタ203に図8(b)に示す左眼用原画像を表示すれば、HMD観察者が両眼で観察している水平表示画角80度の融像観察画像をモニタ観察者も観察することができる。
図8(a)〜(c)を用いて説明した事項は、右眼用撮像画像、右眼用原画像および右眼用表示画素についても当てはまる。すなわち、PCボード220は、右眼用撮像画像から予め切り出した両眼で観察可能な水平表示画角80度に相当する部分領域の画像に対してCG画像213を重畳して右眼用原画像を生成してもよい。また、PCボード220は、右眼用原画像から右眼用表示部208での表示画角に合った部分領域を切り出して右眼用表示画像を生成してもよい。さらに、外部モニタ204に右眼用原画像を表示すれば、HMD観察者が両眼で観察している水平表示画角80度の融像観察画像をモニタ観察者も観察することができる。
なお、本実施例において、外部モニタが1台のみである場合には、該外部モニタに表示させる画像として、先の説明において外部モニタ203、204のそれぞれに表示された画像のうち1つを選択すればよい。また、PCボード220は、図9に示すように左眼用表示画像と右眼用表示画像とが左右に並ぶようにこれらを合成することで生成したモニタ用合成表示画像214を1台の外部モニタ(203または204)に表示してもよい。この際、外部モニタにおいて画像が表示されない部分は黒表示状態としてもよいし、任意の画像を表示してもよい。また、外部モニタのアスペクト比に合わせて表示する合成表示画像を拡大・縮小してもよい。
各実施例では、PCボード(101,202)が左眼と右眼用の撮像画像にCG画像を重畳して原画像を生成する処理と、原画像から部分領域を切り出して表示画像を生成する処理と、原画像から広角モニタ用表示画像を生成する処理とを行う場合について説明した。つまり、PCボードが第1および第2の画像生成手段として機能する場合について説明した。しかし、例えば各撮像画像に対してCG画像の重畳を行わずに各撮像画像を原画像として用いる場合には、該原画像から部分領域を切り出して表示画像を生成する処理をHMD(101,201)に設けられた画像入出力部(115,215)が行ってもよい。つまり、画像入出力部に第1の画像生成手段としての機能を持たせてもよい。この場合、画像入出力部から原画像が入力されたPCボードが該原画像から広角モニタ用表示画像を生成する第2の画像生成手段として機能すればよい。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
101,201 HMD
102,202 PCボード
103,203,204 外部モニタ
104,205 左眼用撮像部
105,206 右眼用撮像部
106,207 左眼用表示部
107,208 右眼用表示部

Claims (9)

  1. 左眼用撮像画像および右眼用撮像画像をそれぞれ撮像により取得する左眼用撮像手段および右眼用撮像手段と、
    前記左眼用撮像画像および前記右眼用撮像画像である又は前記左眼用撮像画像および前記右眼用撮像画像のそれぞれに対して画像処理が行われることにより生成された左眼用処理画像および右眼用処理画像である左眼用原画像および右眼用原画像を用いて第1の左眼用表示画像および第1の右眼用表示画像を生成する第1の画像生成手段と、
    前記第1の左眼用表示画像および前記第1の右眼用表示画像をそれぞれ第1の観察者の左眼および右眼に観察させる第1の画像表示手段とを有し、
    前記第1の画像生成手段は、前記左眼用原画像および前記右眼用原画像のそれぞれの部分領域の画像に相当する前記第1の左眼用表示画像および前記第1の右眼用表示画像を生成し、
    前記左眼用原画像および前記右眼用原画像のうち少なくとも一方を用いて、前記部分領域を含み、かつ該部分領域より広い領域の画像に相当する第2の表示画像を生成する第2の画像生成手段をさらに有することを特徴とする画像表示システム。
  2. 前記第1の左眼用表示画像および前記第1の右眼用表示画像はともに、前記左眼用原画像および前記右眼用原画像のうち前記左眼および前記右眼により互いに重なり合って観察される両眼画像領域を含み、
    前記第1の左眼用表示画像は、前記両眼画像領域と前記左眼により観察される左眼画像領域とを含み、
    前記第1の右眼用表示画像は、前記両眼画像領域と前記右眼により観察される右眼画像領域とを含むことを特徴とする請求項1に記載の画像表示システム。
  3. 前記第2の表示画像は、前記両眼画像領域、前記右眼画像領域および前記左眼画像領域を含むことを特徴とする請求項2に記載の画像表示システム。
  4. 前記画像処理は、前記左眼用撮像画像および前記右眼用撮像画像に別の画像を重畳する処理であることを特徴とする請求項1から3のいずれか一項に記載の画像表示システム。
  5. 前記第1の観察者とは異なる第2の観察者による観察が可能な第2の画像表示手段を含み、
    前記第2の画像表示手段に前記第2の表示画像を表示させる画像出力手段を有することを特徴とする請求項1から4のいずれか一項に記載の画像表示システム。
  6. 前記第2の画像表示手段に表示させる画像を、前記第2の表示画像、前記第1の左眼用表示画像および前記第1の右眼用表示画像のなかから選択する選択手段を有することを特徴とする請求項5に記載の画像表示システム。
  7. 前記第2の画像生成手段は、前記第2の画像表示手段に表示させる画像として、前記第1の左眼用表示画像および前記第1の右眼用表示画像を合成した合成表示画像を生成することを特徴とする請求項5または6に記載の画像表示システム。
  8. 前記左眼用および右眼用撮像手段および前記第1の画像表示手段を有する画像表示装置と、
    前記第2の画像生成手段を有する画像処理装置とを含み、
    前記第1の画像生成手段は、前記画像表示装置および前記画像処理装置のうち一方に含まれていることを特徴とする請求項1から7のいずれか一項に記載の画像表示システム。
  9. 左眼用撮像画像および右眼用撮像画像をそれぞれ撮像により取得する左眼用撮像手段および右眼用撮像手段と、第1の左眼用表示画像および第1の右眼用表示画像をそれぞれ第1の観察者の左眼および右眼に観察させる第1の画像表示手段とを含む画像表示システムのコンピュータに処理を実行させるコンピュータプログラムであって、
    前記コンピュータに、
    前記左眼用撮像画像および前記右眼用撮像画像である又は前記左眼用撮像画像および前記右眼用撮像画像のそれぞれに対して画像処理が行われることにより生成された左眼用処理画像および右眼用処理画像である左眼用原画像および右眼用原画像のそれぞれの部分領域の画像に相当する前記第1の左眼用表示画像および第1の右眼用表示画像を生成させ、
    前記左眼用原画像および前記右眼用原画像のうち少なくとも一方を用いて、前記部分領域を含み、かつ該部分領域より広い領域の画像に相当する第2の表示画像を生成させることを特徴とする画像表示プログラム。
JP2016153668A 2016-08-04 2016-08-04 画像表示システム Active JP6419118B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016153668A JP6419118B2 (ja) 2016-08-04 2016-08-04 画像表示システム
US15/664,194 US20180041699A1 (en) 2016-08-04 2017-07-31 Image display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016153668A JP6419118B2 (ja) 2016-08-04 2016-08-04 画像表示システム

Publications (2)

Publication Number Publication Date
JP2018023026A JP2018023026A (ja) 2018-02-08
JP6419118B2 true JP6419118B2 (ja) 2018-11-07

Family

ID=61069836

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016153668A Active JP6419118B2 (ja) 2016-08-04 2016-08-04 画像表示システム

Country Status (2)

Country Link
US (1) US20180041699A1 (ja)
JP (1) JP6419118B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108415170A (zh) * 2018-05-29 2018-08-17 深圳宇博先进科技有限公司 头戴显示装置
JP7358258B2 (ja) * 2020-01-28 2023-10-10 キヤノン株式会社 画像観察装置
CN112235561B (zh) * 2020-10-16 2022-07-22 深圳市时代华影科技股份有限公司 Led显示屏、显示方法及装置、计算机可读存储介质
JP2023177422A (ja) 2022-06-02 2023-12-14 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
WO2024057153A1 (en) * 2022-09-12 2024-03-21 Alcon Inc. Automated image guidance for ophthalmic surgery

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4208601B2 (ja) * 2003-02-24 2009-01-14 キヤノン株式会社 表示制御方法、及び表示制御装置
JP2006041795A (ja) * 2004-07-26 2006-02-09 Canon Inc 画像表示装置
JP2011010126A (ja) * 2009-06-26 2011-01-13 Canon Inc 画像処理装置、画像処理方法
US10262462B2 (en) * 2014-04-18 2019-04-16 Magic Leap, Inc. Systems and methods for augmented and virtual reality
GB2536650A (en) * 2015-03-24 2016-09-28 Augmedics Ltd Method and system for combining video-based and optic-based augmented reality in a near eye display
JP6646361B2 (ja) * 2015-04-27 2020-02-14 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
JP2018023026A (ja) 2018-02-08
US20180041699A1 (en) 2018-02-08

Similar Documents

Publication Publication Date Title
JP6419118B2 (ja) 画像表示システム
JP3984907B2 (ja) 画像観察システム
JP6252849B2 (ja) 撮像装置および方法
EP3369405B1 (en) Surgical microscope, image processing device, and image processing method
JP6908039B2 (ja) 画像処理装置、画像処理方法、プログラム、及び画像処理システム
JP2009210840A (ja) 立体画像表示装置および方法並びにプログラム
JP2017509925A (ja) 3dビデオ顕微鏡装置
JP6296365B2 (ja) 手術内視鏡用カメラコントロールユニット
JP6021328B2 (ja) 情報処理装置、情報処理装置の制御方法、およびプログラム
JP2006208407A (ja) 立体画像観察用顕微鏡システム
JP4580678B2 (ja) 注視点位置表示装置
JP2011010126A (ja) 画像処理装置、画像処理方法
JP2010181826A (ja) 立体画像形成装置
JP6641122B2 (ja) 表示装置及び情報処理装置及びその制御方法
JP6618260B2 (ja) 情報処理装置、情報処理方法、プログラム
JP2018133746A (ja) 画像処理装置、画像処理システム、画像処理方法及びプログラム
WO2016157923A1 (ja) 情報処理装置及び情報処理方法
JP7118650B2 (ja) 表示装置
JP2015007722A (ja) 画像表示装置
JP2015228543A (ja) 電子機器および表示処理方法
JP6858007B2 (ja) 画像処理システム、画像処理方法
JP2006340017A (ja) 立体映像表示装置及び立体映像表示方法
JP6915368B2 (ja) 多焦点視覚出力方法、多焦点視覚出力装置
JP2017098596A (ja) 画像生成方法及び画像生成装置
JPH02291787A (ja) 広視野表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180724

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180724

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180904

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180911

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181009

R151 Written notification of patent or utility model registration

Ref document number: 6419118

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151