JP7066414B2 - 画像処理装置、表示システム、画像処理方法及びプログラム - Google Patents
画像処理装置、表示システム、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP7066414B2 JP7066414B2 JP2018001741A JP2018001741A JP7066414B2 JP 7066414 B2 JP7066414 B2 JP 7066414B2 JP 2018001741 A JP2018001741 A JP 2018001741A JP 2018001741 A JP2018001741 A JP 2018001741A JP 7066414 B2 JP7066414 B2 JP 7066414B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- head
- display
- correction
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 86
- 238000003672 processing method Methods 0.000 title claims 3
- 230000003287 optical effect Effects 0.000 claims description 124
- 238000012937 correction Methods 0.000 claims description 109
- 238000000034 method Methods 0.000 claims description 62
- 230000008569 process Effects 0.000 claims description 50
- 238000006243 chemical reaction Methods 0.000 claims description 24
- 238000001514 detection method Methods 0.000 claims description 17
- 230000004044 response Effects 0.000 claims description 2
- 210000003128 head Anatomy 0.000 description 79
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 63
- 238000004364 calculation method Methods 0.000 description 53
- 239000011295 pitch Substances 0.000 description 25
- 101100347655 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) NAB3 gene Proteins 0.000 description 19
- 230000004075 alteration Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 12
- 230000001133 acceleration Effects 0.000 description 8
- 238000003702 image correction Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 6
- 230000000873 masking effect Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004886 head movement Effects 0.000 description 3
- 210000001747 pupil Anatomy 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000003705 background correction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 201000009482 yaws Diseases 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Transforming Electric Information Into Light Information (AREA)
- Controls And Circuits For Display Device (AREA)
Description
<第1実施形態>
図1は、第1実施形態の画像表示装置と画像処理装置からなる表示システムの概略的な構成例を示した図である。
本実施形態のシステムは、画像表示装置(1)と画像処理装置15を有して構成されている。本実施形態の場合、画像表示装置(1)は頭部装着型画像表示装置(ヘッドマウントディスプレイ、以下、HMD1とする。)であり、使用者であるユーザの頭部に装着される。画像処理装置15は、ケーブル又は無線によりHMD1と接続可能となされており、受信により入力された画像に対して後述する画像処理を行ってHMD1に送信する。なお、本実施形態では、HMD1と画像処理装置15が別々の構成となされた例を挙げているが、これらHMD1と画像処理装置15は一体化されて一つの頭部装着型画像表示装置を構成していても良い。
本実施形態では、HMD1がユーザ2の頭部に装着されている場合の、当該ユーザ2の頭部に対して、図2に示すような、ロール(Roll)軸R、ピッチ(Pitch)軸P、ヨー(Yaw)軸Yをそれぞれ定義する。ロール軸Rは、ユーザ2が顔を向けている方向(例えば視線方向)に対応した軸である。本実施形態では、ユーザ2がロール軸Rを回転軸として頭部を傾ける動作をロール動作と定義する。ピッチ軸Pは、ユーザ2が頭部を縦に振る(頭部を垂直方向に上下に振る、例えばうなずく動作)場合の回転軸に相当する。本実施形態では、ユーザ2がピッチ軸Pを回転軸として頭部を縦に振る動作をピッチ動作と定義する。ヨー軸Yは、ユーザ2が頭部を横に振る(頭部を水平方向に左右に振る、例えば首を横に振る動作)場合の回転軸に相当する。本実施形態では、ユーザ2がヨー軸Yを回転軸として頭部を横に振る動作をヨー動作と定義する。
画像受信部153は、画像データを受信する。本実施形態において、画像受信部153が受信する画像データは、例えば、不図示のビデオカメラにより撮像された撮像画像に、同じく不図示のパーソナルコンピュータ(以下、PCとする。)にてCG画像が重畳等された画像データであるとする。また本実施形態において、ビデオカメラは、HMD1を装着しているユーザ2の瞳位置から観察される被写体と略一致する被写体を撮影しているとする。したがって、本実施形態において、画像受信部153は、ビデオカメラが撮像した撮像画像に対してCG画像等が重畳されたMR体験画像の画像データを受信する。
アスペクト変換の様子を図3(a)~図3(c)を用いて説明する。図3(a)は、表示素子112のアスペクト比が例えば4:3である場合に、表示光学系補正部151に供給される入力画像301の一例を示している。このときの入力画像301は、表示素子112と同じアスペクト比4:3である。表示光学系補正部151は、この入力画像を光学特性記憶部12の光学特性情報に基づいてアスペクト変換し、図3(b)のように垂直方向にのみ拡大した画像302を生成する。そして、この図3(b)の画像302を表示素子112に表示して、アナモルフィック光学系である表示光学系111を介した画像は、図3(c)のような16:10の画像303となる。したがって、HMD1を装着しているユーザは、図3(c)のような16:10の画像303を観察できることになる。このように、アナモルフィック光学系を使用する場合は、縦長の画像を表示素子112に表示させることによって、HMD1のユーザに対して適切なアスペクト比の体験画像を提示することができる。
表示素子112に例えば図4(a)のような画像401を表示し、歪曲収差を有する表示光学系111を介して観察した場合、図4(b)のように糸巻き型に歪んだ画像402が見えることになる。これは、表示光学系111が歪曲収差を有するためである。このような歪みを改善するため、表示光学系補正部151は、光学特性記憶部12の光学特性情報に基づいて、画像402の糸巻き型の歪みとは逆に歪ませた画像、つまり図4(c)に示すような画像403を作成する。この図4(c)の画像403を表示素子112に表示し、さらに表示光学系111を介して観察すると、歪みが低減された画像が観察されることになる。
疑似遅延補正部152は、システムにより生ずる遅延(システムレイテンシ)を疑似的に補正するために、演算部14より入力された画像移動量と画像変形量の情報を基に、画像受信部153より入力された画像に画像変換を行う。システムレイテンシの疑似的補正のための画像変換は、例えば水平方向の移動、垂直方向の移動、画像の回転、画像の拡大縮小などである。画像変換の方法としては、フレームバッファやラインバッファを用い、画像変換アルゴリズム(バイリニアやバイキュービックなど)などの計算を行う方法や、映像の同期信号をずらすことで疑似的に映像をずらす方法などが該当する。このような画像変換を行い、システムレイテンシによる画像遅延を疑似的に補正することによって、HMD1を装着しているユーザが画像を観る際に感ずる違和感を低減(緩和)することが可能になる。
図7(a)はHMD1を装着したユーザ2が頭部を動かす動作を行っていない頭部動作なしの場合における、画像と現実世界及びユーザの状態とを表した図である。図7(a)において、画像701aは表示部11を介してユーザ2が観察している画像を示している。状態702aは画像701aを観察中のユーザ2を頭上から見た現実世界の様子を、状態703aは画像701aを観察中のユーザ2を横から見た様子、状態704aは画像701aを観察中のユーザ2を正面から見た様子をそれぞれ示している。
図7(b)はHMD1を装着したユーザ2が頭部をヨー動作した場合の、画像と現実世界及びユーザの状態とを表した図である。以下同様に、図7(c)はユーザ2が頭部をピッチ動作した場合、図7(d)はユーザ2が頭部をロール動作した場合、図7(e)はユーザ2が頭部を前後に動作した場合の、各画像と現実世界及びユーザ2の状態とを表した図である。これら図7(b)~図7(e)において、画像701b~701e、状態702b~702e、状態703b~703e、状態704b~704eは、それぞれ図7(a)の画像701a、状態702a、状態703a、状態704aと同様に表されている。
本実施形態のようなHMD1の使用例としては、例えばPC上で起動したアプリケーションソフトウェアが生成したMR体験画像を表示部11に表示することで、ユーザ2にMR体験を提供するというような使われ方が一般的である。また本実施形態の場合、MR体験画像は、HMD1を装着しているユーザ2の瞳位置から観察される被写体と略一致する被写体をビデオカメラで撮像し、さらにPCが当該撮像画像にCG画像等を重畳して生成されるとする。以下、このような体験画像生成アプリケーションソフトウェアを、体験画像生成アプリと呼ぶことにする。
図9(a)は、HMD1を装着したユーザが頭部を動かす動作を行っていない頭部動作なしの場合において、PCにて生成される画像901aからHMD1に表示される画像904aまでを表した図である。図9(a)において、画像901aは、画像受信部153で受信されて疑似遅延補正部152に入力し、当該疑似遅延補正部152から出力される画像を示している。画像902aは、疑似遅延補正部152から出力された画像901aに対し、表示光学系補正部151によって前述したように上下に黒画像を重畳するマスク処理を行った後の画像を示している。画像903aは、表示光学系補正部151において、画像902aに対してアスペクト変換及び歪曲収差補正を行った後の画像を示している。そして、画像904aは、画像903aの画像を、HMDの表示素子112に表示し、さらに表示光学系111を介することでユーザに提示される画像を示している。
一方、ユーザが頭部を例えばピッチ動作した場合において、後述するようなマスク領域の可変を行わない場合、ピッチ動作に応じて画像を垂直方向にずらすと、図9(b)の画像902bに示すように、マスク領域外に不必要な画像905が現れることになる。マスク領域外に現れる不必要な画像905は、例えばPC画面(デスクトップ画像)の一部などである。当該不必要な画像905が現れている場合、表示光学系補正部151の処理後の画像903bにも不必要な画像905が残り、さらには表示部11の画像904bにも不必要な画像905が残り、ユーザにとって違和感のある画像が提示されてしまう。
次に、第2実施形態について説明する。
図11は第2実施形態におけるシステム構成例を示した図である。図11の構成において、前述の図1と同じ参照符号が付されている各構成要素では概ね前述同様の動作・処理が行われ、以降では異なる処理・動作について説明する。第2実施形態のシステム構成では、マスク処理を2段階に分けて行うことにより、演算部14の負荷を低減可能とする。
その後、演算部14は、S114において画像の水平移動量(Hd)、垂直移動量(Vd)、回転角(Θd)、拡大率(Ed)の情報を疑似遅延補正部152に送る。さらに、演算部14は、S115において、マスク幅(Vt,Vb,Hl,Hr)の情報を表示光学系補正部151へ送る。この場合の表示光学系補正部151は、マスク幅(Vt,Vb,Hl,Hr)の情報を基に再度マスク処理を行う。
次に、第3実施形態について説明する。
図13は第3実施形態におけるシステム構成例を示した図である。図13の構成において、前述の図1と同じ参照符号が付されている各構成要素では概ね前述同様の動作・処理が行われ、以降では異なる処理・動作について説明する。第3実施形態のシステム構成は、生成された画像に応じてマスク処理の実行/非実行(マスク処理の有無)を切り替えることで、演算部14の負荷を低減可能とする。
Claims (11)
- 撮像装置により撮像された画像を入力画像として受信し、当該入力画像を画像処理して得られた画像を、ユーザの頭部に装着される表示装置に表示画像として出力する画像処理装置であって、
前記表示装置が有する表示光学系の光学特性の情報を前記表示装置から取得し、前記表示装置が有する動作検知部が検知した前記頭部の動作の情報を前記表示装置から取得する取得手段と、
前記入力画像に対し、前記頭部の動作の情報に基づく第1の補正処理を行う第1の補正手段と、
前記第1の補正処理がなされた画像に対して、前記頭部の動作の情報と前記光学特性の情報とに基づいて定まるマスク領域にマスク処理を行い、さらに前記光学特性の情報に基づく第2の補正処理を行って、得られた画像を前記表示画像として前記表示装置に出力する第2の補正手段と、
を有することを特徴とする画像処理装置。 - 前記第2の補正手段は、画像のアスペクト比を変換する処理と、画像の解像度を変換する処理との、少なくとも一つを、前記第2の補正処理として行うことを特徴とする請求項1に記載の画像処理装置。
- 前記第1の補正手段は、前記頭部の動作の情報に基づいて、画像を移動する処理と、画像を変形する処理との、少なくとも一つを、前記第1の補正処理として行うことを特徴とする請求項1または2に記載の画像処理装置。
- 前記第1の補正手段は、前記頭部の動作の情報と、画像の撮像から表示までの遅延量とを基に、前記画像を移動する処理の移動量または前記画像を変形する処理の変形量を決定することを特徴とする請求項3に記載の画像処理装置。
- 前記第2の補正手段は、前記頭部の動作の情報が水平または垂直移動を示す情報である場合、前記光学特性の情報に基づくマスク領域の幅と、画像のフレーム間における前記頭部の動作の前記水平または垂直移動による移動量とに基づいて、前記マスク領域を決定することを特徴とする請求項1に記載の画像処理装置。
- 前記第2の補正手段は、
前記光学特性の情報に基づく第2の補正処理として画像のアスペクト比を変換する変換処理を実行し、
前記マスク領域の幅を、前記変換処理の変換量に基づいて決定することを特徴とする請求項2に記載の画像処理装置。 - 前記第2の補正手段は、前記入力画像を生成する生成装置からの通知に応じて、前記マスク処理を行うか否を切り替えることを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。
- ユーザの頭部に装着される表示装置と、
撮像装置により撮像された画像を入力画像として受信し、当該入力画像を画像処理して得られた画像を、前記表示装置に表示画像として出力する画像処理装置と、を有し、
前記画像処理装置は、
前記入力画像に対し、前記頭部の動作に基づく第1の補正処理を行う第1の補正手段と、
前記第1の補正処理がなされた画像に対して、前記頭部の動作と前記表示装置が有する表示光学系の光学特性とに基づいて定まるマスク領域にマスク処理を行い、さらに前記表示光学系の光学特性に基づく第2の補正処理を行って、得られた画像を前記表示画像として前記表示装置に出力する第2の補正手段と、を有することを特徴とする表示システム。 - 前記表示装置は、前記頭部の動作を検知する動作検知部を有し、前記動作検知部が検出した前記頭部の動作の情報を前記画像処理装置に出力することを特徴とする請求項8に記載の表示システム。
- 撮像装置により撮像された画像を入力画像として受信し、当該入力画像を画像処理して得られた画像を、ユーザの頭部に装着される表示装置に表示画像として出力する画像処理装置が実行する画像処理方法であって、
前記表示装置が有する表示光学系の光学特性の情報を前記表示装置から取得し、前記表示装置が有する動作検知部が検知した前記頭部の動作の情報を前記表示装置から取得する取得工程と、
前記入力画像に対し、前記頭部の動作の情報に基づく第1の補正処理を行う第1の補正工程と、
前記第1の補正処理がなされた画像に対して、前記頭部の動作の情報と前記光学特性の情報とに基づいて定まるマスク領域にマスク処理を行い、さらに前記光学特性の情報に基づく第2の補正処理を行って、得られた画像を前記表示画像として前記表示装置に出力する第2の補正工程と、
を有することを特徴とする画像処理方法。 - コンピュータを、請求項1から7のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018001741A JP7066414B2 (ja) | 2018-01-10 | 2018-01-10 | 画像処理装置、表示システム、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018001741A JP7066414B2 (ja) | 2018-01-10 | 2018-01-10 | 画像処理装置、表示システム、画像処理方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019120853A JP2019120853A (ja) | 2019-07-22 |
JP2019120853A5 JP2019120853A5 (ja) | 2021-02-18 |
JP7066414B2 true JP7066414B2 (ja) | 2022-05-13 |
Family
ID=67306191
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018001741A Active JP7066414B2 (ja) | 2018-01-10 | 2018-01-10 | 画像処理装置、表示システム、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7066414B2 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008216343A (ja) | 2007-02-28 | 2008-09-18 | Canon Inc | 画像表示装置、プログラム、及び、記憶媒体 |
JP2009156992A (ja) | 2007-12-25 | 2009-07-16 | Canon Inc | 制御装置、表示装置及びそれらの制御方法、複合現実システム、及びコンピュータプログラム |
WO2014069090A1 (ja) | 2012-11-02 | 2014-05-08 | ソニー株式会社 | 画像表示装置及び画像表示方法、並びにコンピューター・プログラム |
US20140268356A1 (en) | 2013-03-15 | 2014-09-18 | University Of Southern California | Dynamic field of view throttling as a means of improving user experience in head mounted virtual environments |
US20150379772A1 (en) | 2014-06-30 | 2015-12-31 | Samsung Display Co., Ltd. | Tracking accelerator for virtual and augmented reality displays |
-
2018
- 2018-01-10 JP JP2018001741A patent/JP7066414B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008216343A (ja) | 2007-02-28 | 2008-09-18 | Canon Inc | 画像表示装置、プログラム、及び、記憶媒体 |
JP2009156992A (ja) | 2007-12-25 | 2009-07-16 | Canon Inc | 制御装置、表示装置及びそれらの制御方法、複合現実システム、及びコンピュータプログラム |
WO2014069090A1 (ja) | 2012-11-02 | 2014-05-08 | ソニー株式会社 | 画像表示装置及び画像表示方法、並びにコンピューター・プログラム |
US20140268356A1 (en) | 2013-03-15 | 2014-09-18 | University Of Southern California | Dynamic field of view throttling as a means of improving user experience in head mounted virtual environments |
US20150379772A1 (en) | 2014-06-30 | 2015-12-31 | Samsung Display Co., Ltd. | Tracking accelerator for virtual and augmented reality displays |
Also Published As
Publication number | Publication date |
---|---|
JP2019120853A (ja) | 2019-07-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4973393B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理システム | |
KR101036858B1 (ko) | 화상 처리 장치, 화상 처리 방법 및 프로그램을 기억하는 기억 매체 | |
US10726814B2 (en) | Image display apparatus, image processing apparatus, image display method, image processing method, and storage medium | |
JP7358448B2 (ja) | 画像生成装置、ヘッドマウントディスプレイ、および画像生成方法 | |
JP7150134B2 (ja) | ヘッドマウントディスプレイおよび画像表示方法 | |
US20090028390A1 (en) | Image Processing for Estimating Subject Distance | |
CN112887646B (zh) | 图像处理方法及装置、扩展现实系统、计算机设备及介质 | |
JP6971590B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP6862210B2 (ja) | 画像処理装置、画像処理システム、画像処理方法及びプログラム | |
JP7142762B2 (ja) | 表示装置および画像表示方法 | |
JP7081265B2 (ja) | 画像処理装置 | |
JP5645255B2 (ja) | 画像処理装置および画像処理方法 | |
JP7066414B2 (ja) | 画像処理装置、表示システム、画像処理方法及びプログラム | |
JP5393877B2 (ja) | 撮像装置および集積回路 | |
JP5682473B2 (ja) | 広角歪補正処理を有する画像処理方法、画像処理装置及び撮像装置 | |
WO2022014271A1 (ja) | 画像処理装置、画像表示システム、方法及びプログラム | |
WO2020152754A1 (ja) | 画像生成装置および画像生成方法 | |
JP7429515B2 (ja) | 画像処理装置、ヘッドマウントディスプレイ、および画像表示方法 | |
JP2020106655A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP6645949B2 (ja) | 情報処理装置、情報処理システム、および情報処理方法 | |
JP6932526B2 (ja) | 画像表示装置、画像表示方法及びプログラム | |
WO2018150711A1 (ja) | 表示制御装置、表示制御装置の制御方法、および制御プログラム | |
WO2024004321A1 (ja) | 画像処理装置、頭部装着型表示装置、画像処理装置の制御方法、頭部装着型表示装置の制御方法、およびプログラム | |
JP2024084218A (ja) | 画像処理装置、画像処理方法 | |
WO2024004338A1 (ja) | 頭部装着型表示装置、状態判断装置、頭部装着型表示装置の制御方法、状態判断装置の制御方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210106 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210106 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210929 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211019 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220111 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220310 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220329 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220427 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7066414 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |