JP2017215688A - 画像処理装置、画像処理方法 - Google Patents
画像処理装置、画像処理方法 Download PDFInfo
- Publication number
- JP2017215688A JP2017215688A JP2016107788A JP2016107788A JP2017215688A JP 2017215688 A JP2017215688 A JP 2017215688A JP 2016107788 A JP2016107788 A JP 2016107788A JP 2016107788 A JP2016107788 A JP 2016107788A JP 2017215688 A JP2017215688 A JP 2017215688A
- Authority
- JP
- Japan
- Prior art keywords
- image
- horizontal line
- processing apparatus
- image processing
- luminance value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims 3
- 238000012545 processing Methods 0.000 claims abstract description 139
- 238000000034 method Methods 0.000 claims abstract description 34
- 230000008569 process Effects 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 9
- 230000007423 decrease Effects 0.000 claims description 6
- 230000009467 reduction Effects 0.000 abstract description 3
- 239000002131 composite material Substances 0.000 description 49
- 238000003384 imaging method Methods 0.000 description 21
- 230000003287 optical effect Effects 0.000 description 19
- 238000001514 detection method Methods 0.000 description 11
- 230000000007 visual effect Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000013459 approach Methods 0.000 description 6
- 238000012937 correction Methods 0.000 description 6
- 210000003128 head Anatomy 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000009877 rendering Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 3
- 230000004907 flux Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
【課題】 左右の眼に提示する画像に対して黒部を目立たないようにするグラデーション処理を行う場合におけるコントラスト低下を低減するための技術を提供すること。【解決手段】 第1の画像の水平ラインの左端を一端とする区間を、該水平ラインの左端近傍の輝度値群に基づいて特定し、該区間内の輝度値を該水平ラインの左端に近いほど小さくする。第2の画像水平ラインの右端を一端とする区間を、該水平ラインの右端近傍の輝度値群に基づいて特定し、該区間内の輝度値を該水平ラインの右端に近いほど小さくする。【選択図】 図1
Description
本発明は、左右の眼に提示する画像の生成技術に関するものである。
近年、現実世界と仮想世界とをリアルタイムにシームレスに融合させる技術として複合現実感、いわゆるMR(Mixed Reality)技術が知られている。MR技術を体現させる装置として、ビデオシースルー型HMD(Head Mounted Display)が知られている。ビデオシースルー型HMDは、ユーザの瞳位置から観察される被写体と略一致する被写体をビデオカメラなどで撮像し、その撮像画像にCG(Computer Graphics)を重畳表示した画像をユーザに観察させるものである。そのために、ビデオシースルー型HMDは撮像部と表示部とを有する。撮像部は、被写体を撮像して該被写体のデジタル画像データを得るための撮像光学系とCCD等の撮像素子とを有する。表示部は、CG画像を重畳したMR画像(複合現実画像)を装着者に表示するための液晶や有機EL等の表示素子と該表示素子に表示された画像を拡大して提示する表示光学系とを有する。
HMD等に用いる画像表示装置には、観察者がより自然に映像観察を行うためや、臨場感のある映像観察を行うために、広画角の映像提示が望まれている。広画角の映像提示を可能にする技術として、左右の眼に異なる画角の映像を提示させる場合に、一部の画角のみ左右の眼で重なる構成にすることで、左右の眼に同じ画角の映像を表示させる場合よりも広画角の映像を観察可能にする画像表示技術が提案されている。
左右の眼に異なる画角の映像を提示する際に、一部の画角のみ左右の眼で重なる場合、単眼領域と両眼領域の境界部における表示素子の黒枠などが急激な輝度差となり、自然な観察ができない。両眼領域と単眼領域の境界で急激な輝度差が起こることによって、視野闘争を起こし、ユーザの視野内における画像中に図3(b)に示すような黒部が発生する。
特許文献1に記載のヘッドマウントディスプレイ装置では、所定の位置から画像の明るさを所定の減少カーブで低下させることで急激な輝度変化を低減し、黒部を目立たないようにしている。
特許文献1に開示の技術では、黒部を目立たないようにしているが、黒部以外の領域にも広くグラデーションをかける必要があるため、黒部付近のコントラストが低下していた。本発明はこのような問題に鑑みてなされたものであり、左右の眼に提示する画像に対して黒部を目立たないようにするグラデーション処理を行う場合におけるコントラスト低下を低減するための技術を提供する。
本発明の一様態は、ユーザの右眼に提示するために生成された第1の画像と、該ユーザの左眼に提示するために生成された第2の画像と、を取得する取得手段と、前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインの左端を一端とする区間を、該水平ラインの左端近傍の輝度値群に基づいて特定する第1の特定手段と、前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインについて前記第1の特定手段が特定した区間内の輝度値を該水平ラインの左端に近いほど小さくする第1の処理手段と、前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインの右端を一端とする区間を、該水平ラインの右端近傍の輝度値群に基づいて特定する第2の特定手段と、前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインについて前記第2の特定手段が特定した区間内の輝度値を該水平ラインの右端に近いほど小さくする第2の処理手段と、前記第1の処理手段による処理後の前記第1の画像と、前記第2の処理手段による処理後の前記第2の画像と、を出力する出力手段とを備えることを特徴とする。
本発明の構成によれば、左右の眼に提示する画像に対して黒部を目立たないようにするグラデーション処理を行う場合におけるコントラスト低下を低減することができる。
以下、添付図面を参照し、本発明の実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施例の1つである。
[第1の実施形態]
本実施形態では、以下のような構成を有する画像処理装置の一例について説明する。先ず、ユーザの右眼に提示するために生成された第1の画像と、該ユーザの左眼に提示するために生成された第2の画像と、を取得する。そして、第1の画像の少なくとも一部の水平ラインに対し、該水平ラインの左端を一端とする区間を、該水平ラインの左端近傍の輝度値群に基づいて特定する(第1の特定)。そして、第1の画像の少なくとも一部の水平ラインに対し、該水平ラインについて第1の特定で特定した区間内の輝度値を該水平ラインの左端に近いほど小さくする(第1の処理)。また、第2の画像の少なくとも一部の水平ラインに対し、該水平ラインの右端を一端とする区間を、該水平ラインの右端近傍の輝度値群に基づいて特定する(第2の特定)。そして、第2の画像の少なくとも一部の水平ラインに対し、該水平ラインについて第2の特定で特定した区間内の輝度値を該水平ラインの右端に近いほど小さくする(第2の処理)。そして、第1の処理による処理後の第1の画像と、第2の処理による処理後の第2の画像と、を出力する。
本実施形態では、以下のような構成を有する画像処理装置の一例について説明する。先ず、ユーザの右眼に提示するために生成された第1の画像と、該ユーザの左眼に提示するために生成された第2の画像と、を取得する。そして、第1の画像の少なくとも一部の水平ラインに対し、該水平ラインの左端を一端とする区間を、該水平ラインの左端近傍の輝度値群に基づいて特定する(第1の特定)。そして、第1の画像の少なくとも一部の水平ラインに対し、該水平ラインについて第1の特定で特定した区間内の輝度値を該水平ラインの左端に近いほど小さくする(第1の処理)。また、第2の画像の少なくとも一部の水平ラインに対し、該水平ラインの右端を一端とする区間を、該水平ラインの右端近傍の輝度値群に基づいて特定する(第2の特定)。そして、第2の画像の少なくとも一部の水平ラインに対し、該水平ラインについて第2の特定で特定した区間内の輝度値を該水平ラインの右端に近いほど小さくする(第2の処理)。そして、第1の処理による処理後の第1の画像と、第2の処理による処理後の第2の画像と、を出力する。
本実施形態では、このような画像処理装置を、PC(パーソナルコンピュータ)等のコンピュータ装置に適用したケースについて説明する。しかし、上記画像処理装置の適用先はこれに限らず、例えば、後述するようなHMD等の頭部装着型表示装置に適用しても構わない。
先ず、本実施形態に係るシステムの構成例について、図1(a)を用いて説明する。図1(a)に示す如く、本実施形態に係るシステムは、コンピュータ装置1102、表示装置1103、HMD1101、を有する。表示装置1103はコンピュータ装置1102に接続されており、コンピュータ装置1102による処理結果を画像や文字などでもって表示する。一方、コンピュータ装置1102にはHMD1101が接続されている。コンピュータ装置1102とHMD1101との間は有線を介して接続しても良いし、無線を介して接続しても良い。後者の場合、WLAN(Wireless Local Area Network)やWPAN(Wireless Personal Area Network)等の小規模ネットワークを介して機器間を接続しても良い。本実施形態ではHMD1101はビデオシースルー方式の表示装置であるとするが、光学シースルー方式の表示装置であっても良い。
先ず、HMD1101における表示画面及び光学系、そして該HMD1101を頭部に装着したユーザの眼との関係について、図2を用いて説明する。表示画面1305は、ユーザの右眼1301に提示するために生成された画像を表示するための画面で、表示画面1305に表示された画像からの光束は、光学系1303を介して右眼1301に導かれる。これにより表示画面1305に表示されている画像は光学系1303で拡大されて右眼1301で観察されることになる。また、表示画面1305及び光学系1303のセットは、右眼1301の入射瞳中心を中心に、右眼視軸1307(正面を観察するときの右眼1301の視軸)から図中時計回りに7.5度傾いている。また、表示画面1305及び光学系1303のセットにより右眼1301に導かれる画像の画角は、右眼1301の入射瞳中心を中心に右眼視軸1307から時計回りに50度、反時計回りに35度である。以下では、表示画面1305及び光学系1303のセットを右眼用表示ユニットと呼称する。
表示画面1306は、ユーザの左眼1302に提示するために生成された画像を表示するための画面で、表示画面1306に表示された画像からの光束は、光学系1304を介して左眼1302に導かれる。これにより表示画面1306に表示されている画像は光学系1304で拡大されて左眼1302で観察されることになる。また、表示画面1306及び光学系1304のセットは、左眼1302の入射瞳中心を中心に、左眼視軸1308(正面を観察するときの左眼1302の視軸)から図中反時計回りに7.5度傾いている。また、表示画面1306及び光学系1304のセットにより左眼1302に導かれる画像の画角は、左眼1302の入射瞳中心を中心に左眼視軸1308から時計回りに35度、反時計回りに50度である。以下では、表示画面1306及び光学系1304のセットを左眼用表示ユニットと呼称する。
このような左眼用表示ユニット及び右眼用表示ユニットにより供給された画像をユーザが観察する場合、ユーザの正面方向(右眼視軸1307及び左眼視軸1308と並行)から反時計回りに50度〜35度の範囲は左眼1302のみで観察することになる。また、ユーザの正面方向から反時計回りに35度〜時計回りに35度の範囲は右眼1301及び左眼1302の両眼で観察することになる。また、ユーザの正面方向から時計回りに35度〜50度の範囲は右眼1301のみで観察することになる。その結果、ユーザの視界(水平画角)は100度となる。
このように左右の眼に対して異なる画角の観察像を表示させて、一部の画角のみ左右の眼で重なるようにすることで、左右の表示画面の大きさが同じときには、左右の眼に同じ画角の観察像を表示させる場合よりも広画角の画像が観察可能となる。
次に、表示画面1305に表示される画像及び表示画面1306に表示される画像をそれぞれ右眼1301及び左眼1302で観察したユーザが観察したと知覚する1枚の画像について、図3(a)、(b)を用いて説明する。
画像1501は表示画面1306に表示された画像、画像1502は表示画面1305に表示された画像である。画像1501が光学系1304を介してユーザの左眼1302に提示され、画像1502が光学系1303を介してユーザの右眼1301に提示されると、ユーザは1枚の画像1590を観察したものと知覚する。画像1501の左端は画像1590の左端に対応しており、画像1501の右端は境界1505bに対応している。また、画像1502の左端は境界1505aに対応しており、画像1502の右端は画像1590の右端に対応している。そして、画像1590の左端と境界1505aとの間の部分画像1504aは、左眼1302のみで観察可能な画像部分であり、画像1590の右端と境界1505bとの間の部分画像1504bは、右眼1301のみで観察可能な部分画像である。また、境界1505aと境界1505bとの間の部分画像1503は、右眼1301及び左眼1302の両眼で観察可能な部分画像である。
このような1枚の画像1590を観察したとユーザが知覚した場合、上記の通り、図3(b)に示す如く、画像1590の左端から境界1505aに向けて徐々に暗くなっており、且つ画像1590の右端から境界1505bに向けて徐々に暗くなっている。これは、部分画像1504a(部分画像1504b)において、片眼には画像が表示されるが、もう片方の眼には画像が表示されず、その結果、黒部が見えてしまうことに起因している。その結果、片方の目において急激な輝度差を観察することで左右の眼の視野闘争により生じてしまう。
そこで本実施形態では、画像1501の右端付近、画像1502の左端付近の輝度を調整して、部分画像1503において左端(右端)に近づくにつれて暗くなるようにし、これにより、境界1505a(1505b)を挟んで輝度差を軽減する。図2の場合、表示画面1305から光学系1303の左端部1398を介して右眼1301に導かれる光束、即ち表示画面1305の左端近傍に表示されている部分画像に対し、左端に近いほど暗くなるように処理(グラデーション処理)する。同様に、表示画面1306から光学系1304の右端部1399を介して左眼1302に導かれる光束、即ち表示画面1306の右端近傍に表示されている部分画像に対し、右端に近いほど暗くなるように処理(グラデーション処理)する。これにより、境界1505a(1505b)が図3(b)のように観察されることを防ぐことができる。
次に、コンピュータ装置1102及びHMD1101の機能構成例について、図4のブロック図を用いて説明する。先ず、コンピュータ装置1102の機能構成例について説明する。
コンテンツDB(データベース)1212には、仮想空間を規定するデータ(仮想物体データ)が登録されている。仮想物体データには、仮想空間を構成する各仮想物体の描画に必要なデータや、各仮想物体の配置位置姿勢、仮想空間を照射する光源を規定するデータ(光源の種類、位置姿勢など)等が含まれている。
位置姿勢算出部1211は、通信部1210を介してHMD1101から受信した「撮像部1201が撮像した現実空間の撮像画像」を用いて、撮像部1201の位置姿勢を算出する。更に位置姿勢算出部1211は、通信部1210を介してHMD1101から受信した「撮像部1203が撮像した現実空間の撮像画像」を用いて、撮像部1203の位置姿勢を算出する。なお、撮像画像を用いて視点の位置姿勢を算出する技術は周知であるため、これに係る説明は省略する。また、視点として適用可能なものは撮像部1201及び撮像部1203に限らない。また、視点の位置姿勢を算出する方法は、撮像画像を用いた方法に限らず、例えば、HMD1101に取り付けた位置姿勢を計測するセンサによる計測値に基づいて視点の位置姿勢を算出するようにしても良い。
CG描画部1213は、コンテンツDB1212に登録されている仮想空間データを用いて仮想空間を構成する。そしてCG描画部1213は、位置姿勢算出部1211が算出した撮像部1201の位置姿勢を有する視点から見た該仮想空間の画像、位置姿勢算出部1211が算出した撮像部1203の位置姿勢を有する視点から見た該仮想空間の画像を生成する。そしてCG描画部1213は、通信部1210を介してHMD1101から受信した「撮像部1201が撮像した現実空間の撮像画像」と「撮像部1201の位置姿勢を有する視点から見た仮想空間の画像」とを合成した合成画像(左眼用合成画像)を生成する。更にCG描画部1213は、通信部1210を介してHMD1101から受信した「撮像部1203が撮像した現実空間の撮像画像」と「撮像部1203の位置姿勢を有する視点から見た仮想空間の画像」とを合成した合成画像(右眼用合成画像)を生成する。
検波部1214は、左眼用合成画像(右眼用合成画像)を対象画像とし、該対象画像の水平ラインごとに、グラデーション処理の対象となる区間を規定するために、該ラインの端部における輝度値の収集を行う。決定部1215は、検波部1214による輝度値の収集結果に基づいて、対象画像の水平ラインごとに、グラデーション処理の対象となる区間を確定させる。補正部1216は、対象画像の水平ラインごとに、該水平ラインについて決定部1215が決定した区間に対してグラデーション処理を行う。
処理部1217は、補正部1216により補正された左眼用合成画像及び右眼用合成画像に対して各種の画像処理を施してから、通信部1210を介してHMD1101に対して送出する。
次に、HMD1101の機能構成例について説明する。撮像部1201は、HMD1101を頭部に装着するユーザの左眼に対応する現実空間を撮像し、該撮像した各フレームの画像(現実空間の画像)は処理部1206に対して順次出力する。撮像部1203は、HMD1101を頭部に装着するユーザの右眼に対応する現実空間を撮像し、該撮像した各フレームの画像(現実空間の画像)は処理部1206に対して順次出力する。
処理部1206は、撮像部1201や撮像部1203から受けた現実空間の画像に対して各種の画像処理を施してから、通信部1207を介してコンピュータ装置1102に対して送出する。
表示部1204(右眼用表示ユニット)は、HMD1101を頭部に装着したユーザの右眼の眼前に位置するものであり、通信部1207を介してコンピュータ装置1102から受信した右眼用合成画像を表示する。表示部1202(左眼用表示ユニット)は、HMD1101を頭部に装着したユーザの左眼の眼前に位置するものであり、通信部1207を介してコンピュータ装置1102から受信した左眼用合成画像を表示する。
制御部1205は、HMD1101の各機能部の動作制御を行う。
本実施形態では、HMD1101からコンピュータ装置1102に対して撮像画像を送信し、コンピュータ装置1102は該撮像画像に基づいて算出した位置姿勢に基づいて仮想空間の画像を生成し、該撮像画像と合成した合成画像をHMD1101に送信した。しかし、HMD1101が合成画像を取得することができるのであれば、合成画像を生成するまでの処理や、該処理を達成するためにHMD1101及びコンピュータ装置1102のそれぞれがどのような処理を分担するのかについては特定の形態に限らない。例えば、次のような構成も考えられる。すなわち、HMD1101側で視点の位置姿勢をセンサを用いて取得してコンピュータ装置1102に対して送信し、コンピュータ装置1102は、HMD1101から受信した位置姿勢に基づいて仮想空間の画像を生成してHMD1101に送信する。HMD1101は撮像画像と受信した仮想空間の画像とを合成した合成画像を生成して表示する。
次に、コンピュータ装置1102が、左眼用合成画像及び右眼用合成画像を生成した後に該左眼用合成画像及び右眼用合成画像に対して行う処理について、図8(a)のフローチャートに沿って説明する。先ず、左眼用合成画像に対して行う処理について説明し、次に右眼用合成画像に対して行う処理について説明する。なお、左眼用合成画像に対して行う処理、右眼用合成画像に対して行う処理は、この順で実行しても良いし、逆の順で実行しても良いし、これらの処理を並行して実行しても良い。
ステップS1002〜S1004の処理により、図8(b)に示す如く、左眼用合成画像801の右端を右辺とする幅dの領域801aを検波領域とし、該検波領域の各水平ラインについて、該水平ラインを構成する各画素の輝度値を収集する。そして、水平ラインごとに、該水平ラインについて収集した輝度値に基づいてグラデーション処理を行う区間を決定する。
より具体的には、ステップS1002において検波部1214は、領域801aを構成する全ての水平ラインについて輝度値の収集を行ったのか否かを判断する。この判断の結果、領域801aを構成する全ての水平ラインについて輝度値を収集したのであれば、処理はステップS1005に進み、未だ輝度値を収集していない水平ラインが残っている場合には、処理はステップS1003に進む。ステップS1003では、検波部1214は、未だ輝度値を収集していない水平ラインのうちの1つを選択水平ラインとして選択し、該選択水平ラインを構成する各画素の輝度値を収集する。ステップS1004では、決定部1215は先ず、選択水平ラインについて収集した輝度値のうち最大の輝度値及び最小の輝度値を除く輝度値の平均値を算出する。そして決定部1215は、該平均値に基づいて選択水平ラインにおいてグラデーション処理を行う区間(グラデーション領域)を決定する。
例えば決定部1215はxを変数とする一次多項式において変数xに平均値を代入して該一次多項式の値pを求め、選択水平ラインにおいて右端から距離pだけ左方に離間した位置までの間の区間をグラデーション処理を行う区間(グラデーション範囲)とする。このとき、一次多項式の各項の係数は、様々な輝度平均値に対する一次多項式の値が適当なグラデーション範囲の一端の位置となるように予め定められたもので、合成画像の解像度、HMD1101の特性などに応じて適当な値が設定されている。一次多項式は最大の平均輝度値に対して最長のグラデーション範囲(画像端部から最長のグラデーション範囲離間した位置)を返し、最小の平均輝度値に対して最短のグラデーション範囲(画像端部から最短のグラデーション範囲離間した位置)を返す関数である。
また、様々な輝度平均値に対応するグラデーション範囲長が登録されたテーブルを予め作成してコンピュータ装置1102に登録しておき、決定部1215が求めた平均値に対応するグラデーション範囲長をテーブルから取得するようにしても良い。このように、決定部1215が求めた平均値に応じた適当なグラデーション範囲長が得られるのであれば、如何なる構成を採用しても良い。また、検波部1214が収集した輝度値の平均値の代わりに、該輝度値の中央値など他の統計量を採用しても良い。
以上のステップS1002〜S1004の処理により、各水平ラインについてグラデーション範囲を決定することができる。しかし、周囲の水平ラインと比べて着目水平ラインにおけるグラデーション範囲長が著しく長くなってしまったり、短くなってしまうようなケースが考えられる。このようなケースが生じた場合に各水平ラインのグラデーション範囲に対してグラデーション処理を行うと、着目水平ラインに対するグラデーション処理の結果が他の水平ラインに対するグラデーション処理の結果と比べて目立ってしまう。そこでステップS1005〜S1008の処理により、このような他の水平ラインと比べて長さが著しく異なるグラデーション範囲長を補正する。
より具体的には、ステップS1005では、決定部1215は、全ての水平ラインについてグラデーション範囲長の確認が完了したか否かを判断する。この判断の結果、全ての水平ラインについて確認が完了した場合には、処理はステップS1009に進み、確認が完了していない水平ラインが未だ残っている場合には、処理はステップS1006に進む。
ステップS1006では、決定部1215は、未だ確認が完了していない水平ラインのうちの1つを選択水平ラインとして選択する。そして決定部1215は、選択水平ラインにおけるグラデーション範囲長と、該選択水平ラインの周囲の水平ライン(例えば選択水平ラインから上方N(Nは自然数)ライン及び/又は下方Nライン)と、の差分の絶対値を求める。
ステップS1007では、決定部1215は、ステップS1006で求めた何れかの差分の絶対値が規定値以上であるか否かを判断する。この判断の結果、何れかの差分の絶対値が規定値以上であれば、処理はステップS1008に進み、何れも規定値未満であれば、処理はステップS1005に進む。
ステップS1008で決定部1215は、選択水平ラインのグラデーション範囲長と周囲の水平ラインのグラデーション範囲長との差分を小さくするために、選択水平ラインのグラデーション範囲長を周囲の水平ラインのグラデーション範囲長を用いて補正する。
N=1である場合におけるステップS1008の処理について、図7を用いて説明する。図7では、Yライン=選択水平ラインとしており、Y+1ラインが選択水平ラインに隣接する直上の水平ライン、Y−1ラインが選択水平ラインに隣接する直下の水平ラインとなっている。図7(a)は、ステップS1008における補正前の状態を示しており、Yラインのグラデーション範囲1401の長さが、Y+1ライン、Y−1ラインのそれぞれにおけるグラデーション範囲1401の長さと比べて著しく長くなっている。そこでこのような場合には、Yラインのグラデーション範囲1401の長さが、Y+1ライン、Y−1ラインのそれぞれにおけるグラデーション範囲1401の長さとあまり変わらないようにするために、Yラインのグラデーション範囲1401の長さを補正する。この補正結果を図7(b)に示す。例えば、Y+1ライン、Y−1ラインのそれぞれにおけるグラデーション範囲1401の長さの平均値Lを求め、Yラインのグラデーション範囲1401の長さを平均値Lに補正しても良い。このように、Yラインのグラデーション範囲1401の長さが、Y+1ライン、Y−1ラインのそれぞれにおけるグラデーション範囲1401の長さとあまり変わらないようにするために行う処理については特定の処理に限らない。
以上説明したステップS1002〜S1008の処理を行うことで、左眼用合成画像における各水平ラインのグラデーション範囲が決定したので、ステップS1009で補正部1216は、各水平ラインのグラデーション範囲に対してグラデーション処理を行う。これにより、グラデーション範囲内では、右方に近いほど輝度値が小さくなる。
上記の通り、図8(a)のフローチャートに従った処理は右眼用合成画像に対しても行う。処理の内容は左眼用合成画像に対して行った上記の処理と同様である。すなわちステップS1002〜S1004では、図8(c)に示す如く、右眼用合成画像802の左端を左辺とする幅dの領域802aを検波領域とし、該検波領域の各水平ラインについて、該水平ラインを構成する各画素の輝度値を収集する。そして、水平ラインごとに、該水平ラインについて収集した輝度値に基づいてグラデーション処理を行う区間を決定する。区間の決定では、例えば上記の一次多項式を用いる場合には、選択水平ラインにおいて左端から距離pだけ右方に離間した位置までの間の区間をグラデーション処理を行う区間(グラデーション範囲)とする。そしてステップS1005〜S1008では、他の水平ラインと比べて長さが著しく異なるグラデーション範囲長を補正する。ステップS1009では、各水平ラインのグラデーション範囲に対してグラデーション処理を行う。これにより、グラデーション範囲内では、左方に近いほど輝度値が小さくなる。
ここで、グラデーション処理について、図5,6を用いて説明する。図5では、左眼用合成画像の右端付近の輝度値が比較的小さいケース(ケースA)、図6では、左眼用合成画像の右端付近の輝度値が比較的大きいケース(ケースB)、を示している。なお、以下の説明は、右眼用合成画像にも同様に適用できる。
図5(a)の上側は、左眼用合成画像のグラデーション範囲1401内の画素のグラデーション処理前の輝度値1402のグラフを示しており、横軸は画像のx座標値、縦軸は輝度値を表している。グラデーション範囲1401内における輝度値1402に対して、例えば、輝度値が点線で示すような曲線以下となるようにグラデーション処理を行った結果としての輝度値1403を図5(a)の下側に示す。図5(a)においてグラデーション範囲1401の長さをより短くしたものを図5(b)に示した。グラデーション範囲1401内における輝度値1402に対して、例えば、輝度値が点線で示すような曲線以下となるようにグラデーション処理を行った結果としての輝度値1403を図5(b)の下側に示す。
図5(a)のように、ケースAにおいてグラデーション範囲1401を広くとると、グラデーション処理が必要のない領域にもグラデーション処理が行われる。これに対して図5(b)では狭い範囲に同様の輝度勾配になるよう、グラデーション処理を行っている。ケースAの場合、合成画像の端部では輝度値が低いため狭い範囲にグラデーション処理を行う。
図6(a)の上側は、左眼用合成画像のグラデーション範囲1401内の画素のグラデーション処理前の輝度値1402のグラフを示しており、横軸は画像のx座標値、縦軸は輝度値を表している。グラデーション範囲1401内における輝度値1402に対して、例えば、輝度値が点線で示すような曲線以下となるようにグラデーション処理を行った結果としての輝度値1403を図6(a)の下側に示す。図6(a)においてグラデーション範囲1401の長さをより短くしたものを図6(b)に示した。グラデーション範囲1401内における輝度値1402に対して、例えば、輝度値が点線で示すような曲線以下となるようにグラデーション処理を行った結果としての輝度値1403を図6(b)の下側に示す。
ケースBの場合、グラデーション処理の結果、画像の端部における急激な輝度低下が発生して黒部を生じてしまう可能性がある。ケースBの場合には、グラデーション範囲を狭くすると輝度差が残り黒部が発生する可能性があるため、グラデーション処理を広くする。
このように、左眼用合成画像における右端付近の輝度値(例えば平均輝度値)が規定値以上であれば、決定したグラデーション範囲の長さを規定量だけ長くし、規定値未満であれば、決定したグラデーション範囲の長さを規定量だけ短くする。この規定量は平均輝度値などに応じて適宜変更しても構わない。これにより、上記の黒部を発生させず、コントラスト低下を軽減するグラデーション処理を実現することができる。
<変形例>
一次多項式の代わりに、輝度の変化や像の変化、黒部の見え方によってはn次元多項式やガウシアン関数等の曲線を用いても構わない。また、左眼用合成画像における水平ラインの右端(右眼用合成画像における水平ラインの左端)付近の輝度値が十分に小さい場合には、該水平ラインにはグラデーション範囲を設定せず、従って該水平ラインについてはグラデーション処理を省いても構わない。
一次多項式の代わりに、輝度の変化や像の変化、黒部の見え方によってはn次元多項式やガウシアン関数等の曲線を用いても構わない。また、左眼用合成画像における水平ラインの右端(右眼用合成画像における水平ラインの左端)付近の輝度値が十分に小さい場合には、該水平ラインにはグラデーション範囲を設定せず、従って該水平ラインについてはグラデーション処理を省いても構わない。
また、左眼用合成画像(または右眼用合成画像)の左端近傍(右端近傍)の輝度値群に基づいて特定する処理そのものを行わないような水平ラインを設けてもよい。例えば、眼に着き易い中央の水平ラインについては、上述の第1、第2の特定処理を行い、特定されたグラデーション範囲に対して第1、第2の処理を行う。一方、眼に付きにくい画像の上下端の水平ラインでは第1、第2の特定処理は行わず、そして当然ながら、第1、第2の処理についても行わない。
このように、本実施形態は、右眼用合成画像および左眼用合成画像の各水平ラインに対して処理を行う形態に限られるようなものではない。すなわち、右眼用合成画像および左眼用合成画像の少なくとも一部の水平ラインに対して第1、第2の特定処理が行われ、その特定された範囲に対して第1、第2の処理が行われればよい。
また、第1の実施形態では、検波領域の水平方向のサイズは各水平ラインについて同じであったが、これに限らず、例えば、水平ラインの途中に黒部(輝度値が規定値以下の部分)があれば、その位置から輝度値の収集を行っても良い。
また、第1の実施形態では、HMD1101は2つの表示画面を有するものとして説明したが、より多くの数の表示画面を搭載し、これらの表示画面を組み合わせて右眼及び左眼に画像を提示するようにしても良い。また、第1の実施形態では、1水平ラインごとに輝度値の収集を行ったが、複数水平ラインを同時に走査して輝度値の収集を行っても良い。
また、第1の実施形態では、HMD1101には現実空間の画像と仮想空間の画像とを合成した複合現実空間の画像を表示するものとして説明したが、表示する画像は複合現実空間の画像に限らない。
[第2の実施形態]
本実施形態では、グラデーション範囲に含まれる画像の端部における輝度勾配に応じて、該グラデーション範囲に対するグラデーション処理を行うか否かを制御する。以下では第1の実施形態との差分について重点的に説明し、以下で特に触れない限りは第1の実施形態と同様であるものとする。
本実施形態では、グラデーション範囲に含まれる画像の端部における輝度勾配に応じて、該グラデーション範囲に対するグラデーション処理を行うか否かを制御する。以下では第1の実施形態との差分について重点的に説明し、以下で特に触れない限りは第1の実施形態と同様であるものとする。
先ず、本実施形態の概要について説明する。図9(a)において上側のグラフは境界1505b付近における画像1502(右眼用合成画像)の輝度分布を表しており、下側は境界1505b付近における画像1501(左眼用合成画像)の輝度値1402を示している。図9(a)に示す如く、輝度値1402では境界1505bに向けて輝度が増加している。ここで、画像1501のグラデーション範囲1401に対してグラデーション処理を行うと、図9(b)の下側に示す如く輝度値1402は輝度値1403となる。しかし、部分画像1503として観察した場合、グラデーション処理による輝度の低減による影響は画像1502の輝度分布によって軽減されてしまい、グラデーション処理を行った意味が無くなってしまう。また、同画角にある画像1502の輝度が明るくユーザの視覚に対して優勢となる。このため、視野闘争による黒部が発生しない。
図10(a)において上側のグラフは境界1505b付近における画像1502(右眼用合成画像)の輝度分布を表しており、下側は境界1505b付近における画像1501(左眼用合成画像)の輝度値1402を示している。図10(a)に示す如く、輝度値1402では境界1505bに向けて輝度が減少している。ここで、画像1501のグラデーション範囲1401に対してグラデーション処理を行うと、図10(b)の下側に示す如く輝度値1402は輝度値1403となる。しかし、元々輝度値1402において境界1505b付近は暗いため、輝度値1402を輝度値1403に変換しても、大きな効果が得られるわけではなく、グラデーション処理を行った意味が無くなってしまう。
このように、境界付近で輝度勾配を発生する画像の場合は、グラデーション処理による影響が少ないため、グラデーション処理を省くことができる。然るに本実施形態では、図8(a)のフローチャートにおいて、ステップS1003では、水平ラインの端部(左眼用合成画像の場合は右端、右眼用合成画像の場合は左端)付近の輝度勾配を取得する。そして、該取得した輝度勾配の絶対値が規定値以上であれば、該水平ラインについてはグラデーション範囲を設定せず、従って該水平ラインについてはグラデーション処理を行わないようする。
[第3の実施形態]
図4に示したコンピュータ装置1102の各機能部は何れもハードウェアで実装しても良いが、コンテンツDB1212を除く各機能部をソフトウェア(コンピュータプログラム)で実装しても良い。後者の場合、このコンピュータプログラムを実行する処理装置はコンピュータ装置1102に適用可能である。コンピュータ装置1102に適用可能な処理装置のハードウェア構成例について、図1(b)のブロック図を用いて説明する。
図4に示したコンピュータ装置1102の各機能部は何れもハードウェアで実装しても良いが、コンテンツDB1212を除く各機能部をソフトウェア(コンピュータプログラム)で実装しても良い。後者の場合、このコンピュータプログラムを実行する処理装置はコンピュータ装置1102に適用可能である。コンピュータ装置1102に適用可能な処理装置のハードウェア構成例について、図1(b)のブロック図を用いて説明する。
CPU191はRAM192やROM193に格納されているコンピュータプログラムやデータを用いて各種の処理を実行若しくは制御する。これによりCPU191は、処理装置全体の動作制御を行うと共に、処理装置を適用するコンピュータ装置1102が行うものとして上述した各処理を実行若しくは制御する。
RAM192は、外部記憶装置195やROM193からロードされたコンピュータプログラムやデータ、I/F(インターフェース)196を介してHMD1101から受信した各種のデータを格納するためのエリアを有する。更にRAM192は、CPU191が各種の処理を実行若しくは制御する際に用いるワークエリアを有する。このようにRAM192は、各種のエリアを適宜提供することができる。
ROM193には、書き換え不要の本装置の設定データやブートプログラムなどが格納されている。操作部194は、キーボードやマウスなどにより構成されており、ユーザが操作することで、各紙の指示をCPU191に対して入力することができる。
外部記憶装置195は、ハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置195には、OS(オペレーティングシステム)や、コンピュータ装置1102が行うものとして上述した各処理をCPU191に実行若しくは制御させるためのコンピュータプログラムやデータが保存されている。このコンピュータプログラムには、図4に示したコンピュータ装置1102を構成する各機能部(コンテンツDB1212を除く)の機能をCPU191に実行若しくは制御させるためのコンピュータプログラムが含まれている。また、外部記憶装置195に保存されているデータには、上記の説明において既知の情報として説明したものが含まれている。また、図4のコンテンツDB1212は外部記憶装置195内に設けられる。外部記憶装置195に保存されているコンピュータプログラムやデータは、CPU191による制御に従って適宜RAM192にロードされ、CPU191による処理対象となる。
I/F196は外部機器との通信を行うためのインターフェースとして機能するものであり、例えば、I/F196はHMD1101との間のデータ通信を行う。CPU191、RAM192、ROM193、操作部194、外部記憶装置195、I/F196、表示装置1103は何れもバス197に接続されている。
また、図4に示したコンピュータ装置1102の各機能部のうち一部をハードウェア、残りをソフトウェアで実装しても良い。また、コンピュータ装置1102を2台以上の装置で構成しても良い。このようにシステムの構成には様々な構成が考えられ、上記の実施形態に係るシステムと同等以上の機能を有するのであれば、如何なる構成を採用しても良い。また、第1,2の実施形態や変形例はその一部若しくは全部を適宜組み合わせて使用しても構わない。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
1213:CG描画部 1214:検波部 1215:決定部 1216:補正部 1217:処理部
Claims (15)
- ユーザの右眼に提示するために生成された第1の画像と、該ユーザの左眼に提示するために生成された第2の画像と、を取得する取得手段と、
前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインの左端を一端とする区間を、該水平ラインの左端近傍の輝度値群に基づいて特定する第1の特定手段と、
前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインについて前記第1の特定手段が特定した区間内の輝度値を該水平ラインの左端に近いほど小さくする第1の処理手段と、
前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインの右端を一端とする区間を、該水平ラインの右端近傍の輝度値群に基づいて特定する第2の特定手段と、
前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインについて前記第2の特定手段が特定した区間内の輝度値を該水平ラインの右端に近いほど小さくする第2の処理手段と、
前記第1の処理手段による処理後の前記第1の画像と、前記第2の処理手段による処理後の前記第2の画像と、を出力する出力手段と
を備えることを特徴とする画像処理装置。 - 前記第1の特定手段は、前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインの左端近傍の輝度値群のうち最大の輝度値及び最小の輝度値を除く輝度値の平均値を求め、該平均値に基づいて、該水平ラインの左端を一端とする区間を特定することを特徴とする請求項1に記載の画像処理装置。
- 前記第1の特定手段は更に、着目水平ラインについて特定した区間の長さを、該着目水平ラインの周囲の水平ラインについて特定した区間の長さに基づいて補正することを特徴とする請求項1又は2に記載の画像処理装置。
- 前記第1の特定手段は更に、前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインについて特定した区間の長さを、該水平ラインの左端近傍の輝度値群に基づいて補正することを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
- 前記第1の特定手段は、前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインの左端近傍の輝度勾配の絶対値が規定値未満であれば、該水平ラインの左端を一端とする区間を特定することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
- 前記第2の特定手段は、前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインの右端近傍の輝度値群のうち最大の輝度値及び最小の輝度値を除く輝度値の平均値を求め、該平均値に基づいて、該水平ラインの右端を一端とする区間を特定することを特徴とする請求項1乃至5の何れか1項に記載の画像処理装置。
- 前記第2の特定手段は更に、着目水平ラインについて特定した区間の長さを、該着目水平ラインの周囲の水平ラインについて特定した区間の長さに基づいて補正することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
- 前記第2の特定手段は更に、前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインについて特定した区間の長さを、該水平ラインの右端近傍の輝度値群に基づいて補正することを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。
- 前記第2の特定手段は、前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインの右端近傍の輝度勾配の絶対値が規定値未満であれば、該水平ラインの右端を一端とする区間を特定することを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
- 前記第1の特定手段は、前記第1の画像の各水平ラインに対し、該水平ラインの左端を一端とする区間を、該水平ラインの左端近傍の輝度値群に基づいて特定し、
前記第1の処理手段は、前記第1の画像の各水平ラインに対し、該水平ラインについて前記第1の特定手段が特定した区間内の輝度値を該水平ラインの左端に近いほど小さくし、
前記第2の特定手段は、前記第2の画像の各水平ラインに対し、該水平ラインの右端を一端とする区間を、該水平ラインの右端近傍の輝度値群に基づいて特定し、
前記第2の処理手段は、前記第2の画像の各水平ラインに対し、該水平ラインについて前記第2の特定手段が特定した区間内の輝度値を該水平ラインの右端に近いほど小さくすることを特徴とする請求項1乃至9の何れか1項に記載の画像処理装置。 - 前記出力手段は、前記第1の処理手段による処理後の前記第1の画像と、前記第2の処理手段による処理後の前記第2の画像と、を頭部装着型表示装置に対して出力することを特徴とする請求項1乃至10の何れか1項に記載の画像処理装置。
- 前記出力手段は、前記第1の処理手段による処理後の前記第1の画像と、前記第2の処理手段による処理後の前記第2の画像と、をそれぞれ、ユーザの右眼に対して画像を提示する表示画面、該ユーザの左眼に対して画像を提示する表示画面、に対して出力することを特徴とする請求項1乃至10の何れか1項に記載の画像処理装置。
- 前記画像処理装置は頭部装着型表示装置であることを特徴とする請求項12に記載の画像処理装置。
- 画像処理装置が行う画像処理方法であって、
前記画像処理装置の取得手段が、ユーザの右眼に提示するために生成された第1の画像と、該ユーザの左眼に提示するために生成された第2の画像と、を取得する取得工程と、
前記画像処理装置の第1の特定手段が、前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインの左端を一端とする区間を、該水平ラインの左端近傍の輝度値群に基づいて特定する第1の特定工程と、
前記画像処理装置の第1の処理手段が、前記第1の画像の少なくとも一部の水平ラインに対し、該水平ラインについて前記第1の特定工程で特定した区間内の輝度値を該水平ラインの左端に近いほど小さくする第1の処理工程と、
前記画像処理装置の第2の特定手段が、前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインの右端を一端とする区間を、該水平ラインの右端近傍の輝度値群に基づいて特定する第2の特定工程と、
前記画像処理装置の第2の処理手段が、前記第2の画像の少なくとも一部の水平ラインに対し、該水平ラインについて前記第2の特定工程で特定した区間内の輝度値を該水平ラインの右端に近いほど小さくする第2の処理工程と、
前記画像処理装置の出力手段が、前記第1の処理工程による処理後の前記第1の画像と、前記第2の処理工程による処理後の前記第2の画像と、を出力する出力工程と
を備えることを特徴とする画像処理方法。 - コンピュータを、請求項1乃至13の何れか1項に記載の画像処理装置の各手段として機能させるためのコンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016107788A JP2017215688A (ja) | 2016-05-30 | 2016-05-30 | 画像処理装置、画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016107788A JP2017215688A (ja) | 2016-05-30 | 2016-05-30 | 画像処理装置、画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017215688A true JP2017215688A (ja) | 2017-12-07 |
Family
ID=60575661
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016107788A Pending JP2017215688A (ja) | 2016-05-30 | 2016-05-30 | 画像処理装置、画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017215688A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019131160A1 (ja) * | 2017-12-27 | 2019-07-04 | ソニー株式会社 | 情報処理装置、情報処理方法、および記録媒体 |
US11989856B2 (en) | 2018-12-30 | 2024-05-21 | Elbit Systems Ltd. | Systems and methods for reducing image artefacts in binocular displays |
-
2016
- 2016-05-30 JP JP2016107788A patent/JP2017215688A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019131160A1 (ja) * | 2017-12-27 | 2019-07-04 | ソニー株式会社 | 情報処理装置、情報処理方法、および記録媒体 |
US11039124B2 (en) | 2017-12-27 | 2021-06-15 | Sony Corporation | Information processing apparatus, information processing method, and recording medium |
US11989856B2 (en) | 2018-12-30 | 2024-05-21 | Elbit Systems Ltd. | Systems and methods for reducing image artefacts in binocular displays |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9720238B2 (en) | Method and apparatus for a dynamic “region of interest” in a display system | |
US9911214B2 (en) | Display control method and display control apparatus | |
US10082867B2 (en) | Display control method and display control apparatus | |
JP2017525052A (ja) | 表示のためにキャプチャ画像の視野を調整する技術 | |
KR20120075829A (ko) | 적응적 부화소 렌더링 장치 및 방법 | |
US11567568B2 (en) | Display apparatuses and methods incorporating foveated rendering | |
US7940295B2 (en) | Image display apparatus and control method thereof | |
JP6419118B2 (ja) | 画像表示システム | |
US11582441B2 (en) | Head mounted display apparatus | |
KR20220013396A (ko) | 컴퓨터 생성 현실 텍스트의 렌더링 | |
US11039124B2 (en) | Information processing apparatus, information processing method, and recording medium | |
JP2018133746A (ja) | 画像処理装置、画像処理システム、画像処理方法及びプログラム | |
JP6858007B2 (ja) | 画像処理システム、画像処理方法 | |
JP6500570B2 (ja) | 画像表示装置および画像表示方法 | |
JP2017215688A (ja) | 画像処理装置、画像処理方法 | |
US11627303B2 (en) | System and method for corrected video-see-through for head mounted displays | |
JP2015007722A (ja) | 画像表示装置 | |
JP6887824B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6932526B2 (ja) | 画像表示装置、画像表示方法及びプログラム | |
KR101817952B1 (ko) | 투과형 헤드 마운티드 디스플레이 장치 및 상기 장치에서의 화면 심도 제어 방법 | |
US10083675B2 (en) | Display control method and display control apparatus | |
JPH06215092A (ja) | 表示装置 | |
JP2021096772A (ja) | 画像処理装置、画像処理方法、システム | |
JP2013047875A (ja) | 立体感提示装置および方法ならびにぼけ画像生成処理装置,方法およびプログラム | |
EP4167826A1 (en) | Visual assistance |