JPH11238143A - Image processing method, presentation method of virtual reality, and storage medium for program thereof - Google Patents

Image processing method, presentation method of virtual reality, and storage medium for program thereof

Info

Publication number
JPH11238143A
JPH11238143A JP3765998A JP3765998A JPH11238143A JP H11238143 A JPH11238143 A JP H11238143A JP 3765998 A JP3765998 A JP 3765998A JP 3765998 A JP3765998 A JP 3765998A JP H11238143 A JPH11238143 A JP H11238143A
Authority
JP
Japan
Prior art keywords
image
observer
panoramic image
line
sight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP3765998A
Other languages
Japanese (ja)
Inventor
Akihiro Katayama
昭宏 片山
Takaaki Endo
隆明 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MR SYSTEM KENKYUSHO KK
MR System Kenkyusho KK
Original Assignee
MR SYSTEM KENKYUSHO KK
MR System Kenkyusho KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MR SYSTEM KENKYUSHO KK, MR System Kenkyusho KK filed Critical MR SYSTEM KENKYUSHO KK
Priority to JP3765998A priority Critical patent/JPH11238143A/en
Publication of JPH11238143A publication Critical patent/JPH11238143A/en
Pending legal-status Critical Current

Links

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

PROBLEM TO BE SOLVED: To generate an image capable of presenting virtual reality free of unnaturalness by generating a reduced image of a panoramic image when a current view position is in front of the view position at the time of the panoramic image formation. SOLUTION: When an observer is at a position Z, which is closer to Zn-1 than to a reference position Zn , a panoramic image at the reference position Zn-1 is used. At this time, the current position Z is in front of the position Zn-1 where the panoramic image was photographed. To cut the panoramic image at the position Zn-1 and then enlarge the image, a smaller area is referred to. When the observer is at Z', on the other hand, the observer is close to the reference position Zn . The reference position Zn is positioned ahead of the current position Z', so the observer at the position Z' is far away from a forward scene photographed at the reference position Zn . Therefore, an image cut out of the panoramic image at the reference position Zn is reduced.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、仮想現実感を与え
る画像の処理方法、さらにはその仮想画像の提示方法に
関し、特に、視点位置を移動する観察者にその移動に対
応した移動感覚を与えるような表示方法に関する。本発
明は更に仮想現実を提示するプログラムの記憶媒体にも
関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a method of processing an image giving a virtual reality and a method of presenting the virtual image. Such a display method. The invention further relates to a storage medium for a program for presenting virtual reality.

【0002】[0002]

【従来の技術】近年、コンピュータネットワークが形成
する電脳空間(cyberspaces)内において、人が集い社会
的営みを行う都市環境を構築する試みが行われている。
通常、この種の仮想空間の記述と表示には、従来からの
CG技術が用いられている。しかし、幾何モデルを基に
したCG表現には限界があるため、最近、実写画像に基
づくImageBasedRendering(IBR)が注目を集めている。
2. Description of the Related Art In recent years, attempts have been made to build an urban environment in which people gather and perform social activities in cyberspaces formed by computer networks.
Usually, conventional CG technology is used for describing and displaying this kind of virtual space. However, since there is a limit in CG expression based on a geometric model, ImageBasedRendering (IBR) based on a real image has recently been receiving attention.

【0003】所で、実写で得た画像データをそのまま再
生するのでは、撮影者の追体験をするに過ぎない。そこ
で、画像データベースを基に、IBR技術を用いて任意の
景観を画像データとしてリアルタイムで生成して呈示す
る。即ち、撮影された映像を一枚一枚独立した画像とし
て扱い、それを体験者の求めに応じて並び換えれば、遠
隔地に於いて、体験者の求める独自の移動経路上をウオ
ークスルーすることができ、そこに3次元の仮想空間を
感じることができる。
[0003] Reproduction of image data obtained by actual photography as it is is merely a re-experience of the photographer. Therefore, based on the image database, an arbitrary landscape is generated and presented in real time as image data using IBR technology. In other words, if each shot video is treated as an independent image and rearranged according to the experience of the user, it will be possible to walk through the unique travel route required by the user in a remote location. You can feel a three-dimensional virtual space there.

【0004】ところで、最近、パソコン用の三次元描画
ソフトウエアツールが相次いで開発され、パソコン上で
簡単に3次元ウオークスルーを可能にする。第1図乃至
第4図は、このソフトウエアツールを用いた2次元ウオ
ークスルーにおける三次元画像の表示例を示す。第1図
で、観察者はZ軸およびX軸方向に移動可能である。ま
た、画像データベース100は、前もってZ軸方向の複
数の視点位置における実写画像もしくはCG画像を記憶
し、各視点位置において実質的に360度の拡がりを有
するパノラマ画像を記憶しているものとする。
Recently, three-dimensional drawing software tools for personal computers have been developed one after another, and three-dimensional walkthrough can be easily performed on personal computers. FIG. 1 to FIG. 4 show display examples of a three-dimensional image in a two-dimensional walkthrough using this software tool. In FIG. 1, the observer can move in the Z-axis and X-axis directions. It is also assumed that the image database 100 previously stores a real image or a CG image at a plurality of viewpoint positions in the Z-axis direction, and stores a panoramic image having a substantially 360-degree spread at each viewpoint position.

【0005】説明を簡単にするために、ユーザが見るシ
ーンは、第2図に示すように、Z軸方向の点Aにおいて
X軸のプラス方向(θ=90度方向であって、以下、
「+X方向」と呼ぶ)に存在する三角形と、同じく点A
においてX軸のマイナス方向(θ=−90度方向であっ
て、以下、「−X方向」と呼ぶ)において存在する球で
あるとする。第3図は、Z軸上のある点における第2図
のシーンを前もって撮影し、パノラマ画像化して画像デ
ータベースとして記憶されたパノラマ画像200を示
す。このパノラマ画像200はθ=90度(=+X方
向)の方向に三角形状画像210を、θ=270度(=
−X方向)の方向に円状図形220を有する。
For the sake of simplicity, the scene viewed by the user is, as shown in FIG. 2, a point A in the Z-axis direction, which is the plus direction of the X-axis (θ = 90 ° direction).
The triangle that exists in the “+ X direction”) and the point A
It is assumed that the sphere exists in the minus direction of the X axis (θ = −90 degrees direction, hereinafter referred to as “−X direction”). FIG. 3 shows a panoramic image 200 that has been previously photographed of the scene of FIG. 2 at a certain point on the Z axis, converted into a panoramic image, and stored as an image database. This panoramic image 200 is obtained by transforming a triangular image 210 in a direction of θ = 90 degrees (= + X direction) into a direction of θ = 270 degrees (= + X direction).
(-X direction).

【0006】上記の従来のソフトウエアツールは、観察
者が点Aにおいて+X方向を見た場合に、θ=90度方
向で所定の画角を有するシーンをパノラマ画像200か
ら切り出して、例えば第1図のように、シーン201と
して観察者に提示する。同図に示すように、シーン20
1は三角形状211を含む。ここで、観察者が第4図に
示すように+X方向に点Aから距離Δx(Δx>0とす
る)だけ移動して位置Bに移動した場合には、このソフ
トウエアツールは、画角を変更してパノラマ画像を切り
出し、即ち、第1図で切り出した画角よりも狭い範囲で
画像を切り出し、移動距離Δxに見合うように、その切
り出し画像を第1図の画像201と同じサイズにまで拡
大して、第4図のように、シーン202として提示す
る。シーン202は三角形状212(第1図の211よ
りは拡大されている)を含む。
The conventional software tool described above cuts out a scene having a predetermined angle of view in the direction of θ = 90 degrees from the panoramic image 200 when the observer looks in the + X direction at the point A, for example, by using the first As shown in the figure, the scene 201 is presented to the observer. As shown in FIG.
1 includes a triangular shape 211. Here, when the observer moves from point A by a distance Δx (assuming Δx> 0) to position B in the + X direction as shown in FIG. 4, this software tool changes the angle of view to The panorama image is cut out by changing it, that is, the image is cut out in a range narrower than the angle of view cut out in FIG. 1, and the cut out image is reduced to the same size as the image 201 in FIG. It is enlarged and presented as a scene 202 as shown in FIG. The scene 202 includes a triangular shape 212 (enlarged from 211 in FIG. 1).

【0007】観察者は、この拡大された三角形状212
を提示させられることにより、擬似的に近接感(移動
感)を感じる。
[0007] The observer observes this enlarged triangular shape 212.
Is presented, the user feels a pseudo proximity (movement).

【0008】[0008]

【発明が解決しようとする課題】ところで、この従来の
三次元ソフトウエアツールは次のような欠点を有してい
る。観察者が位置Bにおいて視線方向を180度回転し
た場合には、位置Bは物体からΔXだけ離間しているの
で、本来、縮小されて見えるはずであるが、従来の三次
元ソフトウエアツールはこの球形(円形図形)を拡大し
て表示してしまい、観察者に違和感を与えるのである。
The conventional three-dimensional software tool has the following disadvantages. If the observer rotates the line of sight by 180 degrees at position B, position B is supposed to be reduced by ΔX from the object. The sphere (circular figure) is enlarged and displayed, giving an uncomfortable feeling to the observer.

【0009】即ち、第5図に示すように、点Bにおいて
観察者が振り返ると、即ち、−X方向を向くと、その方
向には球形物体があるので、三次元ソフトウエアツール
は、パノラマ画像200からθ=−90度方向のシーン
を切り出して、それを観察者に提示するのであるが、こ
の従来のツールは、観察者がZ軸から+方向に距離Δx
だけ移動していることを保存しているので、この+方向
でΔxの移動によるシーン202に対して行った前述の
画像加工処理(即ち、拡大処理)を、θ=−90度方向
のシーンに対しても適用してしまい、第5図に示すよう
に、本来的には縮小されるべき円形図形が221のよう
に拡大されて表示されてしまうのである。本来的には、
観察者はZ軸から+X方向に距離xだけ移動しているの
であるから、球形から距離xだけ遠ざかっているはずで
あるのであるが、誤って距離Δx近づいているものとし
て処理してしまうのである。
That is, as shown in FIG. 5, when the observer looks back at point B, that is, when the observer turns in the −X direction, there is a spherical object in that direction. A scene in the direction of θ = −90 degrees is cut out from 200 and is presented to the observer. In this conventional tool, the observer uses the distance Δx in the + direction from the Z axis.
Is stored, so that the above-described image processing (that is, enlargement) performed on the scene 202 due to the movement of Δx in the + direction is changed to a scene in the θ = −90 degree direction. As shown in FIG. 5, a circular figure which should be reduced originally is enlarged and displayed like 221 as shown in FIG. Originally,
Since the observer has moved from the Z axis in the + X direction by the distance x, the observer should have moved away from the sphere by the distance x. However, the observer mistakenly treats the distance Δx as approaching. .

【0010】この欠点は、観察者は、第6図に示すよう
に、点Bの周りに順に視線方向を変えて最終的に−X方
向に向くべきものであるところを、この三次元ソフトウ
エアツールは、第7図に示すように、−X方向における
視線方向を、点B’位置における視線方向に近似してし
まうからである。これは、パソコンなどの手軽なシステ
ムでは、実時間のウオークスルーを実現するためには、
上記近似は必要であるからである。
The drawback of this three-dimensional software is that, as shown in FIG. 6, the observer must change his line of sight in order around point B and finally turn to the −X direction. This is because the tool approximates the line-of-sight direction in the −X direction to the line-of-sight direction at the point B ′, as shown in FIG. This is because in a simple system such as a personal computer, to realize a real-time walkthrough,
This is because the above approximation is necessary.

【0011】[0011]

【課題を解決するための手段】本発明は、上記従来の三
次元ソフトウエアツールに代表されるような、パノラマ
画像を用いた仮想現実感提示システムの欠点を改善する
ために提案されたもので、その目的は違和感のない仮想
現実感を与える画像を生成する画像処理方法、さらに
は、その画像を用いた仮想現実感の提示方法を提案す
る。
SUMMARY OF THE INVENTION The present invention has been proposed to improve the drawbacks of a virtual reality presentation system using a panoramic image as represented by the above-mentioned conventional three-dimensional software tool. The purpose of the present invention is to propose an image processing method for generating an image giving a virtual reality without a sense of incongruity, and a method for presenting a virtual reality using the image.

【0012】上記課題を達成するために、本発明の画像
処理方法は、例えば観察者が振り返った場合において違
和感のない仮想現実感を与える提示方法を提案する。こ
のために、請求項1の、1つの視点位置からの複数の視
線方向を有するように作成されたパノラマ画像に基づい
て、観察者に回転移動に伴った移動感を与える仮想画像
を生成する画像処理方法は、観察者が、第1の視線方向
から前記第1の視線方向と略180度反対の第2の視線
方向に向けて実質的に振り返ったときに、現在の視点位
置が、前記パノラマ画像の作成時の視点位置よりも前記
第1の視線方向について前方にある場合には前記パノラ
マ画像から縮小した画像を生成し、また後方にある場合
には拡大した画像を生成する生成工程を具備することを
特徴とする。
In order to achieve the above object, the image processing method according to the present invention proposes a presentation method that gives a virtual reality without discomfort when the observer looks back, for example. For this purpose, an image for generating a virtual image that gives an observer a sense of movement accompanying a rotational movement based on a panoramic image created so as to have a plurality of line-of-sight directions from one viewpoint position according to claim 1 The processing method is such that, when the observer turns substantially from the first line of sight to a second line of sight substantially 180 degrees opposite to the first line of sight, the current viewpoint position is changed to the panoramic position. A generating step of generating a reduced image from the panoramic image when the image is located ahead of the viewpoint position at the time of creating the image in the first line-of-sight direction, and an enlarged image when the image is located backward. It is characterized by doing.

【0013】観察者が実質的に振り返ったときにおい
て、その視点位置がパノラマ画像を作成したときの視点
位置よりも前記第1の視線方向について前方にある場合
には、その振り向いた方向のシーンから遠ざかっている
のであるから、縮小することにより、一方、後方にある
場合にはそのシーンに近づいているのであるから拡大す
ることにより、違和感を無くすことができる。
When the observer substantially looks back, if the viewpoint position is ahead of the viewpoint position when the panoramic image is created in the first line-of-sight direction, the scene in the turned direction is It is possible to eliminate a sense of incongruity by reducing the size of the scene because it is far away, and by enlarging it when it is near the scene when it is behind.

【0014】本発明は、観察者が振り向く動作(回転動
作)のみならず、平行移動動作を行う場合における違和
感の解消にも向けられている。この課題を達成するため
に、請求項2に係る画像処理方法は、観察者が前記第1
の視線方向に略直交する方向に沿って平行移動しながら
回転したときは、平行移動量を検出する工程と、検出し
た平行移動量に基づいて前記パノラマ画像をシフトした
画像を生成するシフト工程を更に具備する。即ち、観察
者の平行移動はパノラマ画像のシフト処理によって、仮
想現実感は違和感が無いものとなる。
The present invention is directed not only to the movement of the observer turning around (rotating movement) but also to the elimination of discomfort when performing the parallel movement movement. In order to achieve this object, the image processing method according to claim 2, wherein the observer has the first
When rotating while translating in a direction substantially orthogonal to the line of sight, detecting the amount of parallel movement and shifting the panoramic image based on the detected amount of parallel movement to generate an image. It also has In other words, the parallel movement of the observer is such that the virtual reality does not feel strange due to the shift processing of the panoramic image.

【0015】本発明の好適な一態様である請求項3に拠
れば、前記シフト工程は、前記検出した平行移動量に基
づいて切り出し位置を求める工程と、この切り出し位置
を中心に画像を切り出す工程とを具備することにより、
画像のシフトを実現する。本発明の他の目的は、パノラ
マ画像の配列方向に観察者が進行する場合において、観
察者の視線がその配列方向に実質的に沿っている場合に
おいて、違和感を無くすことである。
According to a preferred aspect of the present invention, in the shift step, the step of obtaining a cutout position based on the detected amount of parallel movement and the step of cutting out an image around the cutout position By having
Achieve image shifting. Another object of the present invention is to eliminate a sense of incongruity when the observer moves in the direction of arrangement of the panoramic images and the line of sight of the observer is substantially along the direction of arrangement.

【0016】この目的に向けて、請求項4に係る画像処
理方法は、前記パノラマ画像が、所定の系列方向に並ん
だ離散的な複数の視点位置からのパノラマ画像系列中の
1つのパノラマ画像であって、観察者の前記系列方向に
沿った移動位置を求める移動位置検出工程と、この移動
位置に最も近い視点位置でのパノラマ画像を特定するパ
ノラマ画像特定工程とをさらに具備し、特定されたパノ
ラマ画像を前記生成工程での拡大若しくは縮小の基とな
る画像として用いることを特徴とする。
[0016] To this end, an image processing method according to a fourth aspect is characterized in that the panoramic image is composed of one panoramic image in a panoramic image sequence from a plurality of discrete viewpoint positions arranged in a predetermined sequence direction. There is further provided a moving position detecting step of obtaining a moving position of the observer in the series direction, and a panoramic image specifying step of specifying a panoramic image at a viewpoint position closest to the moving position. It is characterized in that a panoramic image is used as an image on which enlargement or reduction is performed in the generation step.

【0017】本発明の好適な一態様である請求項5に拠
れば、拡大若しくは縮小の倍率は、前記第1の視線方向
に沿った前記視点位置からの距離ベクトルに基づく。本
発明の好適な一態様である請求項6に拠れば、現在の視
線方向が前記パノラマ画像系列の方向に対して斜めであ
る場合には、拡大・縮小処理とシフト処理とを施す。
According to a preferred aspect of the present invention, the enlargement or reduction magnification is based on a distance vector from the viewpoint position along the first line of sight. According to claim 6, which is a preferred aspect of the present invention, when the current line-of-sight direction is oblique to the direction of the panoramic image sequence, enlargement / reduction processing and shift processing are performed.

【0018】仮想現実感を提示するために、提示される
画像の大きさは異ならない方が好ましい。そこで、上記
画像処理方法により生成された画像を、請求項7に従っ
て、所定の大きさに補正して観察者に提示する。本発明
の目的は、パノラマ画像に基づく方が、より違和感の無
い仮想現実画像を提示できるような場合に、その手法を
適用する提示方法を提案するものである。
In order to present virtual reality, it is preferable that the sizes of the presented images do not differ. Therefore, the image generated by the image processing method is corrected to a predetermined size according to claim 7 and presented to the observer. An object of the present invention is to propose a presentation method to which a technique based on a panoramic image is applied when a virtual reality image without a sense of incongruity can be presented.

【0019】この目的のために、請求項8に係る、離散
的な複数の視点位置からの一連のパノラマ画像系列の画
像を用いて、観察者に移動感を与える仮想画像を提示す
る仮想現実感の提示方法は、現在の視点位置に応じてパ
ノラマ画像に基づく第1の手法、または二次元的に自由
に移動可能な第2の手法のいずれか一方を、現在の視点
位置に応じて選択し、選択した手法により現在の視点位
置における仮想現実感画像を生成し、生成した画像を観
察者に提示することを特徴とする。
To this end, a virtual reality system for presenting a virtual image that gives a sense of movement to an observer by using a series of panoramic image sequence images from a plurality of discrete viewpoint positions according to claim 8. Is selected according to the current viewpoint position, either the first method based on the panoramic image according to the current viewpoint position or the second method that can be freely moved two-dimensionally. A virtual reality image at the current viewpoint position is generated by the selected method, and the generated image is presented to the observer.

【0020】本発明の好適な一態様である請求項8に拠
れば、前記第2の手法は光線空間理論による実環境画像
を生成する。上記構成の画像処理方法及び仮想現実感の
提示方法は、いずれもコンピュータプログラム化でき、
従って、記憶媒体に格納することができる。
According to a preferred embodiment of the present invention, the second method generates a real environment image based on a ray space theory. Both the image processing method and the virtual reality presentation method having the above configuration can be computer-programmed,
Therefore, it can be stored in a storage medium.

【0021】[0021]

【発明の実施の形態】以下、添付図面を参照しながら、
本発明を適用した好適な実施形態に係る仮想現実感提示
システムを説明する。第8図は、このシステムのハード
構成を示す。このシステムは、WINDOWS NTまたはUNIXベ
ースの通常のワークステーション上に構築されるもの
で、例えばPENTIUM II等のマイクロコンピュータを用い
たCPU13が、ハードディスク14に記憶されている
アプリケーションプログラムをRAM11上に読み出し
て実行することにより、仮想現実画像が構築されてCR
T12上に表示されて実現される。
BRIEF DESCRIPTION OF THE DRAWINGS FIG.
A virtual reality presentation system according to a preferred embodiment of the present invention will be described. FIG. 8 shows the hardware configuration of this system. This system is built on an ordinary workstation based on WINDOWS NT or UNIX. For example, a CPU 13 using a microcomputer such as PENTIUM II reads application programs stored in a hard disk 14 onto a RAM 11 and By executing, a virtual reality image is constructed and CR
It is displayed and realized on T12.

【0022】仮想現実感提示のための画像は、ハードデ
ィスク15内に前もって格納されたパノラマ画像から切
り出して生成される。パノラマ画像系列は、第9図に示
すように、離散的に設定された複数の基準位置において
前もって撮影された生成された複数のパノラマ画像から
構成される。第9図の例では、1つのパノラマ画像は、
1つ基準位置において、離散的な例えば8つの方向を向
いて撮影した8つの実写画像から得られる。即ち、1つ
のパノラマ画像は、その基準位置と方位と画像データか
ら構成される。
An image for presenting virtual reality is generated by cutting out a panoramic image stored in the hard disk 15 in advance. As shown in FIG. 9, the panoramic image sequence is composed of a plurality of generated panoramic images previously captured at a plurality of discretely set reference positions. In the example of FIG. 9, one panoramic image is
At one reference position, the image is obtained from eight real shot images taken in discrete directions, for example, in eight directions. That is, one panoramic image is composed of its reference position, azimuth, and image data.

【0023】本実施形態のパノラマ画像は第10図に示
すように円柱状の空間を有する。任意のシーンは同図に
示すように、視線方向に一致する方向の画像を切り出し
て生成する。尚、本実施形態では、遠ざかったシーンを
提示するために、パノラマ画像から広い範囲の画像デー
タを切り出し、その画像データを縮小したものを提示す
ることにより、離間した感覚を擬似的に提示する。とこ
ろが、垂直方向で、より広い範囲を切り出すと、垂直方
のズレがより強調される。そこで、本実施形態のパノラ
マ画像データベースは、第11図に示すように、仰角Φ
0(=0度)におけるパノラマ画像の画像データ200
の他に、Φ1(>0)とΦ2(<0)との仰角におけるパ
ノラマ画像の画像データ(300,400)を併せて記
憶している。
The panoramic image of this embodiment has a columnar space as shown in FIG. As shown in the figure, an arbitrary scene is generated by cutting out an image in a direction corresponding to the viewing direction. In the present embodiment, in order to present a distant scene, a wide range of image data is cut out from the panoramic image, and a reduced version of the image data is presented, so that the sense of separation is presented in a pseudo manner. However, if a wider range is cut out in the vertical direction, the vertical deviation is more emphasized. Therefore, the panoramic image database of the present embodiment has an elevation angle Φ as shown in FIG.
Image data 200 of a panoramic image at 0 (= 0 degree)
In addition, image data (300, 400) of a panoramic image at an elevation angle between Φ 1 (> 0) and Φ 2 (<0) is also stored.

【0024】観察者が後方に下がってシーンを見ると
き、即ち、縮小率を大きくして画像切り出しを行う必要
があるとき、即ち、広範囲の画像データを切り出す必要
があるときにおいて、切り出し範囲がパノラマ画像30
0及びまたはパノラマ画像400に及ぶ場合には、パノ
ラマ画像300及びまたはパノラマ画像400から画像
データの切り出しを行う。
When the observer views the scene by moving backward, that is, when it is necessary to cut out an image by increasing the reduction ratio, that is, when it is necessary to cut out a wide range of image data, the cutout range becomes panoramic. Image 30
In the case of 0 and / or panoramic image 400, image data is cut out from panoramic image 300 and / or panoramic image 400.

【0025】現実の視点位置および視線方向は、第12
図に示すように、基準位置(Z1,Z2,Z3…)及び撮
影方向(θ1,θ2,θ3…)と異なる。第12図では、
現在の視点位置は(x,z,θ)を有する、即ち、視点
位置(x,z)は、最も近い基準位置Z0からΔx,Δ
zだけずれている。また、視線方向θは撮影方向θ1
θ8と異なっている。
The actual viewpoint position and line-of-sight direction are
As shown in the figure, the reference position (Z 1 , Z 2 , Z 3 ...) And the photographing direction (θ 1 , θ 2 , θ 3 ...) Are different. In FIG. 12,
The current viewpoint position has (x, z, θ), that is, the viewpoint position (x, z) is Δx, Δ from the closest reference position Z 0.
It is shifted by z. In addition, the line-of-sight direction θ shooting direction θ 1 ~
θ 8 is different.

【0026】第13図は、実施形態のアプリケーション
プログラムの制御手順を示す。第13図、及び他の図面
を参照して仮想現実感画像の生成手順を説明する。ステ
ップS2では、現在の視点位置(xn,zn,θn)を入
力する。ステップS4では、視点位置座標znに最も近
い基準位置Znを探す。このZnは、 Zn:MINk{(xn−Xk2+(zn−Zk2 } から決定される。
FIG. 13 shows a control procedure of the application program of the embodiment. A procedure for generating a virtual reality image will be described with reference to FIG. 13 and other drawings. In step S2, entering a current viewpoint position (x n, z n, θ n). In step S4, find the nearest reference position Z n to the viewpoint position coordinate z n. The Z n is, Z n: MIN k {( x n -X k) 2 + (z n -Z k) 2} is determined from.

【0027】ステップS6では、基準位置Znに関連す
るパノラマ画像PI(n)をディスク15から呼び出
す。ステップS8では「シフト量」を決定する。本実施
形態では、パノラマ画像を撮影した位置および方向から
ずれた視線からの仮想現実感画像を生成するには、画像
のシフトを行う。第14図において、実線の矩形は切り
出したパノラマ画像の領域を示し、波線の矩形はCRT
13に表示される表示領域を示す。波線の矩形がそのま
まCRT13に表示されると、そのパノラマ画像の撮影
位置からの画像が仮想現実感画像として提示されること
を意味する。一方、現在の視点位置が基準位置Znより
も進んでいる(右にシフトしている、即ち、Δz>0)
場合には、第14図に示すように、波線の矩形領域50
1を502のように右側に移動させる。この画像502
が表示されると、観察者には、基準位置ZnからΔzだ
け右側に移動した位置から見たかのような画像として提
示される、即ち、擬似的な移動感が与えられる。また、
現在の視点位置が基準位置Znよりも遅れている(左に
シフトしている、即ち、Δz<0)場合には、第15図
に示すように、波線の矩形領域501を503のように
左側に移動させる。この画像503が表示されると、観
察者には、基準位置ZnからΔzだけ左側に移動した位
置から見たかのような画像として提示される。
The call In step S6, the panoramic image PI associated with the reference position Z n a (n) from the disk 15. In step S8, the "shift amount" is determined. In the present embodiment, the image is shifted in order to generate a virtual reality image from a line of sight shifted from the position and direction in which the panoramic image was captured. In FIG. 14, a solid-line rectangle indicates an area of the cut-out panoramic image, and a wavy-line rectangle indicates a CRT.
13 shows a display area displayed. If the wavy rectangle is displayed on the CRT 13 as it is, it means that an image from the shooting position of the panoramic image is presented as a virtual reality image. On the other hand, the current viewpoint position is ahead reference position Z n (shifted to the right, i.e., Delta] z> 0)
In this case, as shown in FIG.
1 is moved to the right as indicated by 502. This image 502
There When displayed, the viewer is presented as one of such image viewed from a position shifted to the right by Δz from the reference position Z n, i.e., pseudo moving feeling is given. Also,
Current viewpoint position (shifted to the left, i.e., Delta] z <0) which is delayed from the reference position Z n if, as shown in FIG. 15, the rectangular region 501 of the wavy line as 503 Move to the left. When this image 503 is displayed, the viewer is presented as one of such image viewed from a position shifted to the left by Δz from the reference position Z n.

【0028】第13図の制御手順に戻って、ステップS
8の「シフト量」は、Z軸方向の視点位置の移動量Δz
に応じてシフト量が決定される。このシフト量は移動量
Δzの関数であるからf(Δz)で表す。ステップS1
0では「拡大・縮小率g」を計算する。第16図に示す
ように、視線方向がθ=90°で且つΔz=0であると
してモデル化して考えると、Z軸からX方向にΔxだけ
視点位置がずれると、Δx>0であれば、θ=90度の
シーンの画像を見ることになるが、このシーンにΔxだ
け近づいているのであるから、仮想現実感画像は拡大さ
れなければならない。一方、Δx<0の場合には、Δx
だけ遠ざかっているのであるから、仮想現実感画像は縮
小されなければならない。
Returning to the control procedure of FIG.
The “shift amount” of 8 is the movement amount Δz of the viewpoint position in the Z-axis direction.
The shift amount is determined according to. Since this shift amount is a function of the movement amount Δz, it is represented by f (Δz). Step S1
At 0, the “enlargement / reduction rate g” is calculated. As shown in FIG. 16, when modeling is performed by assuming that the line-of-sight direction is θ = 90 ° and Δz = 0, if the viewpoint position shifts by Δx from the Z axis in the X direction, if Δx> 0, You will see an image of a scene at θ = 90 degrees, but since it is approaching this scene by Δx, the virtual reality image must be enlarged. On the other hand, when Δx <0, Δx
Since it is only far away, the virtual reality image must be reduced.

【0029】また、視線方向が−90度の場合には、逆
に、θ=−90度のパノラマ画像を見ることになるが、
Δx>0であれば、この風景にΔxだけ遠ざかっている
のであるから、仮想現実感画像は縮小され、Δx<0の
場合には、Δxだけ近づいているのであるから、仮想現
実感画像は拡大されなければならない。したがって、拡
大若しくは縮小倍率gはZ軸からの離間距離Δxの絶対
値に依存し、拡大されるか縮小されるかは、第16図に
示すように、Δxが風景に近づくか遠ざかるか(即ち、
Δxの符号)によって決定される。ステップS10で
は、このようにして拡大・縮小倍率が決定される。
When the viewing direction is -90 degrees, on the contrary, a panoramic image of θ = -90 degrees is viewed,
If Δx> 0, the virtual reality image is reduced by Δx from the landscape, and if Δx <0, the virtual reality image is enlarged by Δx. It must be. Accordingly, the enlargement or reduction magnification g depends on the absolute value of the separation distance Δx from the Z-axis, and whether the enlargement or reduction is performed depends on whether Δx approaches or moves away from the scenery as shown in FIG. ,
Δx). In step S10, the enlargement / reduction magnification is determined in this way.

【0030】ステップS8,ステップS10で計算され
たシフト量fおよび拡大率gは、視線方向θが90度と
してモデル化して演算されたものであるが、実際は、視
線方向は90度ではない。そこで、ステップS12では
シフト量fと拡大率gの補正を行う。即ち、シフト量f
は、 f×(π/2−θ)/(π/2) により補正され、拡大率gは、 g×(θ)/(π/2) により補正される。
The shift amount f and the enlargement ratio g calculated in steps S8 and S10 are calculated by modeling the visual line direction θ as 90 degrees, but the visual line direction is not actually 90 degrees. Therefore, in step S12, the shift amount f and the enlargement ratio g are corrected. That is, the shift amount f
Is corrected by f × (π / 2−θ) / (π / 2), and the magnification ratio g is corrected by g × (θ) / (π / 2).

【0031】続いて、ステップS14では、ステップS
6で抽出したパノラマ画像PI(n)から、ステップS
8,10で演算したシフト量f,拡大・縮小倍率gに基
づいて画像を切り出す。ここで、切り出すべき画像の位
置はシフト量fによって決定される。また、切り出すべ
き画像のサイズは表示画像サイズの1/gの大きさであ
る。
Subsequently, in step S14, step S
From the panoramic image PI (n) extracted in step 6
An image is cut out based on the shift amount f and the enlargement / reduction magnification g calculated in steps 8 and 10. Here, the position of the image to be clipped is determined by the shift amount f. The size of the image to be cut out is 1 / g of the display image size.

【0032】尚、切り出すべき範囲が大きくなるばあい
には、第11図に示すように、歪み若しくは位置ズレを
小さくするために、パノラマ画像200の他に、パノラ
マ画像300及びまたはパノラマ画像400からも切り
出すべきである。ステップS14では切り出した画像を
g倍に拡大する。即ち、ステップS12で1/gの大き
さで切り出した画像をステップS16でg倍に拡大する
ことにより、拡大された画像は表示画面の大きさに一致
され、従って、この表示画面を見る観察者の目には擬似
的に近寄った或いは遠ざかったシーンが映し出される。
When the range to be cut out is large, as shown in FIG. 11, in order to reduce distortion or positional deviation, in addition to panoramic image 200, panoramic image 300 and / or panoramic image 400 are used. Should also be cut out. In step S14, the clipped image is enlarged by a factor of g. That is, the image cut out at the size of 1 / g in step S12 is enlarged by g times in step S16, so that the enlarged image matches the size of the display screen. In the eyes, a scene approaching or moving away is displayed in a pseudo manner.

【0033】第17図には、波線の矩形領域504が5
01に対して縮小されることによって、表示図形として
は逆に拡大されることが、第18図には、波線の矩形領
域505が501に対して拡大されることによって、表
示図形としては逆に縮小されることが、夫々示されてい
る。尚、ステップS12のシフト量f及び拡大縮小率g
の補正を更に精度よくすることも可能である。即ち、補
正量を精度よく計算する場合には、第19図に示すよう
に、シフト量については、
FIG. 17 shows that the rectangular area 504 of the wavy line
In contrast, in FIG. 18, the dashed rectangular area 505 is enlarged with respect to 501 to reduce the size of the display graphic. Each is shown to be reduced. Incidentally, the shift amount f and the enlargement / reduction ratio g in step S12.
Can be corrected with higher accuracy. That is, when the correction amount is calculated with high accuracy, as shown in FIG.

【0034】[0034]

【数1】 (Equation 1)

【0035】により求め、一方、拡大率については、θ
方向への近接量である所の下記式の量、
On the other hand, for the enlargement ratio, θ
Where the amount of proximity to the direction is:

【0036】[0036]

【数2】 (Equation 2)

【0037】に基づいて演算される。第20図乃至第2
2図は、第13図の制御手順によって仮想現実感を与え
る画像を生成するときの切り出し画像の範囲及び方向を
模式的に示す。尚、図中、ハッチングの扇形は参照範囲
を示し、扇形の角度が小さいほど拡大率が大きいこと
を、扇形の角度が大きいほど縮小率が大きいことを示
す。
Calculated based on FIG. 20 to FIG.
FIG. 2 schematically shows the range and direction of a cut-out image when an image giving virtual reality is generated by the control procedure of FIG. In the drawing, the hatched sector indicates a reference range, and the smaller the angle of the sector, the larger the enlargement ratio, and the larger the angle of the sector, the larger the reduction ratio.

【0038】即ち、第20図では、視線方向が夫々の扇
形でしめされている場合に、Z軸から図面で上方向に移
動し、或いは下方向に移動する場合の拡大/縮小を示
す。また、第21図は、移動方向が斜めの場合を、第2
2図は、観察者がその場で回転する場合を示す。従来の
仮想現実感提示システム、例えば従来技術の項で前述の
三次元画像ソフトウエアツールのように、観察者が振り
向くような動作を行った場合には、第1図及び第5図に
示したように不自然な画像が提示されたが、本実施形態
では、第13図の制御手順及び第22図から明らかなよ
うに、自然で滑らかな変化を行う仮想現実感画像が提示
される。
That is, FIG. 20 shows the enlargement / reduction in the case where the line of sight moves in an upward direction or the downward direction in the drawing from the Z axis when the line of sight is indicated by each sector. FIG. 21 shows the case where the moving direction is oblique, as shown in FIG.
FIG. 2 shows a case where the observer rotates on the spot. A conventional virtual reality presentation system, for example, when an observer turns around like the three-dimensional image software tool described above in the section of the prior art, is shown in FIG. 1 and FIG. Although an unnatural image is presented as described above, in the present embodiment, as is clear from the control procedure of FIG. 13 and FIG. 22, a virtual reality image that makes a natural and smooth change is presented.

【0039】第13図の制御手順の拡大縮小は、パノラ
マ画像系列の配列方向に進行している場合においても有
効である。第23図は、観察者の進行方向(即ちパノラ
マ画像系列の方向)が視線方向が一致している場合を、
第24図は逆向きの場合を示している。第23図,第2
4図に於いて、Zはある時刻における観察者の現在位置
を、Z’は別の時刻における観察者の現在位置を示す。
The enlargement / reduction of the control procedure shown in FIG. 13 is effective even in the case where the panorama image sequence proceeds in the arrangement direction. FIG. 23 shows a case where the viewing direction of the observer's traveling direction (that is, the direction of the panoramic image sequence) is the same.
FIG. 24 shows the case of the reverse direction. FIG. 23, second
In FIG. 4, Z indicates the current position of the observer at a certain time, and Z 'indicates the current position of the observer at another time.

【0040】第23図に於いて、観察者が位置Zに存在
する場合には、このZは基準位置Z nよりもZnー1に近接
しているので、基準位置Znー1のパノラマ画像を用いる
ことになる。この時、現在位置Zはパノラマ画像を撮影
した位置Znー1よりも前方に存在する。即ち、そのパノ
ラマ画像の含む前方シーンに対して観察者は進んだ位置
にいることになる。従って、観察者はその先方シーンに
より近接しているので、拡大された画像が見えるはずで
ある。従って、第23図において観察者がZに位置する
場合には、位置Znー1のパノラマ画像カラー画像の切り
出しを行ってからその画像の拡大するために、より狭い
領域を参照することとしている。
In FIG. 23, the observer is at position Z.
If so, this Z is the reference position Z nZ thann-1Close to
The reference position Zn-1Use panoramic images of
Will be. At this time, the current position Z takes a panoramic image
Position Zn-1Exists ahead of it. That is, the pano
The observer has advanced to the scene ahead of the Lama image
You will be in Therefore, the observer is
Because it is closer, you should see the enlarged image
is there. Therefore, the observer is located at Z in FIG.
In the case, the position Zn-1Panorama image color image clipping
To make the image larger
It refers to the area.

【0041】一方、第23図において、観察者がZ’に
位置する場合には、観察者は基準位置Znに近接してい
る。基準位置Znは現在位置Z’よりも進んだ位置にあ
るので、位置Z’の観察者は基準位置Znで撮影した前
方シーンからより遠ざかった位置にいることになる。従
って、観察者がZ’にいる場合には、基準位置Znでの
パノラマ画像からの切り出し画像を縮小するのである。
On the other hand, in FIG. 23, when the observer is located Z 'is, the viewer is close to the reference position Z n. 'Since the position advanced than the position Z' reference position Z n is the current position Z observer will be at the more distant position from the front scene taken at the reference position Z n. Therefore, when the observer is in the Z 'is to reduce the clipped image from the panoramic image at the reference position Z n.

【0042】第24図は、観察者が進行方向に対して逆
向きを見ている場合を示す。第24図の切り出し画像の
拡大/縮小は第23図のそれと逆になる。本発明のパノ
ラマ画像に基づく仮想現実感の提示は、必ずしもパノラ
マ画像に基づいて生成されるとは限らない。例えば、第
25図に示すように、概ね1つの方向に(例えば1次元
方向)進むウオークスルーを行う領域(領域AとA’)
と、二次元的な移動を行う領域Bとがある場合には、領
域AとA’に対しては、前述のパノラマ画像に基づくか
そう現実感画像の提示を行い、一方、領域Bに対しては
二次元的に自由に移動可能な手法を適用する。二次元的
に自由に移動可能な手法として例えば、光線空間理論を
適用した手法がある。
FIG. 24 shows a case where the observer is looking in the opposite direction to the traveling direction. Enlargement / reduction of the cut-out image in FIG. 24 is opposite to that in FIG. Presentation of virtual reality based on a panoramic image according to the present invention is not always generated based on a panoramic image. For example, as shown in FIG. 25, areas (areas A and A ′) where walk-throughs proceed in substantially one direction (for example, one-dimensional direction).
When there is an area B that performs a two-dimensional movement, for the areas A and A ′, a real image is presented based on the above-described panoramic image, or on the other hand, for the area B, In this case, a technique that can move freely in two dimensions is applied. As a technique that can freely move two-dimensionally, for example, there is a technique that applies a ray space theory.

【0043】領域AとA’は例えば第26図に示すよう
に、主に歩くだけの道路領域がある。一方、領域Bには
歩き回ることが普通の公園(または建物)がある。そこ
で、前もって、第27図に示すように、各領域に、パノ
ラマ画像に基づく手法が適した領域か、光線空間理論の
手法が適した領域であるかをフラグを付しておき、現在
位置がどちらの領域にあるかをそのフラグの値で判断し
て、フラグの値に応じて手法を切り換えるのである。
As shown in FIG. 26, for example, the areas A and A 'include a road area mainly for walking. On the other hand, in the area B, there is a park (or a building) that it is usual to walk around. Therefore, as shown in FIG. 27, a flag is added to each region in advance as to whether the method based on the panoramic image is suitable or the region based on the ray space theory method. Which area is located is determined by the value of the flag, and the method is switched according to the value of the flag.

【0044】本発明は更に変形が可能である。上記実施
形態では、パノラマ画像は実写画像を用いていたが、C
G画像から生成してもよい。またZ軸方向、即ち観察者
の移動方向は直線でなくとも、自由曲線であっても、そ
の自由曲線に沿ってパノラマ画像系列が備えられている
のであれば、本発明の実施には影響しない。
The present invention can be further modified. In the above embodiment, the panorama image uses a photographed image, but C
It may be generated from a G image. Further, even if the Z-axis direction, that is, the moving direction of the observer is not a straight line or a free curve, the present invention is not affected as long as a panoramic image sequence is provided along the free curve. .

【0045】[0045]

【発明の効果】以上説明したように本発明に因れば、パ
ノラマ画像に基づいて違和感のない仮想現実感を観察者
に与える画像を生成することができる。
As described above, according to the present invention, it is possible to generate an image that gives the observer a virtual reality without discomfort based on the panoramic image.

【図面の簡単な説明】[Brief description of the drawings]

【図1】 従来の仮想現実感提示システムの欠点を説明
する図で、観察者がZ軸上にいる場合における仮想現実
画像の生成を示す図。
FIG. 1 is a diagram illustrating a drawback of a conventional virtual reality presentation system, and is a diagram illustrating generation of a virtual reality image when an observer is on a Z axis.

【図2】 従来の仮想現実感提示システムの欠点を説明
するためのパノラマ画像の例を示す図で、一例としてZ
軸を挟んで三角錐と球が配置されている。
FIG. 2 is a diagram illustrating an example of a panoramic image for explaining a defect of a conventional virtual reality presentation system.
A triangular pyramid and a sphere are arranged across the axis.

【図3】 従来の仮想現実感提示システムのパノラマ画
像の例を示す図。
FIG. 3 is a diagram showing an example of a panoramic image of a conventional virtual reality presentation system.

【図4】 従来の仮想現実感提示システムの欠点を説明
する図で、観察者がZ軸から離れた場合における仮想現
実画像の生成を示す図。
FIG. 4 is a diagram for explaining a drawback of the conventional virtual reality presentation system, and is a diagram showing generation of a virtual reality image when an observer moves away from the Z axis.

【図5】 従来の仮想現実感提示システムの欠点を説明
する図で、観察者が振り返った場合における仮想現実画
像の生成を示す図。
FIG. 5 is a diagram for explaining the drawbacks of the conventional virtual reality presentation system, showing generation of a virtual reality image when an observer looks back.

【図6】 従来の仮想現実感提示システムの欠点を説明
する図で、観察者が振り返った場合における仮想現実画
像の生成を示す図。
FIG. 6 is a diagram for explaining the drawbacks of the conventional virtual reality presentation system, showing generation of a virtual reality image when an observer looks back.

【図7】 従来の仮想現実感提示システムの欠点を説明
する図で、観察者が振り返った場合における仮想現実画
像の生成を示す図。
FIG. 7 is a diagram for explaining the drawbacks of the conventional virtual reality presentation system, and is a diagram illustrating generation of a virtual reality image when an observer looks back.

【図8】 本実施形態のシステムのハード構成を説明す
る図。
FIG. 8 is an exemplary view for explaining the hardware configuration of the system according to the embodiment;

【図9】 図8のシステムで用いられるパノラマ画像系
列の構成を示す図。
9 is a diagram showing a configuration of a panoramic image sequence used in the system of FIG.

【図10】 実施形態のシステムにおいて、パノラマ画
像から表示画像を切り出す方法を説明する図。
FIG. 10 is an exemplary view for explaining a method of cutting out a display image from a panoramic image in the system according to the embodiment.

【図11】 実施形態のシステムで用いられるパノラマ
画像が、視線の上下方向の変化に応じて、複数のパノラ
マ画像を必要とすることを説明する図。
FIG. 11 is an exemplary view for explaining that a panoramic image used in the system according to the embodiment requires a plurality of panoramic images according to a change in the vertical direction of the line of sight.

【図12】 実施形態において、観察者の現在位置が基
準位置Z0から(Δx,Δz,θ)ずれている様子を説
明する図。
FIG. 12 is a diagram illustrating a state in which the current position of the observer is shifted from the reference position Z 0 by (Δx, Δz, θ) in the embodiment.

【図13】 実施形態の制御手順を示すフローチャー
ト。
FIG. 13 is a flowchart illustrating a control procedure according to the embodiment.

【図14】 観察者が右に平行移動した場合において、
パノラマ画像から切り出した画像に右シフト処理を行う
様子を説明する図。
FIG. 14 shows a case where the observer translates rightward.
FIG. 7 is a diagram for explaining a state in which right shift processing is performed on an image cut out from a panoramic image.

【図15】 観察者が左に平行移動した場合において、
パノラマ画像から切り出した画像に左シフト処理を行う
様子を説明する図。
FIG. 15 shows a case where the observer translates to the left.
FIG. 9 is a diagram illustrating a state in which a left shift process is performed on an image cut out from a panoramic image.

【図16】 観察者がZ軸に垂直な方向に移動した場合
において、パノラマ画像を拡大し、或いは縮小する理由
を説明する図。
FIG. 16 is a view for explaining the reason why a panoramic image is enlarged or reduced when an observer moves in a direction perpendicular to the Z axis.

【図17】 観察者がZ軸に垂直な方向でパノラマ画像
に近接するように移動した場合において、パノラマ画像
を拡大する理由を説明する図。
FIG. 17 is a view for explaining the reason for enlarging the panoramic image when the observer moves close to the panoramic image in a direction perpendicular to the Z axis.

【図18】 観察者がZ軸に垂直な方向でパノラマ画像
から遠ざかるように移動した場合において、パノラマ画
像を縮小する理由を説明する図。
FIG. 18 is a view for explaining the reason for reducing the panoramic image when the observer moves away from the panoramic image in a direction perpendicular to the Z axis.

【図19】 シフト量並びに拡大倍率を精度良く演算す
る原理を説明する図。
FIG. 19 is a view for explaining the principle of calculating a shift amount and an enlargement magnification with high accuracy.

【図20】 実施形態の制御手順に基づいた動作例を示
す図で、観察者がZ軸に垂直方向に移動する場合のパノ
ラマ画像の参照方向及び参照角度を示す図。
FIG. 20 is a diagram illustrating an operation example based on the control procedure of the embodiment, and is a diagram illustrating a reference direction and a reference angle of a panoramic image when an observer moves in a direction perpendicular to the Z axis.

【図21】 実施形態の制御手順に基づいた動作例を示
す図で、観察者がZ軸に対して斜め方向に移動する場合
のパノラマ画像の参照方向及び参照角度を示す図。
FIG. 21 is a diagram illustrating an operation example based on the control procedure of the embodiment, and is a diagram illustrating a reference direction and a reference angle of a panoramic image when an observer moves in an oblique direction with respect to the Z axis.

【図22】 実施形態の制御手順に基づいた動作例を示
す図で、観察者が回転する場合のパノラマ画像の参照方
向及び参照角度を示す図。
FIG. 22 is a diagram illustrating an operation example based on the control procedure of the embodiment, and is a diagram illustrating a reference direction and a reference angle of a panoramic image when an observer rotates.

【図23】 実施形態のシステムが、進行方向に平行な
視線方向で移動する場合にも有効であることを説明する
図。
FIG. 23 is a diagram illustrating that the system according to the embodiment is also effective when moving in a line of sight parallel to the traveling direction.

【図24】 実施形態のシステムが、進行方向に逆に平
行な視線方向で移動する場合にも有効であることを説明
する図。
FIG. 24 is a diagram illustrating that the system according to the embodiment is also effective when moving in a line of sight parallel to the traveling direction.

【図25】 他の実施形態に関わる仮想現実提示の方法
を説明する図であって、パノラマ画像の手法と他の手法
とを切換て仮想現実を提示する方法を説明する図。
FIG. 25 is a diagram illustrating a method of presenting virtual reality according to another embodiment, and is a diagram illustrating a method of presenting virtual reality by switching between a panoramic image technique and another technique.

【図26】 図25の方法を適用した例を説明する図。FIG. 26 is a view for explaining an example to which the method of FIG. 25 is applied.

【図27】 図25の方法を適用した例を説明する図。FIG. 27 illustrates an example to which the method of FIG. 25 is applied.

Claims (16)

【特許請求の範囲】[Claims] 【請求項1】 1つの視点位置からの複数の視線方向を
有するように作成されたパノラマ画像に基づいて、観察
者に回転移動に伴った移動感を与える仮想画像を生成す
る画像処理方法であって、 観察者が、第1の視線方向から前記第1の視線方向と略
180度反対の第2の視線方向に向けて実質的に振り返
ったときに、現在の視点位置が、前記パノラマ画像の作
成時の視点位置よりも前記第1の視線方向について前方
にある場合には前記パノラマ画像から縮小した画像を生
成し、また後方にある場合には拡大した画像を生成する
生成工程を具備することを特徴とする画像処理方法。
1. An image processing method for generating, based on a panoramic image created so as to have a plurality of line-of-sight directions from one viewpoint position, a virtual image that gives an observer a sense of movement accompanying a rotational movement. When the observer looks back substantially from the first line of sight to a second line of sight substantially 180 degrees opposite to the first line of sight, the current viewpoint position is A generating step of generating an image reduced from the panoramic image when the image is located ahead of the viewpoint position at the time of creation in the first line-of-sight direction, and generating an enlarged image when the image is located backward. An image processing method characterized by the following.
【請求項2】 観察者が前記第1の視線方向に略直交す
る方向に沿って平行移動しながら回転したときは、平行
移動量を検出する工程と、 検出した平行移動量に基づいて前記パノラマ画像をシフ
トした画像を生成するシフト工程を更に具備することを
特徴とする請求項1に記載の画像処理方法。
2. The method according to claim 1, wherein when the observer rotates while translating in a direction substantially orthogonal to the first line-of-sight direction, a step of detecting a translation amount, and the panorama based on the detected translation amount. The image processing method according to claim 1, further comprising a shift step of generating an image obtained by shifting the image.
【請求項3】 前記シフト工程は、 前記検出した平行移動量に基づいて切り出し位置を求め
る工程と、 この切り出し位置を中心に画像を切り出す工程と、 を具備することにより、画像のシフトを実現することを
特徴とする請求項1または2に記載の画像処理方法。
3. The shifting step comprises: a step of obtaining a cutout position based on the detected parallel movement amount; and a step of cutting out an image centered on the cutout position. 3. The image processing method according to claim 1, wherein:
【請求項4】 前記パノラマ画像は、所定の系列方向に
並んだ離散的な複数の視点位置からのパノラマ画像系列
中の1つのパノラマ画像であって、 観察者の前記系列方向に沿った移動位置を求める移動位
置検出工程と、 この移動位置に最も近い視点位置でのパノラマ画像を特
定するパノラマ画像特定工程とを具備し、 特定されたパノラマ画像を前記生成工程での拡大若しく
は縮小の基となる画像として用いることを特徴とする請
求項1乃至3のいずれか1つに記載の画像処理方法。
4. The panoramic image is one panoramic image in a panoramic image sequence from a plurality of discrete viewpoint positions arranged in a predetermined sequence direction, and is a movement position of an observer along the sequence direction. And a panoramic image specifying step of specifying a panoramic image at a viewpoint position closest to the moving position. The panoramic image is used as a basis for enlargement or reduction in the generation step. The image processing method according to claim 1, wherein the image processing method is used as an image.
【請求項5】 拡大若しくは縮小の倍率は、前記第1の
視線方向に沿った前記視点位置からの距離ベクトルに基
づくことを特徴とする請求項1乃至4のいずれか1つに
記載の画像処理方法。
5. The image processing apparatus according to claim 1, wherein the enlargement or reduction magnification is based on a distance vector from the viewpoint position along the first line-of-sight direction. Method.
【請求項6】 現在の視線方向が前記系列方向に対して
斜めである場合には、拡大・縮小処理とシフト処理とを
併せて施すことを特徴とする請求項4に記載の画像処理
方法。
6. The image processing method according to claim 4, wherein when the current line-of-sight direction is oblique to the series direction, the enlargement / reduction processing and the shift processing are performed in combination.
【請求項7】 請求項1乃至6のいずれか1つに記載の
方法により縮小若しくは拡大された画像を所定の大きさ
に補正して観察者に提示することを特徴とする仮想現実
感の提示方法。
7. A presentation of virtual reality, wherein an image reduced or enlarged by the method according to any one of claims 1 to 6 is corrected to a predetermined size and presented to an observer. Method.
【請求項8】 離散的な複数の視点位置からの一連のパ
ノラマ画像系列の画像を用いて、観察者に移動感を与え
る仮想画像を提示する仮想現実感の提示方法であって、 現在の視点位置に応じてパノラマ画像に基づく第1の手
法、または二次元的に自由に移動可能な第2の手法のい
ずれか一方を、現在の視点位置に応じて選択し、 選択した手法により現在の視点位置における仮想現実感
画像を生成し、 生成した画像を観察者に提示することを特徴とする仮想
現実感の提示方法。
8. A virtual reality presentation method for presenting a virtual image that gives a sense of movement to an observer using images of a series of panoramic image sequences from a plurality of discrete viewpoint positions, comprising: Either the first method based on the panoramic image or the second method that can be freely moved two-dimensionally according to the position is selected according to the current viewpoint position, and the current viewpoint is selected according to the selected method. A virtual reality presentation method characterized by generating a virtual reality image at a position and presenting the generated image to an observer.
【請求項9】 前記第2の手法は光線空間理論による実
環境画像を生成することを特徴とする請求項7に記載の
仮想現実感の提示方法。
9. The virtual reality presentation method according to claim 7, wherein the second method generates a real environment image based on a ray space theory.
【請求項10】 1つの視点位置からの複数の視線方向
を有するように作成されたパノラマ画像に基づいて、観
察者に回転移動に伴った移動感を与える仮想画像を生成
する画像処理プログラムを記憶する記憶媒体であって、 観察者が、第1の視線方向から前記第1の視線方向と略
180度反対の第2の視線方向に向けて実質的に振り返
ったときに、現在の視点位置が、前記パノラマ画像の作
成時の視点位置よりも前記第1の視線方向について前方
にある場合には前記パノラマ画像から縮小した画像を生
成し、また後方にある場合には拡大した画像を生成する
生成コードを記憶することを特徴とする記憶媒体。
10. An image processing program for generating, based on a panoramic image created so as to have a plurality of line-of-sight directions from one viewpoint position, a virtual image that gives the observer a sense of movement associated with a rotational movement. When the observer looks back substantially from the first line of sight to a second line of sight substantially 180 degrees opposite to the first line of sight, the current viewpoint position is Generating an image reduced from the panoramic image if the image is located ahead of the viewpoint position at the time of creating the panoramic image in the first line of sight direction, and generating an enlarged image if the image is located behind the image. A storage medium for storing a code.
【請求項11】 前記生成コードは、 観察者が前記第1の視線方向に略直交する方向に沿って
平行移動しながら回転したときは、平行移動量を検出す
る検出プログラムコードと、 検出した平行移動量に基づいて前記パノラマ画像をシフ
トした画像を生成するシフトプログラムコード、 とを更に記憶することを特徴とする請求項10に記載の
記憶媒体。
11. The detection program code for detecting a translation amount when an observer rotates while translating in a direction substantially perpendicular to the first line-of-sight direction, the detection program code comprising: The storage medium according to claim 10, further comprising: a shift program code for generating an image obtained by shifting the panoramic image based on a movement amount.
【請求項12】 前記シフトプログラムコードは、 前記検出した平行移動量に基づいて切り出し位置を求め
るプログラムコードと、 この切り出し位置を中心に画像を切り出すプログラムコ
ードと、 を更に記憶することを特徴とする請求項10または11
に記載の記憶媒体。
12. The shift program code further stores: a program code for obtaining a cutout position based on the detected parallel movement amount; and a program code for cutting out an image around the cutout position. Claim 10 or 11
A storage medium according to claim 1.
【請求項13】 前記パノラマ画像は、所定の系列方向
に並んだ離散的な複数の視点位置からのパノラマ画像系
列中の1つのパノラマ画像であって、 観察者の前記系列方向に沿った移動位置を求める移動位
置検出プログラムコードと、 この移動位置に最も近い視点位置でのパノラマ画像を特
定するパノラマ画像特定プログラムコードとを更に記憶
することを特徴とする請求項10乃至12のいずれか1
つに記載の記憶媒体。
13. The panoramic image is one panoramic image in a panoramic image sequence from a plurality of discrete viewpoint positions arranged in a predetermined sequence direction, and is a moving position of the observer in the sequence direction. And a panoramic image specifying program code for specifying a panoramic image at a viewpoint position closest to the moving position.
A storage medium according to any one of claims 1 to 3.
【請求項14】 拡大若しくは縮小の倍率を、前記第1
の視線方向に沿った前記視点位置からの距離ベクトルに
基づ居て演算するプログラムコードを更に記憶すること
を特徴とする請求項10乃至13のいずれか1つに記載
の記憶媒体。
14. The method according to claim 1, wherein the enlargement or reduction magnification is set to the first magnification.
The storage medium according to any one of claims 10 to 13, further storing a program code that is calculated based on a distance vector from the viewpoint position along the line of sight direction.
【請求項15】 現在の視線方向が前記系列方向に対し
て斜めである場合には、拡大・縮小処理とシフト処理と
を併せて施すプログラムコードを更に記憶することを特
徴とする請求項13に記載の記憶媒体。
15. The method according to claim 13, further comprising storing a program code for performing both enlargement / reduction processing and shift processing when the current line-of-sight direction is oblique to the sequence direction. The storage medium according to the above.
【請求項16】 さらに生成された画像を提示するプロ
グラムコードを記憶する請求項10乃至15のいずれか
に記載の記憶媒体。
16. The storage medium according to claim 10, further storing a program code for presenting the generated image.
JP3765998A 1998-02-19 1998-02-19 Image processing method, presentation method of virtual reality, and storage medium for program thereof Pending JPH11238143A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP3765998A JPH11238143A (en) 1998-02-19 1998-02-19 Image processing method, presentation method of virtual reality, and storage medium for program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP3765998A JPH11238143A (en) 1998-02-19 1998-02-19 Image processing method, presentation method of virtual reality, and storage medium for program thereof

Publications (1)

Publication Number Publication Date
JPH11238143A true JPH11238143A (en) 1999-08-31

Family

ID=12503779

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3765998A Pending JPH11238143A (en) 1998-02-19 1998-02-19 Image processing method, presentation method of virtual reality, and storage medium for program thereof

Country Status (1)

Country Link
JP (1) JPH11238143A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003203251A (en) * 2001-09-28 2003-07-18 Fuji Xerox Co Ltd Video system, method for generating virtual reality, transport protocol, storage medium readable by computer and program
JP2004192207A (en) * 2002-12-10 2004-07-08 Sony Corp Display image control and processing apparatus, acquired image control and processing apparatus, image control information communication system, its method, and computer program
JP2006311343A (en) * 2005-04-28 2006-11-09 Sony Corp Image processor and processing method, program, and recording medium
CN108073555A (en) * 2016-11-17 2018-05-25 奥多比公司 For generating the method and system of reality environment from electronic document

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003203251A (en) * 2001-09-28 2003-07-18 Fuji Xerox Co Ltd Video system, method for generating virtual reality, transport protocol, storage medium readable by computer and program
JP2009181587A (en) * 2001-09-28 2009-08-13 Fuji Xerox Co Ltd Video system and program for video system
JP2004192207A (en) * 2002-12-10 2004-07-08 Sony Corp Display image control and processing apparatus, acquired image control and processing apparatus, image control information communication system, its method, and computer program
JP2006311343A (en) * 2005-04-28 2006-11-09 Sony Corp Image processor and processing method, program, and recording medium
JP4617993B2 (en) * 2005-04-28 2011-01-26 ソニー株式会社 Image processing apparatus, image processing method, program, and recording medium
CN108073555A (en) * 2016-11-17 2018-05-25 奥多比公司 For generating the method and system of reality environment from electronic document
CN108073555B (en) * 2016-11-17 2023-10-31 奥多比公司 Method and system for generating virtual reality environment from electronic document

Similar Documents

Publication Publication Date Title
US9626790B1 (en) View-dependent textures for interactive geographic information system
Onoe et al. Telepresence by real-time view-dependent image generation from omnidirectional video streams
JP3420504B2 (en) Information processing method
JP5507541B2 (en) Swoop navigation
JP3311830B2 (en) 3D video creation device
US6064399A (en) Method and system for panel alignment in panoramas
US9704282B1 (en) Texture blending between view-dependent texture and base texture in a geographic information system
KR20070086037A (en) Method for inter-scene transitions
US20050231505A1 (en) Method for creating artifact free three-dimensional images converted from two-dimensional images
US20060114251A1 (en) Methods for simulating movement of a computer user through a remote environment
JP2004234455A (en) Information processing method and image reproducing apparatus
US9025007B1 (en) Configuring stereo cameras
US20200273084A1 (en) Augmented-reality flight-viewing subsystem
Simon et al. Omnistereo for panoramic virtual environment display systems
WO2002019270A1 (en) Curved image conversion method and record medium where this method for converting curved image is recorded
US20070038945A1 (en) System and method allowing one computer system user to guide another computer system user through a remote environment
JP2014155168A (en) Image synthesis device and image synthesis method
JP2003067784A (en) Information processor
CN111731190B (en) Display method and system of vehicle-mounted AVM, electronic equipment and storage medium
Southard Viewing model for virtual environment displays
JPH11238143A (en) Image processing method, presentation method of virtual reality, and storage medium for program thereof
US20030090487A1 (en) System and method for providing a virtual tour
WO2020156827A1 (en) Image signal representing a scene
JPH10208074A (en) Picture generation method
JP2005174024A (en) Image forming apparatus and method