JPH11168756A - 画像記録装置、画像データベース装置、画像記録方法及びコンピュータプログラムの記憶媒体 - Google Patents

画像記録装置、画像データベース装置、画像記録方法及びコンピュータプログラムの記憶媒体

Info

Publication number
JPH11168756A
JPH11168756A JP9333287A JP33328797A JPH11168756A JP H11168756 A JPH11168756 A JP H11168756A JP 9333287 A JP9333287 A JP 9333287A JP 33328797 A JP33328797 A JP 33328797A JP H11168756 A JPH11168756 A JP H11168756A
Authority
JP
Japan
Prior art keywords
image
camera
cameras
image data
pickup means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9333287A
Other languages
English (en)
Other versions
JP3571893B2 (ja
Inventor
Takaaki Endo
隆明 遠藤
Akihiro Katayama
昭宏 片山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MR SYSTEM KENKYUSHO KK
MR System Kenkyusho KK
Original Assignee
MR SYSTEM KENKYUSHO KK
MR System Kenkyusho KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MR SYSTEM KENKYUSHO KK, MR System Kenkyusho KK filed Critical MR SYSTEM KENKYUSHO KK
Priority to JP33328797A priority Critical patent/JP3571893B2/ja
Priority to US09/098,544 priority patent/US6950120B1/en
Priority to AT98304941T priority patent/ATE247816T1/de
Priority to DE69817305T priority patent/DE69817305D1/de
Priority to EP98304941A priority patent/EP0921375B1/en
Publication of JPH11168756A publication Critical patent/JPH11168756A/ja
Application granted granted Critical
Publication of JP3571893B2 publication Critical patent/JP3571893B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures

Abstract

(57)【要約】 【課題】 離間して配置した複数のカメラからの実写画
像を、恰も離間させないで配置したカメラからの画像の
ように処理する画像データベースの構築方法を提案する
ものである。かかるデータベースを提案することによ
り、カメラ配置の自由度を確保する。 【解決手段】 車両に取り付けられた少なくとも2つの
カメラにより撮影した画像を記録する画像記録装置は、
車両の第1の方向に撮影方向を向けて設けられた第1の
カメラと、この第1のカメラから既知の距離だけ離間し
た位置に、前記第1の方向と略180度異なる第2の方
向に撮影方向を向けて設けられた第2のカメラと、前記
車両が前記第1の方向に進行しているときに、前記第1
のカメラが撮像した第1の画像データと、前記第2のカ
メラにより前記既知の距離に相当する時間だけ後の時点
で撮像される第2の画像データとを関連付けて記録す
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、実写画像をもとに
仮想空間の記述を行うための画像の記録方法及び装置に
関し、特に離間して配置した複数のカメラからの実写画
像を恰も離間させないで配置したカメラからの画像のよ
うに処理する方法及び装置に関する。また、本発明は上
記方法を実行するプログラム記憶する記憶媒体に関す
る。
【0002】
【従来の技術】近年、コンピュータネットワークが形成
する電脳空間(cyber spaces)内に、人が集い社会的営み
を行う都市環境を構築する試みが行われている。通常、
この種の仮想空間の記述と表示には、従来からのCG技
術が用いられている。しかし、幾何モデルを基にしたC
G表現には限界があるため、最近、実写画像に基づくIm
age Based Rendering (IBR)が注目を集めている。
【0003】所で、実写で得た画像データをそのまま再
生するのでは、撮影者の追体験をするに過ぎない。そこ
で、画像データベースを基に、IBR技術を用いて任意の
景観を画像データとしてリアルタイムで生成して呈示す
る。即ち、撮影された映像を一枚一枚独立した画像とし
て扱い、それを体験者の求めに応じて並び換えれば、遠
隔地に於いて、体験者の求める独自の移動経路上をウオ
ークスルーすることができ、そこに3次元の仮想空間を
感じることができる。
【0004】体験者の求めに応じて画像を検索再構成す
るには、それぞれの画像が撮影された地点の位置情報を
用いるのが有効である。これらは、体験者の求めに最も
近い画像をデータベースから選択し、適切な画像補間処
理を行うことによって最適な画像を表示するというもの
である。第1図は、実写画像を用いた広域ウオークスル
ーの原理を示す。
【0005】即ち、狭領域1,2,3,4については実
写画像が用意されている。これらの狭領域を亙って歩い
て行く広域ウオークスルー(経路10又は経路11に沿
って)を実現する場合には、狭領域間の空間の画像を補
間する必要がある。狭領域2と3の間を補間するには、
空間2と3の間の体験者の存在位置についての情報か
ら、領域2と領域3の実写画像を検索する必要がある。
即ち、ユーザの位置情報に基づいて必要な画像を検索す
るには、実写画像は、撮影時の位置データに従ってデー
タベース化されている必要がある。
【0006】また、補間を精度良く行い、補間された画
像と実写画像とが滑らかに繋がるためには、体験者は自
分のまわりの360度の範囲でウオークスルー可能性が
あることに鑑みれば、数多くのカメラを様々な角度に向
けて配置し、これらのカメラで同時に環境の画像を取り
込み、これらの実写画像から画像データベースを構築す
る必要がある。
【0007】しかしながら、多数のカメラの個々の撮影
中心を一点にして配置することはなかなか困難である。
この点で、従来では、第2図に示すように、複数のミラ
ーを点対称に配置し、周囲からの光が上方に向かうよう
に、個々のミラーの鏡面を配置することにより、個々の
カメラの撮影中心を一点に集中させるようにしていた。
【0008】
【発明が解決しようとする課題】しかしながら、第2図
のようにミラーを配置することは、そのミラーに撮影者
(車)が画面内に入らないようにすることが困難であっ
た。
【0009】
【課題を解決するための手段】本発明はこのような事態
に鑑みてなされたもので、その目的は、離間して配置し
た複数のカメラからの実写画像を、恰も離間させないで
配置したカメラからの画像のように処理する画像データ
ベースの構築方法を提案するものである。かかるデータ
ベースを提案することにより、カメラ配置の自由度を確
保する。
【0010】本発明の他の目的は、実写画像を得るため
のカメラを搭載する車両は概ね直進するものであるか
ら、車両の左右方向のカメラを近接させながら、直進方
向を撮影するカメラとその反対方向を撮影するカメラと
を離間させることにより、カメラ配置の自由度を確保し
た画像の記録装置を提案する。上記課題を達成するため
に、本発明の、移動体に取り付けられた少なくとも2つ
の撮像手段により撮影した画像を記録する画像記録装置
は、前記移動体の第1の方向に撮影方向を向けて設けら
れた第1の撮像手段と、前記第1の撮像手段から既知の
距離だけ離間した位置に、前記第1の方向と略180度
異なる第2の方向に撮影方向を向けて設けられた第2の
撮像手段と、前記移動車が前記第1の方向に進行してい
るときに、前記第1の撮像手段が撮像した第1の画像デ
ータと、前記第2の撮像手段により前記既知の距離に相
当する時間だけ後の時点で撮像される第2の画像データ
とを関連付けて記録する記録手段とを具備したことを特
徴とする。
【0011】本発明の好適な一態様に拠れば、前記第1
の撮像手段は複数のカメラを有し、これら複数のカメラ
の各々の撮像方向は、前記第1の方向を中心に線対称に
展開していることを特徴とする。本発明の好適な一態様
に拠れば、前記複数のカメラの撮像方向上の直線は、こ
のカメラの前方において交叉することを特徴とする。
【0012】本発明の好適な一態様に拠れば、この第1
の撮像手段の近傍の位置に、前記第1の方向と異なる第
3の方向に撮影方向を向けられて設けられた第3の撮像
手段と、前記第1の方向に向いた直線に関して、前記第
3の方向と線対称位置に設けられた前記第4の撮像手段
とを具備する。
【0013】本発明の好適な一態様に拠れば、前記第2
の撮像手段は、前記第2の方向を中心にして線対称な2
つ以上の方向に撮影方向を向けて設けられた複数のカメ
ラを有する。上記課題を達成するための、本発明の、移
動体に取り付けられた少なくとも2つの撮像手段により
撮影した画像を記録する画像記録装置は、前記移動体の
第1の方向に撮影方向を向けて設けられた第1の撮像手
段と、前記第1の撮像手段から既知の距離だけ離間した
位置に、前記第1の方向と略180度異なる第2の方向
を中心にして線対称な複数の方向に撮影方向を向けて設
けられた複数のカメラと、前記移動車のターンを検出す
る手段と、前記移動車が前記第1の方向から時計回りに
ターンしたか或いは反時計回りにターンしたかに応じ
て、前記複数のカメラの内、より反時計回り或いは時計
回りの方向に向いているカメラを選択する選択手段と、
前記第1の撮像手段が撮像した第1の画像データと、前
記選択手段により選択されたカメラにより前記既知の距
離に相当する時間だけ後の時点で撮像される第2の画像
データとを関連付けて記録する記録手段とを具備したこ
とを特徴とする。
【0014】本発明の好適な一態様に拠れば、前記複数
のカメラは2つであって、それらカメラの撮影方向は、
前記第2の方向の延長上で互いに交叉していることを特
徴とする。本発明の好適な一態様に拠れば、前記複数の
カメラは第1のカメラ乃至第3のカメラを有し、その内
の第1のカメラは前記第2の方向に一致した撮影方向を
有し、第2のカメラと第3のカメラとは前記第2の方向
を中心にしてそれぞれ時計回り或いは反時計回りの向き
に展開しており、前記選択手段は、移動体が、前記第1
の方向を向いて進行しているときは前記第1のカメラ
を、反時計回りにターンしたときは、第2のカメラを、
時計回りにターンしたときは、第3のカメラを、それぞ
れ選択することを特徴とする。
【0015】本発明の好適な一態様に拠れば、この第1
の撮像手段の近傍の位置に、前記第1の方向と異なる第
3の方向に撮影方向を向けられて設けられた第3の撮像
手段と、前記第1の方向に向いた直線に関して、前記第
3の方向と線対称位置に設けられた前記第4の撮像手段
とを具備する。
【0016】上記課題を達成するために、本発明の、移
動体に取り付けられた複数の撮像手段によりそれぞれ撮
影した画像シーケンスから三次元画像空間を構築するた
めのデータベースを、画像データ取得後に生成する画像
データベース装置は、第1の方向に向けられた第1の撮
像手段が記録した第1の画像データメモリからデータを
読み取る第1のリーダと、前記第1の撮像手段から既知
の距離だけ離間した位置に、前記第1の方向と略180
度異なる第2の方向に向けられて設けられた第2の撮像
手段が記録した第2の画像メモリからデータを読み取る
第2のリーダと、前記移動車の移動位置とこの移動車の
進行方向とを記録した第3のメモリからデータを読み取
る第3のリーダと、前記第3のリーダから読み取った進
行方向データが前記移動体が実質的に直進を示している
ときに、前記第1のリーダが読み取った画像データと、
前記第2のリーダが読み取った画像データの内、前記既
知の距離だけ後の位置における画像データとを互いに関
連付ける手段とを具備する。
【0017】本発明の好適な一態様に拠れば、前記第2
の撮像手段は互いに異なる方向を有する2つのカメラを
含む場合には、前記関連づけ手段は、前記第3のリーダ
から読み取った進行方向データが時計回り或いは反時計
回りのターンを示しているときに、前記第1のリーダが
読み取った画像データと、反時計回り或いは時計回りの
位置にあるカメラについて、前記第2のリーダが読み取
った画像データの内、前記既知の距離だけ後の位置にお
ける画像データとを互いに関連付ける。
【0018】上記課題を達成する本発明の、移動体に取
り付けられた少なくとも2つの撮像手段により撮影した
画像を記録する画像記録方法は、第1の撮像手段を前記
移動体の第1の方向に撮影方向を向けて設け、第2の撮
像手段を前記第1の撮像手段から既知の距離だけ離間し
た位置に、前記第1の方向と略180度異なる第2の方
向に撮影方向を向けて設け、前記移動車が前記第1の方
向に進行しているときに、前記第1の撮像手段が撮像し
た第1の画像データと、前記第2の撮像手段により前記
既知の距離に相当する時間だけ後の時点で撮像される第
2の画像データとを関連付けて記録することを特徴とす
る。
【0019】本発明の好適な一態様に拠れば、前記第1
の撮像手段は複数のカメラを有し、これら複数のカメラ
の各々の撮像方向は、前記第1の方向を中心に線対称に
展開していることを特徴とする。本発明の好適な一態様
に拠れば、前記複数のカメラの撮像方向上の直線は、こ
のカメラの前方において交叉する。
【0020】本発明の好適な一態様に拠れば、第3の撮
像手段を、この第1の撮像手段の近傍の位置に、前記第
1の方向と異なる第3の方向に撮影方向を向けて設け、
第4の撮像手段を、前記第1の方向に向いた直線に関し
て、前記第3の方向と線対称位置に設ける。本発明の好
適な一態様に拠れば、前記第2の撮像手段として、前記
第2の方向を中心にして線対称な2つ以上の方向に撮影
方向を向けて設けられた複数のカメラを設ける。
【0021】上記課題を達成するために、本発明の、移
動体に取り付けられた少なくとも2つの撮像手段により
撮影した画像を記録する画像記録方法は、第1の撮像手
段を前記移動体の第1の方向に撮影方向を向けて設け、
複数のカメラを、前記第1の撮像手段から既知の距離だ
け離間した位置に、前記第1の方向と略180度異なる
第2の方向を中心にして線対称な複数の方向に撮影方向
を向けて設け、前記移動車のターンを検出し、前記移動
車が前記第1の方向から時計回りにターンしたか或いは
反時計回りにターンしたかに応じて、前記複数のカメラ
の内、より反時計回り或いは時計回りの方向に向いてい
るカメラを選択し、前記第1の撮像手段が撮像した第1
の画像データと、選択されたカメラにより前記既知の距
離に相当する時間だけ後の時点で撮像される第2の画像
データとを関連付けて記録することを特徴とする。
【0022】本発明の好適な一態様に拠れば、前記複数
のカメラは2つであって、それらカメラの撮影方向は、
前記第2の方向の延長上で互いに交叉していることを特
徴とする。本発明の好適な一態様に拠れば、前記複数の
カメラは第1のカメラ乃至第3のカメラを有し、その内
の第1のカメラは前記第2の方向に一致した撮影方向を
有し、第2のカメラと第3のカメラとは前記第2の方向
を中心にしてそれぞれ時計回り或いは反時計回りの向き
に展開しており、前記選択手段は、移動体が、前記第1
の方向を向いて進行しているときは前記第1のカメラ
を、反時計回りにターンしたときは、第2のカメラを、
時計回りにターンしたときは、第3のカメラを、それぞ
れ選択することを特徴とする。
【0023】
【発明の実施の形態】以下、本発明を適用した画像の収
集システムと、さらに、広域ウオークスルーを可能にす
るための画像データベースであって、この収集システム
で収集した画像からデータベースを構築するシステムを
説明する。 〈画像収集システムの構成〉本画像収集システムは、車
両に搭載された複数のカメラにより周辺環境の撮影を行
う。また、車両には、車両位置を検知するGPSセンサ並
びに、車体の姿勢(即ち、カメラの姿勢)を検知する姿
勢センサ、方位を地磁気により検出する方位センサが搭
載されている。
【0024】第3図にこの画像収集システムの構成を示
す。環境を撮影するためのカメラは7台(20a,20
b,…20g)搭載されている。このカメラは例えばソ
ニー社製のビデオカメラDCR-VX1000を用いた。PC30は
本画像収集システムの全体を制御するもので、マイクロ
プロセッサPentium Pro 200Hzを内蔵する。PC30と夫
々のカメラ20との間はビデオ/コンピュータインタフ
ェースユニット21a…21g(ソニー社製Vbox II CI
-1100)により接続されている。
【0025】PC30とインタフェース21gとの間は周
知のRS232Cインタフェースバスによって接続され、イン
タフェースユニット21a,21b,…21gはデイジ
ーチェーン方式(入力信号:VISCAIN、出力信号:VISCA
OUT)で接続されている。後述するように、PC30は、
各インタフェースユニット21a…21gを介してタイ
ムコード問い合わせ信号を各々のカメラ20a、…、2
0gに送る。各カメラ20a、…、20gは、信号ライ
ンVISCAOUT上にタイムコード情報を載せ、このタイムコ
ード情報はPC30に伝わる。
【0026】PC30には、GPSセンサ40と3軸の姿勢
センサ41とが、夫々のRS232Cバスインタフェースを介
して接続され、また、地磁気方位センサ42がアナログ
バスを介してPC30に接続されている。センサ42から
の方位信号はPC30内のA/D変換器(不図示)によっ
てA/D変換される。本システムに用いられているGPS
センサ40は、Trimble社製のキネマティック方式の4
400を採用した。ネマティック方式のセンサは、5Hz
のサンプリングレートで±3cmの精度で位置測定を可能
にする。
【0027】姿勢センサ41には、ピッチ角とロール角
において±0.5度の精度、ヨー角において±0.9度の精度
を確保することのできるDATATECH社製のGU-3020を採用
した。また、地磁気方位センサ42には精度±2度を確
保するTOKIN社製のTMC-2000を採用した。なお、GPSセン
サ40からの信号に基づいて、位置情報を演算する作業
は高速性を要するために、PC30に過度の負荷をかける
おそれがある。そこで、第3図のデータ収集システムの
変形として、GPSデータ演算専用のPCを付加しても良
い。
【0028】第4図に、第3図のシステムで収集された
各種データの記録場所を示す。周知のように、キネマテ
ィック方式のGPSセンサは、精度の高い時刻データと位
置データとを出力する。第4図において、PC30内のハ
ードウエアディスクHDには、カメラ20からの「タイム
コード」と、センサ40からの「時刻データ」並びに
「位置情報データ」と、姿勢センサ41からの「姿勢情
報データ」と、方位センサ42からの「方位情報」とが
記憶される。
【0029】第4図において、各カメラ(20a…20
g)からの実写画像は、各々のビデオテープ22a,2
2b,…,22gに記録される。第5図に、カムコーダ
(20a…20g)における記録の方式を示す。周知の
ように、カムコーダ20は、タイムコードジェネレータ
23と、信号ミキサ24と、データ記録のためのビデオ
テープ22とを内蔵する。タイムコードジェネレータ2
3は、画像のフレームをインデックスするためのタイム
コードを出力する。即ち、タイムコードは、テープ上に
記録された画像データのフレーム位置を特定する。
【0030】第5図において、タイムコードジェネレー
タ23からのタイムコードと、不図示のCCDセンサか
らの画像データとは、ミキサ24によって所定のフォー
マットに従ってテープ22上に記録される。第6図に、
カメラ20のテープ22上に記録される上記2つのデー
タ(画像データとタイムコード)の記録される形式の一
例を示す。即ち、テープ上においては、各画像フレーム
には1つのタイムコードが割り当てられている。換言す
れば、あるテープ22上の目的の画像データは、その画
像データに対応するタイムコードを指定すれば、そのテ
ープ22上でサーチすることができる。
【0031】第7図にハードウエアディスクHD内におけ
る前記各種情報の1レコードの記録フォーマットの一例
を示す。PC30は、任意のカメラから任意の時点でタイ
ムコードを受けると、その時の「時刻データ」(センサ
40から受信した)と、車両の「位置情報」(センサ4
0から受信した)と、姿勢センサ41からの「姿勢情
報」と、方位センサ42から「方位情報」とを組にし
て、タイムコード・センサ情報レコードファイル(第7
図の形式)としてディスクHD内に書き込む。即ち、1つ
のタイムコード・センサ情報レコードは、タイムコード
TCの値、そのときの時刻TIM、そのタイムコードを発生
したカメラの番号#、そのタイムコードを受信した時点
の、車両位置データLOC、姿勢データPOS、方位データAZ
M等により構成される。
【0032】第7図の「タイムコード・センサ情報レコ
ード」から明らかなように、ある時刻txの値が与えら
れば、その時刻txの値から、その時刻txの値に近いTI
Mを有するレコードが知れ、そのレコードから、タイム
コードTC、車両位置LOC、姿勢POS、方位AZMを知ること
ができる。また、得られたタイムコードTCの値から、テ
ープ22上をサーチして、目的の画像データを得ること
ができる。
【0033】第3図のデータ収集システムの目的は、パ
ノラマ画像を生成するのに好都合な画像データベースを
生成するための、基になる画像データを生成することに
ある。ここで、センサデータや画像データの位置を表し
得る信号は、カメラではタイムコード、センサ信号では
センサ40からの時刻データである。画像データベース
は、最終的には、画像データと、車両の位置情報や姿勢
データとが結びつけばよい。従って、データ収集システ
ムが記憶するファイル形式は、第6図,第7図以外で
も、データ量に即した形式とすることが可能である。
【0034】後述のデータ画像の収集は第6図,第7図
のデータ収集方法を変えたものである。 〈カメラの配置〉第8図に、本データ収集システムの7
台のカメラ(20a〜20g)の車両上への配置を示
す。
【0035】第8図において図面上方を車両の進行方向
とする。第8図,第9図が示すように、カメラ20c
(#3カメラ)とカメラ20d(#4カメラ)は車両進
行方向の環境の撮影を担当し、カメラ20a(#1カメ
ラ)とカメラ20b(#2カメラ)は車両左側の環境の
撮影を担当し、カメラ20e(#5カメラ)とカメラ2
0f(#6カメラ)は車両右側の環境の撮影を担当す
る。
【0036】第8図において、#7カメラ(20g)は
後方の環境を撮影する。カメラ20gはその撮影中心が
他のカメラ(20a乃至20f)の撮影中心(第8図の
点Tで示す)から距離rだけ離間している。カメラ20
gを車両の後部に置くことにより、カメラ20gが車体
を写し込んでしまうことを防止する。また、カメラ20
gを後方に下げることにより、多くのカメラの配置の自
由度を確保する。即ち、中心位置Tに過度に多くのカメ
ラが集中するのを防止する。
【0037】〈実写画像の収集〉次に、本データ収集シ
ステムによる画像データ収集のための処理の流れを説明
する。第10図は、PC30によって制御される実写画像
データ収集処理の全体的な手順を説明する。
【0038】ステップS100では全カメラのタイムコ
ード同士の対応付けを行う。ステップS200ではタイ
ムコードTCとGPSセンサからの時刻データとの対応付け
を行う。ステップS300では、タイムコードTCと、各
センサからの情報との対応付けを行う。ステップS30
0の処理は、撮影が終了するまで繰り返される。
【0039】第11図は、ステップS100における
「タイムコードの対応付け」処理の詳細な手順を示す。
即ち、ステップS102で、カメラの番号示すカウンタ
kの値を2にセットする。2にセットする理由は、本シ
ステムでは、#1カメラ(カメラ22a)を便宜上基準
としているからに過ぎない。そこで、ステップS104
では、#1カメラからのタイムコードをロギングする。
ステップS106では、#kカメラのタイムコードをロ
ギングする。ステップS108では、上記操作を所定回
数だけ繰り返したかを判断する。この操作により、#1
カメラのタイムコードと、#2カメラ乃至#7カメラの
内の任意のカメラkのタイムコードとの組み合わせでの
対応関係(タイムコードの値の相違)を示すデータが複
数得られた。この複数個のデータを平均化すれば、#1
カメラと#kカメラのタイムコード同士での対応付け、
即ち、値の相違が得られる。この対応付けを、#2カメ
ラから#7カメラの全てのカメラについて行う。
【0040】第12図は、第9図のステップS200に
おけるタイムコードTCと時刻データTIMとの対応付けを
得るための処理手順の詳細である。即ち、ステップS2
02で、GPSセンサからの時刻データTIMを得る。ステッ
プS204では、時刻データTIM における#1カメラの
タイムコードTCの値をロギングする。上記操作を何回か
繰り返して、その平均値より、#1カメラにおけるタイ
ムコードが示す値と絶対時刻(GPSセンサからの時刻TI
M)との差異を知ることができる。
【0041】即ち、第11図と第12図のフローチャー
トによって得られた関係により、あるカメラkのタイム
コードがTCkであるときに、#1カメラのタイムコード
はいくつであり、時間間隔でどの程度ずれているかを予
め把握しておくことができる。第13図はステップS3
00の詳細を説明する。即ち、ステップS302では、
基準である#1カメラからのタイムコードを受信する。
ステップS304では、姿勢センサからの姿勢データ
(ピッチ角、ロール角、ヨー角)を記憶する。ステップ
S306では、方位センサのデータを取得する。ステッ
プS308では、得たタイムコードやセンサなどに基づ
いて、ハードウエアディスクHD内のタイムコード・セン
サ情報ファイルに1レコード分だけ記録する。
【0042】〈カメラ配置の自由度の確保〉第8図にお
いて、#7カメラ(20g)は後方の環境を撮影する。
カメラ20gはその撮影中心が他のカメラ(20a乃至
20f)の撮影中心(第8図の点Tで示す)から距離r
だけ離間している。カメラ20gを車両の後部に置くこ
とにより、カメラ20gが車体を写し込んでしまうこと
を防止する。また、カメラ20gを後方に下げることに
より、多くのカメラの配置の自由度を確保する。即ち、
中心位置Tに過度に多くのカメラが集中するのを防止す
る。
【0043】従来技術の項で述べたように、不連続の2
つ点で撮影した実写画像から、1つの補間画像を生成す
るには、これらの撮影位置は過度に離間すると、補間画
像と実写画像との間にスムーズさが無くなってしまう。
そこで、本システムでは、第14図に示すように、#7
カメラ(20g)から、時間幅 r/v (ここでvは車両の進行速度) だけ未来の画像データ、即ち、#7カメラがr/v時間
後に位置Tにまで進んだときに撮影した実写画像データ
を、#1乃至#6カメラがr/v時間だけ過去の位置
(即ち、第14図に示された位置)で実写した画像デー
タと共に用いることとする。
【0044】即ち、広域ウオークスルーシステムを実現
するために、実写画像から補間画像を生成するための基
となる画像データベースは、#1カメラ乃至#7カメラ
の実写画像を互いに関係づけてデータベースとしなけれ
ばならないが、第15図に示すように、#1カメラ乃至
#6カメラの画像は実際に同じ時刻(時刻t1とする)
に撮影された画像同士(即ち、同じ「時刻データ」を有
する画像同士)をデータベースの1レコードとして統合
し、#7カメラ(20g)からの画像データについて
は、時刻 t1+(r/v) の画像データを同レコードに統合する。
【0045】第15図の処理を、第3図のデータ収集シ
ステムで行う場合には、第11図の制御手順によって得
られた所の、#1カメラのタイムコードと#7カメラか
らのタイムコードとの対応関係に対して、更に、 時間幅r/vに相当するフレーム数 だけ減算することにより、上記対応関係を修正する。即
ち、#1カメラ乃至#6カメラのタイムコードにたいし
て、#7カメラのタイムコードは、常に、上記時間幅r
/vに相当するフレーム数だけ未来の画像データを示す
ことになる。
【0046】〈データベース生成システム〉第16図
は、第3図のデータ収集システムにより得られたビデオ
テープファイルと、磁気ディスクファイル(PC30内の
HD)とから、広域ウオークスルー画像呈示のための画像
補間を行うのに適したデータベースを生成するデータベ
ース生成システムの構成を示す。
【0047】第3図のシステムは、第6図と第7図に示
された2つのファイルを生成する。2つのファイルは、
タイムコードによって、任意のフレームの画像データ
を、その画像データを撮影したときのカメラの位置、カ
メラの姿勢、カメラの方位とをリンクさせることは可能
である。データベース生成システムの必要性は、テープ
上の画像データを高速のファイルに移し代える所にあ
る。
【0048】また、第3図システムは、処理すべきデー
タ量が多いために、第6図のタイムコード・センサ情報
ファイルを生成することが困難な場合がある。換言すれ
ば、第3図のシステムは、第17図に示すように、タイ
ムコードデータTCと時刻データTIMと姿勢データPOSとが
1つのファイル(第1ロギングファイルと呼ぶ)に、位
置データLOCと時刻データTIMとが別の1つのファイル
(以下、第2ロギングファイルと呼ぶ)に記憶するよう
にしている。また、画像データは、第3ロギングファイ
ルとして、実写画像とタイムコードとが組になってテー
プ中に記録されている。なお、第1ロギングファイルと
第2ロギングファイルとは、GPSセンサ40の出力が発
生する毎にレコードが生成されているので、データ量は
多く、従って、画像補間を行う際の精度が確保される。
【0049】以下に説明するデータベース生成システム
は、第3図のデータ収集システムが生成した第17図の
2つのロギングファイルをデータベースに変換するもの
である。第16図において、データベースの生成は、画
像処理装置計算機50によって行われる。上記ビデオテ
ープファイルはビデオデッキ60a〜60gにセットさ
れて読み取られる。また、PC30は計算機50に接続さ
れる。
【0050】第18図は計算機50による処理の流れを
全体的に示す。ステップS500は、PC30から第1ロ
ギングファイルを計算機50に転送する。ステップS6
00では、第2ロギングファイルを計算機50に転送す
る。ステップS700では、ビデオデッキ60から第3
ロギングファイルを計算機50に転送する。
【0051】ステップS800では、第1ロギングファ
イルと第2ロギングファイルとを、時刻データTIMをキ
ーにして対応づける。その詳細を第19図に示す。この
処理の結果は、計算機50内のハードウエアディスク
(不図示)に記憶される。ステップS900では、第1
ロギングファイルと第3ロギングファイルとを、タイム
コードTCをキーにして対応づける。その詳細を第20図
に示す。この処理の結果も、計算機50内のハードウエ
アディスク(不図示)に記憶される。
【0052】なお、第8図に関連して説明したように、
#7カメラからの画像について、時間幅r/vに相当す
る未来のフレームをデータベースの対象とする処理につ
いては、#7カメラについての、第1ロギングファイル
と第2ロギングファイルの対応付け処理(ステップS8
06)、並びに、第1ロギングファイルと第3ロギング
ファイルの対応付け処理(ステップS906)につい
て、上記r/vに対応した時間操作に基づいたサーチを
行えばよい。
【0053】具体的には、ステップS806、ステップ
S906の処理を、第21図に示した制御手順に変形し
て、パノラマ画像合成用の画像データベースを作成す
る。即ち、第21図のステップS1000で第1ロギン
グファイルの1レコードを読み出して、ステップS10
02で当該レコード中の時刻データTIMを知る。次に、
#1カメラ乃至#6カメラの画像データについては、ス
テップS1004で、#1カメラ乃至#6カメラそれぞ
れの第2ロギングファイル中をサーチして、上記TIMと
同じ値を有するTIMを有するレコードを探す。ステップ
S1006で、ステップS1000で見つかった第1ロ
ギングファイルのレコードとステップS1004で見つ
かった第2ロギングファイルのレコードとを統合(実質
的に、情報TIMとLOCとが統合される)する。
【0054】一方、#7カメラについては、ステップS
1010で、ステップS1002で得た時刻TIM から、
【0055】
【数1】
【0056】を計算し、上記数1式の時刻TIMと同じ値
を有するTIMを有するレコードを#7カメラの第2ロギ
ングファイル中に探す。尚、上記式中のfは、時間幅r
/vを、本データ収集系において必要とされる時間幅に
変換する関数を示す。ステップS1012で、ステップ
S1000で見つかった第1ロギングファイルのレコー
ドとステップS1010で見つかった第2ロギングファ
イルのレコードとを統合する。
【0057】ステップS1020では、第1ロギングフ
ァイルの全てのレコードについて上記処理を行ったかを
判断し、終了したのであれば、ステップS1022に進
んで、第1ロギングファイルと第2ロギングファイルと
を統合したレコードをデータベースファイルに書き込
む。かくして、計算機50内に、広域ウオークスルーを
行うための画像補間が容易なデータベースシステムが生
成された。
【0058】〈パノラマ画像の生成〉第22図は、第8
図に示された6つのカメラ(20a〜20f)において
視野範囲をオーバラップさせる角度を説明する原理図で
ある。一般に、距離2dだけ離間して配置された2つの
カメラ(視野角度は同じ)から得られた画像の補間にお
いて、今、距離L0にある対象Pがスムーズに繋がるよ
うに画像を合成(パノラマ画像の生成)する場合を考え
る。カメラの前方で点Pを頂点とする三角形の領域は死
角となる。また、点P’は両カメラによって二重に撮像
される領域内の点を示す。点P’はカメラの前方の距離
L(L≧L0)だけ離れているとすると、点P’は、P
よりも
【0059】
【数2】
【0060】だけ角画像の中央側に映じることになる。
よって2枚の画像をつなげると、対象Pは二重に表示さ
れ、二重の像の映る位置間の差は、
【0061】
【数3】
【0062】となる。1組のカメラ(20aと20b、
または20cと20d、または20eと20f)は上記
差を考慮してオーバラップ角度を設定する。撮影中心が
互いに最も離れている#2カメラと#3カメラ、或いは
#4カメラと#5カメラとについて計算すると、3m先
の対象について画像の継ぎ目を最適化すると、10m先
の対象が6.5度(距離に換算して1.1m)、無限遠方の対
象が9.3度の角度差で二重に映ることを意味する。
【0063】#1カメラ乃至#6カメラについては、撮
影中心が近接しているために、上記式を考慮した二重写
りを考慮して画像補間を行う。また、#7カメラ(20
g)からの画像データについては、データベース上にお
いて、時刻 t1+(r/v) の画像データが時刻t1の画像データとして記録されて
いるので、データベース中の#7カメラ(20g)につ
いての画像データを使用して画像補間する。
【0064】一枚のパノラマ画像を合成するには、仮想
投影面を平面から円筒面に変換する必要がある。第23
図に示すように、絶対方位θ0の方向を向いた水平画角
2・θωのカメラによって撮影された画像(縦:2Z,
横:2X)を考える。この画像内で画像の中央から縦
z、横xの位置にある画像を、円筒投影面上へ投射した
場合の平面への投射位置(θ,z)は、
【0065】
【数4】
【0066】となる。実際には、先ずカメラの球面収差
補正を行い、上記の変換を施して円筒面に投影した画像
を得て、これを横一列に並べることによって一枚のパノ
ラマ画像を得ている。また、画像同士の重なり部分には
ブレンディング処理を行い、連続的な変化を持たせてい
る。
【0067】7台のカメラで大量に作られた画像データ
ベースを以上のようにパノラマ画像にまとめていくこと
で、新たにパノラマ画像のデータベースができあがる。
これが本ウオークスルーシステムで用いるソース画像と
なる。 〈データ収集の変形例〉…第1変形例 第10図,第11図に示したデータ収集は、姿勢センサ
からの出力が不定期である場合に有効であった。
【0068】これから説明する変形例は、姿勢センサか
らの出力が一定の周期でなされ、且つ、そのデータの取
りこぼしがない場合に有効なものである。即ち、第10
図の制御手順は第24図の制御手順に変わる。ステップ
S1100の制御はステップS100のそれに等価であ
る。また、ステップS1200の制御はステップS20
0の制御に等価である。
【0069】ステップS1300では、タイムコードTC
と姿勢センサの出力POSとの対応付けを行う。具体的に
は、第25図のステップS1302において、姿勢セン
サの出力データをロギングし、ステップS1304で#
1カメラのタイムコードをロギングし、これらをペアに
してディスクに書き込む。第24図のステップS140
0では、姿勢センサの出力データPOSと方位センサの出
力AZMとの対応付けを行う。具体的には、第26図のス
テップS1402で姿勢センサの出力をロギングし、ス
テップS1404で方位センサの出力をロギングする。
こうして、姿勢センサ出力と方位センサ出力とは組とな
ってロギングされる。
【0070】第24図の手法では、ステップS1500
とステップS1400との間のループでは、タイムコー
ドを考慮する必要が無くなり、データ収集が高速にな
る。 〈カメラ配置の変形例〉…第2変形例 第8図に示したカメラの配置では、後方の背景を撮影す
るカメラ20gは1つのみが設置されていた。一個のカ
メラで後方視界をカバーするためには、カメラ20gの
視野角は広く設定する必要があるが、視野を広く設定す
ると、周囲の解像度が劣化して、画像補間の際のつなが
りが不連続になる可能性がある。また、第8図のカメラ
配置は直進時には問題はないが、右左折時には問題が発
生する。
【0071】第27図に示した変形例は、後方に#8カ
メラを1つ増やしたものである。後方カメラを2つとし
たことで、1つのカメラ(#7又は#8)の視野は狭く
とも良くなる。また、死角となる領域を狭くするため
に、第27図に示すように、#7カメラと#8カメラの
光軸を交叉させる。第27図のカメラ配置の車両に画像
収集システムを搭載した場合において、この車両が直進
した場合には、r/v時間後には、#7カメラと#8カ
メラとは夫々第28図の7と8の位置に移動する。即
ち、車両が前進を継続する場合には、r/v時間に相当
するフレーム数前の#7カメラ7,#8カメラ双方の画
像データを用いる。
【0072】#7カメラと#8カメラとを交叉させる利
点の1つは、右折時或いは左折時に現れる。即ち、左折
の場合は、車体は反時計まわりに回転するので、後方の
#8カメラは第29図のような配置位置(8位置)に到
達する。即ち、8位置にある#8カメラの画像データ
と、左折前の位置にあるときの#1カメラ乃至#6カメ
ラの画像データとを組み合わせることとする。このよう
にすると、#1カメラ乃至#6カメラは車体が左折前の
方向(直進方向)を向いたときの画像データが、#8カ
メラが直進方向に向いたときの画像データと統合される
こととなって、第8図の配置の問題は解消される。
【0073】なお、左折及び右折の検出は、例えばせ姿
勢センサ41の出力から知ることができる。即ち、計算
機50は、姿勢センサ41の出力が記憶されているファ
イルを読み取り、そのときのターン方向が例えば右折
(或いは左折)を示しているときは、#7カメラ(或い
は#8カメラ)からの画像データを選択するようにす
る。一般的に言えば、車体が時計回り(反時計回り)に
ターンすれば、中心線よりも反時計回り(時計回り)に
ずれて設けられたカメラの出力を採用する。
【0074】第30図は、右折の場合には、#7カメラ
の画像データが用いられることを示す。尚、第2変形例
の制御手順は、後述の第3変形例の制御手順から自ずと
明らかになる。 〈カメラ配置の変形例〉…第3変形例 第3変形例(第31図〜第34図)は、第2変形例に対
して、更に、車両の直後方を向く#8カメラを付加した
ものである。
【0075】この配置によれば、直進時には、第32図
に示すように、中央の#8カメラの画像データを用い、
左折時には第33図に示すように、後方右側に配置され
た#9カメラの画像データを用い、右折時には第34図
に示すように、後方左側に配置された#7カメラの画像
データを用いる。第3変形例は、第2変形例よりもさら
に画像のつながりがスムーズになるという効果がある。
【0076】第35図に第3変形例のデータベース生成
の手順を示す。この制御手順は、車両の進行方向(姿勢
データPOS或いはセンサ42からの方位データから判断
できる)に基づいて後方視界を撮影するカメラの内のど
の画像データを使用するかという点で、第2変形例と実
質的に同じである。第21図のそれと異なるところは、
ステップS2010で姿勢データPOS(或いは、センサ
42から方位データ)に基づいて右折か直進か左折かを
判断し、右折の場合は、#7カメラ(第33図)の画像
データを採用し、直進の場合は#8カメラ(第31図)
の画像データを採用し、左折の場合は、#9カメラ(第
32図)の画像データを採用するというものである。
【0077】〈撮影とデータベース構築の同時化〉…第
4変形例 上記実施形態では、画像データベースを、前もってテー
プに撮影した画像データを元に、撮影後に構築した。し
かしながら、撮影しながらデータベースを構築すること
も可能である。この場合、大容量かつ高速のファイル装
置が必要となる。
【0078】尚、第14図或いは第27図または至第3
1図などに示した上記実施形態に対してデータベースの
リアルタイムを構築を行う場合には、後部位置に配置さ
れたカメラ(第14図の例ではカメラ#7、第27図の
例ではカメラ#7及び#8,第31図の例では#7乃至
#9のカメラ)が撮影した画像データを、前述の時間f
(r/v)だけ遅延させるバッファが必要となる。
【0079】〈その他の変形例〉上記実施形態では、第
1ロギングファイル及び第2ロギングファイルに記憶す
るデータの組み合わせは、例えば第17図に示すよう
に、前者に、TC、TIM、POSを記録し、後者にLOC、TIMを
記録した。しかしながら、記録の組み合わせは第17図
の組み合わせに限定されない。
【0080】即ち、画像データが大容量であることに鑑
みれば、画像データは磁気テープなどの大容量メモリに
単独で記録することが好ましい。しかしながら、 TC、T
IM、POS、LOCについては、1つの高速ファイルに記録し
てもよい。
【0081】
【発明の効果】以上説明したように本発明に因れば、離
間して配置した複数のカメラからの実写画像を、恰も離
間させないで配置したカメラからの画像のように処理す
る画像データベースが構築される。これにより、カメラ
配置の自由度を確保する。また、実写画像を得るための
カメラを搭載する車両は概ね直進するものであるから、
車両の左右方向のカメラを近接させながら、直進方向を
撮影するカメラとその反対方向を撮影するカメラとを離
間させることにより、カメラ配置の自由度を確保した画
像の記録装置を提供できた。
【図面の簡単な説明】
【図1】 本発明が適用され得る広域ウオークスルー方
式の概略を説明する図。
【図2】 従来のカメラ配置装置に設けられたカメラ搭
載装置の概略の構成を示す側面図。
【図3】 本発明を適用した実施例にかかるデータ収集
システムの構成を示すブロック図。
【図4】 第3図のシステムにおいて、各種データが最
終的にどこに記録されるかを示す図。
【図5】 第3図のビデオカメラ20におけるタイムコ
ードの生成を示すブロック図。
【図6】 ビデオカメラ20のビデオテープ22上に記
録されるデータのフォーマットを説明する図。
【図7】 PC30のハードウエアディスクHD内に記録さ
れるデータのフォーマットを説明する図。
【図8】 本実施形態のカメラ配置の特徴を説明する
図。
【図9】 第8図のカメラ配置において、#1カメラ乃
至#6カメラの撮影方位を説明する図。
【図10】 第3図のデータ収集システムの処理の全体
を示すフローチャート。
【図11】 第10図のフローチャートの一部を詳細に
説明するフローチャート。
【図12】 第10図のフローチャートの一部を詳細に
説明するフローチャート。
【図13】 第10図のフローチャートの一部を詳細に
説明するフローチャート。
【図14】 第8図のカメラ配置の利点を説明する図。
【図15】 画像データベースの1レコードに統合する
画像データの時刻を説明する図。
【図16】 実施形態のデータベース生成システムの構
成を示すブロック図。
【図17】 第6図,第7図の形式以外のファイルの構
成を示す図。
【図18】 実施形態のデータベース生成のための制御
の基本原理を説明するフローチャート。
【図19】 第18図のフローチャートの一部を詳細に
説明するフローチャート。
【図20】 第18図のフローチャートの一部を詳細に
説明するフローチャート。
【図21】 第14図のカメラ配置において、#7カメ
ラの画像データを7’一にあるカメラからの画像データ
に変換する制御手順を示すフローチャート。
【図22】 本実施形態においてパノラマ画像精製時に
おいて、死角領域及び2重域領域をの発生を説明する
図。
【図23】 パノラマ画像生成のための円筒への射影原
理を説明する図。
【図24】 第10図の制御手順の変形例にかかる制御
手順のフローチャート。
【図25】 第24図のフローチャートの一部を詳細に
説明したフローチャート。
【図26】 第24図のフローチャートの一部を詳細に
説明したフローチャート。
【図27】 他の方式によるカメラ配置を説明する図。
【図28】 第27図の方式によるカメラ配置において
車両が直進動作を行ったときの画像データの収集を説明
する図。
【図29】 第27図の方式によるカメラ配置において
車両が左折動作を行ったときの画像データの収集を説明
する図。
【図30】 第27図の方式によるカメラ配置において
車両が右折動作を行ったときの画像データの収集を説明
する図。
【図31】 さらに他の方式によるカメラ配置を説明す
る図。
【図32】 第31図の方式によるカメラ配置において
車両が直進動作を行ったときの画像データの収集を説明
する図。
【図33】 第31図の方式によるカメラ配置において
車両が左折動作を行ったときの画像データの収集を説明
する図。
【図34】 第31図の方式によるカメラ配置において
車両が右折動作を行ったときの画像データの収集を説明
する図。
【図35】 第3変形例に関わる画像データベースの作
成手順を示すフローチャート。

Claims (21)

    【特許請求の範囲】
  1. 【請求項1】 移動体に取り付けられた少なくとも2つ
    の撮像手段により撮影した画像を記録する画像記録装置
    であって、 前記移動体の第1の方向に撮影方向を向けて設けられた
    第1の撮像手段と、 前記第1の撮像手段から既知の距離だけ離間した位置
    に、前記第1の方向と略180度異なる第2の方向に撮
    影方向を向けて設けられた第2の撮像手段と、 前記移動車が前記第1の方向に進行しているときに、前
    記第1の撮像手段が撮像した第1の画像データと、前記
    第2の撮像手段により前記既知の距離に相当する時間だ
    け後の時点で撮像される第2の画像データとを関連付け
    て記録する記録手段とを具備したことを特徴とする画像
    記録装置。
  2. 【請求項2】 前記第1の撮像手段は複数のカメラを有
    し、これら複数のカメラの各々の撮像方向は、前記第1
    の方向を中心に線対称に展開していることを特徴とする
    請求項1に記載の画像記録装置。
  3. 【請求項3】 前記複数のカメラの撮像方向上の直線
    は、このカメラの前方において交叉することを特徴とす
    る請求項2に記載の画像記録装置。
  4. 【請求項4】 この第1の撮像手段の近傍の位置に、前
    記第1の方向と異なる第3の方向に撮影方向を向けられ
    て設けられた第3の撮像手段と、 前記第1の方向に向いた直線に関して、前記第3の方向
    と線対称位置に設けられた前記第4の撮像手段と、 を具備することを特徴とする請求項1に記載の画像記録
    装置。
  5. 【請求項5】 前記第2の撮像手段は、前記第2の方向
    を中心にして線対称な2つ以上の方向に撮影方向を向け
    て設けられた複数のカメラを有することを特徴とする請
    求項1に記載の画像記録装置。
  6. 【請求項6】 移動体に取り付けられた少なくとも2つ
    の撮像手段により撮影した画像を記録する画像記録装置
    であって、 前記移動体の第1の方向に撮影方向を向けて設けられた
    第1の撮像手段と、 前記第1の撮像手段から既知の距離だけ離間した位置
    に、前記第1の方向と略180度異なる第2の方向を中
    心にして線対称な複数の方向に撮影方向を向けて設けら
    れた複数のカメラと、 前記移動車のターンを検出する手段と、 前記移動車が前記第1の方向から時計回りにターンした
    か或いは反時計回りにターンしたかに応じて、前記複数
    のカメラの内、より反時計回り或いは時計回りの方向に
    向いているカメラを選択する選択手段と、 前記第1の撮像手段が撮像した第1の画像データと、前
    記選択手段により選択されたカメラにより前記既知の距
    離に相当する時間だけ後の時点で撮像される第2の画像
    データとを関連付けて記録する記録手段とを具備したこ
    とを特徴とする画像記録装置。
  7. 【請求項7】 前記複数のカメラは2つであって、それ
    らカメラの撮影方向は、前記第2の方向の延長上で互い
    に交叉していることを特徴とする請求項6に記載の画像
    記録装置。
  8. 【請求項8】 前記複数のカメラは第1のカメラ乃至第
    3のカメラを有し、その内の第1のカメラは前記第2の
    方向に一致した撮影方向を有し、第2のカメラと第3の
    カメラとは前記第2の方向を中心にしてそれぞれ時計回
    り或いは反時計回りの向きに展開しており、 前記選択手段は、移動体が、 前記第1の方向を向いて進行しているときは前記第1の
    カメラを、 反時計回りにターンしたときは、第2のカメラを、 時計回りにターンしたときは、第3のカメラを、それぞ
    れ選択することを特徴とする請求項6に記載の画像記録
    装置。
  9. 【請求項9】 この第1の撮像手段の近傍の位置に、前
    記第1の方向と異なる第3の方向に撮影方向を向けられ
    て設けられた第3の撮像手段と、 前記第1の方向に向いた直線に関して、前記第3の方向
    と線対称位置に設けられた前記第4の撮像手段と、 を具備することを特徴とする請求項6に記載の画像記録
    装置。
  10. 【請求項10】 移動体に取り付けられた複数の撮像手
    段によりそれぞれ撮影した画像シーケンスから三次元画
    像空間を構築するためのデータベースを、画像データ取
    得後に生成する画像データベース装置であって、 第1の方向に向けられた第1の撮像手段が記録した第1
    の画像データメモリからデータを読み取る第1のリーダ
    と、 前記第1の撮像手段から既知の距離だけ離間した位置
    に、前記第1の方向と略180度異なる第2の方向に向
    けられて設けられた第2の撮像手段が記録した第2の画
    像メモリからデータを読み取る第2のリーダと、 前記移動車の移動位置とこの移動車の進行方向とを記録
    した第3のメモリからデータを読み取る第3のリーダ
    と、 前記第3のリーダから読み取った進行方向データが前記
    移動体が実質的に直進を示しているときに、前記第1の
    リーダが読み取った画像データと、前記第2のリーダが
    読み取った画像データの内、前記既知の距離だけ後の位
    置における画像データとを互いに関連付ける手段と、 を具備する画像データベース装置。
  11. 【請求項11】 前記第2の撮像手段は互いに異なる方
    向を有する2つのカメラを含む場合には、 前記関連づけ手段は、前記第3のリーダから読み取った
    進行方向データが時計回り或いは反時計回りのターンを
    示しているときに、前記第1のリーダが読み取った画像
    データと、反時計回り或いは時計回りの位置にあるカメ
    ラについて、前記第2のリーダが読み取った画像データ
    の内、前記既知の距離だけ後の位置における画像データ
    とを互いに関連付けることを特徴とする請求項10に記
    載の画像データベース装置。
  12. 【請求項12】 移動体に取り付けられた少なくとも2
    つの撮像手段により撮影した画像を記録する画像記録方
    法であって、 第1の撮像手段を前記移動体の第1の方向に撮影方向を
    向けて設け、 第2の撮像手段を前記第1の撮像手段から既知の距離だ
    け離間した位置に、前記第1の方向と略180度異なる
    第2の方向に撮影方向を向けて設け、 前記移動車が前記第1の方向に進行しているときに、前
    記第1の撮像手段が撮像した第1の画像データと、前記
    第2の撮像手段により前記既知の距離に相当する時間だ
    け後の時点で撮像される第2の画像データとを関連付け
    て記録することを特徴とする画像記録方法。
  13. 【請求項13】 前記第1の撮像手段は複数のカメラを
    有し、これら複数のカメラの各々の撮像方向は、前記第
    1の方向を中心に線対称に展開していることを特徴とす
    る請求項12に記載の画像記録方法。
  14. 【請求項14】 前記複数のカメラの撮像方向上の直線
    は、このカメラの前方において交叉することを特徴とす
    る請求項13に記載の画像記録方法。
  15. 【請求項15】 第3の撮像手段を、この第1の撮像手
    段の近傍の位置に、前記第1の方向と異なる第3の方向
    に撮影方向を向けて設け、 第4の撮像手段を、前記第1の方向に向いた直線に関し
    て、前記第3の方向と線対称位置に設けることを特徴と
    する請求項12に記載の画像記録方法。
  16. 【請求項16】 前記第2の撮像手段として、前記第2
    の方向を中心にして線対称な2つ以上の方向に撮影方向
    を向けて設けられた複数のカメラを設けることを特徴と
    する請求項12に記載の画像記録方法。
  17. 【請求項17】 移動体に取り付けられた少なくとも2
    つの撮像手段により撮影した画像を記録する画像記録方
    法であって、 第1の撮像手段を前記移動体の第1の方向に撮影方向を
    向けて設け、 複数のカメラを、前記第1の撮像手段から既知の距離だ
    け離間した位置に、前記第1の方向と略180度異なる
    第2の方向を中心にして線対称な複数の方向に撮影方向
    を向けて設け、 前記移動車のターンを検出し、 前記移動車が前記第1の方向から時計回りにターンした
    か或いは反時計回りにターンしたかに応じて、前記複数
    のカメラの内、より反時計回り或いは時計回りの方向に
    向いているカメラを選択し、 前記第1の撮像手段が撮像した第1の画像データと、選
    択されたカメラにより前記既知の距離に相当する時間だ
    け後の時点で撮像される第2の画像データとを関連付け
    て記録することを特徴とする画像記録方法。
  18. 【請求項18】 前記複数のカメラは2つであって、そ
    れらカメラの撮影方向は、前記第2の方向の延長上で互
    いに交叉していることを特徴とする請求項17に記載の
    画像記録方法。
  19. 【請求項19】 前記複数のカメラは第1のカメラ乃至
    第3のカメラを有し、その内の第1のカメラは前記第2
    の方向に一致した撮影方向を有し、第2のカメラと第3
    のカメラとは前記第2の方向を中心にしてそれぞれ時計
    回り或いは反時計回りの向きに展開しており、 前記選択手段は、移動体が、 前記第1の方向を向いて進行しているときは前記第1の
    カメラを、 反時計回りにターンしたときは、第2のカメラを、 時計回りにターンしたときは、第3のカメラを、それぞ
    れ選択することを特徴とする請求項17に記載の画像記
    録方法。
  20. 【請求項20】 移動体の第1の方向に撮影方向を向け
    て設けられた第1の撮像手段と、前記第1の撮像手段か
    ら既知の距離だけ離間した位置に、前記第1の方向と略
    180度異なる第2の方向に撮影方向を向けて設けられ
    た第2の撮像手段とにより画像を撮影し記録する制御を
    コンピュータに実行させるコンピュータプログラムの記
    憶媒体であって、 前記移動車が前記第1の方向に進行しているときに、前
    記第1の撮像手段が撮像した第1の画像データと、前記
    第2の撮像手段により前記既知の距離に相当する時間だ
    け後の時点で撮像される第2の画像データとを関連付け
    て記録する第1のプログラムコード手段を記憶したコン
    ピュータプログラムの記憶媒体。
  21. 【請求項21】 移動体の第1の方向に撮影方向を向け
    て設けられた第1の撮像手段と、前記第1の撮像手段か
    ら既知の距離だけ離間した位置に、前記第1の方向と略
    180度異なる第2の方向を中心にして線対称な複数の
    方向に撮影方向を向けて設けられた複数のカメラを、画
    像記憶のために制御することをコンピュータに実行させ
    るコンピュータプログラムの記憶媒体であって、 前記移動車のターンを検出する第1のプログラムコード
    手段と、 前記移動車が前記第1の方向から時計回りにターンした
    か或いは反時計回りにターンしたかに応じて、前記複数
    のカメラの内、より反時計回り或いは時計回りの方向に
    向いているカメラを選択する第2のプログラムコード手
    段と、 前記第1の撮像手段が撮像した第1の画像データと、選
    択されたカメラにより前記既知の距離に相当する時間だ
    け後の時点で撮像される第2の画像データとを関連付け
    て記録する第3のプログラムコード手段とを記憶したコ
    ンピュータプログラムの記憶媒体。
JP33328797A 1997-12-03 1997-12-03 画像記録装置及び画像記録方法、画像データベース生成装置及び画像データベース生成方法 Expired - Fee Related JP3571893B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP33328797A JP3571893B2 (ja) 1997-12-03 1997-12-03 画像記録装置及び画像記録方法、画像データベース生成装置及び画像データベース生成方法
US09/098,544 US6950120B1 (en) 1997-12-03 1998-06-17 Camera layout for acquiring images used in panoramic synthesis
AT98304941T ATE247816T1 (de) 1997-12-03 1998-06-23 Kamera layout zur aufnahme von bildern
DE69817305T DE69817305D1 (de) 1997-12-03 1998-06-23 Kamera Layout zur Aufnahme von Bildern
EP98304941A EP0921375B1 (en) 1997-12-03 1998-06-23 Camera layout for acquiring images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP33328797A JP3571893B2 (ja) 1997-12-03 1997-12-03 画像記録装置及び画像記録方法、画像データベース生成装置及び画像データベース生成方法

Publications (2)

Publication Number Publication Date
JPH11168756A true JPH11168756A (ja) 1999-06-22
JP3571893B2 JP3571893B2 (ja) 2004-09-29

Family

ID=18264418

Family Applications (1)

Application Number Title Priority Date Filing Date
JP33328797A Expired - Fee Related JP3571893B2 (ja) 1997-12-03 1997-12-03 画像記録装置及び画像記録方法、画像データベース生成装置及び画像データベース生成方法

Country Status (5)

Country Link
US (1) US6950120B1 (ja)
EP (1) EP0921375B1 (ja)
JP (1) JP3571893B2 (ja)
AT (1) ATE247816T1 (ja)
DE (1) DE69817305D1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002049368A1 (fr) * 2000-12-15 2002-06-20 Sony Corporation Processeur d'images, methode de production d'un signal d'image, support d'enregistrement d'informations, et programme de traitement d'images
JP2002271814A (ja) * 2001-03-07 2002-09-20 Mixed Reality Systems Laboratory Inc 画像再生装置及び画像処理装置とそれらの方法
JP2003052055A (ja) * 2001-08-06 2003-02-21 Sony Corp 画像処理装置と画像信号生成方法と画像処理プログラム及び情報記録媒体
JP2003203251A (ja) * 2001-09-28 2003-07-18 Fuji Xerox Co Ltd ビデオシステム、仮想現実を生成するための方法、トランスポートプロトコル、コンピュータ読み取り可能記憶媒体、および、プログラム
JP2003244688A (ja) * 2001-12-12 2003-08-29 Equos Research Co Ltd 車両の画像処理装置
JP2004333921A (ja) * 2003-05-08 2004-11-25 Pasuko:Kk 距離同期式ステレオ画像撮影装置
WO2007007727A1 (ja) * 2005-07-11 2007-01-18 Sharp Kabushiki Kaisha 映像送信装置、映像表示装置、映像送信方法、及び映像表示方法
JP2012216885A (ja) * 2011-03-31 2012-11-08 Nikon Corp 撮像装置及び画像共有システム

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7739076B1 (en) * 1999-06-30 2010-06-15 Nike, Inc. Event and sport performance methods and systems
KR100568396B1 (ko) * 1998-10-08 2006-04-05 마츠시타 덴끼 산교 가부시키가이샤 운전조작 보조장치
WO2001001706A1 (en) 1999-06-30 2001-01-04 Phatrat Technology, Inc. Event and sport performance methods and systems
ATE260785T1 (de) * 1999-09-02 2004-03-15 Lee Eung Do Vorrichtung zur aufzeichnung von bildern im verkehrsumfeld
US7411594B2 (en) * 2002-01-15 2008-08-12 Canon Kabushiki Kaisha Information processing apparatus and method
JP4055201B2 (ja) * 2002-04-12 2008-03-05 ソニー株式会社 サービス提供システム、情報処理装置および方法、記録媒体、並びにプログラム
US7038863B2 (en) * 2004-06-02 2006-05-02 Raytheon Company Compact, wide-field-of-view imaging optical system
JP3887403B2 (ja) * 2004-12-21 2007-02-28 松下電器産業株式会社 カメラ端末および撮影領域調整装置
WO2006103437A1 (en) * 2005-03-29 2006-10-05 Matthew Emmerson Allen A sytem for displaying images
EP2142883B1 (en) 2007-04-22 2017-10-18 Ilookabout INC. Method of obtaining geographically related images using a vehicle
US20090202102A1 (en) * 2008-02-08 2009-08-13 Hermelo Miranda Method and system for acquisition and display of images
US8174561B2 (en) * 2008-03-14 2012-05-08 Sony Ericsson Mobile Communications Ab Device, method and program for creating and displaying composite images generated from images related by capture position
JP6346445B2 (ja) 2014-01-10 2018-06-20 キヤノン株式会社 処理装置、処理装置の制御方法、およびプログラム
US8811812B1 (en) 2014-03-27 2014-08-19 Michael Shawn Lawler Camera rig
CN106274684A (zh) * 2015-06-24 2017-01-04 张烂熳 一种小角度摄像头实现的汽车全景环视系统
FR3052252B1 (fr) * 2016-06-07 2019-05-10 Thales Equipement optronique de vision pour un vehicule terrestre
US11181619B2 (en) 2018-06-14 2021-11-23 Waymo Llc Camera ring structure for autonomous vehicles
US20230396892A1 (en) * 2020-07-10 2023-12-07 Drivingplates.com LLC Camera array systems and devices, including floating plate configurations and split plate configurations

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3883237A (en) * 1972-08-03 1975-05-13 Gates Rubber Co Panoramic image reproducing apparatus
US4653104A (en) * 1984-09-24 1987-03-24 Westinghouse Electric Corp. Optical three-dimensional digital data acquisition system
NL8503378A (nl) 1985-12-06 1987-07-01 Theo Jogchum Poelstra Nieuwe werkwijze voor het opbouwen en bijhouden van data-bestanden voor het wegverkeer.
US5073824A (en) * 1990-06-15 1991-12-17 Vertin Gregory D Remote control and camera combination
US5200818A (en) * 1991-03-22 1993-04-06 Inbal Neta Video imaging system with interactive windowing capability
US5617175A (en) * 1992-07-29 1997-04-01 Olympus Optical Co., Ltd. Camera having electronic flash units
US5650813A (en) * 1992-11-20 1997-07-22 Picker International, Inc. Panoramic time delay and integration video camera system
US5805275A (en) * 1993-04-08 1998-09-08 Kollmorgen Corporation Scanning optical rangefinder
US5517419A (en) 1993-07-22 1996-05-14 Synectics Corporation Advanced terrain mapping system
AU690693B2 (en) 1994-05-19 1998-04-30 Geospan Corporation Method for collecting and processing visual and spatial position information
US6064355A (en) * 1994-05-24 2000-05-16 Texas Instruments Incorporated Method and apparatus for playback with a virtual reality system
US6236748B1 (en) * 1994-08-02 2001-05-22 Canon Kabushiki Kaisha Compound eye image pickup device utilizing plural image sensors and plural lenses
US5672820A (en) 1995-05-16 1997-09-30 Boeing North American, Inc. Object location identification system for providing location data of an object being pointed at by a pointing device
JP3658659B2 (ja) 1995-11-15 2005-06-08 カシオ計算機株式会社 画像処理装置
US5767945A (en) * 1996-02-28 1998-06-16 Eastman Kodak Company Methods of changing the visibility of some characteristic or information to be included in a hard copy of a recorded image
JP3528548B2 (ja) 1997-11-18 2004-05-17 トヨタ自動車株式会社 車両用動画像処理方法および車両用動画像処理装置
JPH11168754A (ja) 1997-12-03 1999-06-22 Mr System Kenkyusho:Kk 画像の記録方法、画像データベースシステム、画像記録装置及びコンピュータプログラムの記憶媒体

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100859615B1 (ko) * 2000-12-15 2008-09-23 소니 가부시끼 가이샤 화상 처리 장치와 화상 신호 생성 방법과 정보 기록 매체및 화상 처리 프로그램
US7343027B2 (en) 2000-12-15 2008-03-11 Sony Corporation Image processing apparatus, image signal generation method, information recording medium, and image processing program
WO2002049368A1 (fr) * 2000-12-15 2002-06-20 Sony Corporation Processeur d'images, methode de production d'un signal d'image, support d'enregistrement d'informations, et programme de traitement d'images
US7146023B2 (en) 2000-12-15 2006-12-05 Sony Corporation Image processor, image signal generating method, information recording medium, and image processing program
JP2002271814A (ja) * 2001-03-07 2002-09-20 Mixed Reality Systems Laboratory Inc 画像再生装置及び画像処理装置とそれらの方法
JP2003052055A (ja) * 2001-08-06 2003-02-21 Sony Corp 画像処理装置と画像信号生成方法と画像処理プログラム及び情報記録媒体
JP4599775B2 (ja) * 2001-08-06 2010-12-15 ソニー株式会社 画像処理装置と画像処理方法と画像処理プログラム及び情報記録媒体
JP2003203251A (ja) * 2001-09-28 2003-07-18 Fuji Xerox Co Ltd ビデオシステム、仮想現実を生成するための方法、トランスポートプロトコル、コンピュータ読み取り可能記憶媒体、および、プログラム
JP2009181587A (ja) * 2001-09-28 2009-08-13 Fuji Xerox Co Ltd ビデオシステム、及びビデオシステム用プログラム
JP2003244688A (ja) * 2001-12-12 2003-08-29 Equos Research Co Ltd 車両の画像処理装置
JP2004333921A (ja) * 2003-05-08 2004-11-25 Pasuko:Kk 距離同期式ステレオ画像撮影装置
WO2007007727A1 (ja) * 2005-07-11 2007-01-18 Sharp Kabushiki Kaisha 映像送信装置、映像表示装置、映像送信方法、及び映像表示方法
JP5144260B2 (ja) * 2005-07-11 2013-02-13 シャープ株式会社 映像送信装置、映像表示装置、映像送信方法、及び映像表示方法
JP2012216885A (ja) * 2011-03-31 2012-11-08 Nikon Corp 撮像装置及び画像共有システム

Also Published As

Publication number Publication date
EP0921375B1 (en) 2003-08-20
JP3571893B2 (ja) 2004-09-29
EP0921375A1 (en) 1999-06-09
US6950120B1 (en) 2005-09-27
DE69817305D1 (de) 2003-09-25
ATE247816T1 (de) 2003-09-15

Similar Documents

Publication Publication Date Title
JPH11168754A (ja) 画像の記録方法、画像データベースシステム、画像記録装置及びコンピュータプログラムの記憶媒体
JPH11168756A (ja) 画像記録装置、画像データベース装置、画像記録方法及びコンピュータプログラムの記憶媒体
JP3290993B2 (ja) 球形画像を作成する方法および装置
US9807354B2 (en) Virtual image generating apparatus, virtual image generating method, and recording medium storing virtual image generating program
US6002430A (en) Method and apparatus for simultaneous capture of a spherical image
KR101329419B1 (ko) 화상 표시 시스템, 표시 장치, 표시 방법
US7382399B1 (en) Omniview motionless camera orientation system
CN103907340B (zh) 图像生成装置和图像生成方法
US20090073265A1 (en) Virtual observer
JP2003524306A (ja) モーション・センサ付きカメラを使用するパノラマおよびサラウンド画像を生成する方法および装置
JPH07220057A (ja) 斜視的変換により源画像から目標画像を構成する画像処理方法および装置
JP2002503893A (ja) 仮想現実カメラ
US20040021767A1 (en) Image sensing apparatus and control method thereof
US11252398B2 (en) Creating cinematic video from multi-view capture data
JP3352475B2 (ja) 画像表示装置
US20160127617A1 (en) System for tracking the position of the shooting camera for shooting video films
JP2001057652A (ja) 画像入力装置および画像入力方法
TW201122711A (en) System and method for generating an image appended with landscape information
JP2001177850A (ja) 画像信号記録装置および方法、画像信号再生方法並びに記録媒体
WO2021079636A1 (ja) 表示制御装置、表示制御方法及び記録媒体
US20040027365A1 (en) Controlling playback of a temporal stream with a user interface device
JP5922517B2 (ja) 撮影機能を有する電子機器
JPH11298837A (ja) 画像入力装置及び画像入力方法
JPH06133221A (ja) 撮像装置
JPH09186957A (ja) 画像記録再生装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040625

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070702

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080702

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090702

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090702

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100702

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100702

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110702

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120702

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120702

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130702

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees