JPH07220057A - 斜視的変換により源画像から目標画像を構成する画像処理方法および装置 - Google Patents

斜視的変換により源画像から目標画像を構成する画像処理方法および装置

Info

Publication number
JPH07220057A
JPH07220057A JP6322452A JP32245294A JPH07220057A JP H07220057 A JPH07220057 A JP H07220057A JP 6322452 A JP6322452 A JP 6322452A JP 32245294 A JP32245294 A JP 32245294A JP H07220057 A JPH07220057 A JP H07220057A
Authority
JP
Japan
Prior art keywords
image
target image
source
source image
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP6322452A
Other languages
English (en)
Inventor
Raoul Florent
フローラン ラウル
Pierre Lelong
ルロン ピエール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Philips Electronics NV filed Critical Philips Electronics NV
Publication of JPH07220057A publication Critical patent/JPH07220057A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation

Abstract

(57)【要約】 【目的】 複数台の固定カメラの撮影出力画像から単一
の車載カメラの撮像出力画像と同等のパノラマシーンを
構成するために、 【構成】 いわゆる源画像(I)を表わし、目標画像
(I* )と呼び、源画像に関連した傾斜角、回転角およ
び尺度率の変更により再構成した計算画像を構成するた
めにディジタル画像を処理する方法に、源画像(I)と
目標画像(I* )とに共通の視点(P)および直交基準
枠の原点の決定、目標画像(I* )におけるアドレス
(X* ,Y* )をもった画素(M* )毎の、(α,β)
=G-1(X* ,Y* )のような、係数が修正した傾斜
角、回転角および尺度率の関数である線形関数G-1によ
る球面座標(α,β)の計算、並びに、その表に蓄積す
るとともに、目標画像(I* )における画素(M* )に
対応した源画像(I)における点(M)のアドレスを構
成する対(X,Y)の表の座標(αo ,βo )の一方を
もった球面座標(α,β)のその表の分解能に整合した
表からの読出し、の各過程を設ける。

Description

【発明の詳細な説明】 【産業上の利用分野】
【0001】本発明は、源画像と呼ぶ画像に適用する幾
何学的斜視情報により、傾斜角、回転角およびなるべく
源画像に関連した尺度率の修正によって再構成した源画
像を表わす目標画像と呼ぶ算出画像を構成するためにデ
ィジタル画像を処理する方法に関するものである。
【0002】本発明は、その方法を行なうディジタル画
像を処理する装置に関するものでもある。
【0003】本発明は、ある個数の固定カメラを、個々
の視野が混じり合って、パノラマ状光景を観視するため
の広角視野を形成するように配置して備えた監視システ
ムの構成に適用し得るものである。
【0004】
【従来の技術】幾何学的斜視変換を実行するための装置
に集約し得る画像処理は、刊行物、アーネスト、エル、
ホール著「コンピュータ画像処理および認識」、アカデ
ミック・プレス1979、ハーコート ブレイス ジョ
ナノビッチ出版社、ニューヨーク、ロンドン、トロン
ト、シドニー、サンフランシスコ、第3章、76頁以
降、特に76頁乃至88頁から既知である。
【0005】この刊行物により、斜視幾何学に属する情
報、すなわち、画像の各点からそれらの点を通過する光
線に到るか、その光線から画像の各点に到るか、の想定
の如何に応じて斜視変換もしくは逆斜視変換に属する情
報が判る。画像の各点からそれらの点に対応する光線に
到る処理の方を「斜視変換」と称する。
【0006】この刊行物は、まず、各画素点から光線に
到る問題を設定し、つぎに、4×4マトリックスを用い
て、その斜視変換の問題を解決するための信号処理を説
明している。この問題は、かかるマトリックスに基づく
完全に解析的計算によって解明してある。
【0007】4×4マトリックスを用いた問題の設定
は、つぎの考察に基づいている。理論的に、斜視変換
は、3種類の座標のみを用いて3次元空間に提起した幾
何学的問題であり、この引用刊行物では、斜視変換は線
形変換ではなく、その結果、試薬容器の取扱いが困難な
ことが判る。そこで、この刊行物は、しかしながら、式
の解法が式を線形化することによって簡単化することが
でき、それが第4の変数を追加することによって可能と
なり、したがって、その線形化した式は解析的に解き得
ることを示している。
【0008】しからざるときには、引用刊行物が示す処
理方法は極めて複雑な設定による問題解決となり、その
例が引用刊行物の全編に示されている。
【0009】
【発明が解決しようとする課題】さて、本発明によれ
ば、実時間での斜視変換の実施、すなわち、毎秒16乃
至25画像の割合いの画像処理を含む第1の束縛が課せ
られる。
【0010】引用刊行物の教示によって設定された解決
は、その複雑さの故に、実時間での実施が極めて困難と
認められる。
【0011】しかしながら、「変換チップ」と呼ばれ
る、幾何学的変換が実施可能の電子装置が市販されてお
り、斜視変換の問題解決に用いることができる。
【0012】実際に、TMC23002という市販製品
がTRW社から出されており、そのアドレスはPOボッ
クス2472、LA、JOLLA、CA92038(U
S)である。この製品は、目下の斜視変換に必要な幾何
学的変換に関する極めて複雑な計算を実時間で行なうこ
とが可能である。
【0013】しかしながら、この変換チップは、特に、
広く用いられていない、という事実の故に高価であり、
早急に価格が下がる見込みが少なく、さらに、本発明が
提起したような信号処理装置で用いるには、解決困難な
束縛が数多く含まれるものと見なければならない。
【0014】しからずして、かかる束縛が打破される
と、目標画像の再構成は、冒頭に述べたように、「正確
な遠近法」による再構成と呼ばれる結果となる。変換チ
ップを用いることにより、目標画像内の対象物は、幾何
学的遠近法で現われ、その目標画像を直接に形成した場
合、すなわち、目標画像と呼ぶその画像のために選定し
た幾何学的斜視図を得るパラメータを用いて配置した実
際のカメラによった場合に得られるものに極めて近くな
る。
【0015】
【課題を解決するための手段】したがって、本発明の目
的は、冒頭に述べたような目標画像再構成の機能を有す
るとともに、多大の経費と打破が困難な技術的問題を伴
って従来の市販製品により行なわれたような複雑な幾何
学的変換の使用の必要を除き得る装置を提供することに
ある。
【0016】本発明によれば、この目的は、冒頭に述べ
たとおりの、ディジタル画像を処理する方法において、
源画像(I)と目標画像(I* )とに共通の視点(P)
および視点(P)を原点とする真正基準枠の決定、並び
に、目標画像(I* )におけるアドレス(X* ,Y*
をもった開始画像(M* )と呼ぶ画素毎の、係数が修正
した傾斜角、回転角および尺度率の関数である(α,
β)=G-1(X* ,Y*)のような線形関数G-1によ
る、いわゆる球面座標(α,β)の対の計算の各過程を
具えたことを特徴とする画像処理方法によって達成され
る。
【0017】本発明による画像処理方法の利点は、メモ
リカードのみを使用するだけで行ない得ることであり、
そのメモリカードは、今日では安価であって、その価格
は、品質および密度の絶えざる改良とともに、下落し続
けている。
【0018】したがって、本発明が提案した「斜視変
換」を行なうのに必要な機能は、ルックアップテーブル
の役をするメモリカードに極めて容易に記録もしくは図
表化することができ、しからざれば、実際のカメラで直
接に撮った画像とは幾何学的差違が少ない再構成目標画
像が得られる。
【0019】しかしながら、提示された画像が得られた
手段を知らない観視者に行なわれたテスト中に、本発明
により得たテスト中の目標画像と同じ配置および倍率に
した実際のカメラで得た画像と同等の良さに、被テスト
観視者には、本発明により再構成した目標画像が見えた
ことは明らかであった。観視者は、本発明による目標画
像の計算時に導入された極めて小さい幾何学的差異には
気付かず、反対に、その画像は良質であると認めた。予
知していた観視者すら、実際のものと再構成したものと
の2種類の画像間の差違を検出するのが幾分困難であっ
た。
【0020】本発明による方法は、計算が極めて容易な
簡単なモジュールを少し用いて行なわれるのであるか
ら、上述した利点は極めて大きい。したがって、本発明
方法を実施するためにかかるモジュールで構成した装置
は、市販の「変換チップ」を用いた従来装置に比べて例
外的に低価格であり、魅力的な画質の画像を提供する。
【実施例】以下に図面を参照して実施例につき、本発明
を詳細に説明する。 A:本発明が解決する課題の定義 A1:課題の幾何学的データの説明
【0021】図1(A),(B)および図10(B)を
参照するに、(PXa ,PYa ,PZa )は、「絶対
枠」と称する、以下の説明を通じて3次元空間の基準と
なる原点Pを備えた固定の3次元直交枠を表わす。
【0022】平面(PXa ,PZa )を、以下では、
「水平面」と呼ぶ。したがって、軸PYa はこの水平面
に垂直であり、以下では、この軸を「垂直軸」と呼ぶ。
この軸PYa を含む平面もすべて「垂直面」と呼ぶ。
【0023】図1(A)および図2(A)を参照する
に、1は、「源画像」と称するディジタル平面開始画像
を表わし、光学的に形成されて、点Oで源画像Iの平面
と交差する光学軸PZを有している。この点Oは、源画
像Iの幾何学的中心であり、光学軸PZは点Oで源画像
Iに直交する。
【0024】図2を参照するに、「視点」とも呼ぶ光学
中心Pは、空間における対象輝点から生じてこの視点P
から派出する各光線Pμが、ずれることなく、ディジタ
ル源画像を生起させる目を通過するようにした点として
定義する。したがって、ディジタル源画像Iにおける点
Mにその画像を有する空間内の対象点μを考えて、P点
をそのディジタル画像に対応した視点とすると、視点P
の特性からして、各点μ,M,Pは一線に並び、光線P
μは一直線となる。
【0025】つぎの説明では、ディジタル源画像Iが方
形もしくは長方形である簡単な場合を取扱うが、他のデ
ィジタル画像についても容易に本発明を適用し得るもの
とする。
【0026】ディジタル画像は、輝度レベルQをそれぞ
れ割当てた画素からなる画像であると理解する。この輝
度レベルは、例えば1から256まで等級別にした輝度
レベルの尺度上に求めることができる。最大最高の輝点
に最大輝度レベルを割当て、最小輝度の暗点にその尺度
上の最小輝度レベルを割当てる。
【0027】図2(A)および図3(A),(B)を参
照するに、源画像Iは、この特殊画像Iに結び付いた3
次元直交枠(PX,PY,PZ)を備えている。この直
交枠(PX、PY,PZ)は、源画像Iの視点Pに選定
され、源画像Iの光学軸PZは直交枠の3軸中の一つで
ある。この個々の枠は「源枠」と表示してある。
【0028】図3(A)において、個々の源枠からなる
平面(PZ,PX)は図の紙面に合致しており、軸PZ
に垂直の源画像Iは切片で表わしてある。軸PYは図の
紙面に垂直であり、大きさd=POは「源画像の尺度率
を表わす。」
【0029】図3(B)において、個々の源枠からなる
平面(PX,PY)は図の紙面に平行であり、ここで
は、方形の源画像Iは、紙面内に表わしてある。軸PZ
は点Oでその平面に垂直である。個々の源枠の軸PX,
PYは、源画像平面内に射影PX´,OY´を有してお
り、軸PX,PYおよび射影OX´,OY´はディジタ
ル化した源画像の画素群の行および列にそれぞれ平行に
選定し、幾何学的中心Oは画素と一致するように選定す
る。
【0030】図2(A)および図3(B)を参照する
に、源画像Iの各点Mは、枠OX´,OY´上の射影と
して、それぞれ点M´およびM″を有しており、したが
って、 MM´=Yおよび MM″=X したがって、源画像Iの各点Mは、枠(OX´,OY
´)内の座標(X,Y)および源画像(PX,PY,P
Z)内の座標(X,Y,d)を有している。
【0031】図1(B)、並びに、図4(A)および4
(B)を参照するに、他の画像平面を3次元空間に決定
し、「目標画像平面」と呼び、I* で表わす。この目標
画像I* は、説明を簡単にするために、源画像Iと同じ
幾何形状、すなわち、方形もしくは長方形に選定したデ
ィジタル画像である。さらに、この目標画像は、光学中
心点すなわち視点およびその視点を通る光学軸と組合わ
せてある。
【0032】図1(B)および図2(B)を参照して、
目標画像I* の視点が点Pであり、すなわち、源画像I
と目標画像I* との視点が合致しているものとして、状
況を固定する。目標画像I* の平面と点O* で交叉する
目標画像I* の光学軸をPZ * で表わす。この点O
* は、目標画像I* の幾何中心点であり、光学軸PZ*
は、点O* で目標画像I* の平面に直交している。
【0033】視点Pは、目標画像I* の形成に関連し
て、源画像Iと同じ特性を有しており、換言すれば、空
間における対象点μの目標画像I* における画像点M*
は、光線Pμおよび目標画像平面I* の光点に存在して
おり、さらに、点PMμ* は直線光線Pμに整列してい
る。
【0034】図4(A)および4(B)を参照するに、
目標画像I* は、この特別の目標画像I* に結び付いた
個別の3次元直交枠(PX* ,PY* ,PZ* )を備え
ている。個別の枠(PX* ,PY* ,PZ* )の原点
は、源画像Iと目標画像I* との共通の視点Pに選定す
る。目標画像I* の光学軸PZ* はこの枠の軸の一つで
あり、個別の枠は「目標枠」と呼ぶ。
【0035】図4(A)において、目標画像の平面(P
* ,PX* )は図の紙面に合致している。軸PZ*
垂直の目標画像I* は切片で表わしてある。軸PX*
図の紙面に垂直である。大きさd* =PO* は「目標画
像の尺度率」と呼ぶ。
【0036】図4(B)において、個別の目標枠の平面
PX* ,PY* )は図の紙面に平行であり、源画像Iと
同様に、ここでは、方形の目標画像I* は、図の紙面内
に表わしてあり、軸PZ* は、図の紙面に点O* で直交
している。目標枠の軸PX*およびPY* は、目標画像
平面内に射影O* X´* およびO* Y´* を有し、軸P
* ,PY* およびその射影O* X´* ,O* Y´
* は、ディジタル目標画像の画素群の行および列にそれ
ぞれ平行に選定してあり、幾何中心点O* は画素に合致
するように選定する。
【0037】図4(B)を参照するに、目標画像の各画
素M* は、枠(O* X´* ,O* Y´* )内に、射影と
して、それぞれ点M´* およびM″* を有する。したが
って、目標画像I* の各画素M* は、枠(O* X´*
* Y´* )内の座標(X*,Y* )および目標枠(P
* ,PY* ,PZ* )内の座標(X* ,Y* ,d*
を有している。
【0038】図1(A)および1(B)を参照するに、
各源画像および目標画像の視点が絶対枠(PXa ,PY
a ,PZa )の原点Pと合致しているものと仮定して状
況を固定する。
【0039】図1(A)を参照するに、源画像Iの各枠
を絶対枠に関連させる角度パラメータを規定することが
できる。図1(A)は、源画像平面を、その平面内に枠
(OX´,OY´)を備えて、3次元空間に斜視的に表
わしており、その幾何中心Oが絶対原点すなわち共通視
点Pから源尺度率として距離dだけ離隔した位置にあ
り、さらに、この絶対枠の3軸(PXa ,PYa ,PZ
a )を表わしている。軸PZa は、水平平面(PZa
PXa )内の「基準原軸」である。
【0040】前述したように、源光学軸PZは、水平平
面(PXa ,PZa )上に投影されており、その射影を
垂直軸PYa に平行に表わしてある。この処理における
幾何中心点Oの射影はOa であり、平面(PZ,P
a )は「垂直平面」となる。
【0041】この投影処理により、個々の源枠(PX,
PY,PZ)を絶対枠(PXa ,PYa ,PZa )に関
連させる二つの角度が規定される。その二つの角度はつ
ぎのとおりである。源光学軸PZを垂直に回転させてP
a で水平平面(PXa ,PZa )に到達させる角度と
しての傾斜角度θ。射影PTa を水平に回転させて基準
源軸PZa に到達させる角度としての回転角θ。
【0042】垂直平面(PYa ,PTa )を表わす図6
(A)において、Iは源画像の軌跡であり、PZは光学
軸であり、Pは源画像の幾何中心であり、dは源尺度率
である。したがって、傾斜角度φは角(PZ、PTa
で表わされる。
【0043】水平平面(PZa ,PXa )を表わす図6
(B)において、回転角θは角(PTa ,PXa )で表
わされる。
【0044】図1(A)において、源平面Iを目標平面
* に置換すると、個々の目標枠を絶対枠に関連させる
傾斜角φ* および回転角θ* を上述と同様に規定するこ
とができる。
【0045】したがって、図1(B)を参照するに、目
標画像I* の個別の枠を絶対枠に関連させる角度パラメ
ータを規定することができる。図1(B)は、目標画像
平面I* を、その平面内に枠(OX´* ,OY´* )を
備えて、3次元空間に斜視的に表わしており、その幾何
中心O* は絶対原点すなわち共通視点Pから距離dすな
わち目標尺度率だけ離隔して位置し、さらに、絶対枠の
3軸(PXa ,PYa,PZa )を表わしている。
【0046】目標光学軸PZ* は、PTa * で水平平面
(PXa ,PZa )に投影される。この投影は、垂直軸
PYa に平行に行なわれ、この投影処理において、幾何
中心O* の射影はOa * であり、平面(PZ,PTa
は「垂直平面」である。
【0047】この投影処理により、個々の源枠(P
* ,PY* ,PZ* )を絶対枠(PX a ,PYa ,P
a )に関連させる二つの角度が決まる。その二つの角
度はつぎのとおりである。目標光学軸PZ* を垂直に回
転させて水平平面(PXa ,PZa )にPTa *で到達
させる角度としての傾斜角φ* 。射影PTa * を水平に
回転させて基準原軸PZa に到達させる角度としての回
転角θ*
【0048】垂直平面(PYa ,PTa )を表わす図7
(A)において、I* は目標画像の軌跡であり、PZ*
は光学軸であり、O* は目標画像の幾何中心であり、d
* は目標尺度率である。したがって、傾斜角φ* は角度
(PZ* ,PTa * )によって表わされる。
【0049】水平平面(PZa ,PX)を表わす図7
(B)において、Ia * は、目標画像I* の真正射影で
あり、Oa * はO* の射影であり、PTa * は光学軸P
* の射影である。したがって、回転角θ* は角度(P
a * ,PZa )によって表わされる。
【0050】絶対枠の「水平平面」(PZa ,PXa
に表わした図5(A)において、切片Ia およびIa *
は、それぞれ源画像平面Iおよび目標画像平面I* の射
影であり、軸PTa およびPTa * は、図1(A)およ
び図1(B)並びに図6および図7を参照して前述した
光学軸PZおよびPZ* の射影である。したがって、源
回転角はθ=(PTa ,PZa )であり、目標回転角は
θ* =(PTa * ,PZa )である。 A2:本発明の目的の説明
【0051】本発明の目的は、源回転角θから目標回転
角θ* に、並びに、源傾斜角φから目標傾斜角φ* に通
ずるように角度の変換に注目するとともに、尺度率dか
ら尺度率d* に通ずるように尺度の変換に注目した幾何
学的転換を用いて源画像Iから目標画像I* を構成する
方法を提供することにある。
【0052】目標画像の構成は、パラメータφ*
θ* ,d* によって特徴づけた目標画像の各画素M*
輝度レベルQを割当てることによって行なわれる。この
輝度レベルは、撮影すべき光景内の3次元空間の同一目
的点μの画像である源画像の点Mについて求めるべきで
ある。
【0053】目標画像I* を源画像と同じ視点Pを有す
るように選定する事実および共通視点の特性を与える
と、源画像点Mと目標画像点M* とが同じ直線光線Pμ
上に並ぶことになる。
【0054】したがって、輝度レベルQを求める目標画
像I* の点M* の座標(X* ,Y*)がその個別の枠
(PX* ,PY* ,PZ* )内で判っている、という仮
定から出発して、本発明の画像処理方法には、個別の枠
(PX,PY,PZ)における源画像Iの対応する点M
の座標(X,Y)の決定が含まれる。
【0055】したがって、源画像Iのこの点Mが判れ
ば、本発明方法には、源画像Iのこの点Mに関連して輝
度関数Q(X,Y)の決定が含まれる。
【0056】ついで、源画像の点Mに結び付いた輝度関
数Q(X,Y)が判れば、本発明方法には、構成すべき
目標画像I* の点M* に割当てるべき輝度関数Q* (X
* ,Y* )の決定が含まれる。
【0057】目標画像の各点に対する輝度関数からなる
データが得られると、本発明方法は、目標画像の構成を
可能にする。画像処理方法全体において、源画像は、3
次元空間における絶対枠に関連した第1系列のパラメー
タにより規定され、目標画像は、絶対枠に関連した第2
系列のパラメータにより規定される。かかるパラメータ
は、個別枠を絶対枠に関連させる回転角θ,θ* および
傾斜角φ,φ* 並びに各源画像平面もしくは各目標画像
平面に関連した尺度率dおよびd* である。
【0058】目標画像の再構成は、源画像の対応点Mお
よび目標画像の対応点M* が3次元空間における同一目
的点μの画像点である、という事実に基づいている。正
確な計算によれば、これらの各点は、両画像IおよびI
* に共通の視点Pから派出して目的点μを通過する直線
光線Pμ上に位置している。 B:本発明による方法の説明 B1:斜視的変換関数と呼ぶ幾何学的関数の定義
【0059】目標画像の画素を源画像の点に整合させ、
空間の同一点μの画像が共通視点Pから派出した光線P
μ上に位置するようにするには、源画像平面もしくは目
標画像平面の各点の座標を、空間の目的点μおよび視点
Pを通過する光線Pμに関連させ得る斜視的変換関数を
決定する必要がある。
【0060】これらの斜視的変換関数は、目標画像I*
の画素M* に関連した輝度関数Q*(X* ,Y* )(1
a)と源画像Iの画素Mに関連した輝度関数Q(X,
Y)(1b)との関係の確立に伴って変化する。この対
応は、つぎの(2)式が成り立つ場合に確立される。 Q* (X* ,Y* )=Q(X,Y) (2)
【0061】 この問題を解くために、(X,Y)=F(α,β) (3a) なる第1関数Fおよび(X* ,Y* )=G(α,β) (3b) なる第2関数Gを規定する。
【0062】パラメータαおよびβは、後にさらに規定
する角度パラメータであり、この角度パラメータを規定
すると、(2)式の関係における(1a)式の項は、第
1関数Fにより、αおよびβの関数としてつぎのように
表わすことができる。 Q(X,Y)=Q〔F(α,β)〕 (4a) (3b)式の関係から、つぎの(5)式が導かれる。 (α,β)=G-1(X* ,Y *) (5) この(5)式を(4a)式に代入すると、つぎの(4
b)式が導かれる。 Q(X,Y)=Q〔F(G-1(X* ,Y *))〕 (4b)
【0063】(2)式における(1b)式の項を(4
b)式により置換すると、つぎの(5a)式となる。 Q* (X* ,Y* )=Q〔F(G-1(X* ,Y *))〕 (5a) (5a)式の右辺は、関数の構成に関する数学的記号O
(「リング」と読む)を用いて書き得る3関数の構成で
あり、つぎの(5b)式のように書き表わされ、 Q* (X* ,Y* )=GoFoG-1(X* ,Y *) (5b) さらに簡単化してつぎの(6)式のように書き表わされ
る。 Q* =GoFoG-1 (6)
【0064】(6)式において、関数Q* およびQは輝
度関数であり、関数FおよびG-1は斜視変換関数であ
る。
【0065】発明の詳細な説明の冒頭に前述したよう
に、従来の技術により、斜視的変換関数は、確実に、源
画像を処理して目標画像の「正確」な構成に到達し得た
が、その構成の正確さは、解決すべき問題に極めてそぐ
わない制限の範囲で実施が極めて困難であって、さら
に、高価につく手段を用いて始めて達成し得たものであ
る。
【0066】本発明は、つぎの各特性を呈する斜視的変
換関数FおよびG-1の決定を目指すものである。 a)これらの関数は、源画像からの目標画像の厳密に正
確な構成は許さないが、予知された観視者は合理的に充
分に信頼し得る構成と見なし、一般に非専門家および予
知されていない観視者には、厳密に正確に構成された目
標画像と本発明により構成した目標画像とを見分け得な
い。 b)これらの関数は、簡単で安価な手段で実施し得る。 c)これらの関数を実施すれば、実時間で目標画像の構
成を達成することができ、冒頭に述べた技術的問題を解
決し得る。
【0067】したがって、本発明によれば、二つの関数
FおよびG-1が最先に規定される。 B2:本発明による斜視的幾何学変換関数G-1の決定
【0068】図1(B)を参照するに、図6(B)にも
示すように、目標画像I* の画素M * を通過する光線P
μは、絶対枠の水平平面(PZa 、PXa )上のPμa
に真直に投影される。
【0069】その射影において、平面(Pμ,Pμa
は垂直平面であり、点Ma * は、Pμの画素M* のPμ
a における射影であり、この射影は垂直軸PYa に平行
である。
【0070】したがって、目標画像の与えられた画素M
* の座標(X* ,Y* )が判ると、この点M* を通る光
線を規定する球面座標を決定する。
【0071】光線Pμに結び付けた球面座標は、水平平
面上の角度α=(PZa ,Pμa )および垂直平面上の
角度β=(Pμ,Pμa )である。
【0072】これらの角度は、絶対枠、したがって、3
次元空間における光線Pμの位置を充分に規定する。
【0073】角度αの定義を説明するために、図5
(A)は、つぎのようになった水平平面(PZa ,PX
a )を表わしている。軸Pμa は光線Pμの射影であ
り、点μa ,Ma * ,Ma はそれぞれ点μ,M* ,Mの
射影であって、軸Pμa と並んでおり、角度α=(PZ
a ,Pμa )はこの水平平面において光線Pμの射影P
μa と絶対枠の基準軸PZa とがなす角度である。
【0074】角度βの定義を説明するために、図5
(A)は、つぎのようになった垂直平面(PYa ,Pμ
a )を表わしている。軸Pμは、空間の対象点μと目標
画像の画素M* と同様の源画像の点Mとが並んだ光線で
あり、軸Pμa は水平平面上の射影であり、点Ma ,M
a * ,μa は、それぞれ、源画像点M、目標画像点
* 、空間の対象点μの射影であり、角度βは、水平平
面において光線Pμとその射影Pμa とがなす角度であ
る。
【0075】諸関係は、以下では、絶対枠で考えた球面
座標α,βすなわち角度α,βを目標画像I* の個別枠
で考えた座標X* ,Y* に結び付けるために選ばれる。
【0076】本発明による幾何学的関数G-1を決定する
ために、角度パラメータα,βは、目下の画素M* の座
標X* ,Y* の「線形関数」として選ばれる。
【0077】この目的のために、つぎのように表わす。
【数2】
【0078】角度α,βを規定するための諸関係の選択
は、以後画素M* (X* ,Y* )を正確に通る実際の光
線Pμよりも目標画像の画素M* (X* ,Y* )の近傍
を通る新たな光線PWの考察に通じ、前述したように、
再構成した画像が従来のような「正確」ではなく、「近
似」であることを意味する近似の選択となる。それにも
拘わらず、斜視図法に必要な変更を施した本発明による
再構成画像は、画像の変態をできるだけ更に訂正して
「正確」な画像に極めて近似した特性を有している。本
発明による近似においては、したがって、水平平面にP
a で投影された光線PWは、実際の光線Pμにほぼ併
合されて、(7a)式および(7b)式の線形関係によ
って規定される球面座標(α,β)を有している。光線
PW,Pμの射影PWa ,Pμa は、同様に、ほぼ併合
されるものと仮定される。
【0079】(7a)式および(7b)式によるこれら
の関係において、パラメータ
【外1】 および
【外2】 は、尺度率d* 、すなわち、絶対枠における目標画像の
位置によると同様に、回転角θ* および傾斜角φ* のみ
に依存している。
【0080】図4(B)を参照するに、目標画像の寸法
は、軸O* X′* に平行の2Vx *および軸O* Y′*
に平行の2Vy * である。(図4(B)の特殊な場合で
は、Vx * =Vy * である。)寸法Vx * およびVy *
は、画素の個数でつぎのように表わされる。 角度間隔〔−Δθ* ,+Δθ* 〕におけるX* ε〔−V
x * ,Vx * 〕 角度間隔〔−Δφ* ,+Δφ* 〕におけるX* ε〔−V
y * ,Vy *
【0081】図7(B)において、X* =0のときに
は、α=θ* となり、X* =±Vx * のときには、α=
θ* ±Δθ* となり、 これは、α=(Δθ* /Vx * )X* +θ* (8a) となることを意味する。Dx * を画像I* におけるVx
* に平行のラジアン当りの画素数に等しく設定すると、 (Vx * /Δθ* )=Dx * となり、したがってつぎの(9a)式となり、 α=(1/Dx * )X* +θ* (9a) (7a)式の関係と(9a)式の関係とを項毎に比較す
ると、つぎのようになる。
【数3】
【0082】当業者は、同様に率直につぎの(8b)式
のように計算する。 β=(Δφ* /Vy * )Y* +φ* (8b) したがって、 Dy * =Vy * /Δφ* と置くと、つぎ
のようになる。
【数4】
【0083】したがって、目標画像I* の各画素を、M
* が位置する実際の光線Pμの近似である光線PWに結
び付ける単純な線形関係がつぎのように決定される。 α=(1/Dx * )X* +θ* (9a) β=(1/Dy * )Y* +φ* (9b)
【0084】これらの関係により、当業者は、つぎのよ
うな(5)式の関数G-1を決定し得る。 (α,β)=G-1(X* ,Y* ) (5)
【0085】この関数G-1は、目標画像I* の角度
φ* ,θ* およびラジアン当りの画素数Dx * ,Dy *
が判ると、その画像の所定の画素M* (X* ,Y* )に
結び付くために選ばれた近似光線PW* の球面座標
(α,β)の計算を可能にする。
【0086】パラメータDx * ,Dy * は、目標画像の
「分解能」と呼ばれ、目標画像の目標尺度率d* および
フレーミングVx * ,Vy * の関数であり、図 7(A)
および7(B)を参照すると、つぎのとおりであること
は明らかである。 tan Δθ=Vx * /POa * POa * =d* ・cos φ* したがって、Dx * =(1/Vx * ) tan-1(Vx *
* ・cos φ* ) さらに、 tan Δφ* =Vy * /d* したがって、Dy * =(1/Vy * ) tan-1(Vy *
*
【0087】したがって、この関数G-1は、使用者の程
度に応じて連続的に変り得るパラメータθ* ,φ* およ
びd* を備えている。しかしながら、本発明によれば、
この関数は、実時間で計算可能とするに十分に簡単に選
ばれている一方では、正しい再構成画像を引続いて提供
する。 B3:本発明による斜視変換用幾何関係Fの計算
【0088】さて、選ばれた近似光線の球面座標(α,
β)の知識から源画像Iの点Mの個別枠における座標
(X,Y)を決定する必要があり、この点Mは、正確な
光線Pμにほぼ併合された同じ光線PW上に位置してい
る。
【0089】源画像Iを個別枠(PX,PY,PZ)内
に斜視的に表わした図2を参照するに、点Mは、つぎの
ことが判れば完全に設定される。
【数5】 ここにM′は源画像Iの平面における軸X′上のMの射
影である。 および 尺度率 d=PO これは、絶対源点の役をする共通視点Pと画像Iの幾何
中心点Oとの間の距離である。
【0090】さて、図3(B)を参照して、MM′=Y
およびMM″=Xであることが判っている。
【0091】図2を参照して、つぎの式を計算する。 X=d・tan A (10a) Y=d・tan B/cos A (10b)
【0092】図2を参照して、単なる個別枠内よりも絶
対枠内に点Mを規定する。
【0093】図1(A)に関連して、絶対枠の軸PZa
上に移すために、光学軸PZにローテーションφ(傾
斜)およびローテーションθ(回転)を連続的に適用す
ることにより、個別枠から絶対枠に進む。
【0094】したがって、枠の式をつぎのように書直す
ことができ、
【数6】 したがって、計算の後にはつぎの式が得られる。
【数7】
【0095】(3a)式の関係と(10a)式の関係と
を結合させると、(10b)式は、求めている(X,
Y)と(α,β)との間の関係Fに到達する。この関係
は、正確で複雑であるが、固定で先験的に知られている
源画像のパラメータθおよびφと対(α,β)とのみに
依存していることに留意すべきである。有限個数の対
(α,β)に先験的に設定することにより、関数Fは、
図表に作製することができ、したがって、関数Fの複雑
さによる計算の困難性は回避することができる。また、
図表にした範囲内で対物レンズの歪みに気付き得る。先
験的に許される対(α,β)の個数が多い程、点M
(X,Y)の決定における精度は向上する。 B4:幾何関数FおよびG-1による目標画像計算用画像
処理方法
【0096】使用者は、構成したいと思う目標画像I*
のパラメータを規定するが、そのパラメータは、回転角
θ* 、傾斜角φ* および尺度率d* である。
【0097】本発明によれば、目標画像I* 構成用画像
処理方法は、第 1に、その目標画像I* の各画素M*
座標(X* ,Y* )の規定を含んでいる。したがって、
各画素M* (X* ,Y* )について、この画像処理方法
では、つぎの式で決まる関数G-1を適用する。 (α,β)=G-1(X* ,Y*
(5) ここに α=(1/Dx * )X* +θ* (9a) β=(1/Dy * )Y* +φ* (9b)
【0098】(5)式による幾何学的斜視変換関数G-1
は、その結果、目標画像I* の個別枠における所定の画
素M* の座標から出発して、そ画素の近傍および角度
α,βの測定範囲内の絶対枠の原点でもある全画像に共
通の視点Pを通る直線光線PWの球面座標(α,β)の
極めて簡単な態様の計算を可能にする。
【0099】近似光線PWの球面座標(α,β)の計算
が終了すると、画像処理方法には、絶対枠に規定した球
面座標(α,β)の各対について、近似光線PWの源画
像Iとの交点に位置する源画像の点Mの座標(X,Y)
の表内の探索が含まれ、その座標(X,Y)は、その源
画像の個別枠内で測定される。
【0100】この目的のために、初期段階では、有限個
数の球面座標(α,β)の対が特定されて(αo ,β)
と表に示され、各所定の(αo ,βo )について、つぎ
の幾何学的斜視変換関数Fの適用により計算される。 (X,Y)=F(αo ,βo ) (3a) ここに X=d・tan A (10a) Y=d・tan B/cos A (10b) この関係においては、中間パラメータAおよびBは、源
画像Iのパラメータ、すなわち、回転角θおよび傾斜角
φを含む、球面座標(αo ,βo )の(11a)式およ
び(11b)式による三角法関数である。したがって、
各対(αo ,βo)についいて、点Mの座標XおよびY
は、この画像処理方法では先験的に値が既知の源画像の
尺度率d並びに角度θおよびφの各純粋な関数となる。
その結果、初期段階では、対(αo ,βo )がまず与え
られ、ついで、座標(X,Y)の対応する対が計算され
て、表のアドレス(αo ,βo )に蓄積される。
【0101】その表は、その表の分解能の範囲内で、そ
の表のアドレスをもった関数G-1によって計算した各対
(α,β)に整合させて使用する。そのアドレスで、一
対の座標(X,Y)を予め計算し、蓄積して読出す。
【0102】さて、目標画像I* の画素M* に整合した
源画像の点Mの座標が得られると、画像処理方法には、
その点Mにおける輝度レベルの値の恐らくは補間による
決定、ついで、その輝度レベルの、構成すべき目標画像
の画素M* への転送が含まれる。
【0103】かかる動作は、目標画像の各画素につい
て、全目標画像が構成されるまで繰返される。
【0104】使用者が目標画像について新たなパラメー
タφ* ,θ* およびd* を選択すると、新たな目標画像
が構成され、源画像は、3次元空間のもとの位置に、も
とのままのパラメータθ,φおよびdをもって残る。
【0105】使用者が指定した目標画像の位置および尺
度率の変化のもとで、その目標画像は、源画像と共通の
視点を保持している。 C:幾何学的関数F,G-1実施用画像処理装置
【0106】図13は、前述した幾何学的斜視変換関数
-1およびFの実施により源画像Iから目標画像I*
構成するたの画像処理装置200を機能ブロック群とし
て表わしたものである。以下では、一般に、目標画像I
* の画素M* のアドレス(X * ,Y* )からの源画像I
の対応点Mのアドレス(X,Y)の計算を行なうので、
この装置を「アドレス計算器」と呼ぶ。
【0107】図13において、ブロック210は、目標
画像のパラメータの変化の有無に拘わりなく、目標画像
* を、実時間で、すなわち、毎秒役20枚の割合いで
構成するために使用者が選ぶメラメータφ* ,θ* ,d
* を蓄積するメモリブロックである。また、ブロック2
01は、目標画像I* のフレーミング、すなわち、パラ
メータVx * およびVy * を使用者が選んだパラメータ
から決めるブロックである。また、ブロック113は、
目標画像の個別枠内で、目標画像I* の各画素M* の種
々のアドレス(X* ,Y* )を、各画素毎に一つずつ提
供するアドレス発生器である。
【0108】ブロック220は、ブロック113および
210からのデータを受取り、関数G-1を実行する。
【0109】各ブロック113,201および210
は、例えばメモリ領域からなっており、これらのメモリ
領域をアクセスする系統によって相互に接続されてい
る。
【0110】図8は、関数G-1およびFがアドレス計算
器200で用いられる状態を示したものである。
【0111】ブロック113が提供する各対(X* ,Y
* )には、(9a)式および(9b)式が与える球面座
標(α,β)を特徴とする近似光線PWが、角度θ*
よびφ* とパラメータd* すなわちパラメータDx *
y * の関数として対応する。
【0112】目標画像I* を、その画像の種々の線上の
画素の座標によるブロック113が用意した空間で順次
に走査する場合に、図8に表わした中心Pを有する球面
Sの領域K* を近似光線PWk が走査する。各近似光線
PWH が領域K* における球面Sと点Kで交叉する。球
面Sの表面における領域K* には、光線PWH * すなわ
ち画像I* の画素と同数の交叉点Kが存在する。球面S
のかかる交叉点Kには、計算した対(α,β)が組合わ
されており、球面S上の走査される領域K* の大きさ
は、上述のパラメータΔθ* およびΔφ* すなわち所定
のDx * およびD y * を有する寸法Vx * およびVy *
に依存している。
【0113】(5)式および(9a)式、(9b)式で
決めた幾何学的変換G-1は、球面領域K* 上の目標画像
* の射影からなっている。この射影により、画像I*
の点M* (X* ,Y* )に対応する領域K* の点K
(α,β)が決まる。その決定は、図13にブロック2
20で表わした計算手段によって実時間で行なわれる。
【0114】図8に表わした球面Sは、複雑な関数Fを
表にする方法を当業者に説明するための純粋に理論的な
構成である。
【0115】関数Fを表にするために、目標画像I*
少なくともできるだけ良好な分解能とする「分解能」
は、先験的に球面Sのラジアン当たりの画素数で決ま
る。したがって、アドレス(α0 ,β0 )を付して、関
連した領域K* 内で球の表面に分布した画素K0 の量
は、先験的に選定される。所定の各画素K0 のアドレス
(α 0 ,β0 )は、球面Sの半径PK0 の球面座標(α
0 ,β0 )からなる。所定の画素K0 に結合した各対
(α0 ,β0 )について、源画像の対応する点Mの座標
(X,Y)は、前述した三角法関数Fによって予備段階
で計算する。事実、各対(α0 ,β0 )に対する式(1
0a),(10b)および(11a),(11b)の関
係により、座標X,Yは固定され、源画像Iのパラメー
タφ,θおよびdが判った瞬間から一度にすべてについ
て決めることができる。
【0116】本発明によれば、源画像Iはパラメータが
先験的に既知の固定フレーミングを有する画像であると
仮定する。したがって、先験的に固定の球面座標
(α0 ,β 0 )の対から初期段階で関数Fによって計算
した座標(X,Y)の対は、選択した対(α0 ,β0
によって構成したアドレスで「テーブル(ラット)」と
呼ぶメモリ領域204に蓄積することができる。
【0117】別途述べるように、源画像Iの点Mの予め
計算した座標(X,Y)は、初期段階で、選ばれた画素
0 の球面座標からなる各アドレス(α0 ,β0 )毎に
表(ラット)に書込まれる。
【0118】さて、図13に示すアドレス計算器におい
ては、関数G-1により、実時間で、各対(X,Y)毎に
一つの対(α,β)を手段220が計算する。
【0119】この計算手段220は、例えば、(23
a)式の三角法関係を実行することによりαを提供する
とともに、(23b)式の三角法関係を実行することに
より付随してβを提供するための図15に模式的に示す
機能の組合わせからなっている。したがって、本発明の
手段により、使用者が目標画像について新たな設定を選
ぶ度毎に変化する変数を備えた関数G-1は、実時間で計
算するのに充分な簡単さになる。
【0120】図13を参照するに、つぎのブロック20
4は、ブロック220が行った計算の、対(α,β)か
らなる結果を受取る。このブロック204は、関数Fに
よる計算の結果を蓄積するとともに、先験的に選んだ対
(α0 ,β0 )、すなわち、点K0 (α0 ,β0 )に対
応した点M(X,Y)に適用される表(ラット)であ
る。アドレス手段は、表204において、その表の分解
能の範囲内で、計算ブロック220が提供する計算した
アドレス(α,β)に最もよく対応したアドレス
(α0 ,β0 )を探索する。このアドレス(α0
β0 )に、目標画像I* の開始画素M* (X* ,Y*
に整合した源画像Iの点Mの座標(X,Y)が存在す
る。
【0121】したがって、本発明による目標画像の構成
には、つぎの2種類の明確な近似が含まれる。X* ,Y
* における簡単化した三角法的関係を、(X* ,Y*
を(α,β)に関連させる正確な式の替わりに、関数G
-1用に選ぶという事実に基づく、実際の光線Pμに替わ
る不正確な光線PWH * の球面座標(α,β)の計算に
おける第1近似。予め先験的に決めて表にした対
(α0 ,β0 )に対応して、G-1により実際に計算した
対(α,β)には対応しない関数Fにより初期の位相で
正確に計算した対と同様に座標(X,Y)を提供すると
いう事実に基づく、点M(X,Y)の決定における第2
近似。
【0122】ブロック204、例えば、ルックアップテ
ーブルに替わるラット種の表は、初期段階で、源画像に
関連し、機能ブロック21に含まれ、多くの予定対(α
0 ,β0 )について関数Fを適用するデータの助けによ
って直接に負荷することができる。
【0123】メモリブロック21には、源画像のパラメ
ータφ,θ,dを蓄積する。 D:固定カメラおよび車載カメラ擬似システムを備えた
画像処理装置
【0124】本発明は、個別の視野を混合してパノラマ
シーンを観るための広角視野を形成するように配置した
n個の実際のカメラのシステム、および、広角視野の任
意の断片に対応し、n個の実際のカメラが提供した隣接
源画像から構成したいわゆる目標副画像を実時間で提供
するために、パノラマシーンを連続的に走査するいわゆ
る仮想の車載カメラを擬似し、実際のカメラの視野に併
せもしくは近接した視点を有する画像構成システムを備
えた画像処理装置にも関するものである。
【0125】本発明は、例えばスポーツ行事のシーンの
記録の場合のように広い視野を覆うショットが必要な遠
隔監視部門やテレビジョン部門に適用され、また、死角
のない周辺パノラマ用バックミラーの製造における自動
車構成部門に適用される。
【0126】前述した画像再構成システムの応用とし
て、本発明は、視野を混合したn個の固定カメラで覆う
広角視野を走査する車載カメラを擬似し得る画像処理装
置の提供を目的とする。
【0127】本発明が最大の目的とするところは、実在
の車載カメラがもち得る能力のすべてを備えた、換言す
れば、固定した観視者に基づき、監視もしくは観視する
パノラマシーンの左から右への水平角運動の可能性、そ
のシーンの上から下への垂直角運動の可能性およびその
シーンの一部の領域をズームインする可能性を備えたカ
メラを擬似した画像処理装置の提供である。
【0128】そこで、目標画像を構成する際に技術的問
題が生ずる。実際に、実際のカメラの能力を提供するに
は、その擬似カメラが実時間で目標画像を構成し得るよ
うにしなければならず、これは、計算時間が十分に短く
なければならないことを意味する。さて、実際に直面す
る場合における目標画像の構成は、複雑な幾何学的計算
の技術的問題を提起する。
【0129】第1の問題は、多数のカメラが、隣接し
て、各カメラが覆う視野が構成すべきパノラマシーンの
如何なる領域も失わないように配置され、あるゆるデー
タを目標画像の構成に利用し得るにも拘らず、カメラ間
の境界毎に一つのカメラが提供した画像から隣接カメラ
の他の画像に移る際に、これら異なるカメラが記録する
シーンの隣接領域に関し、二つのカメラの視野の相違の
みによる大きい画像歪みが生ずるという事実にある。
【0130】第2の問題は、多くの場合、広角視野を覆
う監視を最小限の実際の固定カメラを用いて行なうため
に、使用するカメラ自体を「広角」すなわち魚眼型にす
る、という事実から派出する。この型の対物レンズは、
相当な大きさの典型的歪みを生じ、特に、水平・垂直の
線が円弧形状になる。
【0131】上述の問題を解決しないと、二つの異なる
カメラが記録したシーンの2領域に跨って形成した目標
画像は、精細度を全く欠いた極めて不愉快なものにな
る。
【0132】これは、種々異なる実際の固定カメラから
発生した画像部分の幾何学的整合を達成する一方では、
視角の相違および実際の固定カメラの対物レンズの光学
的欠陥に基づく歪みに注目して補償しなければならない
理由であり、さらに、その画像処理を実時間で行わなけ
ればならない。
【0133】したがって、本発明の目的は、実時間で目
標画像を再構成する機能を満たす一方では、前述したよ
うに高価な市販製品を用いてのみ実行し得る複雑な幾何
学的変換使用の必要性をなくした画像処理装置を提供す
ることにあり、この目的は、本発明による以下に述べる
画像処理装置により達成される。
【0134】この装置を用いれば、パノラマシーンを観
視する使用者は、ズームを備え、光学軸の方向に変化を
与え、すなわち、観視の際に傾斜および回転に変化を与
えるための機械的手段を備えた車載カメラを有する使用
者と全く同じ慰めとサービスとが得られる。利点は、機
械的手段が阻止されることである。傾斜角および回転角
の機械的回転用のモータおよびズーム調整用モータに組
合わせた機械的手段は、なお欠陥に結び付いており、ま
ず、相当の大きさであり、つぎに、発生する動きが極め
ておそく、さらに、極めて高価であり、最後に、通常戸
外に設けられているので、天候により急速に変化する。
本発明によって用いる電子的画像処理手段は、極めて精
密で、信頼性があり、極めて急速で、取扱い易いので、
これらの欠陥をすべて排除し、さらに天候から保護さ
れ、そのうえ、自動動作に対してプログラムし易く、最
後に、機械的手段より安価である。
【0135】したがって、使用者は、本発明の手段を用
いれば、機械的手段を用いた場合に比べて、まず、観視
し易く、つぎに、より精密で、観視行動を実施する機能
が優れた画像が得られ、さらに、使用するカメラの台数
により、180°もしくは360°の視野が得られるの
で、さらに視野の広いパノラマシーンを観視することが
でき、その結果、監視領域が大いに増大する。
【0136】目標画像の構成に必要なデータを得るのに
複数台のカメラを用いるという事実は、単一の実際の車
載カメラに組合わせて、傾斜、回転あるいはズームを変
化させる機械的装置より固定のCCD(電荷結合素子)
カメラの組合わせの方が安価になるので、不利ではなく
なる。 D1:画像撮影システム
【0137】図10は、180°角のシームに関するデ
ータを記録するための複数台の実際の固定カメラの可能
な配置を断面で示すものである。このパノラマシーンの
記録は、3台の固定カメラC1,C2,C3で行われ、
これらのカメラの光学視野は、パノラマシーンの全デー
タが絶対的に一つもしくは他のカメラで記録され、如何
なる対象物も監視を免れ得ないようになっており、これ
らのカメラは、共通の視点、もしくは、極めて近接した
視点群を有するように配置してある。
【0138】軸PZ1,PZ2,PZ3は、カメラC
1,C2,C3の光学軸をそれぞれ表わし、点O1,O
2,O3は、画像平面における画像I1,I2,I3の
幾何中心を光学軸上にそれぞれ表わしている。
【0139】当業者は、固定カメラ相互の種々の配置を
さらに詳しく説明せずとも、パノラマシーンのあらゆる
種類の観視を行なうことができる。
【0140】一般に、画像撮影装置は、複数n台の実際
の固定カメラを、固定の既知の焦点距離をもって隣接配
置して備えており、個別の視野を混ぜて、広角視野を覆
うよになっている。したがって、n台の隣接固定したカ
メラは、n個の固定画像を提供しているので、この画像
撮影装置はパノラマシーンを監視し得る。カメラ群の光
学視野は、パノラマシーンの詳細が、すべて、一つもし
くは他のカメラで記録され、如何なる対象物も監視を免
れ得ないようになっている。
【0141】かかる結果を得るために、これらn台の隣
接固定カメラは、視点とも呼ぶ光学中心Pが互いに一致
するように配置する。
【0142】事実、n個のカメラの視点は、物理的に一
致させ得ない。しかしながら、これらの視点を互いに分
離する距離が、撮影するパノラマシーンからの距離に比
して小さく、例えば、相互間の距離が5cm乃至10cmで
あって、パノラマシーンからの距離が5mであれば、一
致の条件は、以下では、十分によく満たされ、したがっ
て、これらの距離の比が50より大きい程度であれば、
一致の条件は満たされたと考えられる。 D2:カメラ群による画像の形成
【0143】本発明の目的は、n台の固定カメラで記録
したパノラマシーンの任意の部分もしくは副画像のディ
ジタル画像を、実時間で、使用者が選んだ設定によって
提供し得る車載カメラを擬似したディジタル画像再構成
システムを提供することにある。
【0144】n台のカメラがいわゆるディジタル源画像
I1,I2,…,In を提供し、以下では、n台のう
ち、2台の隣接固定カメラが形成した源画像Ii とIj
とを例として考案する。
【0145】図9(A)を参照するに、これらの隣接固
定カメラCi およびCj は、隣接源画像平面Ii および
j に、パノラマシーンのそれぞれの画像を形成する。図
9(B)を参照するに、軸PXa およびPZa が垂直
で、軸PYa が水平の直交軸により、絶対枠PXa ,P
a ,PZa が判定される。
【0146】源画像Ii およびIj がディジタル化さ
れ、これらの画像の各画素Mが図3(A)および3
(B)を参照して前述したように各画像平面に結合した
個別枠内に、その座標によって規定される。
【0147】カメラの各画像平面に結合した個別枠が一
旦確立されると、これらの固定源画像平面は、それぞれ
の回転角θi ,θj および傾斜角φi ,φj により現実
の枠に結合することができる。
【0148】図9(A)において、軸PTaiおよびPT
ajは光学軸PZi およびPZj の射影であり、点Oai
よびOajは光学中心Oi およびOj の射影であり、接片
aiおよびIajは、絶対枠の水平平面(PZa ,P
a )である図の平面における画像平面Ii およびIj
の射影である。
【0149】したがって、図9(A)においては、 θi =(PTai,PZa );θj (PTaj,PZa ) であり、源画像Ii およびIj に関する角度φi および
φj は、図6(A)を参照して前述したように決定する
ことができ、したがって、φi =(PZi ,PT ai)お
よびφi =(PZj ,PTaj)となる。
【0150】図11(A)は、2台の隣接固定カメラが
提供したパノラマシーンの隣接画像Ii およびIj の正
面を示すものである。図11(A)において、説明を簡
単にするために、画像Ii およびIj は、ともに図の平
面に正面を示してあるが、実際は、固定カメラの光学軸
がなす角に等しい角をなしている。かかる画像におい
て、使用者は、線J0 で境界を定めた任意の副画像を、
もっと左もしくは右に、もっと上もしくは下に、固定カ
メラと同じ大きさ、もしくは、もっと大きくあるいはも
っと小さくして眺めるように選ぶことができる。
【0151】擬似車載カメラは、図11(A)の線J0
で境界を定めた源画像部分Si ,S j から目標画像I*
を構成することができる。以後C* で示すこのカメラ
は、実在しないカメラを擬似した事実の故に、仮想カメ
ラと呼ぶ。明らかに、この車載カメラは、2画像Ii
j の探索に限定されるものではなく、I1 乃至In
全源画像を探索することができ、おそらく、2隣接源画
像以上の目標画像を構成することができる。
【0152】目標画像I* は、以前のように、回転角度
θ* 傾斜角φ* 、分解能Dx * ,Dy * すなわち尺度
率d* および、画素群の列に平行の高さ2Vy * および
行に平行の幅2Vx * によって規定され、その視点は、
実際の固定カメラの近似視点および絶対原点Pに併合さ
れ、点O* は目標画像I* の幾何中心になる。
【0153】図9(A)は、水平平面における仮想カメ
ラの目標画像平面I* のIa * で表わした射影、およ
び、その光学軸PZ* の射影PTa * を示すものであ
り、その射影PTa * は、目標画像I* の幾何中心O*
の射影Oa * を通る。
【0154】したがって、回転角θ* 、傾斜角φ* 、尺
度率d* およびフレーミング2Vx * 、2Vy * を変化
させることにより、仮想のカメラは、種々の実際の固定
カメラの混ぜた視野が形成する広角視野を走査する実時
間車載カメラに全く類似して来る。
【0155】図11(A)を参照するに、仮想カメラC
* が広角視野の線J0 で境界を決めた小部分すなわち副
片を観視して、可変焦点距離PO* を変えることによ
り、実際のカメラの各々が提供する画像I1 乃至In
各々と例えば同じ最終寸法をもった拡大画像I* を形成
し得ることが判る。また、車載カメラC* の視野の動き
を継続的で任意のものになし得ることも判る。
【0156】線J0 に対応する視野がLOで隣接する画
像Ii とIj との2部分Si ,Sjに跨がり、2台の隣
接カメラによって提供される場合を以下で取扱うが、当
業者は二つ以上の源画像に関する他の場合に引続き一般
化することができるであろう。
【0157】図11(B)を参照するに、仮想カメラC
* が構成した画像I* が異なった2画像部分を含んでい
る場合に、一方の画像部分Ii * は、ディジタル画像I
i に含まれた情報Si から構成され、他方の画像部分I
j * は、ディジタル画像Ijに含まれた情報Sj から構
成される。図9(A)において、Iai * およびI
aj *は、水平における目標画像Ii * およびIj * の射
影を表わす。
【0158】前述したように、直交座標の個別枠は、今
度はディジタル目標画像I* について規定され、したが
って、目標画像平面I* の各画素M* は、その目標個別
枠における座標によって参照される。
【0159】同様に、目標画像の画素2Vx * ,2Vy
* で表わした寸法に基づき、その画像の光学的解像度、
すなわち水平方向のラジアン当りの画素数Dx * および
垂直方向のラジアン当りの画素数Dy * による解像度が
規定される。 D3:源画像から目標画像を構成する過程
【0160】したがって、本発明によるディジタル画像
処理手段の仕事は、実際の固定カメラが提供する「源画
像」からの仮想カメラが提供する「目標画像」の実時間
構成である。
【0161】目標画像I* の構成において、隣接した実
際のカメラが、図12(A)および12(B)の風景の
ディジタル画像の形に表わして提供した隣接左右の画像
iおよびIj が正確に接合し得ないようにする歪み、
特に、直線のある部分が曲がり、縦線が縦ではなくなる
等の歪みを呈する、という事実に基づく技術的問題が生
じており、これは、縦線が、接合部で、互いに一線に並
ばずに、切り離されることを意味する。さらに、接合部
の両側の源画像部分が、観視すべきパノラマ画像の互い
に異なる斜視図法のもとに眺めた部分からなっており、
これが、目標画像部分Ii * とIj * とが、図12
(C)に例示した目標ディジタル画像から明らかなよう
に、うまく接合し得ず、図12(A)および12(B)
の左右の隣接ディジタル画像の部分を単に簡単に並べて
形成させている。
【0162】本発明は、かかる欠陥を除去し、歪みや斜
視図法の欠点を免れて実時間で再構成したディジタル画
像を提供する過程および手段を提案するものであり、観
視者や使用者に境界線が見えないようにして構成部分I
i * とIj * とを接合するものである。
【0163】図12(D)には、歪みや斜視図法の欠点
を本発明の手段により訂正した図12(C)の風景のデ
ィジタル画像を示す。
【0164】当業者は、知らされておれば、水平線が完
全に真直ぐであり、実際のカメラで広角対物レンズを用
いて直接に画像を撮った場合のような曲がりが少しもな
いことに気付くであろう。これは、再構成した画像を一
層自然なものにする。
【0165】しかしながら、本発明によって得た図12
(D)の再構成画像は、広角光学系の歪みに類似したこ
の種の歪みが図12(A)や12(B)のような実際の
画像より遙かに少なく、さらに、図12(C)に見られ
たような目標画像構成の境界は、図12(D)には最早
存在しない。
【0166】目標画像を構成する一般過程は、以下に述
べる信号処理装置によって実行する種々の段階を備えて
いる。
【0167】この信号処理過程は、つぎのような第1段
階を備えている。目標画像I* のアドレス(X*
* )を有する各画素M* は、源画像Iのアドレス
(X,Y)における点Mに整合し、そのアドレスは源画
像Iを提供する実際のカメラの参照概要および源画像I
の点Mのアドレス(X,Y)によって決まる。
【0168】この信号処理過程は、つぎのような第2段
階を備えている。輝度Qの最もあり得る値を源画像Iの
点Mについて評価し、その輝度値Qを目標画像I* の画
素M* に割当てる。
【0169】これらの段階は目標画像I* の全画素M*
について行なわれ、処理手段は、観視者に快適な画像の
画質、すなわち、最小の歪みおよび斜視図法の調整と隣
接2画像間の境界における破断の不在とをできるだけ備
えて実時間で構成した目標画像を付与する。 D4:画像処理装置
【0170】図14には、機能ブロックの形で、本発明
による画像処理装置の種々の要素を示す。
【0171】ブロックI1 ,…,Ii ,Ij ,…,In
は、記号I1 ,…,Ii ,Ij ,…,In を付したn個
の源画像に出力を提供するn個のメモリ平面を表わす。
【0172】源画像の各々は、シーンに関して対応する
実際のカメラの方向に対応する画像パラメータを尺度率
とともに割当てられ、それらのパラメータは極めて精密
に知られもしくは決定されなければならない。
【0173】仮想カメラC* の方向およびフレーミング
に関するパラメータを使用者に選択して表示させ得る制
御システムをアセンブリ1が表わしている。
【0174】アセンブリ100は、制御システム1が決
めたパラメータによって方向を決め、操縦される仮想カ
メラC* が与える目標画像I* を、実際のカメラ群が提
供する源画像I1 ,…,In から計算し得るようにする
画像再構成システムであり、その仮想カメラC* は、視
点が実際のカメラの視点Pに併合され、もしくは、近接
するように配置してある。
【0175】ブロック10は、就中、実時間用ディジタ
ル表示モニタあるいは磁気テープに記録するビデオレコ
ーダであり得る表示手段もしくは他の記録手段に対応す
るものである。
【0176】さらに、実際のカメラはアナログデータを
提供し得ることに留意すべきである。この場合、図示し
てないアナログ−ディジタル変換モジュールがディジタ
ル源画像の形成に用いられる。
【0177】有利なことに、当業者は電荷結合カメラ
(CCD)を選択することができ、この種のカメラは、
安価で、軽量で、頑丈で、信頼性があり、その解像度は
極めて良好で、技術の進歩とともに将来さらに増大す
る。
【0178】図13を参照するに、画像処理装置は、特
に、アセンブリ1内に、使用者インターフェース2、パ
ラメータφ* ,θ* ,d* の蓄積手段210および仮想
カメラC* のフレーミング2Vx * ,2Vy * の蓄積手
段を備えている。
【0179】図14を参照するに、画像処理装置は、目
標画像I* の全体を覆うようにして、画素順次に、目標
画像I* の画素のアドレス(X* ,Y* )を発生させる
アドレス発生器113を合体したアドレス計算器20
0、および、実際のカメラC1乃至Cn それぞれのパラ
メータφ1 乃至φn ,θ1 乃至θn およびd1 乃至dn
の蓄積手段21、並びに、蓄積手段117を備えてい
る。
【0180】構成すべき目標画像I* の各画素M* につ
いて、座標(X* ,Y* )が、目標画像I* のアドレス
を発生させるブロック113によって提供される。使用
者インターフェース2自体により制御ブロック1に入
り、ブロック210および201に仮想カメラのパラメ
ータφ* ,θ* ,d* およびVx * ,Dy * の形でそれ
ぞれ蓄積される、使用者が選んだ設定に依るとともに、
ブロック21に蓄積される実際のカメラのパラメータφ
j ,θj およびdj (jはここではカメラ1乃至n全部
の指標を表わす)に依り、アドレス計算器200は、目
標画像I* の画素M* の座標(X* ,Y* )に対応する
データである、画像Ij を提供し得る実際のカメラの指
標j(指標1からnまで)を提供し、選択した源画像I
j において対応する点Mの座標(X,Y)を計算し、イ
ンターフェース2で使用者が定める種々の変換もしくは
斜視図法を介してそのようにする。
【0181】したがって、これらの作動子を介して、目
標画像I* の与えられたアドレス(X* ,Y* )におけ
る画素M* と源画像Ij の計算されたアドレス(X,
Y)における画素Mとの間に対応が確立される。
【0182】ついで、目標画像I* におけるアドレス
(X* ,Y* )の対応する画素M* に割当てるために、
源画像Ij におけるアドレス(X,Y)の点Mに輝度Q
の値を決定し、同じことを目標画像I* の全画素に対し
て行なう。
【0183】しかしながら、目標画像I* におけるアド
レス(X* ,Y* )が実際に画素M * のアドレスである
が故に、対称的に、源画像Ij におけるアドレス(X,
Y)は実際に計算したアドレスであり、これは、一般に
この見出したアドレスは、画素には一致せず、画素間の
点Mに一致することを意味する。したがって、この点M
の輝度も計算しなければならない。
【0184】この問題は補間器112が取扱うが、補間
器112は,問題の点M(X,Y)に対応する輝度関数
を補間処理によって計算するために、その点M(X,
Y)の近傍の画素、例えばm1,m2,m3,m4の輝
度関数の値に注目し、アドレス(X,Y)を有するこの
点Mに割当てるべき最も可能性の大きい輝度関数を計算
する。
【0185】源画像におけるアドレス(X,Y)につい
て補間器が計算した輝度関数Qを、ついで、目標画像I
* における開始アドレス(X* ,Y* )に位置する画素
*に輝度関数値として配置し、ブロック117に蓄積
する。
【0186】このアドレス計算器200は、単一の源画
像の処理の場合に、図13を参照して詳細に前述したも
のである。
【0187】複数の源画像の処理の場合には、このアド
レス計算器200は、特に、初期段階の期間中に、実際
のカメラ全部に関してブロック21に蓄積したデータを
負荷し、源画像の指標jおよび源画像におけるアドレス
(X,Y)を直接に提供するモジュール204を備え、
前述したように、モジュール220が計算した点K
(α,β)に対応する画素K0 (α0 ,β0 )において
球面Sからこれらのデータを読取る。
【0188】図14を参照するに、画像I* は、アドレ
ス(X* ,Y* )を有する各画素M * を輝度関数Qの値
に整合させることにより、蓄積ブロック117で作り替
えることがき、目標画像が構成される。画像I* は、引
続き、表示し、もしくは、手段10に蓄積することがで
きる。
【0189】例えば、境界領域における源画像の重なり
により、複数の源画像が存在し得る場合には、二つの源
画像の一方を直接に提供するために、ブロック204を
表にする。
【0190】この目的のために、表にする期間中2画像
間の選択の過程は、境界領域における2画像間の接合
が、重複領域の中央をほぼ通る直線になるように決定す
ることになり、この方法は、垂直接合による図10にお
けると同様に、カメラが水平に並んだ場合にも適用する
ことができる。
【0191】説明のために、画素の符号化についてクレ
ーレベルすなわち輝度によって前述したところは、カラ
ー画像の符号化にも適用することができ、その符号化
は、さらに多くのビット数に対しても簡単に実施され
る。
【0192】したがって、本発明の変形においては、源
画像IもしくはIj の点Mについて決定し、目標画像I
* の画素M* に配置すべき関数Qを、前述した輝度関
数、もしくは、色度関数、もしくは、輝度および色度の
関数、もしくは、X線強度関数、もしくは、γ線強度関
数などとすることができる。
【0193】一般に、関数Qは、源画像について計算し
た点Mにおけるディジタル信号の特性関数である。
【0194】目標画像には目につく接合がないのである
から、複数の手段、すなわち、固定カメラの精細な較
正、および、欠点のない目標画像における集中により完
全な並置が得られるまで、固定カメラのモデルのパラメ
ーターの可能な修正を続ける帰還の結果の訂正を行なう
必要がある。
【0195】この動作すなわち初期化は、較正動作の積
分部分として理解すべきである。
【図面の簡単な説明】
【図1】(A)および(B)は、同じ中心および目下の
点を有する球面座標とともに、絶対枠と称する固定の直
交3次元枠に斜視的に表わしたいわゆる源画像および目
標画像をそれぞれ示す線図である。
【図2】絶対枠と同じ原点を有する個別の直交枠に斜視
的に表わした源画像を示す線図である。
【図3】(A)および(B)は個別枠の一方の平面にお
ける源画像の射影および他方の平面に平行の源画像をそ
れぞれ表わす線図である。
【図4】(A)および(B)は個別の直交枠の一方の平
面上の目標画像の射影および他方の平面に平行の目標画
像をそれぞれ表わす線図である。
【図5】(A)および(B)は絶対枠のいわゆる水平平
面における源画像および目標画像の射影並びに絶対枠に
おいて輝度原点、目標画像画素、源画像点および絶対枠
の原点を整列させた光線を含む垂直平面をそれぞれ表わ
す線図である。
【図6】(A)および(B)は源画像の光学軸を含む絶
対枠の垂直平面および水平平面における源画像の射影を
それぞれ表わす線図である。
【図7】(A)および(B)は目標画像の光学軸を含む
絶対枠の垂直平面における目標画像の射影およびその絶
対枠の水平平面における目標画像の射影をそれぞれ表わ
す線図である。
【図8】別個枠における目標画像の目下の画素の座標か
ら、その画素および源画像と目標画像とに共通の視点て
に併合された絶対原点を通る光線の球面座標に通ずると
ともに、ついで、個別枠における源画像の対応点の座標
に通ずる際の斜視的幾何変換関数G-1およびFの動作を
示す線図である。
【図9】(A)並びに(B)は絶対枠の水平平面並びに
隣接2源画像およびその2源画像から再構成した目標画
像の全体枠の水平平面における射影をそれぞれ示す線図
である。
【図10】視野を混ぜた3台の実際のカメラが形成する
隣接3源画像を源画像平面に垂直の平面に表わす線図で
ある。
【図11】(A)および(B)は傾斜角、回転角および
尺度率を固定するパラメータによる隣接2源画像を跨ぐ
部分の隣接2源画像の境界設定および目標画像の再構成
をそれぞれ表わす線図である。
【図12】(A),(B),(C)および(D)は左源
画像、隣接する右源画像、左右源画像の右左端縁を単に
一致させて形成した目標画像および2開始源画像に本発
明画像処理システムを適用して得た目標画像をそれぞれ
示す線図である。
【図13】本発明によるアドレス計算器型の画像処理装
置を機能的ブロック図として表わす線図である。
【図14】図13によるアドレス計算器を複数源画像に
適用して組込んだ画像処理装置を機能的ブロック図とし
て表わす線図である。
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 庁内整理番号 FI 技術表示箇所 H04N 7/18 V (72)発明者 ピエール ルロン フランス国 94130 ノジャン−スル−マ ルヌ リュ フェデルブ 6

Claims (18)

    【特許請求の範囲】
  1. 【請求項1】 源画像(I)と呼ぶ画像に適用する幾何
    学的斜視情報により、傾斜角、回転角およびなるべく源
    画像に関連した尺度率の修正によって再構成した源画像
    を表わす目標画像(I* )と呼ぶ算出画像を構成するた
    めにディジタル画像を処理する方法において、源画像
    (I)と目標画像(I* )とに共通の視点(P)および
    視点(P)を原点とする真正基準枠の決定、並びに、目
    標画像(I* )におけるアドレス(X* ,Y* )をもっ
    た開始画像(M* )と呼ぶ画素毎の、係数が修正した傾
    斜角、回転角および尺度率の関数である(α,β)=G
    -1(X* ,Y* )のような線形関数G-1による、いわゆ
    る球面座標(α,β)の対の計算の各過程を具えたこと
    を特徴とする画像処理方法。
  2. 【請求項2】 線形関数G-1による球面座標(α,β)
    の各対の計算に、目標画像(I* )の局部枠における開
    始画像(M* )の第1および第2の座標(X * ,Y*
    の第1および第2の線形関係による、第1および第2の
    球面座標(α,β)の第1および第2の計算を備え、当
    該線形関係により計算した球面座標(α,β)の各対
    が、各画像に共通の視点を原点として有する基準枠にお
    いて、その視点(P)および開始画素(M* )の近傍を
    通る光線(PW)を規定することを特徴とする請求項1
    記載の画像処理方法。
  3. 【請求項3】 X* およびY* を目標画像の局部枠にお
    ける開始画素(M*)の座標とし、θ* およびφ* をそ
    れぞれ基準枠における回転角および傾斜角とし、
    x * ,Dy * を目標画像(I* )の局部座標軸にそれ
    ぞれ平行の目標画像の分解能として、球面座標(α,
    β)の各対の計算における第1および第2の線形関係を α=(1/Dx * )X* +θ* β=(1/Dy * )Y* +φ* としたことを特徴とする請求項2記載の画像処理方法。
  4. 【請求項4】 表に蓄積されて、目標画像(I* )の開
    始画素(M* )に対応した源画像(I)の点(M)のア
    ドレスを構成する対(X,Y)の、その表のアドレス
    (α0 ,β0 )の一つを備えた球面座標(α,β)の算
    出対を、その表の分解能の範囲内に整合させてその表か
    ら読出す過程を備えたことを特徴とする請求項1乃至3
    のいずれかに記載の画像処理方法。
  5. 【請求項5】 初期段階において、源画像(I)の局部
    枠によって規定し、原点として共通視点を有する前記基
    準枠に規定した所定の球面座標の対(α0 ,β0 )が形
    成する前記表のアドレスに蓄積した点(M)の座標の対
    を前記表に負荷するとともに、源画像(I)の傾斜角
    (φ)、回転角(θ)および尺度率(d)を固定パラメ
    ータとして有する三角法関数により、座標(X,Y)の
    各対を球面座標の対(α0 ,β0 )に関連させる過程を
    備えたことを特徴とする請求項4記載の画像処理方法。
  6. 【請求項6】 前記表の負荷に先立ち、球面座標
    (α0 ,β0 )の対に関連した源画像(I)の点(M)
    の座標(X,Y)の対を計算するとともに、源画像
    (I)の各点(M)の第1および第2の座標(X,Y)
    の第1および第2の計算を、球面座標(α0 ,β0 )の
    変数として有する第1および第2の三角法的関係によ
    り、前記計算に含める過程を備えたことを特徴とする請
    求項5記載の画像処理方法。
  7. 【請求項7】 源画像(I)の点(M)の座標(X,
    Y)の各対の計算において、第1および第2の三角法的
    関係がそれぞれ 【数1】 であることを特徴とする請求項6記載の画像処理方法。
  8. 【請求項8】 すべてが前記基準枠の原点と共通の視点
    を有する複数の隣接源画像(I1 〜In )にそれぞれ適
    用した複数の幾何学的変換により、その源画像群の隣接
    した副部分を表わして、その源画像群の副部分にそれぞ
    れ関連した傾斜角、回転角およびなるべくは尺度率に修
    正を施して再構成した目標画像の構成に、その目標画像
    の開始画素(M* )に対応する源画像(I)の点(M)
    のアドレス(X,Y)の前記表からの読出しに、その点
    (M)が存在するn個の源画像から特別の源画像を指示
    する指標の前記表の同一アドレスからの読出しを組合わ
    せて含めた過程を備えたことを特徴とする請求項1乃至
    7のいずれかに記載の画像処理方法。
  9. 【請求項9】 源画像(I)において計算した各点
    (M)のディジタル信号の特性関数の評価およびその特
    性関数の目標画像(I* )において対応する開始画素
    (M* )に対する割当ての過程を備えたことを特徴とす
    る請求項1乃至8のいずれかに記載の画像処理方法。
  10. 【請求項10】 源画像(I)と呼ぶ画像に適用した幾
    何学的斜視変換により源画像(I)に関連した傾斜角、
    回転角およびなるべくは尺度率に修正を施して再構成し
    た源画像(I)を表わす目標画像(I* )と呼ぶ算出画
    像を構成するためにディジタル画像を処理する装置にお
    いて、 係数が基準枠における目標画像(I* )の傾斜角
    (φ* )および回転角(θ*)並びにフレーミング(V
    x * ,Vy * )である線形関数G-1により前記基準枠に
    ついて計算したいわゆる球面座標対(α,β)を、目標
    画像(I* )においてアドレス(X* ,Y* )を付した
    開始画素(M* )と呼ぶ画素毎に提供する計算手段(2
    20)と、 球面座標(α,β)の計算した対毎に、その表作製手段
    の分解能の範囲内で、蓄積して目標画像(I* )におけ
    る開始画素(M* )に対応する点(M)の源画像(I)
    におけるアドレスを構成する対(X,Y)を提供する表
    作製手段(204)とを含むアドレス計算器(200)
    を備えたことを特徴とする画像処理装置。
  11. 【請求項11】 源画像(I)において計算した各点
    (M)に結合したディジタル信号の特性関数の評価手段
    (112)、および、目標画像(I* )において対応す
    る各開始画素(M* )にその特性関数を割当てる手段
    (117)を備えたことを特徴とする請求項10記載の
    画像処理装置。
  12. 【請求項12】 一方が目標画像(I* )の局部枠にお
    ける開始画素(M*)の第1座標(X* )を変数として
    有する第1線形関係によって第1球面座標(α)の計算
    を行なうとともに、他方がその局部枠における画素(M
    * )の第2座標(Y* )を変数として有する第2線形関
    係によって第2球面座標(β)の計算を行なう2個の数
    値的傾斜計算モジュールを備え、前記線形関係の係数が
    源画像に対する目標画像の修正した回転角、傾斜角およ
    びフレーミング(Vx * ,Vy * )の関数であることを
    特徴とする請求項10もしくは11に記載の画像処理装
    置。
  13. 【請求項13】 局部枠における目標画像(I* )の画
    素(M* )のアドレス(X* ,Y* )を発生させるため
    のアドレス発生器(113)を備えたことを特徴とする
    請求項10乃至12のいずれかに記載の画像処理装置。
  14. 【請求項14】 基準枠における目標画像(I* )の傾
    斜角(φ* )、回転角(θ* )および尺度率(d* )の
    値を提供するための蓄積手段(210)並びにそのフレ
    ーミング(VX * ,Vy * )を提供するたの蓄積手段
    (201)を備えたことを特徴とする請求項10乃至1
    3のいずれかに記載の画像処理装置。
  15. 【請求項15】 源画像(I)の傾斜角(φ)、回転角
    (θ)および尺度率(d)を提供するための蓄積手段
    (21)を備えたことを特徴とする請求項10乃至14
    のいずれかに記載の画像処理装置。
  16. 【請求項16】 目標画像(I* )の傾斜角(φ* )、
    回転角(θ* )、尺度率(d* )およびフレーミング
    (Vx * ,Vy * )に対する値を使用者が定め得るイン
    ターフェース・モジュール(2)を備えたことを特徴と
    する請求項10乃至15のいずれかに記載の画像処理装
    置。
  17. 【請求項17】 再構成した目標画像(I* )を表示も
    しくは蓄積するための手段を備えたことを特徴とする請
    求項10乃至16のいずれかに記載の画像処理装置。
  18. 【請求項18】 基準枠の原点と共通の視点を有するn
    個の隣接ディジタル源画像(I1 〜In )を形成するた
    めのモジュールを備えるとともに、源画像の副部分のそ
    れぞれに関連した傾斜角、回転角およびなるべくは尺度
    率に修正を施して、前記源画像群の隣接部分から構成し
    た目標画像を構成するために、図形作成手段(204)
    に、特別の源画像(I1 〜In )の画素(M)のアドレ
    ス(X,Y)と組合わせて、その点(M)が存在するそ
    の特別の源画像の指標を備えたことを特徴とする請求項
    10乃至17のいずれせかに記載の画像処理装置。
JP6322452A 1993-12-29 1994-12-26 斜視的変換により源画像から目標画像を構成する画像処理方法および装置 Pending JPH07220057A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR9315804 1993-12-29
FR9315804A FR2714502A1 (fr) 1993-12-29 1993-12-29 Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective.

Publications (1)

Publication Number Publication Date
JPH07220057A true JPH07220057A (ja) 1995-08-18

Family

ID=9454525

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6322452A Pending JPH07220057A (ja) 1993-12-29 1994-12-26 斜視的変換により源画像から目標画像を構成する画像処理方法および装置

Country Status (5)

Country Link
US (1) US5586231A (ja)
EP (1) EP0661671B1 (ja)
JP (1) JPH07220057A (ja)
DE (1) DE69425481T2 (ja)
FR (1) FR2714502A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11213141A (ja) * 1997-11-18 1999-08-06 Ricoh Co Ltd 画像合成方法及び装置並びに情報記録媒体
WO2003049030A1 (fr) * 2001-12-07 2003-06-12 Sony Corporation Dispositif de traitement d'image, procede de traitement d'image, procede de stockage et programme informatique

Families Citing this family (73)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2714503A1 (fr) * 1993-12-29 1995-06-30 Philips Laboratoire Electroniq Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective.
FR2714502A1 (fr) * 1993-12-29 1995-06-30 Philips Laboratoire Electroniq Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective.
US5691765A (en) * 1995-07-27 1997-11-25 Sensormatic Electronics Corporation Image forming and processing device and method for use with no moving parts camera
US6049619A (en) * 1996-02-12 2000-04-11 Sarnoff Corporation Method and apparatus for detecting moving objects in two- and three-dimensional scenes
US6192145B1 (en) * 1996-02-12 2001-02-20 Sarnoff Corporation Method and apparatus for three-dimensional scene processing using parallax geometry of pairs of points
US6075542A (en) * 1996-07-29 2000-06-13 Eastman Kodak Company Method of combining two digital images
US6031541A (en) * 1996-08-05 2000-02-29 International Business Machines Corporation Method and apparatus for viewing panoramic three dimensional scenes
JP3745475B2 (ja) * 1996-12-06 2006-02-15 株式会社セガ ゲーム装置及び画像処理装置
US5963213A (en) * 1997-05-07 1999-10-05 Olivr Corporation Ltd. Method and system for accelerating warping
US6249616B1 (en) 1997-05-30 2001-06-19 Enroute, Inc Combining digital images based on three-dimensional relationships between source image data sets
US6281901B1 (en) 1998-11-25 2001-08-28 The United States Of America As Represented By The Secretary Of The Navy Interactive overlay for displaying 3-D data
JP3126955B2 (ja) * 1999-02-12 2001-01-22 株式会社アドバネット 画像変換用演算装置
US7292261B1 (en) * 1999-08-20 2007-11-06 Patrick Teo Virtual reality camera
JP3601392B2 (ja) * 1999-12-27 2004-12-15 住友電気工業株式会社 画像処理装置、画像処理方法及び車両監視システム
IL136373A0 (en) * 2000-05-25 2001-06-14 Itpen Ltd Partnership Israel Representation of three-dimensional bodies on computer screens and games involving such representations
US6795068B1 (en) 2000-07-21 2004-09-21 Sony Computer Entertainment Inc. Prop input device and method for mapping an object from a two-dimensional camera image to a three-dimensional space for controlling action in a game program
US7071914B1 (en) 2000-09-01 2006-07-04 Sony Computer Entertainment Inc. User input device and method for interaction with graphic images
WO2002069619A2 (en) * 2001-02-24 2002-09-06 Eyesee360, Inc. Method and apparatus for processing photographic images
FR2821960A1 (fr) * 2001-03-06 2002-09-13 7Eme Sens Soc Procede de presentation de differentes configurations d'un meme sujet sur un meme ecran d'ordinateur
JP3467774B2 (ja) * 2001-04-27 2003-11-17 住友電気工業株式会社 画像処理装置、画像処理方法及び車両監視システム
WO2003027766A2 (en) * 2001-09-27 2003-04-03 Eyesee360, Inc. System and method for panoramic imaging
US7058239B2 (en) * 2001-10-29 2006-06-06 Eyesee360, Inc. System and method for panoramic imaging
US7312814B2 (en) * 2002-01-23 2007-12-25 Pelco System and method for storing pattern data
GB2387519B (en) * 2002-04-08 2005-06-22 Canon Europa Nv Viewing controller for three-dimensional computer graphics
US7161579B2 (en) 2002-07-18 2007-01-09 Sony Computer Entertainment Inc. Hand-held computer interactive device
US8797260B2 (en) 2002-07-27 2014-08-05 Sony Computer Entertainment Inc. Inertially trackable hand-held controller
US7883415B2 (en) 2003-09-15 2011-02-08 Sony Computer Entertainment Inc. Method and apparatus for adjusting a view of a scene being displayed according to tracked head motion
US7623115B2 (en) 2002-07-27 2009-11-24 Sony Computer Entertainment Inc. Method and apparatus for light input device
US7646372B2 (en) 2003-09-15 2010-01-12 Sony Computer Entertainment Inc. Methods and systems for enabling direction detection when interfacing with a computer program
US7102615B2 (en) * 2002-07-27 2006-09-05 Sony Computer Entertainment Inc. Man-machine interface using a deformable device
US8313380B2 (en) 2002-07-27 2012-11-20 Sony Computer Entertainment America Llc Scheme for translating movements of a hand-held controller into inputs for a system
US9393487B2 (en) 2002-07-27 2016-07-19 Sony Interactive Entertainment Inc. Method for mapping movements of a hand-held controller to game commands
US8570378B2 (en) 2002-07-27 2013-10-29 Sony Computer Entertainment Inc. Method and apparatus for tracking three-dimensional movements of an object using a depth sensing camera
US7760248B2 (en) 2002-07-27 2010-07-20 Sony Computer Entertainment Inc. Selective sound source listening in conjunction with computer interactive processing
US7627139B2 (en) 2002-07-27 2009-12-01 Sony Computer Entertainment Inc. Computer image and audio processing of intensity and input devices for interfacing with a computer program
US8686939B2 (en) 2002-07-27 2014-04-01 Sony Computer Entertainment Inc. System, method, and apparatus for three-dimensional input control
US9474968B2 (en) 2002-07-27 2016-10-25 Sony Interactive Entertainment America Llc Method and system for applying gearing effects to visual tracking
US9682319B2 (en) 2002-07-31 2017-06-20 Sony Interactive Entertainment Inc. Combiner method for altering game gearing
US9177387B2 (en) 2003-02-11 2015-11-03 Sony Computer Entertainment Inc. Method and apparatus for real time motion capture
US8072470B2 (en) 2003-05-29 2011-12-06 Sony Computer Entertainment Inc. System and method for providing a real-time three-dimensional interactive environment
DE10341822A1 (de) * 2003-09-09 2005-09-29 Clauß, Ulrich, Dr.-Ing. Verfahren und Anordnung zur photogrammetrischen Messbildaufnahme und -verarbeitung
US8287373B2 (en) 2008-12-05 2012-10-16 Sony Computer Entertainment Inc. Control device for communicating visual information
US9573056B2 (en) 2005-10-26 2017-02-21 Sony Interactive Entertainment Inc. Expandable control device via hardware attachment
US10279254B2 (en) 2005-10-26 2019-05-07 Sony Interactive Entertainment Inc. Controller having visually trackable object for interfacing with a gaming system
US7874917B2 (en) 2003-09-15 2011-01-25 Sony Computer Entertainment Inc. Methods and systems for enabling depth and direction detection when interfacing with a computer program
US8323106B2 (en) 2008-05-30 2012-12-04 Sony Computer Entertainment America Llc Determination of controller three-dimensional location using image analysis and ultrasonic communication
US8133115B2 (en) 2003-10-22 2012-03-13 Sony Computer Entertainment America Llc System and method for recording and displaying a graphical path in a video game
US7663689B2 (en) 2004-01-16 2010-02-16 Sony Computer Entertainment Inc. Method and apparatus for optimizing capture device settings through depth information
US8547401B2 (en) 2004-08-19 2013-10-01 Sony Computer Entertainment Inc. Portable augmented reality device and method
US20060071933A1 (en) 2004-10-06 2006-04-06 Sony Computer Entertainment Inc. Application binary interface for multi-pass shaders
US7636126B2 (en) 2005-06-22 2009-12-22 Sony Computer Entertainment Inc. Delay matching in audio/video systems
JP2007066291A (ja) * 2005-08-02 2007-03-15 Seiko Epson Corp 画像表示方法および画像表示装置、画像表示システム、サーバ、プログラム、記録媒体
US7880746B2 (en) 2006-05-04 2011-02-01 Sony Computer Entertainment Inc. Bandwidth management through lighting control of a user environment via a display device
US7965859B2 (en) 2006-05-04 2011-06-21 Sony Computer Entertainment Inc. Lighting control of a user environment via a display device
US8310656B2 (en) 2006-09-28 2012-11-13 Sony Computer Entertainment America Llc Mapping movements of a hand-held controller to the two-dimensional image plane of a display screen
USRE48417E1 (en) 2006-09-28 2021-02-02 Sony Interactive Entertainment Inc. Object direction using video input combined with tilt angle information
US8781151B2 (en) 2006-09-28 2014-07-15 Sony Computer Entertainment Inc. Object detection using video input combined with tilt angle information
US8988466B2 (en) * 2006-12-13 2015-03-24 Adobe Systems Incorporated Panoramic image straightening
US8542907B2 (en) 2007-12-17 2013-09-24 Sony Computer Entertainment America Llc Dynamic three-dimensional object mapping for user-defined control device
US7961224B2 (en) 2008-01-25 2011-06-14 Peter N. Cheimets Photon counting imaging system
CN103258184B (zh) 2008-02-27 2017-04-12 索尼计算机娱乐美国有限责任公司 用于捕获场景的深度数据并且应用计算机动作的方法
US8368753B2 (en) 2008-03-17 2013-02-05 Sony Computer Entertainment America Llc Controller with an integrated depth camera
US8961313B2 (en) 2009-05-29 2015-02-24 Sony Computer Entertainment America Llc Multi-positional three-dimensional controller
US8527657B2 (en) 2009-03-20 2013-09-03 Sony Computer Entertainment America Llc Methods and systems for dynamically adjusting update rates in multi-player network gaming
US8342963B2 (en) 2009-04-10 2013-01-01 Sony Computer Entertainment America Inc. Methods and systems for enabling control of artificial intelligence game characters
US8142288B2 (en) 2009-05-08 2012-03-27 Sony Computer Entertainment America Llc Base station movement detection and compensation
US8393964B2 (en) 2009-05-08 2013-03-12 Sony Computer Entertainment America Llc Base station for position location
ES2358142B9 (es) * 2009-10-21 2019-04-15 3D Sport Signs S L Procedimiento, sistema y programa de ordenador para obtener una transformada de una imagen.
US10786736B2 (en) 2010-05-11 2020-09-29 Sony Interactive Entertainment LLC Placement of user information in a game space
US8913162B2 (en) * 2010-11-04 2014-12-16 Konica Minolta, Inc. Image processing method, image processing apparatus and image capturing apparatus
US9342817B2 (en) 2011-07-07 2016-05-17 Sony Interactive Entertainment LLC Auto-creating groups for sharing photos
US20150187198A1 (en) * 2013-12-27 2015-07-02 Aaron G. Silverberg Orientation Measurement And Guidance Of Manually Positioned Objects
CN108629811B (zh) * 2018-04-04 2021-08-20 广州市安晓科技有限责任公司 一种汽车环视全景的自动标定方法及系统

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2546017B1 (fr) * 1983-05-11 1986-01-17 Thomson Csf Procede pour realiser une transformation geometrique sur une image video, et dispositifs mettant en oeuvre ce procede
US4734690A (en) * 1984-07-20 1988-03-29 Tektronix, Inc. Method and apparatus for spherical panning
JPS62102369A (ja) * 1985-10-29 1987-05-12 インタ−ナショナル ビジネス マシ−ンズ コ−ポレ−ション グラフイツク物体の3次元透視投影を生成する方法
US4807158A (en) * 1986-09-30 1989-02-21 Daleco/Ivex Partners, Ltd. Method and apparatus for sampling images to simulate movement within a multidimensional space
US4969036A (en) * 1989-03-31 1990-11-06 Bir Bhanu System for computing the self-motion of moving images devices
EP0605045B1 (fr) * 1992-12-29 1999-03-31 Laboratoires D'electronique Philips S.A.S. Procédé et dispositif de traitement d'images pour construire une image à partir d'images adjacentes
FR2714502A1 (fr) * 1993-12-29 1995-06-30 Philips Laboratoire Electroniq Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective.

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11213141A (ja) * 1997-11-18 1999-08-06 Ricoh Co Ltd 画像合成方法及び装置並びに情報記録媒体
WO2003049030A1 (fr) * 2001-12-07 2003-06-12 Sony Corporation Dispositif de traitement d'image, procede de traitement d'image, procede de stockage et programme informatique
JP2003178298A (ja) * 2001-12-07 2003-06-27 Sony Corp 画像処理装置及び画像処理方法、記憶媒体、並びにコンピュータ・プログラム
US7426317B2 (en) 2001-12-07 2008-09-16 Sony Corporation Image processing apparatus and image processing method, storage medium and computer program
CN100437639C (zh) * 2001-12-07 2008-11-26 索尼公司 图像处理装置和图像处理方法

Also Published As

Publication number Publication date
DE69425481T2 (de) 2001-04-19
FR2714502A1 (fr) 1995-06-30
DE69425481D1 (de) 2000-09-14
US5586231A (en) 1996-12-17
EP0661671A1 (fr) 1995-07-05
EP0661671B1 (fr) 2000-08-09

Similar Documents

Publication Publication Date Title
JPH07220057A (ja) 斜視的変換により源画像から目標画像を構成する画像処理方法および装置
JPH07225855A (ja) 斜視的変換により源画像から目標画像を構成する画像処理方法および装置
US7006709B2 (en) System and method deghosting mosaics using multiperspective plane sweep
Peleg et al. Mosaicing on adaptive manifolds
US7298919B2 (en) System and method for displaying an image indicating a positional relation between partially overlapping images
US6677981B1 (en) Motion play-back of still pictures comprising a panoramic view for simulating perspective
Shum et al. Panoramic image mosaics
US6791598B1 (en) Methods and apparatus for information capture and steroscopic display of panoramic images
KR101003277B1 (ko) 이음매 없는 합성 이미지를 생성하는 컴퓨터 구현 방법 및 멀티-이미저 시스템
KR101343220B1 (ko) 파노라마 이미지에 대한 실시간 미리 보기
US6885392B1 (en) Perspective correction for preview area of panoramic digital camera
US5508734A (en) Method and apparatus for hemispheric imaging which emphasizes peripheral content
US6023588A (en) Method and apparatus for capturing panoramic images with range data
JP3320541B2 (ja) 隣接する複数画像より画像を形成する画像処理方法及び装置
US6184781B1 (en) Rear looking vision system
US6618511B1 (en) Perspective correction for panoramic digital camera with remote processing
US6456323B1 (en) Color correction estimation for panoramic digital camera
US20060078215A1 (en) Image processing based on direction of gravity
US20040061774A1 (en) Digital imaging system using overlapping images to formulate a seamless composite image and implemented using either a digital imaging sensor array
EP1234278B1 (en) System and method for rectified mosaicing of images recorded by a moving camera
US20020180759A1 (en) Camera system with both a wide angle view and a high resolution view
US20080118183A1 (en) Virtual reality camera
US20050008254A1 (en) Image generation from plurality of images
JP2007525054A (ja) ディジタル3d/360度カメラシステム
EP1658732A1 (en) Method and device for generating wide image sequences

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041214

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20050510