JP2003324636A - 広角画像生成装置 - Google Patents

広角画像生成装置

Info

Publication number
JP2003324636A
JP2003324636A JP2002146994A JP2002146994A JP2003324636A JP 2003324636 A JP2003324636 A JP 2003324636A JP 2002146994 A JP2002146994 A JP 2002146994A JP 2002146994 A JP2002146994 A JP 2002146994A JP 2003324636 A JP2003324636 A JP 2003324636A
Authority
JP
Japan
Prior art keywords
image
wide
angle
rotation center
center axis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002146994A
Other languages
English (en)
Other versions
JP2003324636A5 (ja
JP4175832B2 (ja
Inventor
Kenichi Hayashi
謙一 林
Yasushi Sogabe
靖 曽我部
Shigeki Murata
茂樹 村田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2002146994A priority Critical patent/JP4175832B2/ja
Publication of JP2003324636A publication Critical patent/JP2003324636A/ja
Publication of JP2003324636A5 publication Critical patent/JP2003324636A5/ja
Application granted granted Critical
Publication of JP4175832B2 publication Critical patent/JP4175832B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

(57)【要約】 【課題】 回転対称凸面形状を有した反射鏡を用いて略
±90度分の広角画像を撮像し、演算処理を施すことに
よって展開画像を得る広角画像生成装置において、反射
面の回転中心軸が、0度の方向に垂直な面内において鉛
直方向から傾いた場合、得られる展開画像は、その内容
が、反射面の回転中心軸の傾斜分だけ傾いたものとな
り、見る者に違和感を与えるという問題点が発生する。 【解決手段】 本発明は、反射鏡1を用いて略±90度
分の広角画像を撮像する撮像装置内に角度センサ12を
設け、0度の方向に垂直な面内の傾きを測る。その値を
用いて、演算処理装置11で展開処理とともに展開画像
の回転処理を行い、展開画像内の水平と出力モニタ13
の水平を一致させる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は反射面による反射光
を撮像し、広角画像を生成する広角画像生成装置に関す
るものである。
【0002】
【従来の技術】反射面を用いた広角撮像装置の従来例と
して特許2939087号に記載のいわゆる全方位カメ
ラがある。これはカメラの光軸周りの軸回転対称の形状
を有した反射面により、回転軸周りの360度の方向の
画像を一度に撮像面に結像することができるものであ
る。また、撮像により得られる全方位画像に対して画像
変換処理を行うことにより、いわゆるパノラマ画像を得
るものである。
【0003】全方位カメラは、監視領域が周囲360度
の場合には有効である。しかし監視領域が略180度で
よい場合には、全方位カメラは略180度分の不要な領
域を撮像することになり、撮像素子の使い方として非効
率である。
【0004】そこで反射面のつくる反射像のうち、その
反射面の回転中心軸に垂直な任意の方向を基準方向とし
てその略±90度分のみを撮像するような広角撮像装置
を考える。
【0005】このような広角撮像装置で得られた画像
(以下、広角画像と呼ぶ)に対しても、特許29390
87号で示された全方位カメラの場合と同様に、演算処
理を施すことによって、通常の画角のカメラで撮った画
像をつなぎ合わせた様な画像である展開画像を得ること
ができる。
【0006】以下に展開処理について説明する。図33
は展開処理の説明のために広角撮像装置8を模式的に示
したものである。座標軸を、紙面から手前方向にX軸、
紙面の左右方向にY軸、紙面の上下方向にZ軸とする。
またZ軸は鉛直方向に一致している。
【0007】広角撮像装置8は、軸回転対称の形状を有
した双曲面反射鏡1と結像レンズ2と撮像素子3とで構
成されている。撮像装置は結像レンズ2と撮像素子3と
で構成されている。
【0008】双曲面反射鏡1は双曲面の回転中心軸周り
の±90度分の反射面を有している。その0度の方向を
基準光軸方向とし、ここではY軸方向と一致するものと
する。4は双曲面反射鏡1の内部焦点である。6は双曲
面反射鏡1の回転中心軸であり、Z軸と一致している。
【0009】空間内の任意点P(X,Y,Z)から発せら
れ、内部焦点4に向かって入射した光線は、双曲面反射
鏡1の反射面で反射し、回転中心軸6上の外部焦点(図
示せず)へと集光される。この外部焦点の位置と結像レ
ンズ2の主点7の位置は略々一致するように配置されて
おり、結像レンズ2を介して光線が撮像素子3の撮像面
5上に結像する。
【0010】また、21は広角画像から展開画像への写
像を考える際の仮想の投影面である仮想円筒面である。
仮想円筒面21はその回転中心軸が双曲面反射鏡1の回
転中心軸6と一致している。
【0011】空間内の任意点P(X,Y,Z)に対応する
撮像面5上の点(即ち、広角画像上の点)p(x,y)を考
える。双曲面反射鏡1の双曲面形状は下記(式1)で表
される。
【0012】 (X2+Y2)/a2−Z2/b2 = −1 (式1) ここでa,bは双曲面の形状を決定する定数である。ま
た c = (a2+b2)0.5 (式2) である。また式3〜式5が成立する。
【0013】 Z = (X2+Y2)0.5・tanβ+c (式3) tanβ ={(b2+c2)・sinα−2bc}/{(b2−c2)・cosα}(式4) tanα = F/ (x2+y2)0.5 (式5) ここでFは結像レンズ2と撮像素子3からなる撮像装置
の焦点距離である。角度αおよびβについては図33を
参照のこと。
【0014】(式3)〜(式5)よりX,Y,Z及び
b,c,Fが決まれば(x2+y2)0.5、即ち、撮像面5上
の回転中心軸6との交点から点pまでの距離が決まる。
また、内部焦点4に向かう光線は、双曲面反射鏡1で反
射して外部焦点へ向かうという双曲面の性質から、XY
平面およびxy平面における点P、点pの方向は一致す
る。従って、 Y/X = y/x (式6) (式6)よりX,Yが求まれば、点pの方向も決まり、
よって、P(X,Y,Z)に対応する撮像面5上の点(即
ち広角画像上の点)p(x、y)を一意に決定することがで
きる。即ち、略±90度分の視野を撮像するような広角
撮像装置においても、全方位カメラの場合と同様に、展
開画像の投影面(仮想円筒面21)を決め、広角画像か
ら投影面への写像を考えることによって展開画像の各画
素の広角画像における対応点を決定し、それに従って展
開画像の全画素の輝度値を決定することにより展開画像
を生成することができる。
【0015】しかし、ここで反射面の回転中心軸が、基
準方向に垂直な面内において鉛直方向から傾いた場合、
この傾きを無視して、その広角撮像装置から得られた画
像に対して演算処理を行い、略±90度分の広角画像を
展開画像へと変換すると、展開画像の外枠は反射面の回
転中心軸の傾きが無い時と変わらない。一方、展開画像
の内容は、反射面の回転中心軸の傾斜分だけ傾いたもの
となり、見る者に違和感を与えるという問題点が発生す
る。
【0016】また、このような広角撮像装置の回転軸方
向の視野は、仰角をβ、俯角をγとする場合に(図33
参照)、一般に|β|<|γ|となる。そのため、展開
画像中の仰角が0となる位置(以下、視線中心と呼ぶ)
は、展開画像の短手方向のどちらかに片寄ってしまう。
この時、展開画像中の視線中心から遠い部分は、他の部
分よりも斜めに見ることになるために、他の部分に比べ
て歪んで見えてしまうという問題がある。
【0017】また、図34を用いて全方位カメラについ
て説明する。図34の(a)は全方位カメラの基本構成
を示している。全方位カメラ100は、軸回転対称形状
を有した反射面としての双曲面反射鏡101と、結像レ
ンズ102と、CCDなどの撮像素子103とで構成さ
れている。
【0018】104は双曲面反射鏡101の内部焦点で
ある。105は撮像素子103の撮像面である。106
は双曲面反射鏡101の回転中心軸であり、ここではZ
軸と一致しているとする。またこの双曲面反射鏡101
の回転中心軸に垂直な任意の方向をY軸方向とする。1
07は結像レンズ102の主点である。内部焦点104
と主点107を結ぶ直線を2等分する点を座標系の原点
Oとする。
【0019】また、108a,108bは双曲面反射鏡
101に入射する光線であり、109a,109bは光
線108a,108bの双曲面反射鏡101に対する入
射点である。110a,110bは入射点109a,1
09bで反射した光線108a,108bの撮像面10
5における結像点である。
【0020】YZ平面内のある点から発せられ、内部焦
点104に向かって入射し、双曲面反射鏡101上の入
射点109a,109bに到達した光線108a,10
8bは、双曲面反射鏡101の反射面で反射し、回転中
心軸106上の外部焦点(図示せず)へと集光される。
この外部焦点の位置と結像レンズ102の主点107の
位置は略々一致するように配置されており、結像レンズ
102を介して光線108a,108bは撮像素子10
3の撮像面105上の結像点110a,110bに結像
する。
【0021】図34の(b)は撮像面105上における
結像の様子を示す。図示しているように紙面上向きがY
軸方向とする。また紙面垂直方向がZ軸方向とする。光
線108a,108bを含む、全方位カメラ100の回
転中心軸106の周囲360度から内部焦点104に向
かって双曲面反射鏡101に入射する光束(図示せず)
が、光線108a,108bと同じように、双曲面反射
鏡101の外部焦点(図示せず)を通り、結像レンズ1
02を介して撮像面105上に円状の像111を形成す
る。また、円状の像111でY方向の両端が光線108
a,108bの結像点110a,110bとなる。
【0022】以上のようにして得られた円状の全方位画
像をパノラマ画像に変換する展開処理について以下に説
明する。図35は展開処理の説明のために全方位カメラ
100を模式的に示したものである。双曲面反射鏡10
1、結像レンズ102、撮像素子103、内部焦点10
4、撮像面105、回転中心軸106、主点107は、
図34で説明したものと同じである。
【0023】112は、円状の全方位画像から展開画像
への写像を考える際の仮想の投影面である仮想円筒面で
ある。仮想円筒面112はその回転中心軸が双曲面反射
鏡101の回転中心軸106と一致している。座標軸
は、紙面から手前方向にX軸、紙面の左右方向にY軸、
紙面の上下方向にZ軸とする。またZ軸は回転中心軸1
06と一致するものとする。
【0024】既に説明したように、空間内の任意点P
(XP,YP,ZP)から発せられ、内部焦点104に向か
って入射した光線は、双曲面反射鏡101の反射面で反
射し、回転中心軸106上の外部焦点(図示せず)へと
集光される。この外部焦点の位置と結像レンズ102の
主点107の位置は略々一致するように配置されてお
り、結像レンズ102を介して光線が撮像素子103の
撮像面105上に結像する。
【0025】空間内の任意点P(XP,YP,ZP)に対
応する撮像面105上の点、すなわち、円状の全方位画
像上の点であるp(xp,yp)を考える。双曲面反射鏡
101の双曲面形状は(式7)で表される。
【0026】 (X2+Y2)/a2−Z2/b2=−1 (式7) ここでa,bは双曲面の形状を決定する定数である。ま
た c=(a2+b2)0.5 (式8) である。また(式9)〜(式11)が成立する。
【0027】 Z=(X2+Y2)0.5・tanα+c (式9) tanα={(b2+c2)・sinβ−2bc}/{(b2−c2)・cosβ}(式10) tanβ= F/ (x2+y2)0.5 (式11) ここでFは結像レンズ102と撮像素子103からなる
撮像装置の焦点距離である。角度αは、内部焦点104
と任意点Pを結ぶ直線とXY平面のなす角度である。角
度βは、主点107(双曲面反射鏡101の外部焦点と
略々一致)と撮像面105上の点pを結ぶ直線とXY平
面のなす角度である。(式9)〜(式11)よりXP
P,ZPおよびb、c、Fが決まれば(xp 2
p 2)0.5、すなわち、撮像面105上の回転中心軸10
6との交点から点pまでの距離が決まる。
【0028】また、内部焦点104に向かう光線は、双
曲面反射鏡101で反射して外部焦点へ向かうという双
曲面の性質から、XY平面およびxy平面における点
P、点pの方向は一致する。従って Y/X = y/x (式12) (式12)よりXP,YPが求まれば、点pの方向も決ま
る。
【0029】以上より、P(XP,YP,ZP)に対応す
る撮像面5上の点(すなわち、円状の全方位画像上の
点)p(xp,yp)を一意に決定することができる。従
って、展開画像の投影面(仮想円筒面112)を決め、
円状の全方位画像から投影面への写像を考えることによ
って、展開画像の各画素に対する円状の全方位画像にお
ける対応点を決定し、それに従って展開画像の全画素の
輝度値を決定することにより展開画像を生成することが
できる。
【0030】全方位カメラは、監視領域が周囲360度
の場合には有効である。しかし監視領域が略180度で
よい場合には、全方位カメラは略180度分の不要な領
域を撮像することになり、撮像素子の使い方として非効
率である。
【0031】
【発明が解決しようとする課題】本発明は、広角撮像装
置をその回転中心軸が基準光軸方向に垂直な面内で鉛直
方向に対して傾けた状態としても、広角画像生成装置と
しての出力は画像内の水平方向がTVモニタの水平方向
と一致した画像となり、見る人に違和感を与えない広角
画像生成装置を提供することを目的とする。
【0032】また、本発明は、反射面のつくる反射像の
うち、その反射面の回転中心軸に垂直な任意の方向を基
準方向としてその略±90度分のみを撮像するような広
角画像生成装置を考えた場合に、広角画像に対して全方
位カメラの場合と同様の処理を適用し展開画像を得よう
とすると、撮像装置の光軸の傾きや光学収差に起因する
像の変形のために得られる展開画像は正しいものになら
ないという課題があるが、これを解決できる広角画像生
成装置を提供することを目的とする。
【0033】
【課題を解決するための手段】本発明の請求項1記載の
広角画像生成装置は、広角撮像装置と演算処理装置から
なる広角画像生成装置であって、広角撮像装置は、回転
対称体の回転中心軸に対して垂直な任意の方向に基準光
軸をとり前記基準光軸の方向を0度として少なくとも角
度θの範囲(θ1≦θ≦θ2、−90°≦θ1≦90
°、−90°≦θ2≦90°、θ1<θ2)の凸面形状
の反射面を有する反射鏡と、前記反射鏡の回転中心軸上
に主点を有し、前記反射鏡の反射像を結像して前記反射
鏡の回転中心軸周りの少なくとも角度θの範囲の対象物
を撮像する撮像装置からなり、前記基準光軸に対して垂
直な平面内で、前記反射鏡の回転中心軸を任意の回転中
心軸面内傾斜方向に傾けて設置し、演算処理装置は、前
記広角撮像装置より得られる画像に対して演算処理を行
い展開画像を生成する展開画像生成部と、前記回転中心
軸面内傾斜方向に応じて前記展開画像を傾斜させ前記展
開画像のデータ形式を出力用の形式に変換し出力画像と
して生成する出力画像生成部とからなることを特徴とす
る。
【0034】本発明の請求項2記載の広角画像生成装置
は、広角撮像装置と演算処理装置からなる広角画像生成
装置であって、広角撮像装置は、回転対称体の回転中心
軸に対して垂直な任意の方向に基準光軸をとり前記基準
光軸の方向を0度として少なくとも角度θの範囲(θ1
≦θ≦θ2、−90°≦θ1≦90°、−90°≦θ2
≦90°、θ1<θ2)の凸面形状の反射面を有する反
射鏡と、前記反射鏡の回転中心軸上に主点を有し、前記
反射鏡の反射像を結像して前記反射鏡の回転中心軸周り
の少なくとも角度θの範囲の対象物を撮像する撮像装置
からなり、前記基準光軸に対して垂直な平面内で、前記
反射鏡の回転中心軸を任意の回転中心軸面内傾斜方向に
傾けて設置し、演算処理装置は、前記広角撮像装置によ
り得られる画像に対して演算処理を行い前記回転中心軸
面内傾斜方向に応じて傾斜させた展開画像を生成する展
開画像生成部と、前記展開画像のデータ形式を出力用の
形式に変換し出力画像として生成する出力画像生成部と
からなることを特徴とする。
【0035】本発明の請求項3記載の広角画像生成装置
は、請求項1または請求項2において、前記反射鏡が、
回転中心軸上に内部焦点を持つ双曲面形状であり、前記
双曲面形状の外部焦点の位置と前記撮像装置の主点の位
置を一致または略々一致させたことを特徴とする。
【0036】本発明の請求項4記載の広角画像生成装置
は、請求項1〜請求項3の何れかにおいて、前記回転中
心軸面内傾斜方向を水平方向と一致または略一致させた
ことを特徴とする。
【0037】本発明の請求項5記載の広角画像生成装置
は、請求項1〜請求項4の何れかにおいて、前記広角撮
像装置もしくは前記演算処理装置に、前記回転中心軸面
内傾斜方向を検出する回転中心軸面内傾斜方向検出部を
有し、前記回転中心軸面内傾斜方向検出部の出力結果に
応じて前記演算処理装置にて前記展開画像を傾斜させ出
力画像を生成することを特徴とする。
【0038】本発明の請求項6記載の広角画像生成装置
は、請求項5において、前記演算処理装置内に設けた回
転中心軸面内傾斜方向検出部は、画像処理して回転中心
軸面内傾斜方向を検出するよう構成したことを特徴とす
る。
【0039】本発明の請求項7記載の広角画像生成装置
は、請求項1〜請求項4の何れかにおいて、前記広角撮
像装置もしくは前記演算処理装置に、前記回転中心軸面
内傾斜方向を入力する回転中心軸面内傾斜方向入力部を
有し、前記回転中心軸面内傾斜方向入力部の入力結果に
応じて前記演算処理装置にて前記展開画像を傾斜させ出
力画像を生成することを特徴とする。
【0040】本発明の請求項8記載の広角画像生成装置
は、広角撮像装置と演算処理装置からなる広角画像生成
装置であって、広角撮像装置は、双曲面の回転中心軸に
対して垂直な任意の方向に基準光軸をとり前記基準光軸
の方向を0度として少なくとも角度θの範囲(θ1≦θ
≦θ2、−90°≦θ1≦90°、−90°≦θ2≦9
0°、θ1<θ2)の双曲面形状の反射面を有する双曲
面反射鏡と、前記双曲面反射鏡の外部焦点の位置と主点
の位置が略々一致し、前記双曲面反射鏡の反射像を結像
して前記双曲面反射鏡の回転中心軸周りの少なくとも角
度θの範囲の対象物を撮像する撮像装置からなり、前記
基準光軸と前記双曲面反射鏡の回転中心軸を含む平面内
で、前記双曲面反射鏡の回転中心軸を任意の回転中心軸
前方傾斜方向に傾けて設置され、演算処理装置は、前記
広角撮像装置より得られる画像に対して前記双曲面反射
鏡の内部焦点を通る任意の軸を仮想円筒回転中心軸とし
た仮想円筒を投影面として演算処理を行い展開画像を生
成する展開画像生成部と、前記展開画像のデータ形式を
出力用の形式に変換し出力画像として生成する出力画像
生成部とからなることを特徴とする。
【0041】本発明の請求項9記載の広角画像生成装置
は、請求項8において、前記回転中心軸前方傾斜方向に
関わらず、前記基準光軸と前記双曲面反射鏡の回転中心
軸を含む平面内に設定した基準軸と前記仮想円筒回転中
心軸が平行もしくは一致したことを特徴とする。
【0042】本発明の請求項10記載の広角画像生成装
置は、請求項9において、前記回転中心軸前方傾斜方向
が、前記基準光軸と前記双曲面反射鏡の回転中心軸を含
む平面内における前記広角撮像装置の画角中心が前記基
準軸に対して垂直となるような方向であることを特徴と
する。
【0043】本発明の請求項11記載の広角画像生成装
置は、請求項9または請求項10において、前記広角撮
像装置もしくは前記演算処理装置に、前記回転中心軸前
方傾斜方向を検出する回転中心軸前方傾斜方向検出部を
有し、前記回転中心軸前方傾斜方向検出部の出力結果に
応じて前記演算処理装置にて出力画像を生成することを
特徴とする。
【0044】本発明の請求項12記載の広角画像生成装
置は、請求項9または請求項10において、前記広角撮
像装置もしくは前記演算処理装置内に、前記回転中心軸
前方傾斜方向を入力する回転中心軸前方傾斜方向入力部
を有し、前記回転中心軸前方傾斜方向入力部の入力結果
に応じて前記出力画像生成部にて出力画像を生成するこ
とを特徴とする。
【0045】本発明の請求項13記載の広角画像生成装
置は、回転対称体の回転中心軸に対して垂直な任意の方
向に基準光軸をとり、前記基準光軸の方向を0度として
少なくとも角度θの範囲(θ1≦θ≦θ2、−180°
≦θ1≦180°、−180°≦θ2≦180°、θ1
<θ2)の凸面形状の反射面を有する反射鏡と、前記反
射鏡の回転中心軸上に主点を有し、画角を2αとした時
に前記回転中心軸上に対してα以下の角度だけ光軸が基
準光軸方向に傾斜しており、前記反射鏡の反射像を結像
して、前記反射鏡の回転中心軸周りの少なくとも角度θ
の範囲の対象物を撮像する撮像装置と、前記撮像装置か
ら得られる広角画像から前記回転中心軸上から見た展開
画像を生成する展開画像生成部と、前記展開画像生成部
が前記広角画像を展開する際の前記広角画像と前記展開
画像の画素対応関係の情報を含む展開テーブルを生成す
る展開テーブル生成部とを設けたことを特徴とする。
【0046】本発明の請求項14記載の広角画像生成装
置は、回転対称体の回転中心軸に対して垂直な任意の方
向に基準光軸をとり、前記基準光軸の方向を0度として
少なくとも角度θの範囲(θ1≦θ≦θ2、−180°
≦θ1≦180°、−180°≦θ2≦180°、θ1
<θ2)の凸面形状の反射面を有する反射鏡と、前記反
射鏡の回転中心軸上に主点を有し、画角を2αとした時
に前記回転中心軸上に対してα以下の角度だけ光軸が基
準光軸方向に傾斜しており、前記反射鏡の反射像を結像
して、前記反射鏡の回転中心軸周りの少なくとも角度θ
の範囲の対象物を撮像する撮像装置と、前記撮像装置か
ら得られる広角画像から前記回転中心軸上から見た展開
画像を生成する展開画像生成部と、前記展開画像生成部
が前記広角画像を展開する際の前記広角画像と前記展開
画像の画素対応関係の情報を含む展開テーブルを生成す
る展開テーブル生成用演算処理装置と、前記展開テーブ
ル生成用演算処理装置で生成された前記展開テーブルを
保持するとともに前記展開画像生成部に接続された展開
テーブル記憶部とを設けたことを特徴とする。
【0047】本発明の請求項15記載の広角画像生成装
置は、凸面形状の反射面を有する反射鏡と、前記反射鏡
の回転中心軸上に主点を有し、前記反射鏡の反射像を結
像して前記反射鏡の回転中心軸周り360度の範囲の対
象物を撮像する撮像装置と、前記撮像装置から得られる
広角画像から前記回転中心軸上から見た展開画像を生成
する展開画像生成部と、前記展開画像生成部が前記広角
画像を展開する際の前記広角画像と前記展開画像の画素
対応関係の情報を含む展開テーブルを生成する展開テー
ブル生成部とを設けたことを特徴とする。
【0048】本発明の請求項16記載の広角画像生成装
置は、凸面形状の反射面を有する反射鏡と、前記反射鏡
の回転中心軸上に主点を有し、前記反射鏡の反射像を結
像して前記反射鏡の回転中心軸周り360度の範囲の対
象物を撮像する撮像装置と、前記撮像装置から得られる
広角画像から前記回転中心軸上から見た展開画像を生成
する展開画像生成部と、前記展開画像生成部が前記広角
画像を展開する際の前記広角画像と前記展開画像の画素
対応関係の情報を含む展開テーブルを生成する展開テー
ブル生成用演算処理装置と、前記展開テーブル生成用演
算処理装置で生成された前記展開テーブルを保持すると
ともに前記展開画像生成部に接続された展開テーブル記
憶部とを設けたことを特徴とする。
【0049】本発明の請求項17記載の広角画像生成装
置は、請求項13〜請求項16の何れかにおいて、前記
反射鏡が、回転中心軸上に内部焦点を持つ双曲面形状で
あり、前記双曲面形状の外部焦点の位置と前記撮像装置
の主点の位置が略々一致することを特徴とする。
【0050】本発明の請求項18記載の広角画像生成装
置は、請求項17において、展開テーブル生成部または
展開テーブル生成用演算処理装置を、撮像装置の光軸の
傾斜量に応じた広角画像と展開画像の画素対応関係の情
報を含む展開テーブルを生成するよう構成したことを特
徴とする。
【0051】本発明の請求項19記載の広角画像生成装
置は、請求項17において、展開テーブル生成部または
展開テーブル生成用演算処理装置を、下記の数式に従っ
て展開テーブルを生成するよう構成したことを特徴とす
る。
【0052】tanα ={(b2+c2)・sinβ−2bc}/
{(b2−c2)・cosβ} c = (a2+b2)0.5 (x2+y2) 0.5 = F・cosβ/cosγ(θ)/sin(β+γ
(θ)) cosφ = cosθ/(1+tan2γ(90°)・sin2θ)0.5 tanγ(θ) = tanγ(90°)・sinθ 但し、a,bは反射鏡の双曲面形状を決定する定数であ
り、双曲面形状は、XYZ空間において(X2+Y2)/a2
−Z2/b2=−1と表せる双曲面のうちのZ>0のもの
であり、αは前記反射鏡の内部焦点と空間上の任意点を
結ぶ直線とXY平面のなす角度、βは前記任意点からの
入射光が撮像装置の撮像面上に入射する点と前記撮像装
置の主点とを結ぶ直線がXY平面となす角度、Fは前記
撮像装置の焦点距離、θはXY平面において基準光軸方
向を90度とした時の前記入射光の入射方向、γは前記
入射方向θに依存した前記撮像面の傾き、φは前記入射
光の前記撮像面上における入射方向である。
【0053】本発明の請求項20記載の広角画像生成装
置は、請求項13〜請求項17の何れかにおいて、展開
テーブル生成部または展開テーブル生成用演算処理装置
を、撮像装置の光学収差による歪みを含んだ広角画像と
歪補正後の広角画像の対応関係と、前記歪補正後の広角
画像と展開画像の対応関係を合成した画素対応関係の情
報を含む展開テーブルを生成するよう構成したことを特
徴とする。
【0054】本発明の請求項21記載の広角画像生成装
置は、請求項13〜請求項17の何れかにおいて、展開
テーブル生成部または展開テーブル生成用演算処理装置
を、広角画像と展開画像の画素対応関係を考える際の仮
想投影面の形状を変更することにより、前記広角画像と
前記展開画像の画素対応関係を変更した展開テーブルを
生成するよう構成したことを特徴とする。
【0055】本発明の請求項22記載の広角画像生成装
置は、請求項13〜請求項17の何れかにおいて、展開
テーブル生成部または展開テーブル生成用演算処理装置
を、展開画像上に設けた任意のマスク領域内における広
角画像と展開画像の画素対応関係を任意に変更し、前記
マスク領域内の展開画像をマスクするような展開テーブ
ルを生成するよう構成したことを特徴とする。
【0056】本発明の請求項23記載の広角画像生成装
置は、請求項13〜請求項17の何れかにおいて、展開
画像生成部の後段に、展開画像生成部の後処理として、
展開画像上の位置に応じて強調度を変えた高周波成分強
調処理を行う画質補正処理部を追加したことを特徴とす
る。
【0057】本発明の請求項24記載の広角画像生成装
置は、請求項17または請求項23において、展開画像
生成部によって展開された画像の特定エリアを本来のも
のと異なる画像にする画像マスク処理を行う画像マスク
処理部を設けたことを特徴とする。
【0058】
【発明の実施の形態】以下、本発明の各実施の形態を図
1〜図32に基づいて説明する。まず、図1〜図9に示
す(実施の形態1)〜(実施の形態4)の各実施の形態
に基づいて、広角撮像装置をその回転中心軸が基準光軸
方向に垂直な面内で鉛直方向に対して傾けた状態として
も、広角画像生成装置としての出力は画像内の水平方向
がTVモニタの水平方向と一致した画像となり、見る人
に違和感を与えない広角画像生成装置を説明する。
【0059】(実施の形態1)図1〜図5は本発明の
(実施の形態1)を示す。図1は(実施の形態1)の広
角画像生成装置を示し、座標軸を紙面の上下方向にX
軸、紙面から手前方向にY軸、紙面の左右方向にZ軸と
する。またX軸は鉛直方向とする。
【0060】広角撮像装置8は、双曲面反射鏡1と結像
レンズ2と撮像素子3とで構成されている。撮像装置は
結像レンズ2と撮像素子3とで構成されている。双曲面
反射鏡1は、双曲面の回転中心軸周りの±90度分の反
射面を有している。その0度の方向、すなわち、基準光
軸方向はY軸方向とする。また基準光軸は双曲面反射鏡
1の内部焦点4を通るものとする。双曲面反射鏡1の回
転中心軸6は、Y軸を回転軸として鉛直方向から90度
傾けることにより、Z軸(水平方向)と一致している。
【0061】内部焦点4に向かって入射した光線a,
b,cは、双曲面反射鏡1の反射面で反射し、回転中心
軸6上の外部焦点(図示せず)へと集光される。この外
部焦点の位置と結像レンズ2の主点7の位置は一致また
は略々一致するように配置されており、結像レンズ2を
介して光線a,b,cが撮像素子3の撮像面5上に結像
する。
【0062】なお、図1では、結像レンズ2を1枚構成
のように描いているが、複数枚のレンズで構成されてい
ても構わない。また、ここでは反射鏡1を双曲面形状に
限定しているが、半球や円錐などの回転対称体としても
よい。但し、その場合は外部焦点が存在しないので結像
レンズ2の主点7は回転中心軸6上の任意の位置とな
る。
【0063】広角撮像装置8に設けられた回転中心軸面
内傾斜方向検出部としてのジャイロ方式のY軸周り角度
センサ12は、基準光軸方向に垂直な面内(XZ平面
内)での回転中心軸6が基準となる軸(ここでは鉛直軸
とする)に対して何度傾いたかを出力する。
【0064】演算処理装置11は、展開画像生成部9と
出力画像生成部10とで構成されている。展開画像生成
部9では、広角撮像装置8の撮像素子3より得られる1
80度画角の広角画像に対して、双曲面反射鏡1の形状
や結像レンズ2および撮像素子3の光学特性に応じて決
まるアルゴリズムに従い、広角画像を展開画像へと変換
する処理を行う。
【0065】出力画像生成部10では、展開画像生成部
9より得られる展開画像に対して、Y軸周り角度センサ
12の出力に基づき、後述する傾き補正処理を行い、NT
SC方式への変換を行う。13は演算処理装置11からの
出力画像を表示するTVモニタである。
【0066】動作に基づいて図1の構成をさらに詳しく
説明する。図1において光線a,b,cは対象物からの
任意の光線を示している。そこで各光線の対象物を対象
物a,b,cと呼ぶことにする。対象物a,b,cは、
図2(a)に示すようなスクリーン14上に描かれた
「a」「b」「c」の文字とし、このスクリーン14
を、図2(b)に示すようにZ軸周りにZ軸からスクリ
ーン表面までの距離が一定となるように、対象物a,
b,cが描かれた面を双曲面反射鏡1から見えるように
配設した場合を考える。
【0067】既に説明したように、内部焦点4に向かっ
て双曲面反射鏡1の反射面に入射した光線は、全て外部
焦点(図示せず)へと反射され、外部焦点と主点の位置
が一致または略々一致するように設置された結像レンズ
2を介して撮像素子3の撮像面5上に結像する。
【0068】従って、基準光軸方向(Y軸方向)に対し
て±90度の範囲が撮像面5上に結像することになる。
この時、撮像素子3で得られる画像を図3に示す。対象
物a,b,cが全て含まれることが分かる。
【0069】演算処理装置11では、広角撮像装置8か
ら出力される図3に示すような広角画像に対して、展開
画像生成部9で展開画像への変換処理を行う。展開処理
は、既に説明したように、展開画像の投影面(仮想円筒
面21)を決め、広角画像から投影面への写像を考える
ことによって展開画像の各画素の広角画像における対応
点を決定し、それに従って展開画像の全画素の輝度値を
決定することにより展開画像を生成する。例えば図3で
示したような広角画像に対して展開処理を行うと図4の
ような展開画像が得られる。
【0070】以上のような展開画像生成部9での処理で
作成された展開画像に対して、出力画像生成部10で出
力画像への変換処理を行う。出力画像生成部10では2
つの処理を行う。
【0071】始めに、展開画像の傾き補正処理について
説明する。回転中心軸6を基準光軸方向に垂直な面内で
鉛直方向に対して90度傾けると、図4に示すように展
開画像はその画像内の鉛直方向が本来あるべき方向に対
して90度傾いた画像となってしまう。
【0072】そこで、この横長の展開画像に対して画像
の回転処理を施すことにより傾きの補正を行う。具体的
には、広角撮像装置8に組み込んだジャイロ方式のY軸
周り角度センサ12を用いて、広角撮像装置8の回転中
心軸6の鉛直方向に対する傾き角をY軸の+方向を見た
時の時計回り方向を正として計測する。
【0073】こうして得られた傾き角分だけ、展開画像
を時計回りを正として、画像処理演算により回転させ
る。次に、出力画像化処理について説明する。
【0074】広角画像の展開処理、傾き補正処理は、画
像をデジタル化した状態で行われる。そこで、デジタル
化されている画像を表示するのに適した形式、例えばN
TSC方式に変換する処理を行う。具体的には、まずデ
ジタルデータの段階で画像サイズをNTSCのサイズに
適合するように、余白領域を追加する。この余白領域は
輝度0の領域としても構わないし、何らかの情報(例え
ば背景画像や撮影時間を示すキャプションなど)を入れ
ても構わない。次に、既存のNTSCエンコードチップ
などを用いて回路を構成することにより、NTSCサイ
ズとなったデジタルデータをNTSCに変換する。図4
に示すような展開画像でも、出力画像は図5に示すよう
に、画像内の水平方向が実際の水平方向と一致または略
々一致した状態でTVモニタ13に表示される。
【0075】なお、出力形式としてはNTSCに限定さ
れるものではなく、PALなど他の形式でも構わない。
また、ここでは回転中心軸6を90度傾ける構成とした
が、傾き角は90度に限定されるものではない。但し、
傾き角を90度とすれば、通常の広角光学系では実現困
難な鉛直方向180度の視野が得られることから、本装
置のそばに立った人の顔から手元、足元までを一枚の画
像として得ることが出来るため、例えばATM(自動現
金支払機)や自動販売機などの監視用途への適用が可能
になるという利点がある。
【0076】また、本発明は回転中心軸6を任意の角度
に傾け、広角撮像装置8を固定する場合に限定されるも
のではない。例えば、図6に模式的に示すように広角撮
像装置8を一定速度で基準光軸を回転軸として回転さ
せ、その出力画像をTVモニタ13に出力する。この
時、出力画像も一定の速度でTVモニタ内を回るが、そ
の画像の内容は水平方向がTVモニタの水平方向と一致
しているというものとなり、イベントなどに用いる特殊
ディスプレイとして使用できる。
【0077】また、(実施の形態1)では、傾き補正処理
を、展開画像内の水平方向と出力画像の水平方向が一致
するような制御としていたが、これに限定されるもので
はない。例えば、展開画像内の水平方向と出力画像の水
平方向のずれを一定とするような制御や、展開画像内の
水平方向と出力画像の水平方向のずれを一定の決まりに
従い変化させるような制御としてもよい。
【0078】また、(実施の形態1)では、双曲面反射
鏡1を±90度分の反射面を有するものとしたが、これ
に限定されるものではない。少なくとも±90度以下の
範囲であればよい。
【0079】また、(実施の形態1)では、ジャイロ方式
のY軸周り角度センサ12を広角撮像装置8に取り付け
て傾き情報を得ていた。その他の方法として演算処理装
置11で画像処理を用いて傾き情報を得てもよい。
【0080】具体的には、撮影を行い、得られる展開画
像中に角度計測の基準となる対象物が入るように撮影条
件を決める。そしてこの対象物の展開画像内における傾
き角を画像処理で求め、その角度が一定となるように、
出力画像化処理時の傾け角を決定する。この方法であれ
ば角度センサが不要になるという利点がある。
【0081】また、(実施の形態1)では、展開画像生
成部9で広角画像から展開画像を生成する処理を行い、
出力画像生成部10で展開画像の傾き補正処理およびN
TSCなどへの出力画像化処理を行ったが、展開画像生
成部9で展開画像の生成と同時に展開画像の傾き補正を
行い、出力画像生成部10では出力画像化処理のみを行
う構成としてもよい。
【0082】具体的には、従来の技術として説明したよ
うな方法で展開画像の各画素の広角画像における対応点
を決定し、それに従って展開画像の各画素の輝度値を決
定する。こうして得られた各画素の輝度値を展開画像生
成部9内の図示しないメモリ上の展開画像の傾きを考慮
した位置に順次記憶していくことにより傾き補正済み展
開画像を生成する。この時の展開画像の傾き量はY軸周
り角度センサ12より取得する。出力画像生成部10で
は傾き補正済み展開画像を受け取り、出力画像化処理を
行う。
【0083】このような構成とすれば、展開画像の生成
と傾き補正が同時に行えるため、処理速度の向上が期待
できるという利点がある。このように(実施の形態1)
によれば、広角撮像装置8を、その回転中心軸6が基準
光軸方向に垂直な面内で鉛直方向に対して傾けた状態と
しても、広角画像生成装置としての出力は画像内の水平
方向がTVモニタ13の水平方向と一致した画像とな
り、見る人に違和感を与えないものとできる。
【0084】(実施の形態2)図7は本発明の(実施の
形態2)の広角画像生成装置を示す。図1に示した(実
施の形態1)との相違部分は、回転中心軸面内傾斜方向
検出部としてのY軸周り角度センサ12を無くし、回転
中心軸面内傾斜方向を手動操作で入力設定される回転中
心軸面内傾斜方向入力部15を演算処理装置11に設け
た点である。
【0085】このように構成された広角画像生成装置
を、その動作について(実施の形態1)との相違部分を
中心に説明する。回転中心軸面内傾斜方向入力部15
は、可変抵抗器などの入力設定器である。この入力設定
器を介して、出力画像生成部10内に定数データとして
確保されている広角撮像装置8の回転中心軸6の基準光
軸方向に垂直な面内における鉛直方向に対する傾き角の
値を設定する。この他の動作については(実施の形態
1)と同じである。
【0086】このように(実施の形態2)によれば、Y
軸周り角度センサ12を省いて構成することが可能とな
るため、より安価に装置全体を構成することが可能とな
る。なお、ここでは回転中心軸面内傾斜方向入力部15
を可変抵抗器などの入力設定器であるとしたが、この形
態に限定されるものではない。例えば、出力画像生成部
10内に確保されている定数データの書き換えは、出力
画像生成部10の外部からパーソナルコンピュータを用
いて行うものとし、回転中心軸面内傾斜方向入力部15
は、出力画像生成部10と前記パーソナルコンピュータ
との接続部としてもよい。
【0087】上記の実施の形態では、回転中心軸面内傾
斜方向入力部15を演算処理装置11に設けたが、出力
画像生成部10に対して回転中心軸面内傾斜方向を入力
するための可変抵抗器などの入力設定器または出力画像
生成部10とパーソナルコンピュータとの前記接続部
を、広角撮像装置8の側に設けてもよい。
【0088】また、(実施の形態2)では、双曲面反射
鏡1を±90度分の反射面を有するものとしたが、これ
に限定されるものではない。少なくとも±90度以下の
範囲であればよい。
【0089】(実施の形態3)図8は(実施の形態3)
の広角画像生成装置を示す。この図8において、1´は
基準状態の双曲面反射鏡の位置を示している。6´は基
準状態の回転中心軸の位置を示している。基準状態の回
転中心軸6´は水平方向と一致または略々一致している
ものとし、これが傾ける前の状態である。双曲面反射鏡
1、結像レンズ2、撮像素子3、双曲面反射鏡1の内部
焦点4、撮像素子3の撮像面5、双曲面反射鏡1の回転
中心軸6、結像レンズ2の主点7は(実施の形態1)の
ものと同じである。
【0090】相違点は、回転中心軸6が基準光軸と回転
中心軸6とを含む面内で基準状態の回転中心軸6´に対
して内部焦点4を中心に傾き角θだけ傾けて設置してい
るという点と、X軸周り角度センサ16の測定方向が傾
き角θであるという点である。
【0091】18´と19´は基準状態における広角撮
像装置8の視野限界を、20´は基準状態における広角
撮像装置8の視野範囲を、18と19は回転中心軸6を
基準状態から傾き角θだけ傾けた時(傾斜時)の広角撮
像装置8の視野限界を、20は回転中心軸6を基準状態
から傾き角θだけ傾けた時(傾斜時)の広角撮像装置8
の視野範囲を示している。21は広角画像から展開画像
への写像を考える際の仮想の投影面となる仮想円筒面を
示している。
【0092】次に、展開画像生成部9では広角撮像装置
8より得られる180度画角の広角画像に対して、X軸
周り角度センサ16の出力を用い後述するアルゴリズム
に従って広角画像を展開画像へと変換する処理を行う。
出力画像生成部10では展開画像生成部9より得られる
展開画像に対して、NTSC方式への変換を行う。
【0093】13は(実施の形態1)のものと同じで、
演算処理装置11からの出力画像を表示するTVモニタ
である。なお、ここでは基準状態の回転中心軸6´や回
転中心軸6が水平方向と一致しているとしたが、これに
限定されるものではない。
【0094】次に図8を用いて、その動作について(実
施の形態1)との相違部分を中心に説明する。広角撮像
装置8の180度視野の広角画像を得る動作は(実施の
形態1)と同様である。相違点は、視野が傾き角θ分だ
け図8に示す基準状態の視野範囲20´から傾斜時の視
野範囲20へと変化した点である。
【0095】演算処理装置11では、広角撮像装置8か
ら出力される広角画像に対して、展開画像生成部9にお
いて展開画像への変換処理を行う。この処理において、
空間内の任意点Pと撮像面5上の点(即ち広角画像上の
点)pとの対応関係の考え方は(実施の形態1)と同じ
である。相違点は、展開画像を考える際の投影面、すな
わち、空間内の点Pの取り方である。具体的には、図8
に示すような仮想円筒面21を考える。通常は仮想円筒
面21をその中心軸が回転中心軸6と一致するようなも
のを想定するのであるが、(実施の形態3)では、X軸
周りの角度センサ16より得られる基準状態の回転中心
軸6´に対する傾斜後の回転中心軸6の傾き角をθとし
た時に、傾斜後の回転中心軸6に対して仮想円筒面21
の中心軸を、基準光軸と回転中心軸6を含む平面内で、
内部焦点4を中心として−θだけ傾ける。即ち、仮想円
筒面21の中心軸を基準状態の回転中心軸6´と一致さ
せる。こうして決定した仮想円筒面21上の任意の空間
点Pに対応する展開画像上の点の輝度を、空間点Pに対
応する広角画像上の点pの輝度値を用いて求め、展開画
像を作成する。
【0096】なお、ここでは広角撮像装置8を基準状態
から傾ける際の回転中心を内部焦点4としたが、これに
限定されるものではない。但し、回転中心を内部焦点4
と一致または略々一致させれば、広角撮像装置8の視点
がほぼ一定のままで傾き角を調整することができるとい
う利点がある。
【0097】以上のような展開画像生成部9での処理で
作成された展開画像に対して、出力画像生成部10で出
力画像への変換処理を行う。(実施の形態3)では、
(実施の形態1)には含まれていた「傾き補正処理」が
なく、出力画像化処理のみである。出力画像化処理は
(実施の形態1)のそれと同様の処理を行う。
【0098】このように(実施の形態3)によれば、広
角撮像装置8を、基準光軸と回転中心軸6を含む平面内
で傾けることにより、広角画像生成装置として回転中心
軸6の方向の視野範囲を変えることができる。
【0099】また、広角撮像装置8の基準状態に対する
傾き角を計測し、その値を利用して展開画像の投影面と
なる仮想円筒面21の中心軸を常に基準状態の回転中心
軸6´と一致させることにより、展開画像における視線
中心の位置(展開画像中の仰角が0となる位置。結像レ
ンズ2の主点7と等価となる内部焦点4に向かう光線
が、投影面である仮想円筒面21に対して垂直に交わる
位置。)を変えることなく視野範囲を変更することが可
能となる。特に、基準光軸から基準状態の視野限界18
´までの角度の絶対値をφ、基準光軸から基準状態の視
野限界19´までの角度の絶対値をψとし、θは図8に
おいて時計周りを正とすると、双曲面反射鏡1が φ
< ψ となるように作られていたとしても、θを
(φ−ψ)/2とすれば、視野範囲全体を使って視線中心
が展開画像の短手方向の中央にあるような展開画像を得
ることができる。
【0100】このため、展開画像中の視線中心からの距
離を最小とすることができ、展開画像中の視線中心から
遠い部分は、他の部分よりも斜めに見ることになるため
に、他の部分に比べて歪んで見えてしまうという問題を
軽減することができる。
【0101】なお、本発明は広角撮像装置8を任意の角
度に傾けて固定した広角画像生成装置に限定されるもの
ではない。具体的には、X軸周り角度センサ16の出力
に応じて動的に仮想円筒面21の中心軸の傾きを制御
し、基準状態の回転中心軸6´との一致を保つことによ
り、広角撮像装置8の基準光軸(Y軸)と回転中心軸6
とを含む面内での動的な傾きにも対応することができ
る。
【0102】また、(実施の形態3)では、双曲面反射
鏡1を±90度分の反射面を有するものとしたが、これ
に限定されるものではない。少なくとも±90度以下の
範囲であればよい。
【0103】また(実施の形態3)では、広角撮像装置
8の基準状態に対する傾き角θを相殺するように仮想円
筒面21を−θ傾ける場合を示したが、これに限定され
るものではない。
【0104】例えば、基準状態の回転中心軸6´に対す
る仮想円筒面21の中心軸の傾きを0以外の一定値とす
るような制御や、一定の決まりに従い変化させるような
制御としてもよい。
【0105】(実施の形態4)図9は本発明の(実施の
形態4)の広角画像生成装置を示す。(実施の形態3)
との相違部分は、X軸周り角度センサ16を無くし、回
転中心軸前方傾斜方向入力部17を演算処理装置11に
設けた点である。
【0106】この広角画像生成装置について、その動作
に基づいて(実施の形態3)との相違部分を中心に説明
する。回転中心軸前方傾斜方向入力部17は可変抵抗器
などの入力設定器である。この入力設定器で展開画像生
成部9内に定数データとして確保されている広角撮像装
置8の基準光軸(Y軸)と回転中心軸6とを含む面内に
おける基準状態の回転中心軸6´に対する回転中心軸6
の傾き角の値を設定・変更する。この他の動作について
は(実施の形態3)と同じである。
【0107】この(実施の形態4)によれば、X軸周り
角度センサ16を省いて構成することが可能となるた
め、より安価に装置全体を構成することが可能となる。
ここでは回転中心軸前方傾斜方向入力部17を演算処理
装置11に設けたが、広角撮像装置8に回転中心軸前方
傾斜方向入力部17を設けて構成することもできる。
【0108】なお、ここでは回転中心軸前方傾斜方向入
力部17を可変抵抗器などの入力設定器であるとした
が、この形態に限定されるものではない。例えば、展開
画像生成部9内に確保されている定数データの書き換え
は、展開画像生成部9の外部からパーソナルコンピュー
タを用いて行うものとし、回転中心軸前方傾斜方向入力
部17は、展開画像生成部9とパーソナルコンピュータ
の接続部としてもよい。この接続部は、広角撮像装置8
または演算処理装置11に設ける。
【0109】また、(実施の形態4)では、双曲面反射
鏡1を±90度分の反射面を有するものとしたが、これ
に限定されるものではない。少なくとも±90度以下の
範囲であればよい。
【0110】また、(実施の形態4)でも広角撮像装置
8の基準状態に対する傾き角θを相殺するように仮想円
筒面21を−θ傾ける場合を示したが、これに限定され
るものではない。例えば広角撮像装置8の基準状態に対
する傾き角θが0の時に、仮想円筒面21のみを傾けて
もよい。そうすれば広角撮像装置8を固定したままで視
線中心を変更することが可能となる。
【0111】次に、図10〜図32に示す(実施の形態
5)〜(実施の形態7)の各実施の形態に基づいて、反
射面のつくる反射像のうち、その反射面の回転中心軸に
垂直な任意の方向を基準方向としてその略±90度分の
みを撮像するような広角画像生成装置を考えた場合に、
広角画像に対して全方位カメラの場合と同様の処理を適
用し展開画像を得ようとすると、撮像装置の光軸の傾き
や光学収差に起因する像の変形のために得られる展開画
像は正しいものにならないという課題があるが、これを
解決できる広角画像生成装置を説明する。
【0112】(実施の形態5)図10〜図23、図30
は本発明の(実施の形態5)を示す。図10は本発明の
(実施の形態5)における広角画像生成装置を示す。
【0113】座標軸を、紙面の上下方向にZ軸、紙面か
ら手前方向にY軸、紙面の左右方向にX軸とする。また
Z軸は鉛直方向とする。この広角画像生成装置は、反射
鏡によって作られる反射像を撮像する広角撮像装置8と
画像処理装置22からなる。
【0114】まず広角撮像装置8について説明する。広
角撮像装置8は、双曲面反射鏡1と結像レンズ2とCC
Dなどの撮像素子3とで構成されている。また撮像装置
は結像レンズ2と撮像素子3とで構成されている。
【0115】双曲面反射鏡1は、双曲面の回転中心軸周
りの略±90度分の反射面を有している。その0度の方
向を基準光軸方向と呼ぶこととし、ここではY軸方向に
一致するものとする。
【0116】4は双曲面反射鏡1の内部焦点である。5
は撮像素子3の撮像面である。6は双曲面反射鏡1の回
転中心軸である。ここでは回転中心軸6がZ軸(鉛直方
向)と一致するものとする。内部焦点4に向かって入射
した光線a,b,cは、双曲面反射鏡1の反射面で反射
し、回転中心軸6上の外部焦点(図示せず)へと集光さ
れる。この外部焦点の位置と結像レンズ2の主点7の位
置は略々一致するように配置されており、結像レンズ2
を介して光線a,b,cが撮像素子3の撮像面5上に結
像する。ここで結像レンズ2と撮像素子3の共有してい
る光軸(図示せず)は、双曲面反射鏡1の回転中心軸6
に対して基準光軸方向に傾斜して設置されている。この
傾斜させた構成については、図11を用いて後述する。
【0117】なお、図10では結像レンズ2を1枚構成
のように描いているが、複数枚のレンズで構成されてい
ても構わない。次に画像処理装置22について説明す
る。
【0118】画像処理装置22は、展開テーブル生成部
23と展開画像生成部24と画質補正処理部25と画像
マスク処理部26で構成されている。展開テーブル生成
部23では、双曲面反射鏡1の形状や結像レンズ2およ
び撮像素子3の光学特性や配置に応じて決まるアルゴリ
ズムによって算出され、広角撮像装置8より得られる広
角画像を展開画像へと変換する際に用いられる展開テー
ブルを算出する処理を行う。このアルゴリズムについて
は後述する。
【0119】展開画像生成部24では、展開テーブル生
成部23より得られる展開テーブルを参照して、広角画
像を展開画像へと変換する処理を行う。画質補正処理部
25では、展開画像生成部24で生成された展開画像に
対して後述する画質補正処理を行う。
【0120】画像マスク処理部26では、画質補正処理
部25で生成された画質補正後の展開画像に対して後述
する画像マスク処理を行う。27は画像処理装置22か
らの出力画像を表示するモニタである。
【0121】次に図11を用いて広角撮像装置8の構成
を詳細に説明する。図11の(a)は広角撮像装置8の
YZ平面における断面図であり、基本構成を示してい
る。全方位カメラ100との相違部分は、双曲面反射鏡
1が双曲面の回転中心軸周りの±90度分の反射面を有
している点と、結像レンズ2の主点7と双曲面反射鏡1
の外部焦点を略々一致させながら、結像レンズ2および
撮像素子3が共有している光軸28が回転中心軸6に対
して角度γだけ基準光軸方向(Y軸方向)に傾けて設置
している点である。また、破線で示した20,30は、図
34(a)で示した全方位カメラ100と同じように配
置した場合の結像レンズ、撮像素子を示している。
【0122】内部焦点4に向かって入射したYZ平面内
の光線29a,29bは、双曲面反射鏡1の入射点30
a,30bで反射し、回転中心軸6上の外部焦点(図示
せず)へと集光される。この外部焦点の位置と結像レン
ズ2の主点7の位置は略々一致するように配置されてお
り、結像レンズ2を介して光線29a,29bが撮像素
子3の撮像面5上の結像点31a,31bに結像する。
【0123】また、結像レンズ20と撮像素子30を用い
た場合の光線29a,29bの結像点は31a0、31
0となる。従って得られる像は、結像レンズ20と撮像
素子30を用いた場合、図11(b)で破線で示した3
0のような半円状の像となる。これはちょうど全方位
カメラ100で得られる図34(b)の円状の像111
を半分にしたものである。このように全方位カメラ10
0で用いたような結像レンズ20と撮像素子30を用いて
も180度画角の広角画像を得ることはできる。しかし
このままでは、撮像素子30の利用効率が非常に悪い。
【0124】一方、図11(a)において実線で示した
結像レンズ2、撮像素子3を用いた場合、得られる像は
図11(b)で斜線を付して示した半円状の像32とな
る。すなわち、光軸28を傾けることにより半円状の像
32の撮像面5における上下方向(Y軸方向に相当)の
位置をずらすことができる。その結果、半円状の像32
のように、倍率を調整し、また結像位置を光軸28の傾
け角度γを調整することにより、撮像面5上で半円状の
像32の左右方向長さを最大化して、撮像面5の画素を
できるだけ有効に使った撮像が可能となる。
【0125】なお、この(実施の形態5)では撮像面5
上で半円状の像32が、その円弧部分を撮像面5の縁に
近付けた位置に結像させているが、これに限定されるも
のではない。例えば、半円状の像32の弦部分を撮像面
5の縁に近付けた位置に結像させてもよい。
【0126】また、この(実施の形態5)では双曲面反
射鏡1を±90度分の反射面を有するものとしたが、こ
れに限定されるものではない。±180度以下の範囲で
あればよい。例えば±(90+θ)度分の反射面を有する
双曲面反射鏡1を用いた場合、図12のように±(90
+θ)度分の像を得ることができる。
【0127】このように構成された広角画像生成装置の
動作を、さらに詳しく説明する。まず、広角撮像装置8
における結像のしくみについて説明する。図10におい
て光線a,b,cは対象物からの任意の光線を示してい
る。そこで各光線の対象物を対象物a,b,cと呼ぶこ
とにする。対象物a,b,cは、図13(a)に示すよ
うなスクリーン33上に描かれた「a」「b」「c」の
文字とし、このスクリーン33を、図13(b)に示す
ようにZ軸周りにZ軸からスクリーン表面までの距離が
一定となるように、対象物a,b,cが描かれた面を双
曲面反射鏡1から見えるように配設した場合を考える。
【0128】既に説明したように、内部焦点4に向かっ
て双曲面反射鏡1の反射面に入射した光線は、全て外部
焦点(図示せず)へと反射され、外部焦点と主点の位置
が略一致するように設置された結像レンズ2を介して撮
像素子3の撮像面5上に結像する。従って、基準光軸方
向(Y軸方向)に対して略±90度の範囲が撮像面5上
に結像することになる。この時、撮像素子3で得られる
広角画像を図14に示す。対象物a,b,cが全て含ま
れることが分かる。
【0129】次に画像処理装置22では、広角撮像装置
8から出力される図14に示すような広角画像に対し
て、展開画像への展開処理を行う。まず展開処理をはじ
める前の初期段階で展開テーブル生成部23にて展開処
理に用いる展開テーブルの算出を行う。ここで展開テー
ブルとは、展開画像の各画素に対応する広角画像上の座
標値のテーブルである。展開テーブル生成部23で行う
処理のフローを図15に示す。
【0130】図15のステップS1では、展開テーブル
を算出する上で必要な双曲面反射鏡1の反射面の形状パ
ラメータや撮像装置の焦点距離などの情報を読み込む。
これらの情報は例えば展開テーブル生成部23内のRO
Mに書き込んでおき、それを読み込む構成とすればよ
い。もちろん何らかの方法で外部から入力する構成とし
ても構わない。
【0131】ステップS2では、展開テーブルの各要素
の算出を行う。展開テーブルは、展開画像の投影面を決
め、広角画像から投影面への写像を考えることによって
展開画像の各画素の広角画像における対応点を決定して
いくことにより生成する。この対応点決定方法の詳細に
ついては後述する。
【0132】ステップS3では、ステップS2で算出さ
れた展開テーブルに対して、結像レンズ2および撮像素
子3からなる撮像装置の光学的な歪の影響を補正する。
この補正方法の詳細についても後述する。
【0133】以上のようなフローで算出された展開テー
ブルは展開テーブル生成部23内のRAMに記憶され
る。ここで、ステップS2における広角画像と投影面と
の間の対応点決定方法について図16〜図19を用いて
詳しく説明する。
【0134】図16は広角撮像装置8の回転中心軸6と
基準光軸方向を含む面(YZ平面)における断面を模式
的に示したものである。双曲面反射鏡1、結像レンズ
2、撮像素子3、内部焦点4、撮像面5、回転中心軸
6、主点7は、図11で説明したものと同じである。
【0135】34は、広角画像からの写像を考える際の
仮想投影面である。ここで仮想投影面34は、その回転
中心軸が双曲面反射鏡1の回転中心軸6と一致している
円筒面を考えている。なお、仮想投影面34は円筒面に
限定されるものではない。例えば球面であっても構わな
い。
【0136】35は、仮想投影面34上の任意点P(X
P,YP,ZP)から内部焦点4の方向へ向かって発せら
れた光線である。空間座標系は、Z軸が回転中心軸6と
一致するものとし、内部焦点4と主点7を結ぶ直線を2
等分する点を原点Oとする。また紙面から手前方向をX
軸、紙面の左右方向をY軸とする。広角画像上(撮像面
5上)の座標系は、回転中心軸6と撮像面5の交点を原
点oとし、紙面から手前方向をx軸、また図16中に図
示するように紙面の左右方向にy軸とする。
【0137】仮想投影面34上の任意点P(XP,YP
P)に対応する撮像面5上の点(即ち広角画像上の
点)p(xp,yp)を考える。双曲面反射鏡1の双曲面
形状は(従来の技術)の項で説明した全方位カメラ10
0の場合と同様に(式7)で表される。
【0138】 (X2+Y2)/a2−Z2/b2 = −1 (式7) ここでa,bは双曲面の形状を決定する定数である。ま
た c = (a2+b20.5 (式8) である。また(式9)(式10)も全方位カメラ100
の場合と同様に成立する。
【0139】 Z = (X2+Y20.5・tanα + c (式9) tanα={(b2+c2)・sinβ−2bc}/{(b2−c2)・cosβ} (式10) ここで角度αは、内部焦点4と任意点Pを結ぶ直線とX
Y平面のなす角度である。角度βは、主点7(双曲面反
射鏡1の外部焦点と略々一致)と撮像面5上の点pを結
ぶ直線とXY平面のなす角度である。
【0140】(式9)よりXP,YP,ZPが決まればα
が決まる。また(式10)よりαとb、cが決まればβ
が決まる。全方位カメラ100では、次に(式11)を
用いることによって、Fの値が決まれば(x2+y2
0.5、すなわち、広角画像上の原点から点pまでの距離
がわかった。しかし(実施の形態5)では、撮像面5が
γだけ傾いているために(式11)では正しく(x2
20.5の値を求めることはできない。従ってこのまま
では正しく展開処理が行えない。
【0141】そこで(実施の形態5)では(式13)を
用いる。 (x2+y20.5 = F・cosβ/cosγ/sin(β+γ) (式13) 図17を用いて(式13)の導出法について説明する。
【0142】図17は図16広角撮像装置8の撮像面5
付近を拡大したものである。図17において、YZ平面
内にあり、Y軸に平行で、撮像面5上の原点oを通る直
線と任意点Pからの光線の交点をqとする。この時、∠
pqo=β、∠poq=γとなる。また線分oqの長さ
|oq|は(式14)で示される。
【0143】 |oq| = F・tan(90°−β)/cosγ = F/tanβ/cosγ (式14) 従って、△opqにおける正弦定理により|op|即ち
(x2+y20.5は(式13)で求められる。 (x2+y20.5 = sinβ・F/tanβ/cosγ/sin(180°−β−γ) =F・cosβ/cosγ/sin(β+γ) (式13) ここでFは結像レンズ2と撮像素子3からなる撮像装置
の焦点距離である。
【0144】(式9)(式10)(式13)よりXP
P,ZPおよびb、c、Fが決まれば(xp 2+yp 2
0.5、即ち撮像面5上の原点oから点pまでの距離が決
まる。以上の議論はZ軸を含むYZ平面以外の平面でも
成立するが、Z軸を含むYZ平面以外のどの平面をとる
かに応じて撮像面5の傾きγは変化するという点に注意
しなければならない。この点について図18を用いて説
明する。
【0145】図18はZ軸方向から見た時の双曲面反射
鏡1と撮像面5を示している。35は仮想投影面34上
の任意の点P(図18では図示せず)から発せられ、双
曲面反射鏡1で反射して撮像面5上の点pに到達する光
線を示している。図18中に示したように角度θを、X
軸の−方向を0度とし、左周りに+として定義する。例
えば光線35がYZ平面内にある場合、θ=90度とな
る。この時のθと撮像面5の傾きγ(θ)の関係は(式
15)のようになる。
【0146】 tanγ(θ) = tanγ(90°)・sinθ (式15) ここでγ(90°)とはθ=90°の時のγを意味す
る。また(式13)は(式13a)のようになる。
【0147】 (x2+y20.5 = F・cosβ/cosγ(θ)/sin(β+γ(θ)) (式13a) 以上の議論で、Z軸を含む各平面での原点oから点pま
での距離が得ることができた。次にXY平面での原点O
から点Pへの方向θと、xy平面、すなわち撮像面5上
での原点oから点pへの方向φとの関係について考え
る。ここでφは図18に示すようにX軸の+方向を0度
とする撮像面5上の点の方向を規定するための角度パラ
メータである。
【0148】全方位カメラ100の場合はθ=φであ
り、XY平面およびxy平面における点P、点pの方向
は一致していた。しかし広角撮像装置8の場合はXY平
面に対して撮像面5がγ(90°)だけ傾いているた
め、θとφの関係は(式16)のようなものとなる。
【0149】 cosφ = cosθ/(1+tan2γ(90°)・sin2θ)0.5 (式16) 図19を用いて(式16)の導出法について説明する。
図19のXa,Ya平面はXY平面をZ軸を中心として
180度回転し、Xa軸がx軸と一致するように平行移
動したものである。ここでθはXa軸の−方向を0度と
し、Xa,Ya平面上で時計回りを+方向としており、
XY平面のθと等価なパラメータとなる。このため、こ
こではパラメータ名を変更せず、θのまま用いる。また
φはx軸の−方向を0度とし、xy平面上で時計回りを
+方向としている。このように設定し、θとφとの関係
を導出する。円弧CADは単位円の半分である。またC
BDは、Xa,Ya平面との交線が半円CADとなり、
Xa,Ya平面と垂直であるような半円柱とxy平面と
の交線である。この時ベクトルoA,oBは(式17)
(式18)のようになる。
【0150】 oA =(−cosθ、sinθ、0) (式17) oB =(−cosθ、sinθ、tanγ(90°)・sinθ) (式18) 従って、−x方向の単位ベクトル−Xとの内積を用いる
ことにより(式16)が求まる。
【0151】 cosφ = oB・X/|oB| =cosθ/(1+tan2γ(90°)・sin2θ)0.5 (式16) 以上より、β、γ(=γ(90°))、Fがわかれば、
(式13a)(式15)(式16)を用いることによっ
てP(XP,YP,ZP)に対応する撮像面5上の点(即ち
広角画像上の点)p(xp,yp)を一意に決定すること
ができる。XP,YP,ZPの値は、仮想投影面34の半
径をM、展開画像の横方向(長手方向)画素数をISX、縦
方向(短手方向)画素数をISYとすると以下のように表せ
る。
【0152】 XP = M・cosθ YP = M・sinθ ZP = 2π・M・(j−j0)/ISX (式19) 但し、θ=180°・i/ISX、iは展開画像上のX座標値
で0≦i<ISXの整数、jは展開画像上のY座標値で0
≦j<ISYの整数、またj0はZP=cの時(視線方向が水
平方向の場合)の展開画像上のY座標値である。(式1
9)を用いることにより展開画像上の点と仮想投影面3
4の点P(XP,YP,ZP)を対応づけることができ
る。
【0153】従って、展開画像の投影面(仮想投影面3
4)を決め、投影面から広角画像への写像を考えること
によって、展開画像の各画素に対する広角画像上の理想
的な対応点を決定することができる。
【0154】次に図20を用いて図15のステップS3
における結像レンズ2および撮像素子3からなる撮像装
置の光学的な歪の影響を補正する方法について詳しく説
明する。
【0155】図20は光学的な歪の影響を模式的に示し
たものである。光学的な歪がなく理想的な画像が得られ
るとすれば、画角が180度の場合、図20の(a)に
示すような半円状の像が得られる。しかし、実際には光
学系の中に光学的な歪が含まれており、例えば図20の
(b)に示すように半円状の像が歪んで得られてしま
う。このため、この光学歪を考慮に入れずに展開処理を
行うと得られる展開画像は正しいものにならない。
【0156】そこで(実施の形態5)では、予め使用す
る光学系の歪量を把握し、その影響をキャンセルするよ
うにステップS2で作成した展開テーブルを補正する。
まず、歪量の把握方法について簡単に説明する。
【0157】光学的な歪を数式で記述するための一般的
な方法として高次多項式がよく用いられる。ここでは
(式20)に示すような多項式を用いた場合を考える。 Δx=kx(x2+y2) Δy=ky(x2+y2) (式20) ここで、Δx,Δyはそれぞれx,y方向の歪量。kは
歪量を調整するパラメータである。(式20)は歪量を
示す式としては非常に単純なものであり、設定するパラ
メータはkのみである。実際の光学系に適用した場合、
(式20)では光学歪量を記述するのに不十分な場合も
ある。その場合は適宜、高次項を考慮したものを使用す
ればよい。
【0158】結像レンズ2および撮像素子3からなる撮
像装置で基準となる(即ち、歪量を測定するために、距
離が既知であるようなパターンが含まれている)テスト
パターン36を撮像する。テストパターン36としては
例えば図21の(a)に示すような2次元格子の描かれ
たものを用いても良い。ここで例えば格子ピッチの正確
な値が既知であればよい。その結果得られたテストパタ
ーン画像37は、図21の(b)に示すように光学歪の
影響により、元のテストパターン36とは異なったパタ
ーンとなる。格子ピッチと撮像の条件から算出できる理
想的な格子点の座標値と、テストパターン画像37から
得られた、対応する格子点の座標値を複数個(n個)比
較することにより、歪量のサンプルをとる。n個とった
サンプルのうちのi番目のデータの理想の座標値をx
(i),y(i)、その時のx方向の実測歪量をΔx
(i)、y方向の実測歪量をΔy(i)とした時に(式
21)の2つの誤差関数が最小となるようなkを最小自
乗法により求める。
【0159】 Ex = Σ(Δx(i)−kx(i) (x(i)2+y(i)2)) Ey = Σ(Δy(i)−ky(i) (x(i)2+y(i)2)) (式21) 以上の処理により、撮像装置の歪量を示す(式20)が
決定する。次にこれを用いて、ステップS2で求めた理
想的な展開テーブルを補正する。展開テーブルのx方
向、y方向それぞれの各画素(各要素)には、光学歪を
考慮しない場合の各画素に対応する広角画像の画素値が
含まれている。これを(x0(X,Y),y0(X,
Y))とする。ここで(X,Y)は今対象としている展
開テーブルの画素(要素)の座標値である。この値を
(式20)に代入し、補正後の値(x1(X,Y)、y1
(X,Y))を算出する。具体的には(式22)を各画
素(要素)に対して行う。
【0160】 x1(X,Y)=x0(X,Y)+k・x0(X,Y)・(x0(X,Y)2+y0(X,Y)2) y1(X,Y)=y0(X,Y)+k・y0(X,Y)・(x0(X,Y)2+y0(X,Y)2) (式22) この処理を展開テーブルの全ての画素(要素)に行うこ
とにより撮像装置の光学的な歪の影響を補正した展開テ
ーブルを得ることができる。従ってこのような展開テー
ブルを用いて展開処理を行えば、撮像装置の光学歪の影
響を排除した展開画像を得ることができる。
【0161】また、このような光学歪補正処理は一旦展
開画像を作成した後にその展開画像に対して行うことも
可能であるが、その場合展開画像を作成するたびに(式
22)に示すような複雑な演算処理を行わなければなら
ない。しかるに(実施の形態5)では、光学歪の補正処
理を展開テーブルに盛り込むことにより、(式22)の
ような複雑な演算処理を、展開テーブル生成部23にお
ける初期の展開テーブル作成時のみ行うだけでよく、展
開画像作成時は通常の展開処理を行うだけでよいことか
ら、演算コストの面からも非常にメリットがある。
【0162】次に展開画像生成部24について説明す
る。展開画像生成部24では展開テーブル生成部23で
生成された展開テーブルを参照して、広角撮像装置8か
ら得られる広角画像を展開画像に変換する。この際、座
標値が整数値である展開画像の各画素に対応する広角画
像の画素位置は、一般にその座標値が整数値とならな
い。しかし、広角画像は整数の座標位置のデータしか存
在しない。この対策として、画質よりも処理速度を優先
する場合には、展開テーブルの座標値データを四捨五入
などの手段により、整数化することにより、本来必要な
画素の近傍の画素の輝度値で代用してもよい。処理速度
よりも画質を優先する場合には、本来必要な画素の近傍
4画素の輝度データから補間演算により、本来必要な画
素の輝度データを作り出してもよい。
【0163】次に画質補正処理部25について説明す
る。画質補正処理部25では、展開画像生成部24で作
成された展開画像に対して、画質補正処理を行う。以下
にこの画質補正処理について説明する。
【0164】展開画像生成部24で生成された展開画像
は、画像内の上部と下部とで解像度が異なってしまうと
いう問題点がある。すなわち、図22に示すように、広
角画像38とそれに展開処理を施すことによって得られ
る展開画像39との対応関係において、展開画像39の
上端下端の関係が、広角画像38の外周内周の関係とな
るため、情報量の差から解像度に差が生じる。そのた
め、展開画像39において、外周部に対応した部分より
も内周部に対応した部分の方がピントがボケたように見
えてしまう。また他の要因として、結像レンズ2と撮像
素子3からなる撮像装置には被写界深度があり、わずか
ではあるが、半円形状の広角画像38の半径方向にピン
トのムラ(例えば、広角画像38の内周部分ではピント
が良く合っているが、外周部分ではピントがややあまく
なるといったようなムラ)が生じる場合もある。展開画
像39として最終的に得られる画像としては、上記の2
種類の要因を重ね合わせた結果のボケが含まれたものと
なる。
【0165】このような展開画像39に対して画質補正
処理部25では、展開画像39の上下方向(即ち元画像
である広角画像38の半径方向に対応)に沿って、その
場所ごとに相対的な鮮鋭化係数を決め、その係数を用い
て画像の高周波数成分の強調による鮮鋭化処理を行う。
【0166】鮮鋭化処理としては、例えばアンシャープ
マスキングと呼ばれる手法を用いる。これは(式23)
のように表現される。 B´(i,j) = B(i,j) +C( B(i,j)−B ̄ (i,j) ) (式23) ここで、B(i,j)は座標(i,j)の画素の輝度値とす
る。B ̄(i,j)は座標(i,j)の画素の近傍の局所平均
輝度値(例えば近傍3×3の範囲の平均輝度値)とし、
低周波成分からなる輝度値となる。従って( B(i,j)
−B ̄(i,j) )は元の画像から低周波成分を差し引く
ことで高周波成分を取り出す操作となる。Cは鮮鋭化係
数とする。高周波成分をC倍したものを元画像に足し合
わせることにより、高周波数成分を強調した鮮鋭化画像
が得られる。
【0167】鮮鋭化係数Cを展開画像39の上下方向の
位置に応じて変化させ、鮮鋭化処理を行う。まず撮像装
置で双曲面反射鏡1上の像を理想的にボケなく撮像でき
る場合について説明する。
【0168】この場合に得られる展開画像39は図23
(a)に示すように下端部が、元の広角画像の内周部と
外周部の情報量の差に起因するボケ領域40となる。こ
こでボケ領域40は一様にボケているわけではなく、展
開画像39の中央付近から下端にいくにつれてボケてい
く。この時、図23(a)にグラフで示したように鮮鋭
化係数Cをボケ具合に合わせて0から変化させることに
より、ボケ具合に応じた補正処理(鮮鋭化処理)を行
う。
【0169】なお、ここでは展開画像39の上下方向の
ほぼ中央付近から鮮鋭化係数Cの値を増やしていくよう
な場合のグラフを示したが、これに限定されるものでは
ない。本発明の主旨は下端に近づくにつれて悪化してい
くボケ具合に応じて鮮鋭化係数Cの値を増やしていくこ
とにあり、例えば鮮鋭化係数Cを0よりも大きくする場
所は展開画像39の上端であっても構わない。また鮮鋭
化係数Cの増やし方もボケ具合や撮影する対象などに応
じて調整可能であり、例えば鮮鋭化係数Cを0よりも大
きくする場所からの距離の3乗に比例させて増やしても
よい。
【0170】次に、撮像装置で双曲面反射鏡1上の像を
撮像する際に、場所によってピントの合い具合に差が生
じてしまうような場合について図23(b)を用いて説
明する。
【0171】この場合は撮像装置のピントを調整するこ
とにより、得られる展開画像39のボケ領域を調整す
る。鮮鋭化処理は画像の高周波成分を強調する処理であ
るため、対象となる画像がある程度以上ボケてしまうと
処理を行っても有意な効果を発揮できなくなる。そこで
出来るだけ最もボケ状態の悪い(ボケのひどい)部分を
できるだけ改善するようにピントを調整する。具体的に
は、広角画像38の内周部に光学的なピントのボケ部分
が来るようにピントを調整すると、内周部分にボケ状態
を悪くする条件が重なってしまい、補正しきれなくな
る。それを避けるために、広角画像38の半径方向中央
よりもやや内周部分にピントのピークが来るように調整
し、最終的に展開画像39において上下端のボケ領域4
0が図23(b)のようにほぼバランスがとれるように
ピントを調整する。この時もボケ領域40は一様にボケ
ているわけではなく、展開画像39の中央付近から上下
端にいくにつれてボケていく。この時、図23(b)に
グラフで示したように鮮鋭化係数Cをボケ具合に合わせ
て、展開画像39の中央付近から上下端にいくにつれて
0から変化させることにより、ボケ具合に応じた補正処
理(鮮鋭化処理)を行う。
【0172】次に画像マスク処理部26について説明す
る。画質補正処理部25で生成された画質補正後の展開
画像に対して画像マスク処理を行う画像マスク処理部2
6は、次のように構成されている。
【0173】図30(a)はマスク処理を行わない場合
の展開画像を、図30(b)はマスク処理を行った場合
の展開画像を示している。展開画像中の41は現金自動
支払機(ATM)端末、42は操作者、47はATM端
末41の操作パネルである。マスク処理前の図30
(a)では全視野が見えており、操作者42の操作や入
力結果などが映ってしまうため、暗証番号などのプライ
ベートな情報が外部に漏れてしまう危険性がある。そこ
で画像マスク処理部26ではROMに記憶したマスク領
域48を例えば輝度値0で塗りつぶしてしまうような処
理を行うことにより、図30(b)に示すように操作者
42の操作や入力結果などが見えないようにする。
【0174】なお、ここでは輝度値0に塗りつぶすこと
としたが、これに限定されるものではない。マスク領域
48内の画像を本来の画像と異なるもので埋めることが
できればよく、0以外の輝度値、あるいはランダムパタ
ーン画像を描いてもよい。
【0175】以上のような処理を施して生成された展開
画像は図示しない画像形式変換部でNTSCのようなビ
デオ信号に変換され、画像処理装置22から出力され
る。モニタ27はその信号を受け取り、展開画像を表示
する。
【0176】このように(実施の形態5)によれば、広
角撮像装置8の光学系を撮像レンズ2および撮像素子3
からなる撮像装置の光軸28を回転中心軸6に対して傾
けた構成としても、展開画像の各画素に対する広角画像
上の理想的な対応点を決定することができ、さらに撮像
装置の光学的な歪の影響を考慮にいれた展開テーブルの
補正を行っているため、正しい展開処理が可能となる。
また画質補正処理を行うことにより、展開画像の場所に
よる解像度の差を軽減することができる。
【0177】また、画像マスク処理部26によって、展
開画像の一部にマスク処理を施し、見えないようにして
から出力することにより、操作者の操作内容・入力内容
が写らなくなり、プライバシー情報の漏洩を防ぐことが
可能になる。
【0178】なお、この(実施の形態5)では、回転対
称体の回転中心軸に対して垂直な任意の方向に基準光軸
をとり、前記基準光軸の方向を0度として略±90度も
しくは±90度以上の範囲の凸面形状の反射面を有する
反射鏡として、回転中心軸上に内部焦点を持つ双曲面形
状であり、前記双曲面形状の外部焦点の位置と前記撮像
装置の主点の位置が略々一致するものであったが、この
反射鏡の形状は双曲面でなくても成立する。
【0179】また、(実施の形態5)では、広角撮像装
置8が回転中心軸周り略±90度分の範囲を撮像するよ
うな場合を示したが、広角撮像装置8として図34の
(a)で示したような回転中心軸周り略360度分の範
囲を撮像する全方位カメラ100を用い、画像処理装置
22で全方位カメラ100に対応した展開処理を行うよ
うな場合でも、これまでに説明した光学歪の影響補正や
画質補正処理、画像マスク処理は、(実施の形態5)の
場合と同様の効果を有する。
【0180】(実施の形態6)図24〜図31は本発明
の(実施の形態6)を示す。図24は本発明の(実施の
形態6)における広角画像生成装置を示す。
【0181】座標軸を、紙面の上下方向にX軸、紙面か
ら手前方向にY軸、紙面の左右方向にZ軸とする。また
Z軸は水平方向とする。(実施の形態6)と(実施の形
態5)との構成上の相違点は、広角撮像装置8をZ軸が
水平方向と一致するように設置する点である。処理上の
相違点は画像処理装置22の展開テーブル生成部23に
おいて、展開テーブル生成の際に用いる仮想投影面34
の形状に特徴を持たせる点と、画像マスク処理の具体的
な処理が異なる点と、展開画像生成部24で(実施の形
態5)の場合に対して90度傾け、画像内の天地が正し
くなるような展開画像を生成する点である。以下にこれ
らの相違点について説明する。
【0182】まず結像のしくみについて説明する。図2
4において光線a,b,cは対象物からの任意の光線を
示している。そこで各光線の対象物を対象物a,b,c
と呼ぶことにする。対象物a,b,cは、図25(a)
に示すようなスクリーン33上に描かれた「a」「b」
「c」の文字とし、このスクリーン33を、図25
(b)に示すようにZ軸周りにZ軸からスクリーン表面
までの距離が一定となるように、対象物a、b、cが描
かれた面を双曲面反射鏡1から見えるように配設した場
合を考える。この時に撮像素子3で得られる広角画像を
図26に示す。対象物a、b、cが全て含まれることが
分かる。
【0183】このように広角撮像装置8を回転中心軸6
が水平方向と一致するように設置する場合の用途例とし
て、ATM端末や自動販売機などの監視がある。通常の
広角光学系では実現困難な鉛直方向180度程度の視野
が得られることから、本装置のそばに立った人の顔から
手元までを一枚の画像として得ることが出来るため、A
TM端末や自動販売機などの監視用途への適用が可能で
ある。
【0184】次に画像処理装置22での処理について主
に(実施の形態5)との相違点について説明する。まず
(実施の形態5)の場合と同様に、展開処理をはじめる
前の初期段階で展開テーブル生成部23にて展開処理に
用いる展開テーブルの算出を行う。展開テーブル生成部
23で行う処理のフローを、図27を用いて説明する。
図27で示したフローで行われる処理の中で(実施の形
態5)の場合と異なる2点のうちの1点は、広角画像と
投影面との間の理想的な対応点を決定するステップS2
において、仮定する仮想投影面34の形状を変更する点
である。この点を図28を用いて詳しく説明する。
【0185】図28はATM端末41を操作する操作者
42と広角撮像装置8および仮想投影面34との関係を
示している。34は、その回転中心軸が広角撮像装置8
の双曲面反射鏡1の内部焦点4を通り、紙面に垂直であ
るような円筒状の仮想投影面であり、従来はこのような
投影面に投影した画像の再生を考えていた。ATM端末
41の操作者42はATM端末41を使用する時に通常
15〜30度程度前方に傾斜角43をとる。広角撮像装
置8の視点となる内部焦点4からの距離は胸部に比べ
て、顔部の方が遠くなるため、得られる展開画像内で胸
部付近は大きく、また顔部にいくほど小さく写り、見た
目に違和感を生じさせてしまう。
【0186】そこで(実施の形態6)では、図28に示
すように、得られる視野の中心方向となる基準光軸方向
46と反対の方向にその中心軸45を設定した新しい仮
想投影面44を設定する。この新しい仮想投影面44へ
の投影を考えることは、広角撮像装置8の視点となる内
部焦点4を、仮想的に基準光軸方向46と反対方向に中
心軸45の位置まで移動することに相当する。そのた
め、操作者42がATM端末41を使用している際の、
広角撮像装置8の視点に対する顔部の位置と胸部の位置
の距離の差が緩和される。
【0187】具体的な仮想投影面形状の変更方法につい
て図29を用いて説明する。図29は図28と同様にZ
軸方向から見た従来の仮想投影面34と形状を変更した
仮想投影面44を示している。θは仮想投影面44上の
点Pから広角撮像装置8の図示しない内部焦点4への光
線のXY平面上における方位角をX軸方向を0度として
設定したものである。αは仮想投影面44上の点Pから
仮想投影面44の中心軸45上の図示しない仮想の内部
焦点(即ち内部焦点4を通る基準光軸と中心軸45の交
点)への光線のXY平面上における方位角をX軸方向を
0度として設定したものである。また図29上で内部焦
点4の位置をO1、中心軸45の位置をO2とする。
【0188】(実施の形態5)と同様に(式9)(式1
0)(式13a)(式15)(式16)を用いて仮想投
影面上の点P(XP,YP,ZP)に対応する広角画像の
点p(xp,yp)を決定するのであるが、この時の(実
施の形態5)との相違点は(式16)でθの与え方であ
る。(実施の形態5)では、特に展開画像の横方向(長
手方向)画素数をISX、横方向の視野角を180度とした
時にθ=180°・i/ISX(但しiは整数で0≦i<IS
X)のようにθを等間隔に取っていけばよい。(実施の
形態6)ではαを等間隔で取っていった場合と等価とな
るようにθを決定する。△PO12において正弦定理よ
り(式24)が成り立つ。
【0189】 R/sin(90°+θ)=r/sin(90°−α) (式24) (式24)を整理すると(式25)が得られる。 θ=cos-1(R・cosα/r) (式25) 但し、α1≦α<α2 よって、(式25)のαにα=(α2−α1)・i/ISX
(但しnは整数で0≦i<ISX)を代入してθを求め、
そのθを用いて展開テーブルを作成すれば、仮想投影面
形状を変更することができる。
【0190】なお、ここでは仮想投影面34として円筒
を考えたが、球面など他の形状であっても構わない。次
に図27で示したフローで行われる処理の中で(実施の
形態5)の場合と異なる2点のうちのもう1点である、
光学歪の影響補正を行うステップS3の次に行うマスク
処理(ステップS4)について図30を用いて説明す
る。
【0191】図30(a)はマスク処理を行わない場合
の展開画像を、図30(b)はマスク処理を行った場合
の展開画像を示している。展開画像中の41はATM端
末、42は操作者、47はATM端末41の操作パネル
である。マスク処理前の図30(a)では全視野が見え
ており、操作者42の操作や入力結果などが写ってしま
うため、暗証番号などのプライベートな情報が外部に漏
れてしまう危険性がある。ここではマスク領域48に相
当する部分の展開テーブルの座標値データを、本来のも
のと異なるもの、例えばマスク領域48に相当する部分
の全ての展開テーブル要素を、広角画像中で双曲面反射
鏡1からの像が結像されない左上隅などを指定するよう
に置き換えてしまうことによりマスク処理を実現する。
【0192】以上のように展開テーブルにマスク処理の
情報を埋め込むことにより、図24の展開画像生成部2
4にて展開処理をする際に同時に、演算負荷を増やすこ
となくマスク処理を行うことができる。
【0193】次に展開画像生成部24では、以上のよう
な処理を行うことにより、展開テーブル生成部23で生
成された展開テーブルを用いて展開画像の生成を行う。
この際の(実施の形態5)との相違点は、既に図30で
示したように展開画像の天地が正しくなるように、縦方
向が画角180度となるように展開処理を行うことであ
る。
【0194】次に画質補正処理部25では、(実施の形
態5)の場合と同様の処理を行い、図示しない画像形式
変換部でNTSCのようなビデオ信号に変換してモニタ
27に展開画像を表示する。
【0195】このように(実施の形態6)によれば、仮
想投影面44の形状を変更することにより仮想的に広角
撮像装置8の視点を変更することができるため、広角撮
像装置8の内部焦点4からの距離の差に起因する展開画
像の違和感を軽減することが可能になる。また、展開画
像の一部にマスク処理を施し、見えないようにしてから
出力することにより、操作者の操作内容・入力内容が写
らなくなり、プライバシー情報の漏洩を防ぐことが可能
になる。
【0196】なお、ここでは、マスク処理の情報を展開
テーブルに埋め込む方法を示したが、画像マスク処理
を、展開画像を生成した後で行っても構わない。例えば
図31に示すように、画質補正処理部25の直後に画像
マスク処理部49を設け、ここでマスク領域48内部を
輝度値0に塗りつぶすような処理を行っても構わない。
【0197】なお、(実施の形態6)では、双曲面反射
鏡1を±90度分の反射面を有するものとしたが、これ
に限定されるものではない。±180度以下の範囲であ
ればよい。
【0198】また、(実施の形態6)では、広角撮像装
置8が回転中心軸周り略±90度分の範囲を撮像するよ
うな場合を示したが、広角撮像装置8として図34の
(a)で示したような回転中心軸周り略360度分の範
囲を撮像する全方位カメラ100を用い、画像処理装置
22で全方位カメラ100に対応した展開処理を行うよ
うな場合でも、これまでに説明した仮想投影面形状の変
更やマスク処理は、(実施の形態6)の場合と同様の効
果を有する。また全方位カメラで仮想投影面形状の変更
を行った場合は、1枚の広角画像を用いて視点の移動を
表現可能であることから、撮像場所を少しづつずらした
複数枚の広角画像を使って滑らかな視点移動が可能なウ
ォークスルーソフトを実現できる。
【0199】(実施の形態7)図32は本発明の(実施
の形態7)を示す。(実施の形態6)との相違部分は、
画像処理装置22内の処理単位の一つであった展開テー
ブル生成部23を分離独立させ、新たに展開テーブル生
成用演算処理装置51を設けた点と、画像処理装置22
内に展開テーブル生成部23の代わりに展開テーブル記
憶部50を設けた点である。
【0200】この図32の動作を、(実施の形態6)と
の相違部分を中心に説明する。広角撮像装置8は(実施
の形態6)で用いたものと同様のものである。展開テー
ブル生成用演算処理装置51は、具体的にはマイクロコ
ンピュータやパーソナルコンピュータ(PC)などの演
算装置であり、ここで(実施の形態6)の展開テーブル
生成部23で行っていた展開テーブルの生成を行う。生
成された展開テーブルは画像処理装置22に送られ、展
開テーブル記憶部50に記憶される。
【0201】展開テーブルの転送方法は、例えばSDカ
ード(Secure Digitalカード 登録商標)などのメモリ
ーカード52を用いる。展開テーブル生成用演算処理装
置51と画像処理装置22の双方に図示しないSDカー
ドスロットを設けておく。展開テーブル生成用演算処理
装置51にて、生成した展開テーブルをSDカードに記
録する。そのSDカードを画像処理装置22のSDカー
ドスロットに挿入し、SDカード内に記録された展開テ
ーブルを読み取り、展開テーブル記憶部50に記憶す
る。
【0202】次に、展開画像生成部24は展開テーブル
記憶部50に記憶された展開テーブルを読み込み展開処
理を行う。以降の処理は(実施の形態6)と同様であ
る。このように(実施の形態7)によれば、画像処理装
置22での展開テーブル生成処理の必要がなくなるた
め、装置起動時の展開テーブル生成処理のための起動時
間をなくすことができる。
【0203】なお、(実施の形態7)では、(実施の形
態6)の画像処理装置22内の処理単位の一つであった
展開テーブル生成部23を分離独立させ、新たに展開テ
ーブル生成用演算処理装置51を設け、画像処理装置2
2内に展開テーブル生成部23の代わりに展開テーブル
記憶部50を設けた場合を示した。同様の変更を(実施
の形態5)の場合に行った場合でも(実施の形態7)の
場合と同様の効果を得ることができる。また、どちらの
場合でも、広角撮像装置8として図34の(a)で示し
たような回転中心軸周り略360度分の範囲を撮像する
全方位カメラ100を用い、画像処理装置22および展
開テーブル生成用演算処理装置51で全方位カメラ10
0に対応した処理を行うような変更を行っても、(実施
の形態7)と同様の効果を得ることができる。
【0204】
【発明の効果】以上のように、(実施の形態1)〜(実
施の形態4)を例に挙げて説明した本発明によれば、広
角撮像装置をその回転中心軸が基準光軸方向に垂直な面
内で鉛直方向に対して傾けた状態としても、広角画像生
成装置としての出力は画像内の水平方向がTVモニタの
水平方向と一致した画像となり、見る人に違和感を与え
ないものとすることが可能となる。
【0205】また、広角撮像装置を、その回転中心軸と
基準光軸を含む面内で、ある基準状態に対して傾けた状
態としても、その傾き角を計測し、その値を利用して展
開画像の投影面となる仮想円筒面の中心軸を常に基準状
態の回転中心軸と一致させることにより、展開画像にお
ける視線中心の位置を変えることなく視野範囲を変更す
ることが可能となる。さらに、視野範囲全体を使って、
視線中心が展開画像の短手方向の中央にあるような展開
画像を得ることができる。この為、展開画像中の任意の
点の視線中心からの最大距離を最小とすることができ、
展開画像中の視線中心から遠い部分は、他の部分よりも
斜めに見ることになるために、他の部分に比べて歪んで
見えてしまうという問題を軽減できる。
【0206】また、(実施の形態5)〜(実施の形態
7)を例に挙げて説明した本発明によれば、広角撮像装
置の光学系として、撮像レンズおよび撮像素子からなる
撮像装置の光軸を回転中心軸に対して傾けた構成として
も、展開画像の各画素に対する広角画像上の理想的な対
応点を決定することができ、さらに撮像装置の光学的な
歪の影響を考慮にいれた展開テーブルの補正を行ってい
るため、正しい展開処理が可能となる。また画質補正処
理を行うことにより、展開画像の場所による解像度の差
を軽減することができる。
【0207】また、仮想投影面の形状を変更することに
より仮想的に広角撮像装置の視点を変更することができ
るため、広角撮像装置の内部焦点からの距離の差に起因
する展開画像の違和感を軽減することが可能になる。ま
た、展開画像の一部にマスク処理を施し、見えないよう
にしてから出力することにより、操作者の操作内容・入
力内容が写らなくなり、プライバシー情報の漏洩を防ぐ
ことが可能になる。
【0208】さらに、画像処理装置とは別個に展開テー
ブル生成用演算処理装置を用いる構成とすれば、画像処
理装置での展開テーブル生成処理の必要がなくなるた
め、装置起動時の展開テーブル生成処理のための起動時
間をなくすことができる。
【図面の簡単な説明】
【図1】本発明の(実施の形態1)の広角画像生成装置
の構成図
【図2】同実施の形態の対象物a,b,cの説明図
【図3】同実施の形態の広角画像生成装置において撮像
面上に結ばれる像の模式図
【図4】同実施の形態の広角画像生成装置により撮像さ
れた画像に対して展開処理を施した結果の模式図
【図5】同実施の形態のTVモニタに出力される出力画
像の模式図
【図6】広角撮像装置の回転とその時の出力画像の模式
【図7】本発明の(実施の形態2)の広角画像生成装置
の構成図
【図8】本発明の(実施の形態3)の広角画像生成装置
をX軸方向(鉛直上方)から見た構成図
【図9】本発明の(実施の形態4)の広角画像生成装置
をX軸方向(鉛直上方)から見た構成図
【図10】本発明の(実施の形態5)の広角画像生成装
置の構成図
【図11】同実施の形態における広角撮像装置の説明図
【図12】同実施の形態における広角撮像装置の撮像面
上に結ばれる像の模式図
【図13】同実施の形態における対象物a,b,cの説
明図
【図14】同実施の形態にて得られる広角画像の説明図
【図15】同実施の形態における展開テーブル作成フロ
ー図
【図16】同実施の形態の広角撮像装置の構成図
【図17】同実施の形態における撮像面付近の拡大図
【図18】同実施の形態においてZ軸方向から見た場合
の双曲面反射鏡と撮像面の配置図
【図19】Xa,Ya面上の角度θとxy面上の角度φ
の関係の説明図
【図20】撮像装置の光学的な歪の影響の説明図
【図21】テストパターン画像の説明図
【図22】展開画像の左右の解像度差の説明図
【図23】展開画像上の位置と鮮鋭化係数の関係の説明
【図24】本発明の(実施の形態6)の広角画像生成装
置の構成図
【図25】同実施の形態における対象物a,b,cの説
明図
【図26】同実施の形態における撮像面上に結ばれる像
の模式図
【図27】同実施の形態における展開テーブル作成フロ
ー図
【図28】仮想投影面と操作者との関係を示す説明図
【図29】仮想投影面形状の変更法についての説明図
【図30】ATM操作パネルをマスクした場合の模式図
【図31】同実施の形態における広角画像生成装置の構
成図
【図32】本発明の(実施の形態7)の広角画像生成装
置の構成図
【図33】展開処理の説明図
【図34】全方位カメラの説明図
【図35】全方位カメラにおける展開処理の説明図
【符号の説明】
1 双曲面反射鏡 2 結像レンズ 3 撮像素子 4 双曲面反射鏡1の内部焦点 5 撮像素子3の撮像面 6 双曲面反射鏡1の回転中心軸 7 結像レンズ2の主点 8 広角撮像装置 9 展開画像生成部 10 出力画像生成部 11 演算処理装置 12 Y軸周り角度センサ(回転中心軸面内傾斜方向
検出部) 13 TVモニタ 14 スクリーン 15 回転中心軸面内傾斜方向入力部 16 X軸周り角度センサ 17 回転中心軸前方傾斜方向入力部 18 回転中心軸を傾けた時の広角撮像装置8の視野
限界 19 回転中心軸を傾けた時の広角撮像装置8の視野
限界 20 回転中心軸を傾けた時の広角撮像装置8の視野
範囲 18´ 基準状態の広角撮像装置8の視野限界 19´ 基準状態の広角撮像装置8の視野限界 20´ 基準状態の広角撮像装置8の視野範囲 21 仮想円筒面 22 画像処理装置 23 展開テーブル生成部 24 展開画像生成部 25 画質補正処理部 26 画像マスク処理部 27 モニタ 28 光軸 29a,29b 光線 30a,30b 入射点 31a,31b,31a0,31b0 結像点 32,320 半円状の像 33 スクリーン 34 仮想投影面 35 光線 36 テストパターン 37 テストパターン画像 38 広角画像 39 展開画像 40 ボケ領域 41 ATM端末 42 操作者 43 操作者の上半身の傾斜角 44 (実施の形態6)の仮想投影面 45 (実施の形態6)の仮想投影面の中心軸 46 基準光軸方向 47 ATM端末の操作パネル 48 マスク領域 49 画像マスク処理部 50 展開テーブル記憶部 51 展開テーブル生成用演算処理装置 52 メモリーカード
───────────────────────────────────────────────────── フロントページの続き (72)発明者 村田 茂樹 大阪府門真市大字門真1006番地 松下電器 産業株式会社内 Fターム(参考) 5B057 AA19 BA02 BA15 CA08 CA12 CA16 CB08 CB12 CB16 CC01 CD03 CD11 CD12 CD20 5C022 AA00 AC42 AC51 AC69 5C054 FD02 FD03

Claims (24)

    【特許請求の範囲】
  1. 【請求項1】広角撮像装置と演算処理装置からなる広角
    画像生成装置であって、 広角撮像装置は、回転対称体の回転中心軸に対して垂直
    な任意の方向に基準光軸をとり前記基準光軸の方向を0
    度として少なくとも角度θの範囲(θ1≦θ≦θ2、−
    90°≦θ1≦90°、−90°≦θ2≦90°、θ1
    <θ2)の凸面形状の反射面を有する反射鏡と、前記反
    射鏡の回転中心軸上に主点を有し、前記反射鏡の反射像
    を結像して前記反射鏡の回転中心軸周りの少なくとも角
    度θの範囲の対象物を撮像する撮像装置からなり、前記
    基準光軸に対して垂直な平面内で、前記反射鏡の回転中
    心軸を任意の回転中心軸面内傾斜方向に傾けて設置し、 演算処理装置は、前記広角撮像装置より得られる画像に
    対して演算処理を行い展開画像を生成する展開画像生成
    部と、前記回転中心軸面内傾斜方向に応じて前記展開画
    像を傾斜させ前記展開画像のデータ形式を出力用の形式
    に変換し出力画像として生成する出力画像生成部とから
    なる広角画像生成装置。
  2. 【請求項2】広角撮像装置と演算処理装置からなる広角
    画像生成装置であって、 広角撮像装置は、回転対称体の回転中心軸に対して垂直
    な任意の方向に基準光軸をとり前記基準光軸の方向を0
    度として少なくとも角度θの範囲(θ1≦θ≦θ2、−
    90°≦θ1≦90°、−90°≦θ2≦90°、θ1
    <θ2)の凸面形状の反射面を有する反射鏡と、前記反
    射鏡の回転中心軸上に主点を有し、前記反射鏡の反射像
    を結像して前記反射鏡の回転中心軸周りの少なくとも角
    度θの範囲の対象物を撮像する撮像装置からなり、前記
    基準光軸に対して垂直な平面内で、前記反射鏡の回転中
    心軸を任意の回転中心軸面内傾斜方向に傾けて設置し、 演算処理装置は、前記広角撮像装置により得られる画像
    に対して演算処理を行い前記回転中心軸面内傾斜方向に
    応じて傾斜させた展開画像を生成する展開画像生成部
    と、前記展開画像のデータ形式を出力用の形式に変換し
    出力画像として生成する出力画像生成部とからなる広角
    画像生成装置。
  3. 【請求項3】前記反射鏡が、 回転中心軸上に内部焦点を持つ双曲面形状であり、前記
    双曲面形状の外部焦点の位置と前記撮像装置の主点の位
    置を一致または略々一致させた請求項1または請求項2
    記載の広角画像生成装置。
  4. 【請求項4】前記回転中心軸面内傾斜方向を水平方向と
    一致または略一致させた請求項1〜請求項3の何れかに
    記載の広角画像生成装置。
  5. 【請求項5】前記広角撮像装置もしくは前記演算処理装
    置に、前記回転中心軸面内傾斜方向を検出する回転中心
    軸面内傾斜方向検出部を有し、前記回転中心軸面内傾斜
    方向検出部の出力結果に応じて前記演算処理装置にて前
    記展開画像を傾斜させ出力画像を生成する請求項1〜請
    求項4の何れかに記載の広角画像生成装置。
  6. 【請求項6】前記演算処理装置内に設けた回転中心軸面
    内傾斜方向検出部は、画像処理して回転中心軸面内傾斜
    方向を検出するよう構成した請求項5記載の広角画像生
    成装置。
  7. 【請求項7】前記広角撮像装置もしくは前記演算処理装
    置に、前記回転中心軸面内傾斜方向を入力する回転中心
    軸面内傾斜方向入力部を有し、前記回転中心軸面内傾斜
    方向入力部の入力結果に応じて前記演算処理装置にて前
    記展開画像を傾斜させ出力画像を生成する請求項1〜請
    求項4の何れかに記載の広角画像生成装置。
  8. 【請求項8】広角撮像装置と演算処理装置からなる広角
    画像生成装置であって、 広角撮像装置は、双曲面の回転中心軸に対して垂直な任
    意の方向に基準光軸をとり前記基準光軸の方向を0度と
    して少なくとも角度θの範囲(θ1≦θ≦θ2、−90
    °≦θ1≦90°、−90°≦θ2≦90°、θ1<θ
    2)の双曲面形状の反射面を有する双曲面反射鏡と、前
    記双曲面反射鏡の外部焦点の位置と主点の位置が略々一
    致し、前記双曲面反射鏡の反射像を結像して前記双曲面
    反射鏡の回転中心軸周りの少なくとも角度θの範囲の対
    象物を撮像する撮像装置からなり、前記基準光軸と前記
    双曲面反射鏡の回転中心軸を含む平面内で、前記双曲面
    反射鏡の回転中心軸を任意の回転中心軸前方傾斜方向に
    傾けて設置され、 演算処理装置は、前記広角撮像装置より得られる画像に
    対して前記双曲面反射鏡の内部焦点を通る任意の軸を仮
    想円筒回転中心軸とした仮想円筒を投影面として演算処
    理を行い展開画像を生成する展開画像生成部と、前記展
    開画像のデータ形式を出力用の形式に変換し出力画像と
    して生成する出力画像生成部とからなる広角画像生成装
    置。
  9. 【請求項9】前記回転中心軸前方傾斜方向に関わらず、
    前記基準光軸と前記双曲面反射鏡の回転中心軸を含む平
    面内に設定した基準軸と前記仮想円筒回転中心軸が平行
    もしくは一致した請求項8記載の広角画像生成装置。
  10. 【請求項10】前記回転中心軸前方傾斜方向が、前記基
    準光軸と前記双曲面反射鏡の回転中心軸を含む平面内に
    おける前記広角撮像装置の画角中心が前記基準軸に対し
    て垂直となるような方向である請求項9記載の広角画像
    生成装置。
  11. 【請求項11】前記広角撮像装置もしくは前記演算処理
    装置に、前記回転中心軸前方傾斜方向を検出する回転中
    心軸前方傾斜方向検出部を有し、前記回転中心軸前方傾
    斜方向検出部の出力結果に応じて前記演算処理装置にて
    出力画像を生成する請求項9または請求項10記載の広
    角画像生成装置。
  12. 【請求項12】前記広角撮像装置もしくは前記演算処理
    装置内に、前記回転中心軸前方傾斜方向を入力する回転
    中心軸前方傾斜方向入力部を有し、前記回転中心軸前方
    傾斜方向入力部の入力結果に応じて前記出力画像生成部
    にて出力画像を生成する請求項9または請求項10記載
    の広角画像生成装置。
  13. 【請求項13】回転対称体の回転中心軸に対して垂直な
    任意の方向に基準光軸をとり、前記基準光軸の方向を0
    度として少なくとも角度θの範囲(θ1≦θ≦θ2、−
    180°≦θ1≦180°、−180°≦θ2≦180
    °、θ1<θ2)の凸面形状の反射面を有する反射鏡
    と、 前記反射鏡の回転中心軸上に主点を有し、画角を2αと
    した時に前記回転中心軸上に対してα以下の角度だけ光
    軸が基準光軸方向に傾斜しており、前記反射鏡の反射像
    を結像して、前記反射鏡の回転中心軸周りの少なくとも
    角度θの範囲の対象物を撮像する撮像装置と、 前記撮像装置から得られる広角画像から前記回転中心軸
    上から見た展開画像を生成する展開画像生成部と、 前記展開画像生成部が前記広角画像を展開する際の前記
    広角画像と前記展開画像の画素対応関係の情報を含む展
    開テーブルを生成する展開テーブル生成部とを設けた広
    角画像生成装置。
  14. 【請求項14】回転対称体の回転中心軸に対して垂直な
    任意の方向に基準光軸をとり、前記基準光軸の方向を0
    度として少なくとも角度θの範囲(θ1≦θ≦θ2、−
    180°≦θ1≦180°、−180°≦θ2≦180
    °、θ1<θ2)の凸面形状の反射面を有する反射鏡
    と、 前記反射鏡の回転中心軸上に主点を有し、画角を2αと
    した時に前記回転中心軸上に対してα以下の角度だけ光
    軸が基準光軸方向に傾斜しており、前記反射鏡の反射像
    を結像して、前記反射鏡の回転中心軸周りの少なくとも
    角度θの範囲の対象物を撮像する撮像装置と、 前記撮像装置から得られる広角画像から前記回転中心軸
    上から見た展開画像を生成する展開画像生成部と、 前記展開画像生成部が前記広角画像を展開する際の前記
    広角画像と前記展開画像の画素対応関係の情報を含む展
    開テーブルを生成する展開テーブル生成用演算処理装置
    と、 前記展開テーブル生成用演算処理装置で生成された前記
    展開テーブルを保持するとともに前記展開画像生成部に
    接続された展開テーブル記憶部とを設けた広角画像生成
    装置。
  15. 【請求項15】凸面形状の反射面を有する反射鏡と、 前記反射鏡の回転中心軸上に主点を有し、前記反射鏡の
    反射像を結像して前記反射鏡の回転中心軸周り360度
    の範囲の対象物を撮像する撮像装置と、 前記撮像装置から得られる広角画像から前記回転中心軸
    上から見た展開画像を生成する展開画像生成部と、 前記展開画像生成部が前記広角画像を展開する際の前記
    広角画像と前記展開画像の画素対応関係の情報を含む展
    開テーブルを生成する展開テーブル生成部とを設けた広
    角画像生成装置。
  16. 【請求項16】凸面形状の反射面を有する反射鏡と、 前記反射鏡の回転中心軸上に主点を有し、前記反射鏡の
    反射像を結像して前記反射鏡の回転中心軸周り360度
    の範囲の対象物を撮像する撮像装置と、 前記撮像装置から得られる広角画像から前記回転中心軸
    上から見た展開画像を生成する展開画像生成部と、 前記展開画像生成部が前記広角画像を展開する際の前記
    広角画像と前記展開画像の画素対応関係の情報を含む展
    開テーブルを生成する展開テーブル生成用演算処理装置
    と、 前記展開テーブル生成用演算処理装置で生成された前記
    展開テーブルを保持するとともに前記展開画像生成部に
    接続された展開テーブル記憶部とを設けた広角画像生成
    装置。
  17. 【請求項17】前記反射鏡が、回転中心軸上に内部焦点
    を持つ双曲面形状であり、前記双曲面形状の外部焦点の
    位置と前記撮像装置の主点の位置が略々一致することを
    特徴とする請求項13〜請求項16の何れかに記載の広
    角画像生成装置。
  18. 【請求項18】展開テーブル生成部または展開テーブル
    生成用演算処理装置を、 撮像装置の光軸の傾斜量に応じた広角画像と展開画像の
    画素対応関係の情報を含む展開テーブルを生成するよう
    構成した請求項17記載の広角画像生成装置。
  19. 【請求項19】展開テーブル生成部または展開テーブル
    生成用演算処理装置を、下記の数式に従って展開テーブ
    ルを生成するよう構成した請求項17記載の広角画像生
    成装置。 tanα ={(b2+c2)・sinβ−2bc}/{(b2−c2)
    ・cosβ} c = (a2+b2)0.5 (x2+y2) 0.5 = F・cosβ/cosγ(θ)/sin(β+γ
    (θ)) cosφ = cosθ/(1+tan2γ(90°)・sin2θ)0.5 tanγ(θ) = tanγ(90°)・sinθ 但し、a,bは反射鏡の双曲面形状を決定する定数であ
    り、双曲面形状は、XYZ空間において(X2+Y2)/a2
    −Z2/b2=−1と表せる双曲面のうちのZ>0のもの
    であり、αは前記反射鏡の内部焦点と空間上の任意点を
    結ぶ直線とXY平面のなす角度、βは前記任意点からの
    入射光が撮像装置の撮像面上に入射する点と前記撮像装
    置の主点とを結ぶ直線がXY平面となす角度、Fは前記
    撮像装置の焦点距離、θはXY平面において基準光軸方
    向を90度とした時の前記入射光の入射方向、γは前記
    入射方向θに依存した前記撮像面の傾き、φは前記入射
    光の前記撮像面上における入射方向である。
  20. 【請求項20】展開テーブル生成部または展開テーブル
    生成用演算処理装置を、 撮像装置の光学収差による歪みを含んだ広角画像と歪補
    正後の広角画像の対応関係と、前記歪補正後の広角画像
    と展開画像の対応関係を合成した画素対応関係の情報を
    含む展開テーブルを生成するよう構成した請求項13〜
    請求項17の何れかに記載の広角画像生成装置。
  21. 【請求項21】展開テーブル生成部または展開テーブル
    生成用演算処理装置を、 広角画像と展開画像の画素対応関係を考える際の仮想投
    影面の形状を変更することにより、前記広角画像と前記
    展開画像の画素対応関係を変更した展開テーブルを生成
    するよう構成した請求項13〜請求項17の何れかに記
    載の広角画像生成装置。
  22. 【請求項22】展開テーブル生成部または展開テーブル
    生成用演算処理装置を、 展開画像上に設けた任意のマスク領域内における広角画
    像と展開画像の画素対応関係を任意に変更し、前記マス
    ク領域内の展開画像をマスクするような展開テーブルを
    生成するよう構成した請求項13〜請求項17の何れか
    に記載の広角画像生成装置。
  23. 【請求項23】展開画像生成部の後段に、展開画像生成
    部の後処理として、展開画像上の位置に応じて強調度を
    変えた高周波成分強調処理を行う画質補正処理部を追加
    した請求項13〜請求項17の何れかに記載の広角画像
    生成装置。
  24. 【請求項24】展開画像生成部によって展開された画像
    の特定エリアを本来のものと異なる画像にする画像マス
    ク処理を行う画像マスク処理部を設けた請求項17また
    は請求項23に記載の広角画像生成装置。
JP2002146994A 2001-05-25 2002-05-22 広角画像生成装置 Expired - Fee Related JP4175832B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002146994A JP4175832B2 (ja) 2001-05-25 2002-05-22 広角画像生成装置

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2001156202 2001-05-25
JP2001-156202 2001-05-25
JP2002055117 2002-03-01
JP2002-55117 2002-03-01
JP2002146994A JP4175832B2 (ja) 2001-05-25 2002-05-22 広角画像生成装置

Publications (3)

Publication Number Publication Date
JP2003324636A true JP2003324636A (ja) 2003-11-14
JP2003324636A5 JP2003324636A5 (ja) 2005-10-06
JP4175832B2 JP4175832B2 (ja) 2008-11-05

Family

ID=29553924

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002146994A Expired - Fee Related JP4175832B2 (ja) 2001-05-25 2002-05-22 広角画像生成装置

Country Status (1)

Country Link
JP (1) JP4175832B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006211367A (ja) * 2005-01-28 2006-08-10 Matsushita Electric Ind Co Ltd 広角撮像装置
JP2009122763A (ja) * 2007-11-12 2009-06-04 Clarion Co Ltd 画像変形マップデータ補正装置および画像変形マップデータ補正方法
JP2012085026A (ja) * 2010-10-08 2012-04-26 Toshiba Alpine Automotive Technology Corp 画像処理装置及び画像処理方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013214947A (ja) 2012-03-09 2013-10-17 Ricoh Co Ltd 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006211367A (ja) * 2005-01-28 2006-08-10 Matsushita Electric Ind Co Ltd 広角撮像装置
JP2009122763A (ja) * 2007-11-12 2009-06-04 Clarion Co Ltd 画像変形マップデータ補正装置および画像変形マップデータ補正方法
JP2012085026A (ja) * 2010-10-08 2012-04-26 Toshiba Alpine Automotive Technology Corp 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JP4175832B2 (ja) 2008-11-05

Similar Documents

Publication Publication Date Title
US20200288059A1 (en) Image processor, image processing method and program, and imaging system
EP2328125B1 (en) Image splicing method and device
CN106846409B (zh) 鱼眼相机的标定方法及装置
KR100922250B1 (ko) 왜곡없는 실시간 이미징을 구현하는 파노라마 비디오시스템
CN104995905B (zh) 图像处理设备、拍摄控制方法和程序
US7312810B2 (en) Wide-angle image generating device
US7224392B2 (en) Electronic imaging system having a sensor for correcting perspective projection distortion
JP2018201123A (ja) 画像処理装置、画像処理方法、プログラム
US9892488B1 (en) Multi-camera frame stitching
JP2017208619A (ja) 画像処理装置、画像処理方法、プログラム及び撮像システム
JPWO2018235163A1 (ja) キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
GB2555908A (en) Multi-tier camera rig for stereoscopic image capture
JP6846651B2 (ja) 画像処理装置及び撮像装置
US6345129B1 (en) Wide-field scanning tv
CN113259642B (zh) 一种影片视角调节方法及系统
TWI615808B (zh) 全景即時影像處理方法
JP5169787B2 (ja) 画像変換装置および画像変換方法
JP2004135209A (ja) 広視野高解像度映像の生成装置及び方法
CN109084679B (zh) 一种基于空间光调制器的3d测量及获取装置
JP2019029721A (ja) 画像処理装置、画像処理方法およびプログラム
JP2001016621A (ja) 多眼式データ入力装置
JP2003324636A (ja) 広角画像生成装置
KR101222153B1 (ko) 어안렌즈를 이용한 증강현실 구현 시스템 및 그 구현 방법
KR101222155B1 (ko) 어안렌즈를 이용한 증강현실 구현 시스템 및 그 구현 방법
JP3929346B2 (ja) ステレオ画像表示方法およびステレオ画像表示装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050523

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080311

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080722

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080819

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees