JP3951191B2 - 移動部品を用いないカメラを用いた画像形成および処理装置と方法 - Google Patents

移動部品を用いないカメラを用いた画像形成および処理装置と方法 Download PDF

Info

Publication number
JP3951191B2
JP3951191B2 JP50779397A JP50779397A JP3951191B2 JP 3951191 B2 JP3951191 B2 JP 3951191B2 JP 50779397 A JP50779397 A JP 50779397A JP 50779397 A JP50779397 A JP 50779397A JP 3951191 B2 JP3951191 B2 JP 3951191B2
Authority
JP
Japan
Prior art keywords
image
fisheye
coordinates
lens
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP50779397A
Other languages
English (en)
Other versions
JPH11510341A (ja
Inventor
シュルツ、スティーブン・ダブリュー
グラット、テリー・ローレンス
クパースミット、カール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sensormatic Electronics Corp
Original Assignee
Sensormatic Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sensormatic Electronics Corp filed Critical Sensormatic Electronics Corp
Publication of JPH11510341A publication Critical patent/JPH11510341A/ja
Application granted granted Critical
Publication of JP3951191B2 publication Critical patent/JP3951191B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19617Surveillance camera constructional details
    • G08B13/19619Details of casing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19617Surveillance camera constructional details
    • G08B13/19626Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses
    • G08B13/19628Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses of wide angled cameras and camera groups, e.g. omni-directional cameras, fish eye, single units having multiple cameras achieving a wide angle view
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Vehicle Body Suspensions (AREA)
  • General Factory Administration (AREA)

Description

発明の背景
発明の分野
本発明は一般にビデオ監視装置、特に、ほぼ半球状の視野を持つ魚眼レンズを装着した画像形成および処理装置に関する。本発明により、オペレータはあたかも普通のレンズのパン、チルト、ズームをシミュレートして普通のレンズにより形成されたように魚眼レンズで形成した選択画像部分を見ることができる。これにより、パン、チルト、ズーム操作を移動部品を用いないで実現することができる。
関連技術の説明
監視カメラは小売り店、工場、空港などの地域の監視に普通に用いられている。1台のカメラで広い領域を監視するには、パン、チルト、ズームができる機構を備えるカメラを用いるのが普通である。このような機構は複雑さとカメラの価格を増大させ、信頼性に悪影響を与えかねない。移動部品が存在するので、機械的なパン、チルト、ズーム装置が極度の温度、湿度、粉塵によって損傷を受け、性能の低下を引き起こす。さらに、このような機械的な装置は比較的大量の電力を消費する。そのため、移動部品を用いずにパン、チルト、ズームができる監視カメラは既存の監視カメラにはない優れた利点を備えている。
米国特許第5,185,667号でZimmermannは移動部品を持たないこのようなカメラを提案している。彼の特許に開示されている装置で、魚眼レンズは、カメラが電子画像を生成するようにビデオカメラに結合されている。魚眼レンズの特性により画像が歪曲する。画像の歪曲はあるアルゴリズムを用いて補正される。
Zimmermannが提案した装置の制限の1つが効果的なズームに対し充分な解像度を得られないことである。魚眼レンズは歪曲した全半球画像を生成するため、画像部分、とりわけ周辺部の歪曲度が大きい。画像はある限られた数のピクセルを有する電荷結合素子(CCD)上に形成される。画像を普通の画像(歪曲していない)として見るには、画像を電子的に変形することが必要である。CCDのピクセル数が限られているため、変形した画像の解像度が低下する。許容可能な解像度を得るには、ピクセル数が約156,000,000個のCCDが必要になろう。
入手可能なピクセル数が最も多いCCDは約16,000,000個のピクセル(4,000×4,000)があり、10MHz程度のクロック速度で動作する。しかし、1秒当たり30回のNTSCのサンプリング速度規格を満たすには、480MHzのクロック速度が必要である。従って、望みの大きさに拡大したNTSC画像に必要な解像度は従来の技術を用いて実現できない。
Neta他に付与された米国特許第5,200,818号には一般に半球表面に配置された複数のセンサアレイにより広角シーンを監視する装置が記載されている。各センサアレイは自分自身のレンズ系を備えている。これにより、移動部品を用いてパンやチルトを行なうことなく、広い領域を監視できる。装置の解像度は、複数のセンサを用いているため比較的高くなる。しかし、Neta他の装置は、非常に多くの高品質の部品を必要とするため実現するのに非常に多くの費用がかかる。
本発明の目的の一つは、ほぼ半球状の視野を持ち、移動部品を用いずにパン、ズーム、チルト操作を行なえ、しかも十分な解像度で望みの大きさに拡大できる監視カメラ装置を提供することである。
本発明の別の目的は、オペレータが従来のレンズを装着し、パン、チルト、ズームが可能なカメラで撮影したかのような視野部分が得られる監視カメラ装置を提供することである。
上記と他の利点は以下の発明の説明から明らかになる。
発明の要約
本発明は以下のステップを含むビデオ監視方法である。ビデオカメラは画像面(像面の意、以下本明細書において同じ)と魚眼レンズを備えている。魚眼レンズには、魚眼レンズにより生じた歪曲度を示すレンズ定数、一次軸、ほぼ半球状の視野がある。カメラは一次軸が通る中心点を持つ画像面を有する。カメラは魚眼レンズの一次軸が監視面に対しほぼ垂直になるように監視面の垂直上方の取り付け位置に取り付けられる。ビデオカメラは魚眼レンズにより歪曲される魚眼画像を生成する。魚眼画像は複数のピクセルから成り、各ピクセルは一意の魚眼座標を有する。
視野中の副領域の補正画像は、仮想軸を有する仮想カメラをシミュレートすることにより、視野の物体の正規座標を設定して生成される。仮想軸は、中心点と特定パン、チルト角の視野中の物体を通る。オペレータは魚眼画像領域を選択する。この領域は魚眼画像のピクセルのサブセットを含む。サブセットの各ピクセルは角度「a」だけ特定のパン角度から変位している。
ピクセルのサブセットの各ピクセルの魚眼座標は、レンズ定数、特定のチルト角、角度「a」から成る式により求められる。副領域の補正画像は、ピクセルのサブセットを正規座標にマッピングして生成される。
【図面の簡単な説明】
図1は、本発明を実施する装置のブロック図である。
図2Aは、歪曲した魚眼画像を生成する魚眼レンズの画像面の平面図である。
図2Bは、本発明を用いて補正した魚眼画像の選択した部分の図である。
図3は、本発明の画像スプリッタの斜視図である。
図4は、画像スプリッタの光ファイバ束の斜視図である。
図5は、本発明の魚眼歪曲補正装置のブロック図である。
図6は、魚眼補正の結果として画像面のY軸のチルト角bの点Cの射影を示す図である。
図7は、画像面への点Cの射影を示すX−Y画像面の図である。
図8は、魚眼レンズの一次軸、点Cでパン、チルトした仮想カメラの一次軸を示す3次元図である。
詳細な説明
以下は本発明の好適な実施例の説明である。以下の説明は本発明を説明することを意図しており制限するためではない。本発明の全範囲は添付したクレームとそれと均等の範囲により制限される。
本発明のブロック図を図1に示す。本発明は倉庫、店舗、バス停留所や駅などの場所の監視に用いられるのが普通である。このため、装置10には、例えば、魚眼レンズなどのほぼ半球状の視野を持つレンズ20が装着されている。レンズ180°の方位視野、90°の天頂視野、無限遠の被写体深度を持つことが望ましい。これにより、ほぼ半球状の領域が生成される。レンズは焦点距離が1.9mm、f絞りが1.8の市販の同等の魚眼レンズが好ましい。レンズ20は一次軸Zを有し、画像面13上に円形画像14を生成する。
レンズ20の特性により画像14は歪曲する。特に、画像14の物体の向きは、実際の向きに対して変更される。例えば、レンズ20の視野中の物体11は(図8参照)は、図2に示すように画像14の周辺部に歪曲して現れる。
画像14はスプリッタ30により4つの部分に分割するのが好ましい。画像14は要求される解像度と利用できる技術に応じて任意の数の部分に分割できる。画像14を4つの部分に分割すると、各部分はそれぞれ円形画像の1つの象限から構成される画像15,16,17,または18をそれぞれ含む(図2参照)。スプリッタ30は4つの光通路25,26,27,28から構成される。光通路25,26,27,28はそれぞれコヒーレント光ファイバ束35,36,37,38から成る(図4参照)。そのため、画像15,16,17,18は、光ファイバ束35,36,37,38により通路25,26,27,28をそれぞれ伝送される。
図3と4にスプリッタ30を詳しく示す。スプリッタ30は通路25,26,27,28が設けられたハウジング32から成る。光ファイバ束35,36,37,38はそれぞれ通路25,26,27,28の中に収容され、主要な光ファイバ束から分岐し磨かれた面の画像面13で終っている。図4を参照すると、光ファイバ束35,36,37,38はそれぞれ複数の光ファイバから構成されている。各光ファイバは魚眼レンズ20で生成される画像サンプル14を伝送し、直径が約10μmである。
画像15,16,17,18は各通路25,26,27,28に沿ってそれぞれ伝送され、センサ45,46,47,48に入射する。センサ45,46,47,48は、ピクセル数が768×480個のCCDであり、CCDを光ファイバに直接結合できる光ファイバフェースプレートから形成される光ファイバ窓を備えている。適切な光ファイバフェースプレートとしては、マサチューセッツ州スターブリッジのGalileo Electro-optics社から「CP series」の名称で販売されている光ファイバフェースプレートが入手可能である。画像15,16,17,18は、センサにより代表的な電気信号55,56,57,58にそれぞれ変換される。
信号55,56,57,58は、ただちに入手可能な4つの同じビデオカメラセンサ画像コントローラ65,66,67,68から成るCCD制御プロセッサに供給され、各信号はそれぞれ55,56,57,58の1つに対応する。各制御プロセッサは、CCDへのクロック供給回路72、映像処理回路74、色空間変換回路76とを内蔵している。色空間変換回路76は、各信号55,56,57,58のクロミナンス信号Cr,Cbと輝度信号Yを生成する。
制御プロセッサ65,66,67,68はエンコーダ100が圧縮するのに適した輝度成分とクロミナンス成分でビデオ出力85,86,87,88をそれぞれ生成する。ビデオ信号85,86,87,88を圧縮することにより、非常に多くの画像サンプルを帯域幅が制限されたチャネルを通して送信できる。それゆえ、ビデオ出力はレンズが補正回路140から離れた位置にあれば圧縮される。エンコーダ100は、例えば、MPEGあるいはH.261圧縮方式によりビデオ信号85,86,87,88を圧縮する。代わりに、副帯域符号化方式も使用できる。エンコーダ100は、ビデオ信号をシリアルデータストリームにパケット化して、同軸ケーブルや光ファイバケーブルのような高速ネットワーク110を経由して送信する。圧縮したビデオ信号はデコーダ120に入り、ここでエンコーダ100で実行した変換の逆変換に当る圧縮したビデオ信号の解凍を行なう。
デコーダ120は、補正回路140に供給されるデコードしたビデオ信号130を生成する。補正回路140の目的は、魚眼レンズ20で生じた歪曲を補正することである。補正は後述するアルゴリズムにより行われる。補正回路140はディスプレイ160に表示される補正信号150を発生する。
以下は画像14の魚眼レンズにより生じた歪曲を補正する装置の説明である。説明を簡単にするため、全魚眼画像14は単一のCCD180面上に形成され、スプリッタ30を用いないとする。CCD180はX軸とY軸とを有する。レンズ20は監視面19の垂直上方の装着点17に、できれば主軸Zが監視面19に垂直になるように配置するのが好ましい。監視面19は部屋15の床である。装着点17は部屋15の天井である。軸X,Y,ZはCCD面180の中心点Iで交差する。CCD面180は監視面19に平行な画像面13を形成する。
監視領域(壁ではなく天井)の上にカメラと魚眼レンズを装着することはいくつかの利点がある。まず、カメラを天井に取り付けると、視野は360°全部をカバーする。これにより、壁によりパン範囲が制限されることなく、360°の範囲にわたりパンのシミュレーションができる。天井にレンズを装着した場合、仮想(シミュレーションした)パン軸は、魚眼レンズの一次軸Zであり、壁に装着した場合の一次軸に垂直な軸ではない。一次軸Zの周りの角度は物体から画像の間で保持される。こうして、パン軸がすでに放射状になっており変換の必要がないため、光線座標の計算が容易になる。
任意の物体をモニタ上240で見ると、画像の垂直中心線は画像面の中心点Iと交差している。レンズの一次軸Zはこの中心点を通る。それゆえ、画像を回転させて正しい方向で見る必要がない。米国特許第5,185,667号に記載された補正アルゴリズムは、画像の回転を別々に計算している。このような別々の計算は本発明では必要ない。
レンズを壁に装着すると、当該物体と最も離れた物体は魚眼画像の中心にきやすい。これらの物体の細部を見るのに最大の解像度が必要である。魚眼レンズが監視面の垂直上方に配置されると、中心の物体は通常レンズに最も近い。その物体を見るには高い解像度を必要とせず、これらの物体の歪曲は最も小さい。レンズから最も離れた物体は魚眼レンズの周辺部に現れる。しかし、魚眼レンズで形成された画像は非常につまっており、そのため、CCD画像の解像度は周辺部より中心で低くなる。半径「R」の魚眼画像の一部を考えてみよう。画像が形成されるCCDのピクセル密度は均一である。CCDの中心を通るラインに沿って画像が2Rピクセルにわたり形成される。画像の周辺部では、画像の中心に現れる物体より多くのピクセルがπR(円周の半分)−π/2にわたり形成される。このため、レンズを監視面の垂直上方に配置すれば、レンズが監視面に対し直角方向に配置される場合よりも遠方の物体の解像度がはるかに向上する。
以下の説明は図5に関するものである。魚眼レンズ20は領域「A」をカバーする180°の視野を持っている。部屋15の天井にレンズ20を装着すると、領域Aには部屋の床と壁が含まれる。魚眼レンズ20は画像面13に領域Aの魚眼画像Adを形成する。一意の座標(X;Y)で表される領域Aの任意の点は、魚眼レンズ20の特性に応じて魚眼画像Adの点(Xd;Yd)に移動される。画像面13(CCD180の面)は複数のピクセル182から成るマトリックスから構成されている。各ピクセルは一意の魚眼座標を有する。従って、CCDは領域Aの電気的表現を生成する。この表現がCCD制御プロセッサ250(制御プロセッサ60と同じ)に供給され、CCD180の各ピクセルのクロミナンス値と輝度値を生成する。これらのクロミナンス値と輝度値はデュアルポート画像メモリ(DPIM)200に格納される。本発明により、パン、チルト、ズーム操作を実現するため、ユーザが魚眼画像を電気的に処理できるようにする。こうして、領域Adの副領域αdを歪曲した魚眼画像から正常な画像に変換することにより、領域Aの副領域αを詳細に調べることができる。
装置に電源が供給されると、デフォルトの補正副領域αcがモニタ240上に現れる。ユーザは領域選択装置210、すなわちキーボードとポインティング装置を装備する制御ステーションにより副領域αを選択する。これはポインティング装置214を用いて、仮想の従来のカメラのパン、チルトをシミュレートして行なうことによりできる。モニタ240上の画像は従来のカメラで形成されたように見える。実際、画像は魚眼画像14の一部を補正して形成される。副領域αを選択すると、副領域αの中心の物体の正規(魚眼でない)座標が得られる。この操作により物体での仮想の従来のカメラの一次軸(図8のIC)の指示をシミュレートする.仮想カメラは、その一次軸が中心点Iと副領域αの中心を通る取り付け位置17に取り付けられる。モニタ240上に副領域が現れるように、この仮想カメラを入力装置214で指示すると、領域選択装置210が仮想のパン、チルト角で配置された仮想カメラに関連するパン、チルト角を生成して、副領域αの物体の位置を指示する。
ユーザが副領域αを選択すると、装置はαd(領域αの歪曲した魚眼画像)を補正画像αcに自動的に変換する。これにより、ユーザはあたかも副領域αを示すようにパン、チルトされた仮想(魚眼でない)カメラにより形成されたかのようにモニタ240の副領域αを見ることができる。
魚眼画像Adの各ピクセルは、DPIM200の一意のアドレスに制御プロセッサ250を介してCCD180が生成した輝度と色データを格納する。従って、DPIM200は、領域Aの歪曲した魚眼画像Adのデジタル電子表現を含む。領域Aの任意の副領域αの場合、DPIM200は対応する歪曲副領域αdの電子表現を含む。
画像面13は、図6,7,8に示すようにXとY軸で形成される面である。レンズ20の一次軸ZはXとY軸に垂直である。ユーザが仮想魚眼レンズでないレンズを装着したカメラで点C(図2Bに示す副領域αの画像)の周囲に中心があるシーンを詳しく見たいと望むのであれば、ユーザはカメラに指示して一次軸Zに対し角度bでカメラをチルトさせるだろう。そのようにするには、仮想の一次軸(中心線IC)が画像面13の中心点Iと点Cを通るように、仮想カメラを配置しなければならない。
仮想の従来のカメラで捕捉されていれば、領域αは、ライン320に中心が位置し、ピクセル310のかなりの数の水平ラインから成る画像300としてCCD180に現れるだろう(図2A参照)。特定の水平ライン上の各ピクセルは中心線320からある距離xだけずれている。この距離は中心線ICに対する角度「a」(図8参照)または一次軸Zの周りの角度a′に対応する。
画像14の各ピクセルは直角座標または極座標対を基準にして説明できる。従って、図7と8を参照すると、中心線ICの点Cのピクセルは極座標を基準にしてチルト角b(図6参照)と角度a、すなわち中心からのピクセルの変位(CはX軸の上にあるので、aはゼロに等しくなる)で配置できる。同様に、CCD180の水平ラインに沿って移動(Y軸に平行に移動)すると、点Sのピクセルは一次軸Zに対するチルト角b′と中心線ICに対するパン角a′を基準にして記述できる。対応する直角座標はXdとYdである。
再び図2Aに戻ると、魚眼レンズの性質により魚眼画像が歪曲するのを見ることができる。魚眼レンズ20の主軸の近くに配置された物体はCCD180にほぼ正常に現れる(領域182参照)が、主軸から離れた物体は次第にさらに歪曲する(領域184参照)。魚眼画像でない点(X;Y)のピクセルにより運ばれる情報は魚眼画像では(Xd;Yd)に位置する。ここで、(Xd;Yd)は魚眼レンズ20の特性に応じた(X;Y)からの変位量である。
一次軸に対し回転角b′で配置される点の画像が、以下の式により画像面に一次軸からの半径rで射影されるのは魚眼レンズの基本的な特性である。
r=f・b′
ここで、rは中心点Iからの距離、fは魚眼レンズで生じた歪曲度をmm/radで示すレンズ定数、b′は物体から一次軸(ラジアン)への入射光角度である。
視野中の点から画像面の射影までの角度が保持されるのも魚眼レンズの基本的な特性である。
これらの2つの特性は、視野の当該領域にパン、チルト、またはズームした従来のカメラにより形成されたかのように、魚眼画像の選択した部分を見ることができる新しい式の導出に用いられる。この式は上述した仮想カメラのパン、チルト角度を補正画像の直角座標に関連させる。以下は、本発明の目的を達成するその式の導出と適用方法の説明である。
図6から、レンズの主軸に対するチルト角bで配置された点Cが中心点Iから半径r=rcで画像面IPに画像を形成することがわかる。上述したように、特定の魚眼レンズに対し、点Cで画像が形成されるチルト角bと半径の間の関係は以下の式から求められる。
r=f・b……(1)
図8で、点CはYとZ軸で形成される面上にあり、一次軸Zに対するチルト角bで形成される。画像面の中心Iから点Cまでの線ICは点Cで示される仮想カメラレンズの一次軸として見なされる。線CSは点Cから点Sまで延びている。CSはX軸に平行である。かくして、CSはCCD180のピクセルの水平ラインを示す。CCDの中心、I、からの特定の半径rにあり、仮想カメラレンズの一次軸の周りのパン角「a」で、魚眼レンズの一次軸に対するチルト角b′にある点Sのピクセルを考えてみよう。そのピクセルの直角座標は以下のようになる。
X=f・b′・cos(a′)……(2)
Y=f・b′・sin(a′)……(3)
式(2)と(3)は、CCD上に形成される魚眼画像の任意の特定ピクセルの極座標を直角座標に変換する。それゆえ、点Sのピクセルはチルト角b′(主軸Zを基準に測定した角度)とパン角a′(主軸の周りの回転角)を基準にして配置できる。
装置の電源をオンにすると、仮想カメラが撮影している最初の領域に対応するデフォルト領域が表示される。便宣のため、この領域は一次軸Zに沿っているとする(そのためチルト角bはゼロになる)。パン角もゼロである(線ICはX軸に沿っている)。仮想カメラ(線ICの上にあるレンズの一次軸を有する)は、魚眼レンズの一次軸Zに対し角度「b」だけ傾斜しているので、カメラは点Cに中心がある物体の方向を向いている。ユーザがわかりやすい補正装置の操作を行なうため、仮想カメラのパンとチルトは、仮想カメラの最初の位置に対し測定される。このため、点Sを表すピクセルの位置は、チルト角「b」と中心線ICからの点Sの角度、すなわち中心線ICから点Sまでのパン量を示す角度aで表される。
以下は魚眼画像の点Sを表すピクセルの位置が角度a(中心線ICからの変位)と角度b(仮想カメラが主軸が点Cと一列になるようにパン、チルトしたチルト角)を基準にして記述する方法を示す。
図8を参照すると以下の式が得られることがわかる。
tan(a′)=SC/PC
SC=IS・sin(a)
PC=IC・sin(b)
IC=IS・cos(a)
それゆえ、
tan(a′)=IS・sin(a)/IS・cos(a)・sin(b)
=tan(a)/sin(b)
a′=tan-1(tan(a)/sin(b))……(4)
cos(b′)=IP/IS
IP=IC・cos(b)
IC=IS・cos(a)
それゆえ、
cos(b′)=IS・cos(a)・cos(b)/IS
=cos(a)・cos(b)
b′=cos-1(cos(a)・cos(b))……(5)
式(2)と(3)から、任意の魚眼レンズにおいて、Xd=fb′cos(a′)およびYd=fb′sin(a′)になる。式(4)と(5)のa′とb′の値を式(2)と(3)に代入すると、
d=f・cos-1(cos(a)・cos(b))・cos(tan-1
(tan(a)/sin(b)))……(6)
d=f・cos-1(cos(a)・cos(b))・sin(tan-1
(tan(a)/sin(b)))……(7)
となる。
これらの式により、中心線ICの周りに中心があるピクセルの座標を仮想カメラのチルト角「b」の極座標(魚眼画像の中心からの点の距離を測定)と中心線ICに対するピクセルの角度「a」の知識から単純に計算によって求めることができる。この式は魚眼画像のパン、チルト、ズームを行なう非常に簡単な手段を提供する。
仮想カメラのパンを行なうには、パン角度Pを角度a′に加えて新しい角度a″を得る。すなわち、a″=P+a′になる。
これを式(4)に代入すると以下の式が得られる。
a″=P+tan-1(tan(a)/sin(b))……(8)
式(a)を式(6)と(7)に代入すると以下の式が得られる。
d=f・cos-1(cos(a)・cos(b))・cos(P+tan-1
(tan(a)/sin(b))……(9)
d=f・cos-1(cos(a)・cos(b))・sin(P+tan-1
(tan(a)/sin(b))……(10)
仮想カメラのパンおよび/またはチルトをシミュレートするためポインティング装置214を移動させると、副領域αのピクセルの各ラインの各ピクセルの直角座標(X;Y)が領域選択装置210で生成され、ルックアップテーブル(LUT)222に格納される。装置は魚眼画像の座標(Xd;Yd)を式(9)と(10)を用いて自動的に計算する。副領域αの各正規座標(X;Y)対に対し、計算した座標(Xd;YdがDPIM200のアドレスとしてLUT222に格納される。
魚眼画像のすべての座標を前もって計算するか、または領域として計算する必要がある特定領域の座標だけを選択することができる。いずれの場合においても、座標はLUT222に格納され、対応するピクセルがDPIM200に格納される。これにより、これらの計算された座標に対応するピクセルをCCD180から取得することができる。そして、取得されたピクセルは、あたかも普通のカメラを座標(X;Y)にパン、チルトして形成された画像のように、その位置(X;Y)がモニタ240上に表示される。
LUTの内容を計算するとき、ピクセル間で増加する角度aと列間で増加する量bを変化させて、ズーム比率を調整できる。例えば、水平表示ラインのピクセルが400個あれば、aをディスプレイの左端の−20°から0.1°ずつ増大させると40°の水平視野が得られる。同じように、標準ディスプレイの4:3のアスペクト比を正確に保持する30°の垂直視野を表示するには、各水平表示ライン間で0.062°ずつbを増大させて484本の表示ラインを得る。
LUT222とDPIM200の内容を以下の表に示す。
Figure 0003951191
複数画像をDPIM200に保持することにより、所定の時間にわたる画像の履歴ログも格納できる。入力情報がメモリ容量を超過すると、古い画像に現在の画像が連続的に上書きされる。こうして、所定の時間にわたり生成した画像の循環ログを保持する。従って、魚眼アドレスジェネレータでDPIM200のアドレスを適切に選択して、アラームイベントが発生すると、前の所定の時間間隔で捕捉した画像を表示できる(例えば、侵入者が監視中の建物へ侵入しようとしてセンサに検出された場合)。
この装置は、360°の画像を用いて、いかなる移動部品も用いないでパン、チルト操作を実現する。その結果、カメラの信頼性が向上しカメラを購入、保持するコストを制限する。従って、本発明は広い視野をカバーする1台のカメラを用いて広い領域を監視できる。

Claims (11)

  1. 像面と魚眼レンズを備えるビデオカメラであって、前記魚眼レンズは該魚眼レンズに生じる歪曲を示すレンズ定数と、一次軸と、ほぼ半球の視野とを有し、前記像面は前記一次軸が通る中心点を持つビデオカメラを提供し、
    前記魚眼レンズの前記一次軸が監視面に対しほぼ垂直になるように前記ビデオカメラを前記監視面の上方の取付点に取り付け、
    前記魚眼レンズによって歪曲された魚眼像であって、各ピクセルが一意の魚眼座標を有する複数のピクセルを含む魚眼像を前記ビデオカメラに形成させ、
    (1)仮想軸を有する仮想カメラをシミュレートし、かつ、前記仮想軸が前記中心点と、特定のパン及びチルト角における前記視野内の物体を通るようにシミュレートすることにより前記視野内の前記物体の角座標を与える行程と、
    (2)前記魚眼像の領域であって、それぞれのピクセルが前記特定のパン角度から角度aだけ変位した複数のピクセルのサブセットを含む領域を選択する行程と、
    (3)前記複数のピクセルの前記サブセットの各ピクセルの一意の魚眼座標を前記レンズ定数、前記特定のチルト角及び前記角aを含む次式により決定する行程と、
    d=f・cos-1(cos(a)・cos(b))・cos(tan-1(tan(a)/sin(b)))
    d=f・cos-1(cos(a)・cos(b))・sin(tan-1(tan(a)/sin(b)))
    ここでfはレンズ定数、XdとYdは一意の魚眼座標
    (4)前記複数のピクセルの前記サブセットの前記ピクセルを正規座標にマッピングして前記視野内の副領域の補正像を生成する行程と、
    により前記視野内の前記副領域の前記補正像を生成することと、
    を含むビデオ監視方法。
  2. 前記特定のチルト角は前記魚眼レンズの前記一次軸に対して設定される請求項1の方法。
  3. 前記特定のパン角は前記魚眼レンズの前記一次軸に関する前記パン角に対して設定される請求項1の方法。
  4. 前記サブセットの前記ピクセルを正規座標にマッピングする行程は、
    前記複数のピクセルの前記サブセットの各ピクセルに対し対応する角座標セットが存在するように、かつ、前記角座標セットに対し予め計算されたピクセル座標セットが存在するように、前記式により求めた予め計算された座標セットを含むルックアップテーブルを与えることと、
    前記ルックアップテーブルに前記角座標を与え、これに応答して、前記予め計算されたピクセル座標を前記ルックアップテーブルから取り出すこととを、
    含む請求項1の方法。
  5. 前記複数のピクセルを前記予め計算された座標に対応するアドレスにて画像メモリに格納し、前記画像メモリに前記予め計算された座標を与え、前記画像メモリから前記複数のピクセルの前記サブセットの前記ピクセルを出力として受け取ることをさらに含む請求項4の方法。
  6. 前記物体の角座標を与える行程は、ユーザ入力を介して前記特定のパン及びチルト角を受けることを含む請求項1の方法。
  7. 前記角座標は極座標であり、該角座標を前記特定のパン及びチルト角に変換することをさらに含む請求項1の方法。
  8. 前記物体の角座標を与える行程は、ビデオ表示上の領域を選択し前記副領域のデカルト座標に基づいて前記物体の前記特定のパン及びチルト角を計算することを含む請求項1の方法。
  9. 前記副領域の前記補正された像を表示することをさらに含む請求項1の方法。
  10. 前記補正された像をズームすることをさらに含む請求項1の方法。
  11. 前記ズームすることは前記角度aを増大することを含む請求項11の方法。
JP50779397A 1995-07-27 1996-07-26 移動部品を用いないカメラを用いた画像形成および処理装置と方法 Expired - Lifetime JP3951191B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US08/508,115 1995-07-27
US08/508,115 US5691765A (en) 1995-07-27 1995-07-27 Image forming and processing device and method for use with no moving parts camera
PCT/US1996/012332 WO1997005741A1 (en) 1995-07-27 1996-07-26 Image forming and processing device and method for use with no moving parts camera

Publications (2)

Publication Number Publication Date
JPH11510341A JPH11510341A (ja) 1999-09-07
JP3951191B2 true JP3951191B2 (ja) 2007-08-01

Family

ID=24021448

Family Applications (1)

Application Number Title Priority Date Filing Date
JP50779397A Expired - Lifetime JP3951191B2 (ja) 1995-07-27 1996-07-26 移動部品を用いないカメラを用いた画像形成および処理装置と方法

Country Status (9)

Country Link
US (1) US5691765A (ja)
EP (1) EP0842580A4 (ja)
JP (1) JP3951191B2 (ja)
CN (1) CN1192312A (ja)
AR (1) AR003044A1 (ja)
AU (1) AU706467B2 (ja)
BR (1) BR9609894A (ja)
CA (1) CA2220960A1 (ja)
WO (1) WO1997005741A1 (ja)

Families Citing this family (54)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5856844A (en) * 1995-09-21 1999-01-05 Omniplanar, Inc. Method and apparatus for determining position and orientation
US5832139A (en) * 1996-07-31 1998-11-03 Omniplanar, Inc. Method and apparatus for determining degrees of freedom of a camera
DE19758371A1 (de) * 1997-12-29 1999-07-08 Francois Sanvi D Dipl In Sodji Vorrichtung zur Überwachung eines Gebäudes und/oder Raumes
EP0933666A1 (en) * 1998-01-30 1999-08-04 SONY DEUTSCHLAND GmbH Image detecting apparatus controlled by detecting the viewing direction
SG77639A1 (en) * 1998-06-11 2001-01-16 Surreal Online Pte Ltd A method and system for providing a seamless perspective corrected image from fisheye images
US20010015751A1 (en) * 1998-06-16 2001-08-23 Genex Technologies, Inc. Method and apparatus for omnidirectional imaging
US6204852B1 (en) * 1998-12-09 2001-03-20 Lucent Technologies Inc. Video hand image three-dimensional computer interface
WO2000060853A1 (en) * 1999-04-08 2000-10-12 Internet Pictures Corporation Method and apparatus for providing virtual processing effects for wide-angle video images
US6778211B1 (en) * 1999-04-08 2004-08-17 Ipix Corp. Method and apparatus for providing virtual processing effects for wide-angle video images
US7015954B1 (en) 1999-08-09 2006-03-21 Fuji Xerox Co., Ltd. Automatic video system using multiple cameras
WO2001037028A1 (en) * 1999-11-15 2001-05-25 Equal Reverse Thoughts Limited Method of improved image depth perception
JP4750927B2 (ja) * 2000-06-30 2011-08-17 日本ネットワークサービス株式会社 遠隔監視方法および監視制御サーバ
GB2368221A (en) * 2000-08-31 2002-04-24 Lee Scott Friend Camera apparatus having both omnidirectional and normal view imaging modes.
US7200246B2 (en) * 2000-11-17 2007-04-03 Honeywell International Inc. Object detection
US6711279B1 (en) * 2000-11-17 2004-03-23 Honeywell International Inc. Object detection
US7176440B2 (en) * 2001-01-19 2007-02-13 Honeywell International Inc. Method and apparatus for detecting objects using structured light patterns
US6841780B2 (en) * 2001-01-19 2005-01-11 Honeywell International Inc. Method and apparatus for detecting objects
DE50107083D1 (de) * 2001-03-05 2005-09-15 Siemens Ag Verfahren und vorrichtung zum entzerren eines bildes, insbesondere für insassenschutzsysteme
US7450165B2 (en) * 2003-05-02 2008-11-11 Grandeye, Ltd. Multiple-view processing in wide-angle video camera
JP2005339313A (ja) 2004-05-28 2005-12-08 Toshiba Corp 画像提示方法及び装置
US8130827B2 (en) * 2004-08-13 2012-03-06 Samsung Electronics Co., Ltd. Method and apparatus for interpolating a reference pixel in an annular image and encoding/decoding an annular image
US7564019B2 (en) 2005-08-25 2009-07-21 Richard Ian Olsen Large dynamic range cameras
US8124929B2 (en) * 2004-08-25 2012-02-28 Protarius Filo Ag, L.L.C. Imager module optical focus and assembly method
US7795577B2 (en) * 2004-08-25 2010-09-14 Richard Ian Olsen Lens frame and optical focus assembly for imager module
US7916180B2 (en) * 2004-08-25 2011-03-29 Protarius Filo Ag, L.L.C. Simultaneous multiple field of view digital cameras
US20060054782A1 (en) * 2004-08-25 2006-03-16 Olsen Richard I Apparatus for multiple camera devices and method of operating same
US20070102622A1 (en) * 2005-07-01 2007-05-10 Olsen Richard I Apparatus for multiple camera devices and method of operating same
US7964835B2 (en) * 2005-08-25 2011-06-21 Protarius Filo Ag, L.L.C. Digital cameras with direct luminance and chrominance detection
US20070258006A1 (en) * 2005-08-25 2007-11-08 Olsen Richard I Solid state camera optics frame and assembly
TWI291592B (en) * 2005-09-27 2007-12-21 Primax Electronics Ltd Adjusting method for focus of optical image
CN100465783C (zh) * 2005-10-09 2009-03-04 致伸科技股份有限公司 光学镜头模块的聚焦调整方法
US7613360B2 (en) * 2006-02-01 2009-11-03 Honeywell International Inc Multi-spectral fusion for video surveillance
JP2007318596A (ja) * 2006-05-29 2007-12-06 Opt Kk 広角レンズによる撮像データの圧縮方法、伸長表示方法、圧縮装置、広角カメラ装置およびモニタシステム
JP2007318597A (ja) * 2006-05-29 2007-12-06 Opt Kk 広角レンズによる撮像データの圧縮方法、圧縮装置、広角カメラ装置およびモニタシステム
JP4977419B2 (ja) 2006-08-10 2012-07-18 三洋電機株式会社 監視カメラ
CN101188741B (zh) * 2006-11-16 2010-08-18 中兴通讯股份有限公司 一种监控控制系统
DE602007012335D1 (de) 2007-02-19 2011-03-17 Axis Ab Verfahren zur Korrektur von Hardware-Fehlausrichtungen bei einer Kamera
WO2009013845A1 (ja) * 2007-07-20 2009-01-29 Techwell Japan K.K. 画像処理装置及びカメラシステム
KR101014572B1 (ko) * 2007-08-27 2011-02-16 주식회사 코아로직 영상 왜곡 보정 방법 및 그 보정 방법을 채용한 영상처리장치
JP4582205B2 (ja) * 2008-06-12 2010-11-17 トヨタ自動車株式会社 電動車両
DE102008062997A1 (de) * 2008-12-23 2010-07-22 Mobotix Ag Buskamera
US8988492B2 (en) * 2009-01-30 2015-03-24 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Method and apparatus for correction of an image from a fisheye lens in a camera
JP5499802B2 (ja) * 2010-03-18 2014-05-21 株式会社デンソーウェーブ 視覚検査システム
US9794518B2 (en) * 2010-10-21 2017-10-17 Sensormatic Electronics, LLC Method and system for converting privacy zone planar images to their corresponding pan/tilt coordinates
US9036001B2 (en) 2010-12-16 2015-05-19 Massachusetts Institute Of Technology Imaging system for immersive surveillance
US10178314B2 (en) 2011-03-08 2019-01-08 Mitsubishi Electric Corporation Moving object periphery image correction apparatus
TWI476730B (zh) * 2012-10-31 2015-03-11 Vivotek Inc 數位影像的反扭曲處理方法
KR101465607B1 (ko) * 2012-12-05 2014-11-27 광운대학교 산학협력단 어안 렌즈용 왜곡 영상 처리 방법
ES2545542B1 (es) * 2014-03-11 2016-06-21 Alberto ADARVE LOZANO Sistema de visión panorámica con corrección de imagen en operaciones de repostaje y similares
EP3051495B1 (en) * 2015-01-29 2018-09-19 Wipro Limited Systems and methods for mapping object coordinates from a video frame view to real world coordinates
US9792664B2 (en) 2015-01-29 2017-10-17 Wipro Limited System and method for mapping object coordinates from a video to real world coordinates using perspective transformation
US11032481B2 (en) 2018-07-06 2021-06-08 Medos International Sarl Camera scope electronic variable prism
US11202014B2 (en) 2018-07-06 2021-12-14 Medos International Sari Camera scope electronic variable angle of view
CN112150554B (zh) * 2019-06-28 2023-08-04 杭州海康威视数字技术股份有限公司 画面显示方法、装置、终端和存储介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59184973A (ja) * 1983-04-04 1984-10-20 Fujitsu Ltd ロボツトの環境理解システム
JPS60205381A (ja) * 1984-03-30 1985-10-16 Fuji Electric Corp Res & Dev Ltd 全方位位置検出装置
US4984089A (en) * 1990-01-08 1991-01-08 Sensormatic Electronics Corporation Outdoor surveillance dome with enhanced environmental aptitude and control system therefor
US5200818A (en) * 1991-03-22 1993-04-06 Inbal Neta Video imaging system with interactive windowing capability
US5319744A (en) * 1991-04-03 1994-06-07 General Electric Company Polygon fragmentation method of distortion correction in computer image generating systems
US5185667A (en) * 1991-05-13 1993-02-09 Telerobotics International, Inc. Omniview motionless camera orientation system
US5384588A (en) * 1991-05-13 1995-01-24 Telerobotics International, Inc. System for omindirectional image viewing at a remote location without the transmission of control signals to select viewing parameters
US5359363A (en) * 1991-05-13 1994-10-25 Telerobotics International, Inc. Omniview motionless camera surveillance system
JPH0636020A (ja) * 1992-07-17 1994-02-10 Matsushita Electric Ind Co Ltd 撮像監視装置
FR2714502A1 (fr) * 1993-12-29 1995-06-30 Philips Laboratoire Electroniq Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective.

Also Published As

Publication number Publication date
WO1997005741A1 (en) 1997-02-13
US5691765A (en) 1997-11-25
BR9609894A (pt) 1999-05-25
EP0842580A4 (en) 2000-08-02
AR003044A1 (es) 1998-05-27
CN1192312A (zh) 1998-09-02
EP0842580A1 (en) 1998-05-20
AU706467B2 (en) 1999-06-17
JPH11510341A (ja) 1999-09-07
AU6602096A (en) 1997-02-26
CA2220960A1 (en) 1997-02-13

Similar Documents

Publication Publication Date Title
JP3951191B2 (ja) 移動部品を用いないカメラを用いた画像形成および処理装置と方法
US5870135A (en) Image splitting forming and processing device and method for use with no moving parts camera
US7274381B2 (en) Panoramic imaging and display system with canonical magnifier
US6226035B1 (en) Adjustable imaging system with wide angle capability
JP3290993B2 (ja) 球形画像を作成する方法および装置
US6583815B1 (en) Method and apparatus for presenting images from a remote location
US6977676B1 (en) Camera control system
US7218342B2 (en) Pan/tilt/zoom surveillance system and method for dynamically adjusting a user defined image picture mask
EP2437496A2 (en) Intelligent monitoring camera apparatus and image monitoring system implementing same
JP2006352851A (ja) 複合カメラによりシーンの画像を取得する方法及び装置
US10397474B2 (en) System and method for remote monitoring at least one observation area
KR20130071510A (ko) 감시용 카메라 장치, 광역 감시 시스템 및 이에 있어서의 연계 감시 방법
KR100585822B1 (ko) 실시간 파노라마 비디오 영상을 이용한 감시 시스템 및 그시스템의 제어방법
KR20110136907A (ko) 광역 감시 시스템 및 이에 있어서의 감시 데이터 처리 방법
JP2000341574A (ja) カメラ装置及びカメラ制御システム
JP2002101408A (ja) 監視カメラシステム
JP2000358240A (ja) 監視カメラ制御装置
US6744930B1 (en) Video scene grabber
CN116801070A (zh) 一种可实现多摄像头智能化图像关联的摄像机
JPH1127572A (ja) 遠隔操作撮像装置および撮影方向の決定方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051122

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20060222

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20060424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070320

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070412

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110511

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110511

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120511

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120511

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130511

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140511

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term