JP3951191B2 - 移動部品を用いないカメラを用いた画像形成および処理装置と方法 - Google Patents
移動部品を用いないカメラを用いた画像形成および処理装置と方法 Download PDFInfo
- Publication number
- JP3951191B2 JP3951191B2 JP50779397A JP50779397A JP3951191B2 JP 3951191 B2 JP3951191 B2 JP 3951191B2 JP 50779397 A JP50779397 A JP 50779397A JP 50779397 A JP50779397 A JP 50779397A JP 3951191 B2 JP3951191 B2 JP 3951191B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- fisheye
- coordinates
- lens
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000000034 method Methods 0.000 title claims description 18
- 238000012545 processing Methods 0.000 title description 3
- 238000012544 monitoring process Methods 0.000 claims description 13
- 238000013507 mapping Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 claims 1
- 239000013307 optical fiber Substances 0.000 description 12
- 238000012937 correction Methods 0.000 description 11
- 238000004091 panning Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000001444 catalytic combustion detection Methods 0.000 description 1
- 230000001427 coherent effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 239000013256 coordination polymer Substances 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
- G08B13/19619—Details of casing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19617—Surveillance camera constructional details
- G08B13/19626—Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses
- G08B13/19628—Surveillance camera constructional details optical details, e.g. lenses, mirrors or multiple lenses of wide angled cameras and camera groups, e.g. omni-directional cameras, fish eye, single units having multiple cameras achieving a wide angle view
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/58—Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Vehicle Body Suspensions (AREA)
- General Factory Administration (AREA)
Description
発明の分野
本発明は一般にビデオ監視装置、特に、ほぼ半球状の視野を持つ魚眼レンズを装着した画像形成および処理装置に関する。本発明により、オペレータはあたかも普通のレンズのパン、チルト、ズームをシミュレートして普通のレンズにより形成されたように魚眼レンズで形成した選択画像部分を見ることができる。これにより、パン、チルト、ズーム操作を移動部品を用いないで実現することができる。
関連技術の説明
監視カメラは小売り店、工場、空港などの地域の監視に普通に用いられている。1台のカメラで広い領域を監視するには、パン、チルト、ズームができる機構を備えるカメラを用いるのが普通である。このような機構は複雑さとカメラの価格を増大させ、信頼性に悪影響を与えかねない。移動部品が存在するので、機械的なパン、チルト、ズーム装置が極度の温度、湿度、粉塵によって損傷を受け、性能の低下を引き起こす。さらに、このような機械的な装置は比較的大量の電力を消費する。そのため、移動部品を用いずにパン、チルト、ズームができる監視カメラは既存の監視カメラにはない優れた利点を備えている。
米国特許第5,185,667号でZimmermannは移動部品を持たないこのようなカメラを提案している。彼の特許に開示されている装置で、魚眼レンズは、カメラが電子画像を生成するようにビデオカメラに結合されている。魚眼レンズの特性により画像が歪曲する。画像の歪曲はあるアルゴリズムを用いて補正される。
Zimmermannが提案した装置の制限の1つが効果的なズームに対し充分な解像度を得られないことである。魚眼レンズは歪曲した全半球画像を生成するため、画像部分、とりわけ周辺部の歪曲度が大きい。画像はある限られた数のピクセルを有する電荷結合素子(CCD)上に形成される。画像を普通の画像(歪曲していない)として見るには、画像を電子的に変形することが必要である。CCDのピクセル数が限られているため、変形した画像の解像度が低下する。許容可能な解像度を得るには、ピクセル数が約156,000,000個のCCDが必要になろう。
入手可能なピクセル数が最も多いCCDは約16,000,000個のピクセル(4,000×4,000)があり、10MHz程度のクロック速度で動作する。しかし、1秒当たり30回のNTSCのサンプリング速度規格を満たすには、480MHzのクロック速度が必要である。従って、望みの大きさに拡大したNTSC画像に必要な解像度は従来の技術を用いて実現できない。
Neta他に付与された米国特許第5,200,818号には一般に半球表面に配置された複数のセンサアレイにより広角シーンを監視する装置が記載されている。各センサアレイは自分自身のレンズ系を備えている。これにより、移動部品を用いてパンやチルトを行なうことなく、広い領域を監視できる。装置の解像度は、複数のセンサを用いているため比較的高くなる。しかし、Neta他の装置は、非常に多くの高品質の部品を必要とするため実現するのに非常に多くの費用がかかる。
本発明の目的の一つは、ほぼ半球状の視野を持ち、移動部品を用いずにパン、ズーム、チルト操作を行なえ、しかも十分な解像度で望みの大きさに拡大できる監視カメラ装置を提供することである。
本発明の別の目的は、オペレータが従来のレンズを装着し、パン、チルト、ズームが可能なカメラで撮影したかのような視野部分が得られる監視カメラ装置を提供することである。
上記と他の利点は以下の発明の説明から明らかになる。
発明の要約
本発明は以下のステップを含むビデオ監視方法である。ビデオカメラは画像面(像面の意、以下本明細書において同じ)と魚眼レンズを備えている。魚眼レンズには、魚眼レンズにより生じた歪曲度を示すレンズ定数、一次軸、ほぼ半球状の視野がある。カメラは一次軸が通る中心点を持つ画像面を有する。カメラは魚眼レンズの一次軸が監視面に対しほぼ垂直になるように監視面の垂直上方の取り付け位置に取り付けられる。ビデオカメラは魚眼レンズにより歪曲される魚眼画像を生成する。魚眼画像は複数のピクセルから成り、各ピクセルは一意の魚眼座標を有する。
視野中の副領域の補正画像は、仮想軸を有する仮想カメラをシミュレートすることにより、視野の物体の正規座標を設定して生成される。仮想軸は、中心点と特定パン、チルト角の視野中の物体を通る。オペレータは魚眼画像領域を選択する。この領域は魚眼画像のピクセルのサブセットを含む。サブセットの各ピクセルは角度「a」だけ特定のパン角度から変位している。
ピクセルのサブセットの各ピクセルの魚眼座標は、レンズ定数、特定のチルト角、角度「a」から成る式により求められる。副領域の補正画像は、ピクセルのサブセットを正規座標にマッピングして生成される。
【図面の簡単な説明】
図1は、本発明を実施する装置のブロック図である。
図2Aは、歪曲した魚眼画像を生成する魚眼レンズの画像面の平面図である。
図2Bは、本発明を用いて補正した魚眼画像の選択した部分の図である。
図3は、本発明の画像スプリッタの斜視図である。
図4は、画像スプリッタの光ファイバ束の斜視図である。
図5は、本発明の魚眼歪曲補正装置のブロック図である。
図6は、魚眼補正の結果として画像面のY軸のチルト角bの点Cの射影を示す図である。
図7は、画像面への点Cの射影を示すX−Y画像面の図である。
図8は、魚眼レンズの一次軸、点Cでパン、チルトした仮想カメラの一次軸を示す3次元図である。
詳細な説明
以下は本発明の好適な実施例の説明である。以下の説明は本発明を説明することを意図しており制限するためではない。本発明の全範囲は添付したクレームとそれと均等の範囲により制限される。
本発明のブロック図を図1に示す。本発明は倉庫、店舗、バス停留所や駅などの場所の監視に用いられるのが普通である。このため、装置10には、例えば、魚眼レンズなどのほぼ半球状の視野を持つレンズ20が装着されている。レンズ180°の方位視野、90°の天頂視野、無限遠の被写体深度を持つことが望ましい。これにより、ほぼ半球状の領域が生成される。レンズは焦点距離が1.9mm、f絞りが1.8の市販の同等の魚眼レンズが好ましい。レンズ20は一次軸Zを有し、画像面13上に円形画像14を生成する。
レンズ20の特性により画像14は歪曲する。特に、画像14の物体の向きは、実際の向きに対して変更される。例えば、レンズ20の視野中の物体11は(図8参照)は、図2に示すように画像14の周辺部に歪曲して現れる。
画像14はスプリッタ30により4つの部分に分割するのが好ましい。画像14は要求される解像度と利用できる技術に応じて任意の数の部分に分割できる。画像14を4つの部分に分割すると、各部分はそれぞれ円形画像の1つの象限から構成される画像15,16,17,または18をそれぞれ含む(図2参照)。スプリッタ30は4つの光通路25,26,27,28から構成される。光通路25,26,27,28はそれぞれコヒーレント光ファイバ束35,36,37,38から成る(図4参照)。そのため、画像15,16,17,18は、光ファイバ束35,36,37,38により通路25,26,27,28をそれぞれ伝送される。
図3と4にスプリッタ30を詳しく示す。スプリッタ30は通路25,26,27,28が設けられたハウジング32から成る。光ファイバ束35,36,37,38はそれぞれ通路25,26,27,28の中に収容され、主要な光ファイバ束から分岐し磨かれた面の画像面13で終っている。図4を参照すると、光ファイバ束35,36,37,38はそれぞれ複数の光ファイバから構成されている。各光ファイバは魚眼レンズ20で生成される画像サンプル14を伝送し、直径が約10μmである。
画像15,16,17,18は各通路25,26,27,28に沿ってそれぞれ伝送され、センサ45,46,47,48に入射する。センサ45,46,47,48は、ピクセル数が768×480個のCCDであり、CCDを光ファイバに直接結合できる光ファイバフェースプレートから形成される光ファイバ窓を備えている。適切な光ファイバフェースプレートとしては、マサチューセッツ州スターブリッジのGalileo Electro-optics社から「CP series」の名称で販売されている光ファイバフェースプレートが入手可能である。画像15,16,17,18は、センサにより代表的な電気信号55,56,57,58にそれぞれ変換される。
信号55,56,57,58は、ただちに入手可能な4つの同じビデオカメラセンサ画像コントローラ65,66,67,68から成るCCD制御プロセッサに供給され、各信号はそれぞれ55,56,57,58の1つに対応する。各制御プロセッサは、CCDへのクロック供給回路72、映像処理回路74、色空間変換回路76とを内蔵している。色空間変換回路76は、各信号55,56,57,58のクロミナンス信号Cr,Cbと輝度信号Yを生成する。
制御プロセッサ65,66,67,68はエンコーダ100が圧縮するのに適した輝度成分とクロミナンス成分でビデオ出力85,86,87,88をそれぞれ生成する。ビデオ信号85,86,87,88を圧縮することにより、非常に多くの画像サンプルを帯域幅が制限されたチャネルを通して送信できる。それゆえ、ビデオ出力はレンズが補正回路140から離れた位置にあれば圧縮される。エンコーダ100は、例えば、MPEGあるいはH.261圧縮方式によりビデオ信号85,86,87,88を圧縮する。代わりに、副帯域符号化方式も使用できる。エンコーダ100は、ビデオ信号をシリアルデータストリームにパケット化して、同軸ケーブルや光ファイバケーブルのような高速ネットワーク110を経由して送信する。圧縮したビデオ信号はデコーダ120に入り、ここでエンコーダ100で実行した変換の逆変換に当る圧縮したビデオ信号の解凍を行なう。
デコーダ120は、補正回路140に供給されるデコードしたビデオ信号130を生成する。補正回路140の目的は、魚眼レンズ20で生じた歪曲を補正することである。補正は後述するアルゴリズムにより行われる。補正回路140はディスプレイ160に表示される補正信号150を発生する。
以下は画像14の魚眼レンズにより生じた歪曲を補正する装置の説明である。説明を簡単にするため、全魚眼画像14は単一のCCD180面上に形成され、スプリッタ30を用いないとする。CCD180はX軸とY軸とを有する。レンズ20は監視面19の垂直上方の装着点17に、できれば主軸Zが監視面19に垂直になるように配置するのが好ましい。監視面19は部屋15の床である。装着点17は部屋15の天井である。軸X,Y,ZはCCD面180の中心点Iで交差する。CCD面180は監視面19に平行な画像面13を形成する。
監視領域(壁ではなく天井)の上にカメラと魚眼レンズを装着することはいくつかの利点がある。まず、カメラを天井に取り付けると、視野は360°全部をカバーする。これにより、壁によりパン範囲が制限されることなく、360°の範囲にわたりパンのシミュレーションができる。天井にレンズを装着した場合、仮想(シミュレーションした)パン軸は、魚眼レンズの一次軸Zであり、壁に装着した場合の一次軸に垂直な軸ではない。一次軸Zの周りの角度は物体から画像の間で保持される。こうして、パン軸がすでに放射状になっており変換の必要がないため、光線座標の計算が容易になる。
任意の物体をモニタ上240で見ると、画像の垂直中心線は画像面の中心点Iと交差している。レンズの一次軸Zはこの中心点を通る。それゆえ、画像を回転させて正しい方向で見る必要がない。米国特許第5,185,667号に記載された補正アルゴリズムは、画像の回転を別々に計算している。このような別々の計算は本発明では必要ない。
レンズを壁に装着すると、当該物体と最も離れた物体は魚眼画像の中心にきやすい。これらの物体の細部を見るのに最大の解像度が必要である。魚眼レンズが監視面の垂直上方に配置されると、中心の物体は通常レンズに最も近い。その物体を見るには高い解像度を必要とせず、これらの物体の歪曲は最も小さい。レンズから最も離れた物体は魚眼レンズの周辺部に現れる。しかし、魚眼レンズで形成された画像は非常につまっており、そのため、CCD画像の解像度は周辺部より中心で低くなる。半径「R」の魚眼画像の一部を考えてみよう。画像が形成されるCCDのピクセル密度は均一である。CCDの中心を通るラインに沿って画像が2Rピクセルにわたり形成される。画像の周辺部では、画像の中心に現れる物体より多くのピクセルがπR(円周の半分)−π/2にわたり形成される。このため、レンズを監視面の垂直上方に配置すれば、レンズが監視面に対し直角方向に配置される場合よりも遠方の物体の解像度がはるかに向上する。
以下の説明は図5に関するものである。魚眼レンズ20は領域「A」をカバーする180°の視野を持っている。部屋15の天井にレンズ20を装着すると、領域Aには部屋の床と壁が含まれる。魚眼レンズ20は画像面13に領域Aの魚眼画像Adを形成する。一意の座標(X;Y)で表される領域Aの任意の点は、魚眼レンズ20の特性に応じて魚眼画像Adの点(Xd;Yd)に移動される。画像面13(CCD180の面)は複数のピクセル182から成るマトリックスから構成されている。各ピクセルは一意の魚眼座標を有する。従って、CCDは領域Aの電気的表現を生成する。この表現がCCD制御プロセッサ250(制御プロセッサ60と同じ)に供給され、CCD180の各ピクセルのクロミナンス値と輝度値を生成する。これらのクロミナンス値と輝度値はデュアルポート画像メモリ(DPIM)200に格納される。本発明により、パン、チルト、ズーム操作を実現するため、ユーザが魚眼画像を電気的に処理できるようにする。こうして、領域Adの副領域αdを歪曲した魚眼画像から正常な画像に変換することにより、領域Aの副領域αを詳細に調べることができる。
装置に電源が供給されると、デフォルトの補正副領域αcがモニタ240上に現れる。ユーザは領域選択装置210、すなわちキーボードとポインティング装置を装備する制御ステーションにより副領域αを選択する。これはポインティング装置214を用いて、仮想の従来のカメラのパン、チルトをシミュレートして行なうことによりできる。モニタ240上の画像は従来のカメラで形成されたように見える。実際、画像は魚眼画像14の一部を補正して形成される。副領域αを選択すると、副領域αの中心の物体の正規(魚眼でない)座標が得られる。この操作により物体での仮想の従来のカメラの一次軸(図8のIC)の指示をシミュレートする.仮想カメラは、その一次軸が中心点Iと副領域αの中心を通る取り付け位置17に取り付けられる。モニタ240上に副領域が現れるように、この仮想カメラを入力装置214で指示すると、領域選択装置210が仮想のパン、チルト角で配置された仮想カメラに関連するパン、チルト角を生成して、副領域αの物体の位置を指示する。
ユーザが副領域αを選択すると、装置はαd(領域αの歪曲した魚眼画像)を補正画像αcに自動的に変換する。これにより、ユーザはあたかも副領域αを示すようにパン、チルトされた仮想(魚眼でない)カメラにより形成されたかのようにモニタ240の副領域αを見ることができる。
魚眼画像Adの各ピクセルは、DPIM200の一意のアドレスに制御プロセッサ250を介してCCD180が生成した輝度と色データを格納する。従って、DPIM200は、領域Aの歪曲した魚眼画像Adのデジタル電子表現を含む。領域Aの任意の副領域αの場合、DPIM200は対応する歪曲副領域αdの電子表現を含む。
画像面13は、図6,7,8に示すようにXとY軸で形成される面である。レンズ20の一次軸ZはXとY軸に垂直である。ユーザが仮想魚眼レンズでないレンズを装着したカメラで点C(図2Bに示す副領域αの画像)の周囲に中心があるシーンを詳しく見たいと望むのであれば、ユーザはカメラに指示して一次軸Zに対し角度bでカメラをチルトさせるだろう。そのようにするには、仮想の一次軸(中心線IC)が画像面13の中心点Iと点Cを通るように、仮想カメラを配置しなければならない。
仮想の従来のカメラで捕捉されていれば、領域αは、ライン320に中心が位置し、ピクセル310のかなりの数の水平ラインから成る画像300としてCCD180に現れるだろう(図2A参照)。特定の水平ライン上の各ピクセルは中心線320からある距離xだけずれている。この距離は中心線ICに対する角度「a」(図8参照)または一次軸Zの周りの角度a′に対応する。
画像14の各ピクセルは直角座標または極座標対を基準にして説明できる。従って、図7と8を参照すると、中心線ICの点Cのピクセルは極座標を基準にしてチルト角b(図6参照)と角度a、すなわち中心からのピクセルの変位(CはX軸の上にあるので、aはゼロに等しくなる)で配置できる。同様に、CCD180の水平ラインに沿って移動(Y軸に平行に移動)すると、点Sのピクセルは一次軸Zに対するチルト角b′と中心線ICに対するパン角a′を基準にして記述できる。対応する直角座標はXdとYdである。
再び図2Aに戻ると、魚眼レンズの性質により魚眼画像が歪曲するのを見ることができる。魚眼レンズ20の主軸の近くに配置された物体はCCD180にほぼ正常に現れる(領域182参照)が、主軸から離れた物体は次第にさらに歪曲する(領域184参照)。魚眼画像でない点(X;Y)のピクセルにより運ばれる情報は魚眼画像では(Xd;Yd)に位置する。ここで、(Xd;Yd)は魚眼レンズ20の特性に応じた(X;Y)からの変位量である。
一次軸に対し回転角b′で配置される点の画像が、以下の式により画像面に一次軸からの半径rで射影されるのは魚眼レンズの基本的な特性である。
r=f・b′
ここで、rは中心点Iからの距離、fは魚眼レンズで生じた歪曲度をmm/radで示すレンズ定数、b′は物体から一次軸(ラジアン)への入射光角度である。
視野中の点から画像面の射影までの角度が保持されるのも魚眼レンズの基本的な特性である。
これらの2つの特性は、視野の当該領域にパン、チルト、またはズームした従来のカメラにより形成されたかのように、魚眼画像の選択した部分を見ることができる新しい式の導出に用いられる。この式は上述した仮想カメラのパン、チルト角度を補正画像の直角座標に関連させる。以下は、本発明の目的を達成するその式の導出と適用方法の説明である。
図6から、レンズの主軸に対するチルト角bで配置された点Cが中心点Iから半径r=rcで画像面IPに画像を形成することがわかる。上述したように、特定の魚眼レンズに対し、点Cで画像が形成されるチルト角bと半径の間の関係は以下の式から求められる。
r=f・b……(1)
図8で、点CはYとZ軸で形成される面上にあり、一次軸Zに対するチルト角bで形成される。画像面の中心Iから点Cまでの線ICは点Cで示される仮想カメラレンズの一次軸として見なされる。線CSは点Cから点Sまで延びている。CSはX軸に平行である。かくして、CSはCCD180のピクセルの水平ラインを示す。CCDの中心、I、からの特定の半径rにあり、仮想カメラレンズの一次軸の周りのパン角「a」で、魚眼レンズの一次軸に対するチルト角b′にある点Sのピクセルを考えてみよう。そのピクセルの直角座標は以下のようになる。
X=f・b′・cos(a′)……(2)
Y=f・b′・sin(a′)……(3)
式(2)と(3)は、CCD上に形成される魚眼画像の任意の特定ピクセルの極座標を直角座標に変換する。それゆえ、点Sのピクセルはチルト角b′(主軸Zを基準に測定した角度)とパン角a′(主軸の周りの回転角)を基準にして配置できる。
装置の電源をオンにすると、仮想カメラが撮影している最初の領域に対応するデフォルト領域が表示される。便宣のため、この領域は一次軸Zに沿っているとする(そのためチルト角bはゼロになる)。パン角もゼロである(線ICはX軸に沿っている)。仮想カメラ(線ICの上にあるレンズの一次軸を有する)は、魚眼レンズの一次軸Zに対し角度「b」だけ傾斜しているので、カメラは点Cに中心がある物体の方向を向いている。ユーザがわかりやすい補正装置の操作を行なうため、仮想カメラのパンとチルトは、仮想カメラの最初の位置に対し測定される。このため、点Sを表すピクセルの位置は、チルト角「b」と中心線ICからの点Sの角度、すなわち中心線ICから点Sまでのパン量を示す角度aで表される。
以下は魚眼画像の点Sを表すピクセルの位置が角度a(中心線ICからの変位)と角度b(仮想カメラが主軸が点Cと一列になるようにパン、チルトしたチルト角)を基準にして記述する方法を示す。
図8を参照すると以下の式が得られることがわかる。
tan(a′)=SC/PC
SC=IS・sin(a)
PC=IC・sin(b)
IC=IS・cos(a)
それゆえ、
tan(a′)=IS・sin(a)/IS・cos(a)・sin(b)
=tan(a)/sin(b)
a′=tan-1(tan(a)/sin(b))……(4)
cos(b′)=IP/IS
IP=IC・cos(b)
IC=IS・cos(a)
それゆえ、
cos(b′)=IS・cos(a)・cos(b)/IS
=cos(a)・cos(b)
b′=cos-1(cos(a)・cos(b))……(5)
式(2)と(3)から、任意の魚眼レンズにおいて、Xd=fb′cos(a′)およびYd=fb′sin(a′)になる。式(4)と(5)のa′とb′の値を式(2)と(3)に代入すると、
Xd=f・cos-1(cos(a)・cos(b))・cos(tan-1
(tan(a)/sin(b)))……(6)
Yd=f・cos-1(cos(a)・cos(b))・sin(tan-1
(tan(a)/sin(b)))……(7)
となる。
これらの式により、中心線ICの周りに中心があるピクセルの座標を仮想カメラのチルト角「b」の極座標(魚眼画像の中心からの点の距離を測定)と中心線ICに対するピクセルの角度「a」の知識から単純に計算によって求めることができる。この式は魚眼画像のパン、チルト、ズームを行なう非常に簡単な手段を提供する。
仮想カメラのパンを行なうには、パン角度Pを角度a′に加えて新しい角度a″を得る。すなわち、a″=P+a′になる。
これを式(4)に代入すると以下の式が得られる。
a″=P+tan-1(tan(a)/sin(b))……(8)
式(a)を式(6)と(7)に代入すると以下の式が得られる。
Xd=f・cos-1(cos(a)・cos(b))・cos(P+tan-1
(tan(a)/sin(b))……(9)
Yd=f・cos-1(cos(a)・cos(b))・sin(P+tan-1
(tan(a)/sin(b))……(10)
仮想カメラのパンおよび/またはチルトをシミュレートするためポインティング装置214を移動させると、副領域αのピクセルの各ラインの各ピクセルの直角座標(X;Y)が領域選択装置210で生成され、ルックアップテーブル(LUT)222に格納される。装置は魚眼画像の座標(Xd;Yd)を式(9)と(10)を用いて自動的に計算する。副領域αの各正規座標(X;Y)対に対し、計算した座標(Xd;YdがDPIM200のアドレスとしてLUT222に格納される。
魚眼画像のすべての座標を前もって計算するか、または領域として計算する必要がある特定領域の座標だけを選択することができる。いずれの場合においても、座標はLUT222に格納され、対応するピクセルがDPIM200に格納される。これにより、これらの計算された座標に対応するピクセルをCCD180から取得することができる。そして、取得されたピクセルは、あたかも普通のカメラを座標(X;Y)にパン、チルトして形成された画像のように、その位置(X;Y)がモニタ240上に表示される。
LUTの内容を計算するとき、ピクセル間で増加する角度aと列間で増加する量bを変化させて、ズーム比率を調整できる。例えば、水平表示ラインのピクセルが400個あれば、aをディスプレイの左端の−20°から0.1°ずつ増大させると40°の水平視野が得られる。同じように、標準ディスプレイの4:3のアスペクト比を正確に保持する30°の垂直視野を表示するには、各水平表示ライン間で0.062°ずつbを増大させて484本の表示ラインを得る。
LUT222とDPIM200の内容を以下の表に示す。
複数画像をDPIM200に保持することにより、所定の時間にわたる画像の履歴ログも格納できる。入力情報がメモリ容量を超過すると、古い画像に現在の画像が連続的に上書きされる。こうして、所定の時間にわたり生成した画像の循環ログを保持する。従って、魚眼アドレスジェネレータでDPIM200のアドレスを適切に選択して、アラームイベントが発生すると、前の所定の時間間隔で捕捉した画像を表示できる(例えば、侵入者が監視中の建物へ侵入しようとしてセンサに検出された場合)。
この装置は、360°の画像を用いて、いかなる移動部品も用いないでパン、チルト操作を実現する。その結果、カメラの信頼性が向上しカメラを購入、保持するコストを制限する。従って、本発明は広い視野をカバーする1台のカメラを用いて広い領域を監視できる。
Claims (11)
- 像面と魚眼レンズを備えるビデオカメラであって、前記魚眼レンズは該魚眼レンズに生じる歪曲を示すレンズ定数と、一次軸と、ほぼ半球の視野とを有し、前記像面は前記一次軸が通る中心点を持つビデオカメラを提供し、
前記魚眼レンズの前記一次軸が監視面に対しほぼ垂直になるように前記ビデオカメラを前記監視面の上方の取付点に取り付け、
前記魚眼レンズによって歪曲された魚眼像であって、各ピクセルが一意の魚眼座標を有する複数のピクセルを含む魚眼像を前記ビデオカメラに形成させ、
(1)仮想軸を有する仮想カメラをシミュレートし、かつ、前記仮想軸が前記中心点と、特定のパン及びチルト角における前記視野内の物体を通るようにシミュレートすることにより前記視野内の前記物体の角座標を与える行程と、
(2)前記魚眼像の領域であって、それぞれのピクセルが前記特定のパン角度から角度aだけ変位した複数のピクセルのサブセットを含む領域を選択する行程と、
(3)前記複数のピクセルの前記サブセットの各ピクセルの一意の魚眼座標を前記レンズ定数、前記特定のチルト角b及び前記角aを含む次式により決定する行程と、
Xd=f・cos-1(cos(a)・cos(b))・cos(tan-1(tan(a)/sin(b)))
Yd=f・cos-1(cos(a)・cos(b))・sin(tan-1(tan(a)/sin(b)))
ここでfはレンズ定数、XdとYdは一意の魚眼座標
(4)前記複数のピクセルの前記サブセットの前記ピクセルを正規座標にマッピングして前記視野内の副領域の補正像を生成する行程と、
により前記視野内の前記副領域の前記補正像を生成することと、
を含むビデオ監視方法。 - 前記特定のチルト角は前記魚眼レンズの前記一次軸に対して設定される請求項1の方法。
- 前記特定のパン角は前記魚眼レンズの前記一次軸に関する前記パン角に対して設定される請求項1の方法。
- 前記サブセットの前記ピクセルを正規座標にマッピングする行程は、
前記複数のピクセルの前記サブセットの各ピクセルに対し対応する角座標セットが存在するように、かつ、前記角座標セットに対し予め計算されたピクセル座標セットが存在するように、前記式により求めた予め計算された座標セットを含むルックアップテーブルを与えることと、
前記ルックアップテーブルに前記角座標を与え、これに応答して、前記予め計算されたピクセル座標を前記ルックアップテーブルから取り出すこととを、
含む請求項1の方法。 - 前記複数のピクセルを前記予め計算された座標に対応するアドレスにて画像メモリに格納し、前記画像メモリに前記予め計算された座標を与え、前記画像メモリから前記複数のピクセルの前記サブセットの前記ピクセルを出力として受け取ることをさらに含む請求項4の方法。
- 前記物体の角座標を与える行程は、ユーザ入力を介して前記特定のパン及びチルト角を受けることを含む請求項1の方法。
- 前記角座標は極座標であり、該角座標を前記特定のパン及びチルト角に変換することをさらに含む請求項1の方法。
- 前記物体の角座標を与える行程は、ビデオ表示上の領域を選択し前記副領域のデカルト座標に基づいて前記物体の前記特定のパン及びチルト角を計算することを含む請求項1の方法。
- 前記副領域の前記補正された像を表示することをさらに含む請求項1の方法。
- 前記補正された像をズームすることをさらに含む請求項1の方法。
- 前記ズームすることは前記角度aを増大することを含む請求項11の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US08/508,115 | 1995-07-27 | ||
US08/508,115 US5691765A (en) | 1995-07-27 | 1995-07-27 | Image forming and processing device and method for use with no moving parts camera |
PCT/US1996/012332 WO1997005741A1 (en) | 1995-07-27 | 1996-07-26 | Image forming and processing device and method for use with no moving parts camera |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11510341A JPH11510341A (ja) | 1999-09-07 |
JP3951191B2 true JP3951191B2 (ja) | 2007-08-01 |
Family
ID=24021448
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP50779397A Expired - Lifetime JP3951191B2 (ja) | 1995-07-27 | 1996-07-26 | 移動部品を用いないカメラを用いた画像形成および処理装置と方法 |
Country Status (9)
Country | Link |
---|---|
US (1) | US5691765A (ja) |
EP (1) | EP0842580A4 (ja) |
JP (1) | JP3951191B2 (ja) |
CN (1) | CN1192312A (ja) |
AR (1) | AR003044A1 (ja) |
AU (1) | AU706467B2 (ja) |
BR (1) | BR9609894A (ja) |
CA (1) | CA2220960A1 (ja) |
WO (1) | WO1997005741A1 (ja) |
Families Citing this family (54)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5856844A (en) * | 1995-09-21 | 1999-01-05 | Omniplanar, Inc. | Method and apparatus for determining position and orientation |
US5832139A (en) * | 1996-07-31 | 1998-11-03 | Omniplanar, Inc. | Method and apparatus for determining degrees of freedom of a camera |
DE19758371A1 (de) * | 1997-12-29 | 1999-07-08 | Francois Sanvi D Dipl In Sodji | Vorrichtung zur Überwachung eines Gebäudes und/oder Raumes |
EP0933666A1 (en) * | 1998-01-30 | 1999-08-04 | SONY DEUTSCHLAND GmbH | Image detecting apparatus controlled by detecting the viewing direction |
SG77639A1 (en) * | 1998-06-11 | 2001-01-16 | Surreal Online Pte Ltd | A method and system for providing a seamless perspective corrected image from fisheye images |
US20010015751A1 (en) * | 1998-06-16 | 2001-08-23 | Genex Technologies, Inc. | Method and apparatus for omnidirectional imaging |
US6204852B1 (en) * | 1998-12-09 | 2001-03-20 | Lucent Technologies Inc. | Video hand image three-dimensional computer interface |
WO2000060853A1 (en) * | 1999-04-08 | 2000-10-12 | Internet Pictures Corporation | Method and apparatus for providing virtual processing effects for wide-angle video images |
US6778211B1 (en) * | 1999-04-08 | 2004-08-17 | Ipix Corp. | Method and apparatus for providing virtual processing effects for wide-angle video images |
US7015954B1 (en) | 1999-08-09 | 2006-03-21 | Fuji Xerox Co., Ltd. | Automatic video system using multiple cameras |
WO2001037028A1 (en) * | 1999-11-15 | 2001-05-25 | Equal Reverse Thoughts Limited | Method of improved image depth perception |
JP4750927B2 (ja) * | 2000-06-30 | 2011-08-17 | 日本ネットワークサービス株式会社 | 遠隔監視方法および監視制御サーバ |
GB2368221A (en) * | 2000-08-31 | 2002-04-24 | Lee Scott Friend | Camera apparatus having both omnidirectional and normal view imaging modes. |
US7200246B2 (en) * | 2000-11-17 | 2007-04-03 | Honeywell International Inc. | Object detection |
US6711279B1 (en) * | 2000-11-17 | 2004-03-23 | Honeywell International Inc. | Object detection |
US7176440B2 (en) * | 2001-01-19 | 2007-02-13 | Honeywell International Inc. | Method and apparatus for detecting objects using structured light patterns |
US6841780B2 (en) * | 2001-01-19 | 2005-01-11 | Honeywell International Inc. | Method and apparatus for detecting objects |
DE50107083D1 (de) * | 2001-03-05 | 2005-09-15 | Siemens Ag | Verfahren und vorrichtung zum entzerren eines bildes, insbesondere für insassenschutzsysteme |
US7450165B2 (en) * | 2003-05-02 | 2008-11-11 | Grandeye, Ltd. | Multiple-view processing in wide-angle video camera |
JP2005339313A (ja) | 2004-05-28 | 2005-12-08 | Toshiba Corp | 画像提示方法及び装置 |
US8130827B2 (en) * | 2004-08-13 | 2012-03-06 | Samsung Electronics Co., Ltd. | Method and apparatus for interpolating a reference pixel in an annular image and encoding/decoding an annular image |
US7564019B2 (en) | 2005-08-25 | 2009-07-21 | Richard Ian Olsen | Large dynamic range cameras |
US8124929B2 (en) * | 2004-08-25 | 2012-02-28 | Protarius Filo Ag, L.L.C. | Imager module optical focus and assembly method |
US7795577B2 (en) * | 2004-08-25 | 2010-09-14 | Richard Ian Olsen | Lens frame and optical focus assembly for imager module |
US7916180B2 (en) * | 2004-08-25 | 2011-03-29 | Protarius Filo Ag, L.L.C. | Simultaneous multiple field of view digital cameras |
US20060054782A1 (en) * | 2004-08-25 | 2006-03-16 | Olsen Richard I | Apparatus for multiple camera devices and method of operating same |
US20070102622A1 (en) * | 2005-07-01 | 2007-05-10 | Olsen Richard I | Apparatus for multiple camera devices and method of operating same |
US7964835B2 (en) * | 2005-08-25 | 2011-06-21 | Protarius Filo Ag, L.L.C. | Digital cameras with direct luminance and chrominance detection |
US20070258006A1 (en) * | 2005-08-25 | 2007-11-08 | Olsen Richard I | Solid state camera optics frame and assembly |
TWI291592B (en) * | 2005-09-27 | 2007-12-21 | Primax Electronics Ltd | Adjusting method for focus of optical image |
CN100465783C (zh) * | 2005-10-09 | 2009-03-04 | 致伸科技股份有限公司 | 光学镜头模块的聚焦调整方法 |
US7613360B2 (en) * | 2006-02-01 | 2009-11-03 | Honeywell International Inc | Multi-spectral fusion for video surveillance |
JP2007318596A (ja) * | 2006-05-29 | 2007-12-06 | Opt Kk | 広角レンズによる撮像データの圧縮方法、伸長表示方法、圧縮装置、広角カメラ装置およびモニタシステム |
JP2007318597A (ja) * | 2006-05-29 | 2007-12-06 | Opt Kk | 広角レンズによる撮像データの圧縮方法、圧縮装置、広角カメラ装置およびモニタシステム |
JP4977419B2 (ja) | 2006-08-10 | 2012-07-18 | 三洋電機株式会社 | 監視カメラ |
CN101188741B (zh) * | 2006-11-16 | 2010-08-18 | 中兴通讯股份有限公司 | 一种监控控制系统 |
DE602007012335D1 (de) | 2007-02-19 | 2011-03-17 | Axis Ab | Verfahren zur Korrektur von Hardware-Fehlausrichtungen bei einer Kamera |
WO2009013845A1 (ja) * | 2007-07-20 | 2009-01-29 | Techwell Japan K.K. | 画像処理装置及びカメラシステム |
KR101014572B1 (ko) * | 2007-08-27 | 2011-02-16 | 주식회사 코아로직 | 영상 왜곡 보정 방법 및 그 보정 방법을 채용한 영상처리장치 |
JP4582205B2 (ja) * | 2008-06-12 | 2010-11-17 | トヨタ自動車株式会社 | 電動車両 |
DE102008062997A1 (de) * | 2008-12-23 | 2010-07-22 | Mobotix Ag | Buskamera |
US8988492B2 (en) * | 2009-01-30 | 2015-03-24 | Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America | Method and apparatus for correction of an image from a fisheye lens in a camera |
JP5499802B2 (ja) * | 2010-03-18 | 2014-05-21 | 株式会社デンソーウェーブ | 視覚検査システム |
US9794518B2 (en) * | 2010-10-21 | 2017-10-17 | Sensormatic Electronics, LLC | Method and system for converting privacy zone planar images to their corresponding pan/tilt coordinates |
US9036001B2 (en) | 2010-12-16 | 2015-05-19 | Massachusetts Institute Of Technology | Imaging system for immersive surveillance |
US10178314B2 (en) | 2011-03-08 | 2019-01-08 | Mitsubishi Electric Corporation | Moving object periphery image correction apparatus |
TWI476730B (zh) * | 2012-10-31 | 2015-03-11 | Vivotek Inc | 數位影像的反扭曲處理方法 |
KR101465607B1 (ko) * | 2012-12-05 | 2014-11-27 | 광운대학교 산학협력단 | 어안 렌즈용 왜곡 영상 처리 방법 |
ES2545542B1 (es) * | 2014-03-11 | 2016-06-21 | Alberto ADARVE LOZANO | Sistema de visión panorámica con corrección de imagen en operaciones de repostaje y similares |
EP3051495B1 (en) * | 2015-01-29 | 2018-09-19 | Wipro Limited | Systems and methods for mapping object coordinates from a video frame view to real world coordinates |
US9792664B2 (en) | 2015-01-29 | 2017-10-17 | Wipro Limited | System and method for mapping object coordinates from a video to real world coordinates using perspective transformation |
US11032481B2 (en) | 2018-07-06 | 2021-06-08 | Medos International Sarl | Camera scope electronic variable prism |
US11202014B2 (en) | 2018-07-06 | 2021-12-14 | Medos International Sari | Camera scope electronic variable angle of view |
CN112150554B (zh) * | 2019-06-28 | 2023-08-04 | 杭州海康威视数字技术股份有限公司 | 画面显示方法、装置、终端和存储介质 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS59184973A (ja) * | 1983-04-04 | 1984-10-20 | Fujitsu Ltd | ロボツトの環境理解システム |
JPS60205381A (ja) * | 1984-03-30 | 1985-10-16 | Fuji Electric Corp Res & Dev Ltd | 全方位位置検出装置 |
US4984089A (en) * | 1990-01-08 | 1991-01-08 | Sensormatic Electronics Corporation | Outdoor surveillance dome with enhanced environmental aptitude and control system therefor |
US5200818A (en) * | 1991-03-22 | 1993-04-06 | Inbal Neta | Video imaging system with interactive windowing capability |
US5319744A (en) * | 1991-04-03 | 1994-06-07 | General Electric Company | Polygon fragmentation method of distortion correction in computer image generating systems |
US5185667A (en) * | 1991-05-13 | 1993-02-09 | Telerobotics International, Inc. | Omniview motionless camera orientation system |
US5384588A (en) * | 1991-05-13 | 1995-01-24 | Telerobotics International, Inc. | System for omindirectional image viewing at a remote location without the transmission of control signals to select viewing parameters |
US5359363A (en) * | 1991-05-13 | 1994-10-25 | Telerobotics International, Inc. | Omniview motionless camera surveillance system |
JPH0636020A (ja) * | 1992-07-17 | 1994-02-10 | Matsushita Electric Ind Co Ltd | 撮像監視装置 |
FR2714502A1 (fr) * | 1993-12-29 | 1995-06-30 | Philips Laboratoire Electroniq | Procédé et dispositif de traitement d'image pour construire à partir d'une image source une image cible avec changement de perspective. |
-
1995
- 1995-07-27 US US08/508,115 patent/US5691765A/en not_active Expired - Lifetime
-
1996
- 1996-07-26 CN CN96195844A patent/CN1192312A/zh active Pending
- 1996-07-26 BR BR9609894A patent/BR9609894A/pt not_active Application Discontinuation
- 1996-07-26 JP JP50779397A patent/JP3951191B2/ja not_active Expired - Lifetime
- 1996-07-26 EP EP96925535A patent/EP0842580A4/en not_active Withdrawn
- 1996-07-26 AR ARP960103756A patent/AR003044A1/es unknown
- 1996-07-26 AU AU66020/96A patent/AU706467B2/en not_active Ceased
- 1996-07-26 WO PCT/US1996/012332 patent/WO1997005741A1/en not_active Application Discontinuation
- 1996-07-26 CA CA002220960A patent/CA2220960A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
WO1997005741A1 (en) | 1997-02-13 |
US5691765A (en) | 1997-11-25 |
BR9609894A (pt) | 1999-05-25 |
EP0842580A4 (en) | 2000-08-02 |
AR003044A1 (es) | 1998-05-27 |
CN1192312A (zh) | 1998-09-02 |
EP0842580A1 (en) | 1998-05-20 |
AU706467B2 (en) | 1999-06-17 |
JPH11510341A (ja) | 1999-09-07 |
AU6602096A (en) | 1997-02-26 |
CA2220960A1 (en) | 1997-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3951191B2 (ja) | 移動部品を用いないカメラを用いた画像形成および処理装置と方法 | |
US5870135A (en) | Image splitting forming and processing device and method for use with no moving parts camera | |
US7274381B2 (en) | Panoramic imaging and display system with canonical magnifier | |
US6226035B1 (en) | Adjustable imaging system with wide angle capability | |
JP3290993B2 (ja) | 球形画像を作成する方法および装置 | |
US6583815B1 (en) | Method and apparatus for presenting images from a remote location | |
US6977676B1 (en) | Camera control system | |
US7218342B2 (en) | Pan/tilt/zoom surveillance system and method for dynamically adjusting a user defined image picture mask | |
EP2437496A2 (en) | Intelligent monitoring camera apparatus and image monitoring system implementing same | |
JP2006352851A (ja) | 複合カメラによりシーンの画像を取得する方法及び装置 | |
US10397474B2 (en) | System and method for remote monitoring at least one observation area | |
KR20130071510A (ko) | 감시용 카메라 장치, 광역 감시 시스템 및 이에 있어서의 연계 감시 방법 | |
KR100585822B1 (ko) | 실시간 파노라마 비디오 영상을 이용한 감시 시스템 및 그시스템의 제어방법 | |
KR20110136907A (ko) | 광역 감시 시스템 및 이에 있어서의 감시 데이터 처리 방법 | |
JP2000341574A (ja) | カメラ装置及びカメラ制御システム | |
JP2002101408A (ja) | 監視カメラシステム | |
JP2000358240A (ja) | 監視カメラ制御装置 | |
US6744930B1 (en) | Video scene grabber | |
CN116801070A (zh) | 一种可实现多摄像头智能化图像关联的摄像机 | |
JPH1127572A (ja) | 遠隔操作撮像装置および撮影方向の決定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051122 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20060222 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20060424 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060522 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070123 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070320 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070412 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110511 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110511 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120511 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120511 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130511 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140511 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |