JP3974038B2 - 監視・偵察システムにおける軌道分析を用いた侵入者検知 - Google Patents

監視・偵察システムにおける軌道分析を用いた侵入者検知 Download PDF

Info

Publication number
JP3974038B2
JP3974038B2 JP2002550616A JP2002550616A JP3974038B2 JP 3974038 B2 JP3974038 B2 JP 3974038B2 JP 2002550616 A JP2002550616 A JP 2002550616A JP 2002550616 A JP2002550616 A JP 2002550616A JP 3974038 B2 JP3974038 B2 JP 3974038B2
Authority
JP
Japan
Prior art keywords
trajectory
image
individual
monitoring system
security monitoring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002550616A
Other languages
English (en)
Other versions
JP2004516560A (ja
Inventor
ギュッタ,スリニヴァス
ブロドスキ,トマス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV, Koninklijke Philips Electronics NV filed Critical Koninklijke Philips NV
Publication of JP2004516560A publication Critical patent/JP2004516560A/ja
Application granted granted Critical
Publication of JP3974038B2 publication Critical patent/JP3974038B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19613Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19645Multiple cameras, each having view on one of a plurality of scenes, e.g. multiple cameras for multi-room surveillance or for tracking an object by view hand-over
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19639Details of the system layout
    • G08B13/19652Systems using zones in a single scene defined for different treatment, e.g. outer zone gives pre-alarm, inner zone gives alarm

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Alarm Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Burglar Alarm Systems (AREA)
  • Testing Electric Properties And Detecting Electric Faults (AREA)
  • Keying Circuit Devices (AREA)

Description

【0001】
(発明の背景)
(発明の属する技術分野)
本発明は、概して、セキュリティ監視システムに係り、特に、異常な行動を明らかにするのに軌道を用い、それに応じて適切なアラームをトリガするセキュリティ監視システムに係る。
【0002】
(従来技術)
従来のセキュリティ監視システム、特に住居用セキュリティ・システムは、ドア及び窓用の接触センサと、エリア監視用の1以上の赤外線センサとを監視するボックスを利用する。接触センサ又は赤外線センサがトリガされると、アラームが鳴り、電話線などのデータ・リンクを通じて中央監視サイトへ信号が送られる。中央監視サイトは、通常、その家の所有者、職場、及び/又は、指定された隣人へ複数の電話呼を発し、アラーム信号が、不法侵入者によるものか、或いは、親族又はその構造物の権限有る占有者によって偶然トリガされたものか、を判断する。
【0003】
アラーム信号を電話呼によって解決することができなかった場合、それは地域の警察へ転送される。警察へ転送された呼のうち95%は、不法侵入者によるものではないという意味で「誤ったアラーム」と判明する。
【0004】
(発明の開示)
よって、本発明の目的は、従来のセキュリティ監視システムに内在する誤ったアラームの数を減らすセキュリティ監視システムを提供することである。
【0005】
本発明の別の目的は、アラーム信号の妥当性を確実にするために中央監視サイトの依存を減らしつつ、上記目的を実現するセキュリティ監視システムを提供することである。
【0006】
こうして、セキュリティ監視システムが提供される。このセキュリティ監視システムは、構造物の内側及び/又は外側の個人の進路を監視する少なくとも1つのカメラと、上記個人の監視を記録するレコーダと、上記記録された監視から上記個人の進路の軌道を計算する軌道分析手段と、上記軌道を既知軌道と比較する比較手段と、上記比較に基づいてアラーム信号を送信するアラーム・システムと、を有する。上記少なくとも1つのカメラは、上記構造物の入口、出口、及び1以上の部屋のそれぞれ用のカメラを有することが好ましい。また、上記少なくとも1つのカメラはビデオ・カメラであり、上記レコーダは上記構造物の内側及び/又は外側の個人の進路のビデオ・セグメントを記録することが好ましい。上記アラーム・システムは、上記軌道が上記既知軌道のいずれとも一致しない場合に上記アラーム信号を送信し、上記軌道が上記既知軌道のいずれかと一致した場合に上記アラーム信号を送信しないことがより好ましい。
【0007】
本発明に係るセキュリティ監視システムの好ましい実施例において、本システムは、更に、上記構造物について権限ある各個人について画像データを記録するデータベースと、上記少なくとも1つのカメラからの上記個人の画像を上記データベースの記録画像データと比較し、該個人が権限ある人物の1人であるかを判断する認識システムと、を有する。上記データベースの記録画像データは顔画像であることが好ましく、その場合、上記認識システムは顔認識システムである。この好ましい実施例において、上記アラーム・システムは、上記軌道が上記既知軌道のいずれとも一致せず、且つ上記個人が権限ある人物のうちの1人でないと判断された場合に、上記アラーム信号を送信し、上記軌道が上記既知軌道のいずれかと一致するか、或いは上記個人が権限ある人物のうちの1人であると判断された場合に、上記アラーム信号を送信しない。
【0008】
構造物を監視する方法も提供される。この方法は、上記構造物の内側及び/又は外側の個人の進路を監視する工程と、上記個人の監視を記録する工程と、上記記録された監視から前記個人の進路の軌道を計算する工程と、上記軌道を既知軌道と比較する工程と、上記比較に基づいてアラーム信号を送信するか否かを判断する工程と、を有する。上記計算工程は、上記監視から求められた空間的情報及び/又はタイミング情報に基づいて、上記個人の軌道を計算することが好ましい。上記判断工程は、上記軌道が上記既知軌道のいずれとも一致しない場合に上記アラーム信号を送信し、上記軌道が上記既知軌道のいずれかと一致した場合に上記アラーム信号を送信しないことがより好ましい。
【0009】
本発明に係る方法の好ましい実施例において、この方法は、更に、上記構造物について権限ある各個人について画像データを記録する工程と、上記少なくとも1つのカメラからの上記個人の画像を上記データベースの記録画像データと比較し、該個人が権限ある人物の1人であるかを判断する工程と、を有する。この好ましい実施例において、上記判断工程は、上記軌道が上記既知軌道のいずれとも一致せず、且つ上記個人が権限ある人物のうちの1人でないと判断された場合に、上記アラーム信号を送信し、上記軌道が上記既知軌道のいずれかと一致するか、或いは上記個人が権限ある人物のうちの1人であると判断された場合に、上記アラーム信号を送信しない。
【0010】
本発明に係る方法の別のより好ましい実施例において、上記判断工程が、上記軌道が上記既知軌道のいずれとも一致しないが、上記個人が権限ある人物のうちの1人であると判断した場合、本方法は、上記軌道を上記既知軌道に加える工程を更に有する。
【0011】
(発明の詳細な説明)
本発明の装置及び方法の上記及び他の特徴、態様、及び利点は、以下の説明、付属の請求項、及び添付図面について、より明らかにされる。
【0012】
本発明は、様々な種類の数多くのセキュリティ監視システムに適用可能であるが、特に住居用セキュリティ監視システムの環境において便利であることがわかっている。よって、本発明の適用可能性を住居用セキュリティ監視システムに限定することなく、本発明は上記環境について説明される。
【0013】
本発明は、異常な行動を明らかにするのに軌道を用い、構造物の入口、出口、及び/又は他の部屋を監視し、キー・ビデオ・セグメントを記録し、該構造物での個々人をトラッキングして軌道を生成し、更に軌道分析を実行することによって適切なアラームをトリガする、セキュリティ監視システム及びその方法である。異常な軌道が見つかった場合、本システムは、アラーム信号をトリガすることもでき、或いは、アラーム信号をトリガする前にその人物がその構造物について権限を有するものであるかをチェックすることもできる。本発明において用いられる「軌道」は、構造物の1又は複数の部屋内の人物及び/又はことによると該構造物の外側にいる人物の進路を表す。これは、空間的情報(その人物が通ったところ)のみならず、タイミング情報(動きの速度、その人物がある点で止まったか、それはどのくらいの長さか、など)をも含み得る。本発明に係るシステムは、個々人は構造物内で活動するとき何らかの特性を示すという考えに基づいている。これは、特に居住世帯員について当てはまる。例えば、ある人物が家に入ったとき、彼又は彼女は、最初にメールをチェックするかもしれない。或いは、冷蔵庫を開けるかもしれない。或いは、テレビを付けるかもしれない。これらは、不法侵入者が実行する可能性が低い活動である。
【0014】
軌道が、その構造物について権限を有する各個人について許容し得る軌道のデータベースに含まれる既知軌道と一致しない場合に、「異常」であると言われる。このようなデータベースは、本システムの使用に先立って組み立てられているものとする。しかし、以下に述べるように、本発明に係るシステムは、顔認識などの認識システムと共に用いられるとき、既知軌道のデータベースを組み立てることもできる。
【0015】
ここで図1を参照する。図1は、本発明に係るセキュリティ監視システム100の好ましい実施形態を示す。このセキュリティ監視システム100は、構造物102の内側及び外側で個々人の進路を監視する少なくとも1つのカメラを有する。セキュリティ監視システム100は、出口カメラ104、入口カメラ106、及び部屋カメラ108を含む複数のカメラを有することが好ましい。図1は、単一の部屋カメラ108のみを示すが、これは本発明に係るシステム及び方法を概略的に描写するものとして示されている。部屋カメラ108は、複数の部屋のそれぞれに設けられることが好ましく、構造物102の各部屋に設けられるとより好ましい。出口カメラ、入口カメラ、及び部屋カメラは、カラー・ビデオ・カメラであることが好ましい。さらに、出口カメラ104、入口カメラ106、及び/又は部屋カメラ108は、固定式でもよく、パン・チルト・ズーム(PTZ)タイプでもよい。出入口カメラ104、106は、ドア106のそばにマウントされ、それぞれ出口102a及び入口104aの方を向いているように図示されている。しかし、この構成は、簡素化のために示されている。出入口カメラ102、104は、ここに参考文献として組み込まれる同時係属米国特許出願第09/734780号(Docket No.701662,13935)に記載されているように、ドア106にマウントされることが好ましい。
【0016】
本発明に係るシステム100は、更に、個々人の監視を記録する画像記録システム110(レコーダとも呼ばれる)を有する。レコーダ110は、監視された進路を記録する。その人物がカメラの視野にいる限り、ビデオ・シーケンス全体が記録されることが好ましい。画像記録システム110は、ハードドライブなどのストレージ装置と画像取込カードとを有するコンピュータ又は他のあらゆるプロセッサであることが好ましい。しかし、当業者には明らかなように、画像記録システム110は、本発明の範囲及び意図を逸脱することなく、本分野で既知のあらゆる種類のものでよい。
【0017】
コンピュータ・ビジョン・システム112などの軌道分析手段は、記録された監視から個人の進路の軌道を計算する。次いで、この計算された軌道は、データベース114の既知軌道と比較される。データベース114の既知軌道は、その構造物について権限を有する各個人に関連付けられていることが好ましい。計算された軌道とデータベース114の既知軌道との間に一致がみられなければ、アラーム・システム116はアラーム信号をトリガする。このアラーム信号は、電話線(POTS)などのデータ・リンク119を通じて、中央監視サイト118へ送信されることが好ましい。このようなコンピュータ・ビジョン・システム112は、本分野では良く知られており、例えば、Grimsonらによる「Using Adaptive Tracking to Classify and Monitor Activities in a Site」,IEEE Conference on Computer Vision and Pattern Recognition,Santa Barbara,CA,1998年6月23〜25日、に記載されている。しかし、当業者には明らかなように、コンピュータ・ビジョン・システム112は、本発明の範囲及び意図を逸脱しない本分野において既知のあらゆる装置であってよく、例えば、Staufferによる「Automatic hierarchical classification using time−based co−occurrences」,IEEE Conference on Computer Vision and Pattern Recognition,Vol.2,333〜339頁,Fort Collins,CO,1999年6月23〜25日、に記載されたものでもよい。
【0018】
アラーム・システム116は、追加的にコンピュータ・ビジョン・システム112からの情報を受信し処理することが可能な磁気ドア接触センサ120又は赤外線センサ(図示せず)を有する本分野で既知の典型的なアラーム・システムであってもよい。このセキュリティ監視システムはアラーム・システム110も含む。しかし、当業者には明らかなように、このアラーム・システムは、上記のような従来通りの検知器を含む必要はなく、単にアラーム信号をトリガするか否かを判断する際にコンピュータ・ビジョン・システム112によって実行される軌道分析に基づけばよい。
【0019】
別の方法として、セキュリティ監視システム100は、更に、その構造物について権限を有する各人物の例えば顔画像データなどの画像データを記録するデータベースをも含む。住居用家屋の場合、その家に住む人々の顔が、好ましくは出口カメラ104及び/又は入口カメラ104によって記録され、データベース114に格納される。既知軌道と顔画像データとで別々のデータベースを用いることも可能であるが、図1では両者を単一のデータベース114に格納する場合を示す。コンピュータ・ビジョン・システム112が軌道がデータベース114の既知軌道のうちの1つではないと判断した場合、アラームをトリガする代わりに、セキュリティ監視システム100は、代替的に、カメラ104、106、120のうちの一からの個人の画像をデータベース114の記録画像データ(例えば、顔)と比較し、その人物が権限ある個人の1人かを判断する認識システム122を利用することができる。記録画像とデータベース114の記録画像データとの間に一致が見られなければ、システム100は、上述のように処理を進め、アラーム信号を中央監視サイト118へトリガする。顔認識アルゴリズム及びシステムは、本分野では良く知られており、例えば、S.Guttaらによる「Face Recognition」,Sixth International conference on Computer Vision,pgs.646〜651,IEEE,1998年1月4〜7日,インド、ボンベイ、に記載されている。
【0020】
コンピュータ・ビジョン・システム112からの計算された軌道と既知軌道との比較、又は、記録画像とデータベース114の記録画像データとの比較、のいずれかが一致した場合、アラーム信号はトリガされない。計算された軌道がデータベース114の既知軌道のいずれとも一致しないが、その人物の顔が権限を有する人物の顔のうちの1人と一致した場合、この計算された軌道は、その人物についての既知軌道として加えられる。
【0021】
本発明を実行するのに好ましい方法200を図2のフローチャートを参照して説明する。工程202において、構造物102の内側及び/又は外側の個人の進路を監視するために、画像データ(一般的には、カラー・ビデオ画像データの形式)が、内部カメラ及び/又は外部カメラ104、106、108によって取り込まれる。工程204において、監視された個人の進路は、画像記録システム110に記録される。工程206において、コンピュータ・ビジョン・システム112は、記録画像を分析し、その人物の進路の軌道を計算する。工程208において、計算された軌道がデータベース114の既知軌道と比較される。
【0022】
工程210において、計算された軌道が既知軌道のいずれかと一致するか否かが判断される。計算された軌道と既知軌道のいずれかとの間に一致が見られれば、本システムはパス210aに沿って工程212へ進み、アラーム・システム16がアラームをトリガしない。換言すれば、この人物の検知がアラームをトリガしない。なぜなら、彼の軌道が既知軌道の一と一致したため、彼はその構造物について権限を有する可能性が高いからである。計算された軌道と既知軌道のいずれとも一致しない場合、本方法はパス210bに沿って(破線で示す)工程214へ進み、アラーム・システムがアラームをトリガし、好ましくはそのアラーム信号がデータ・リンク119に沿って中央監視サイト118へ送信される。別の方法として、計算された軌道と既知軌道のいずれとも一致しない場合、本方法はパス210cに沿って工程216へ進むことが好ましい。工程216において、一カメラからの個人の画像とデータベース114の記録画像データ(好ましくは、その構造物について権限を有する個人の顔データ)との比較が為される。
【0023】
工程218において、その人物が権限ある個人のうちの1人であるかが判断される。換言すれば、取り込まれた人物の画像と権限を有する人物の記録画像との間に一致が見られるかが判断される。一致が見られなければ、本方法は、パス218aに沿って工程214に進み、アラーム・システム116によってアラーム信号がトリガされる。しかし、その人物と権限を有する個人の画像データとの間が一致が見られると、この人物の軌道が既知軌道のいずれとも一致していなくても、本方法はパス218bに沿って工程212へ進み、アラーム信号をトリガしないと判断される。この状況において、本方法は、工程220において、その計算された軌道をその認識された人物についての既知軌道に加えることが好ましい。このようにして、本システムは、作動中に既知軌道の許容できるデータベースを組み立てることができ、権限ある個人のいずれかによる慣習又は状況の変化をも考慮することができる。例えば、家具を移動させることにより、冷蔵庫への進路が異なる場合がある。或いは、権限を有する個人が永久に又は一時的に身体に障害を負い、彼又は彼女の進路がより効率的なものとなるかもしれない。
【0024】
以上、本発明の好ましい実施形態と考えられるものについて図示し、説明したが、当然、本発明の意図を逸脱することなく、形又は詳細について様々な修正及び変更が容易に可能であることは明らかである。よって、本発明は、ここに説明され、図示されたちょうどその形に限定されることが意図されたものではなく、付属の請求項の範囲内に収まり得るすべての修正をカバーするものと解釈されるべきである。
【図面の簡単な説明】
【図1】 本発明のセキュリティ監視システムを有する構造物の概略図である。
【図2】 図1の構造物監視方法の好ましい実施列のフローチャートである。

Claims (15)

  1. 構造物の内側及び/又は外側の個人の進路を監視すると共に、当該個人の画像を撮像する、少なくとも1つのカメラと、
    前記個人の監視を記録するレコーダと、
    前記記録された監視から前記個人の進路の軌道を計算する軌道分析手段と、
    前記軌道を既知軌道と比較し、前記軌道が該既知軌道でないときには、更に、前記個人の画像を予め格納された前記構造物について権限ある人物の画像と比較する比較手段と、
    前記比較手段による比較結果に基づいてアラーム信号を送信するアラーム・システムと、を有することを特徴とするセキュリティ監視システム。
  2. 請求項1記載のセキュリティ監視システムであって、
    前記少なくとも1つのカメラは、前記構造物の入口、出口、及び1以上の部屋のそれぞれ用のカメラを有することを特徴とするセキュリティ監視システム。
  3. 請求項1記載のセキュリティ監視システムであって、
    前記少なくとも1つのカメラはビデオ・カメラであり、
    前記レコーダは前記構造物の内側及び/又は外側の個人の進路のビデオ・セグメントを記録することを特徴とするセキュリティ監視システム。
  4. 請求項1記載のセキュリティ監視システムであって、
    前記軌道分析手段は、コンピュータ・ビジョン・システムであることを特徴とするセキュリティ監視システム。
  5. 請求項1記載のセキュリティ監視システムであって、
    前記軌道分析手段は、前記監視から求められた空間的情報及び/又はタイミング情報に基づいて、前記個人の軌道を計算することを特徴とするセキュリティ監視システム。
  6. 請求項1記載のセキュリティ監視システムであって、
    前記アラーム・システムは、前記軌道が前記既知軌道のいずれとも一致せず、且つ、前記個人の画像が前記権限ある人物の画像と一致しない場合に、前記アラーム信号を送信することを特徴とするセキュリティ監視システム。
  7. 請求項1記載のセキュリティ監視システムであって、
    前記アラーム・システムは、前記軌道が前記既知軌道のいずれかと一致した場合、又は、前記個人の画像が前記権限ある人物の画像と一致した場合、前記アラーム信号を送信しないことを特徴とするセキュリティ監視システム。
  8. 請求項1記載のセキュリティ監視システムであって、
    前記権限ある人物の画像を予め格納するデータベースと、
    前記少なくとも1つのカメラからの前記個人の画像を前記データベースに予め格納された前記権限ある人物の画像と比較し、該個人が前記権限ある人物のうちの1人であるかを判断する認識システムと、を更に有することを特徴とするセキュリティ監視システム。
  9. 請求項8記載のセキュリティ監視システムであって、
    前記データベースに予め格納された前記権限ある人物の画像は顔画像であり、
    前記認識システムは顔認識システムである、ことを特徴とするセキュリティ監視システム。
  10. 構造物を監視する方法であって、
    前記構造物の内側及び/又は外側の個人の進路を監視すると共に、当該個人の画像を撮像する工程と、
    前記個人の監視を記録する工程と、
    前記記録された監視から前記個人の進路の軌道を計算する工程と、
    前記軌道を既知軌道と比較し、前記軌道が該既知軌道でないときには、更に、前記個人の画像を予め格納された前記構造物について権限ある人物の画像と比較する工程と、
    前記比較工程における比較結果に基づいてアラーム信号を送信するか否かを判断する工程と、を有することを特徴とする方法。
  11. 請求項10記載の方法であって、
    前記計算工程は、前記監視から求められた空間的情報及び/又はタイミング情報に基づいて、前記個人の軌道を計算することを特徴とする方法。
  12. 請求項10記載の方法であって、
    前記判断工程は、前記軌道が前記既知軌道のいずれとも一致せず、且つ、前記個人の画像が前記権限ある人物の画像と一致しない場合に、前記アラーム信号を送信することを特徴とする方法。
  13. 請求項10記載の方法であって、
    前記判断工程は、前記軌道が前記既知軌道のいずれかと一致した場合、又は、前記個人の画像が前記権限ある人物の画像と一致した場合、前記アラーム信号を送信しないことを特徴とする方法。
  14. 請求項10記載の方法であって、
    前記権限ある人物の画像を格納する工程と、
    前記少なくとも1つのカメラからの前記個人の画像を前記権限ある人物の画像と比較し、該個人が前記権限ある人物のうちの1人であるかを判断する工程と、を有することを特徴とする方法。
  15. 請求項10記載の方法であって、
    前記判断工程が、前記軌道前記既知軌道のいずれとも一致しないが、前記個人は前記権限ある人物のうちの1人であると判断した場合、
    前記軌道を前記既知軌道に加える工程を更に有することを特徴とする方法。
JP2002550616A 2000-12-12 2001-11-26 監視・偵察システムにおける軌道分析を用いた侵入者検知 Expired - Lifetime JP3974038B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/734,821 US6441734B1 (en) 2000-12-12 2000-12-12 Intruder detection through trajectory analysis in monitoring and surveillance systems
PCT/EP2001/013822 WO2002048982A1 (en) 2000-12-12 2001-11-26 Intruder detection through trajectory analysis in monitoring and surveillance systems

Publications (2)

Publication Number Publication Date
JP2004516560A JP2004516560A (ja) 2004-06-03
JP3974038B2 true JP3974038B2 (ja) 2007-09-12

Family

ID=24953199

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002550616A Expired - Lifetime JP3974038B2 (ja) 2000-12-12 2001-11-26 監視・偵察システムにおける軌道分析を用いた侵入者検知

Country Status (7)

Country Link
US (2) US6441734B1 (ja)
EP (1) EP1350234B1 (ja)
JP (1) JP3974038B2 (ja)
CN (1) CN1276395C (ja)
AT (1) ATE300071T1 (ja)
DE (1) DE60112123T2 (ja)
WO (1) WO2002048982A1 (ja)

Families Citing this family (96)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7124427B1 (en) 1999-04-30 2006-10-17 Touch Technologies, Inc. Method and apparatus for surveillance using an image server
US7319479B1 (en) * 2000-09-22 2008-01-15 Brickstream Corporation System and method for multi-camera linking and analysis
US9892606B2 (en) 2001-11-15 2018-02-13 Avigilon Fortress Corporation Video surveillance system employing video primitives
US8564661B2 (en) 2000-10-24 2013-10-22 Objectvideo, Inc. Video analytic rule detection system and method
US8711217B2 (en) 2000-10-24 2014-04-29 Objectvideo, Inc. Video surveillance system employing video primitives
US6441734B1 (en) * 2000-12-12 2002-08-27 Koninklijke Philips Electronics N.V. Intruder detection through trajectory analysis in monitoring and surveillance systems
US7405692B2 (en) * 2001-03-16 2008-07-29 Battelle Memorial Institute Detecting concealed objects at a checkpoint
US6507309B2 (en) 2001-03-16 2003-01-14 Battelle Memorial Institute Interrogation of an object for dimensional and topographical information
US7365672B2 (en) * 2001-03-16 2008-04-29 Battelle Memorial Institute Detection of a concealed object
US20020171734A1 (en) * 2001-05-16 2002-11-21 Hiroshi Arakawa Remote monitoring system
US7079992B2 (en) * 2001-06-05 2006-07-18 Siemens Corporate Research, Inc. Systematic design analysis for a vision system
US6793128B2 (en) * 2001-06-18 2004-09-21 Hewlett-Packard Development Company, L.P. Face photo storage system
US7953219B2 (en) 2001-07-19 2011-05-31 Nice Systems, Ltd. Method apparatus and system for capturing and analyzing interaction based content
US7728870B2 (en) 2001-09-06 2010-06-01 Nice Systems Ltd Advanced quality management and recording solutions for walk-in environments
EP1423967A2 (en) * 2001-09-06 2004-06-02 Nice Systems Ltd. Recording of interactions between a customer and a sales person at a point of sales
JP2003087771A (ja) * 2001-09-07 2003-03-20 Oki Electric Ind Co Ltd 監視システム及び方法
WO2003028358A2 (en) * 2001-09-24 2003-04-03 Nice Systems Ltd. System and method for the automatic control of video frame rate
CA2467783A1 (en) * 2001-11-20 2003-05-30 Nicholas D. Hutchins Facilities management system
US7688349B2 (en) * 2001-12-07 2010-03-30 International Business Machines Corporation Method of detecting and tracking groups of people
WO2003075119A2 (en) * 2002-03-07 2003-09-12 Nice Systems Ltd. A system and method for traveler interactions management
US7683929B2 (en) * 2002-02-06 2010-03-23 Nice Systems, Ltd. System and method for video content analysis-based detection, surveillance and alarm management
US7436887B2 (en) 2002-02-06 2008-10-14 Playtex Products, Inc. Method and apparatus for video frame sequence-based object tracking
US20050128304A1 (en) * 2002-02-06 2005-06-16 Manasseh Frederick M. System and method for traveler interactions management
AU2003209654A1 (en) 2002-03-07 2003-09-16 Nice Systems Ltd. Method and apparatus for internal and external monitoring of a transportation vehicle
JP2003296855A (ja) * 2002-03-29 2003-10-17 Toshiba Corp 監視装置
US9712665B2 (en) 2003-04-09 2017-07-18 Nice Ltd. Apparatus, system and method for dispute resolution, regulation compliance and quality management in financial institutions
WO2005018097A2 (en) * 2003-08-18 2005-02-24 Nice Systems Ltd. Apparatus and method for audio content analysis, marking and summing
WO2005046195A1 (en) * 2003-11-05 2005-05-19 Nice Systems Ltd. Apparatus and method for event-driven content analysis
US7171024B2 (en) * 2003-12-01 2007-01-30 Brickstream Corporation Systems and methods for determining if objects are in a queue
TW200525449A (en) * 2004-01-29 2005-08-01 Lai Jin Ding Human body image recognition system
US20050204378A1 (en) * 2004-03-10 2005-09-15 Shay Gabay System and method for video content analysis-based detection, surveillance and alarm management
CN100394454C (zh) * 2004-03-25 2008-06-11 浙江工业大学 智能安保装置
US7086139B2 (en) * 2004-04-30 2006-08-08 Hitachi Global Storage Technologies Netherlands B.V. Methods of making magnetic write heads using electron beam lithography
TWI244624B (en) * 2004-06-04 2005-12-01 Jin-Ding Lai Device and method for defining an area whose image is monitored
US7868914B2 (en) 2004-06-07 2011-01-11 Sportsmedia Technology Corporation Video event statistic tracking system
US8204884B2 (en) * 2004-07-14 2012-06-19 Nice Systems Ltd. Method, apparatus and system for capturing and analyzing interaction based content
WO2006021943A1 (en) 2004-08-09 2006-03-02 Nice Systems Ltd. Apparatus and method for multimedia content based
US8724891B2 (en) 2004-08-31 2014-05-13 Ramot At Tel-Aviv University Ltd. Apparatus and methods for the detection of abnormal motion in a video stream
US7253766B2 (en) * 2004-09-24 2007-08-07 Battelle Memorial Institute Three-dimensional surface/contour processing based on electromagnetic radiation interrogation
US8078463B2 (en) * 2004-11-23 2011-12-13 Nice Systems, Ltd. Method and apparatus for speaker spotting
US8005675B2 (en) * 2005-03-17 2011-08-23 Nice Systems, Ltd. Apparatus and method for audio analysis
EP1867167A4 (en) * 2005-04-03 2009-05-06 Nice Systems Ltd DEVICE AND METHOD FOR SEMI-AUTOMATIC TRACKING AND INVESTIGATION OF AN OBJECT OR EVENT AT A MONITORED LOCATION
US7342493B2 (en) * 2005-04-22 2008-03-11 Ultravision Security Systems, Inc. Motion detector
US7386105B2 (en) * 2005-05-27 2008-06-10 Nice Systems Ltd Method and apparatus for fraud detection
JP4947936B2 (ja) * 2005-08-11 2012-06-06 ソニー株式会社 モニタリングシステムおよび管理装置
US7555146B2 (en) * 2005-12-28 2009-06-30 Tsongjy Huang Identification recognition system for area security
KR101268432B1 (ko) * 2006-01-09 2013-05-28 삼성전자주식회사 스마트 커뮤니케이터를 이용한 지능형 출입 인증 시스템 및방법
US7716048B2 (en) * 2006-01-25 2010-05-11 Nice Systems, Ltd. Method and apparatus for segmentation of audio interactions
US7844081B2 (en) * 2006-05-15 2010-11-30 Battelle Memorial Institute Imaging systems and methods for obtaining and using biometric information
US8248473B2 (en) * 2006-10-05 2012-08-21 Graber Curtis E Robotic sentry with low dispersion acoustic projector
US7667596B2 (en) * 2007-02-16 2010-02-23 Panasonic Corporation Method and system for scoring surveillance system footage
US8760519B2 (en) * 2007-02-16 2014-06-24 Panasonic Corporation Threat-detection in a distributed multi-camera surveillance system
US20080249866A1 (en) * 2007-04-03 2008-10-09 Robert Lee Angell Generating customized marketing content for upsale of items
US9846883B2 (en) * 2007-04-03 2017-12-19 International Business Machines Corporation Generating customized marketing messages using automatically generated customer identification data
US8639563B2 (en) * 2007-04-03 2014-01-28 International Business Machines Corporation Generating customized marketing messages at a customer level using current events data
US9685048B2 (en) * 2007-04-03 2017-06-20 International Business Machines Corporation Automatically generating an optimal marketing strategy for improving cross sales and upsales of items
US8831972B2 (en) * 2007-04-03 2014-09-09 International Business Machines Corporation Generating a customer risk assessment using dynamic customer data
US20080249835A1 (en) * 2007-04-03 2008-10-09 Robert Lee Angell Identifying significant groupings of customers for use in customizing digital media marketing content provided directly to a customer
US8812355B2 (en) * 2007-04-03 2014-08-19 International Business Machines Corporation Generating customized marketing messages for a customer using dynamic customer behavior data
US9626684B2 (en) * 2007-04-03 2017-04-18 International Business Machines Corporation Providing customized digital media marketing content directly to a customer
US9092808B2 (en) 2007-04-03 2015-07-28 International Business Machines Corporation Preferred customer marketing delivery based on dynamic data for a customer
US20080249870A1 (en) * 2007-04-03 2008-10-09 Robert Lee Angell Method and apparatus for decision tree based marketing and selling for a retail store
US9031857B2 (en) * 2007-04-03 2015-05-12 International Business Machines Corporation Generating customized marketing messages at the customer level based on biometric data
US8775238B2 (en) * 2007-04-03 2014-07-08 International Business Machines Corporation Generating customized disincentive marketing content for a customer based on customer risk assessment
US9361623B2 (en) 2007-04-03 2016-06-07 International Business Machines Corporation Preferred customer marketing delivery based on biometric data for a customer
US20080249865A1 (en) * 2007-04-03 2008-10-09 Robert Lee Angell Recipe and project based marketing and guided selling in a retail store environment
US20080249858A1 (en) * 2007-04-03 2008-10-09 Robert Lee Angell Automatically generating an optimal marketing model for marketing products to customers
US9031858B2 (en) * 2007-04-03 2015-05-12 International Business Machines Corporation Using biometric data for a customer to improve upsale ad cross-sale of items
US20080249864A1 (en) * 2007-04-03 2008-10-09 Robert Lee Angell Generating customized marketing content to improve cross sale of related items
US7696869B2 (en) * 2007-04-05 2010-04-13 Health Hero Network, Inc. Interactive programmable container security and compliance system
US7957565B1 (en) * 2007-04-05 2011-06-07 Videomining Corporation Method and system for recognizing employees in a physical space based on automatic behavior analysis
US20090006125A1 (en) * 2007-06-29 2009-01-01 Robert Lee Angell Method and apparatus for implementing digital video modeling to generate an optimal healthcare delivery model
US20090005650A1 (en) * 2007-06-29 2009-01-01 Robert Lee Angell Method and apparatus for implementing digital video modeling to generate a patient risk assessment model
US7908237B2 (en) * 2007-06-29 2011-03-15 International Business Machines Corporation Method and apparatus for identifying unexpected behavior of a customer in a retail environment using detected location data, temperature, humidity, lighting conditions, music, and odors
US7908233B2 (en) * 2007-06-29 2011-03-15 International Business Machines Corporation Method and apparatus for implementing digital video modeling to generate an expected behavior model
US8195499B2 (en) * 2007-09-26 2012-06-05 International Business Machines Corporation Identifying customer behavioral types from a continuous video stream for use in optimizing loss leader merchandizing
US20090083121A1 (en) * 2007-09-26 2009-03-26 Robert Lee Angell Method and apparatus for determining profitability of customer groups identified from a continuous video stream
US20090089107A1 (en) * 2007-09-27 2009-04-02 Robert Lee Angell Method and apparatus for ranking a customer using dynamically generated external data
US20090150321A1 (en) * 2007-12-07 2009-06-11 Nokia Corporation Method, Apparatus and Computer Program Product for Developing and Utilizing User Pattern Profiles
US8169481B2 (en) * 2008-05-05 2012-05-01 Panasonic Corporation System architecture and process for assessing multi-perspective multi-context abnormal behavior
KR20100062575A (ko) * 2008-12-02 2010-06-10 삼성테크윈 주식회사 감시 카메라의 제어 방법 및 이를 사용한 제어 장치
CN101989371A (zh) * 2009-08-07 2011-03-23 樊晓青 一种防盗方法
US8867793B2 (en) * 2010-12-01 2014-10-21 The Trustees Of The University Of Pennsylvania Scene analysis using image and range data
WO2013074740A1 (en) * 2011-11-15 2013-05-23 L-3 Communications Security And Detection Systems, Inc. Millimeter-wave subject surveillance with body characterization for object detection
US11470285B2 (en) * 2012-02-07 2022-10-11 Johnson Controls Tyco IP Holdings LLP Method and system for monitoring portal to detect entry and exit
US9519853B2 (en) 2013-11-01 2016-12-13 James P Tolle Wearable, non-visible identification device for friendly force identification and intruder detection
JP6451133B2 (ja) * 2014-08-01 2019-01-16 株式会社リコー 異常検知装置、異常検知方法、異常検知システム、及びプログラム
US20160378268A1 (en) * 2015-06-23 2016-12-29 Honeywell International Inc. System and method of smart incident analysis in control system using floor maps
US10755542B2 (en) * 2016-12-06 2020-08-25 At&T Intellectual Property I, L.P. Method and apparatus for surveillance via guided wave communication
EP3560141A4 (en) 2016-12-22 2020-06-10 Level 8 IOT, LLC SYSTEMS AND METHODS FOR THE ELECTRONIC TICKET DISPENSING, MONITORING AND DISPLAY OF THE ALLOWED USE OF FACILITIES
EP3557549B1 (de) 2018-04-19 2024-02-21 PKE Holding AG Verfahren zur bewertung eines bewegungsereignisses
CN109767527A (zh) * 2018-12-20 2019-05-17 深圳云天励飞技术有限公司 人员识别方法及相关产品
GB2593209A (en) 2020-03-20 2021-09-22 Tj Morris Ltd Security System
TWI753427B (zh) * 2020-05-11 2022-01-21 台達電子工業股份有限公司 具備軌跡追蹤暨預測以及停留時間監視之安防監控方法
CN112257660B (zh) * 2020-11-11 2023-11-17 汇纳科技股份有限公司 无效客流的去除方法、系统、设备及计算机可读存储介质
RU2755775C1 (ru) * 2021-01-14 2021-09-21 Виктор Михайлович Крылов Способ автоматического формирования цифровой модели охраняемого объекта, анализа систем безопасности охраняемого объекта и оценки уязвимости охраняемого объекта с учетом упомянутого анализа

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1116286A (en) * 1979-02-20 1982-01-12 Control Data Canada, Ltd. Perimeter surveillance system
FR2593311B1 (fr) * 1986-01-22 1990-09-14 Berruyer Yves Systeme de protection d'un ensemble de sites d'un reseau par anticipation d'une perturbation
GB2223614A (en) 1988-08-30 1990-04-11 Gerald Victor Waring Identity verification
US5657076A (en) 1993-01-12 1997-08-12 Tapp; Hollis M. Security and surveillance system
US5764283A (en) * 1995-12-29 1998-06-09 Lucent Technologies Inc. Method and apparatus for tracking moving objects in real time using contours of the objects and feature paths
US5982418A (en) 1996-04-22 1999-11-09 Sensormatic Electronics Corporation Distributed video data storage in video surveillance system
US5831669A (en) 1996-07-09 1998-11-03 Ericsson Inc Facility monitoring system with image memory and correlation
US5991429A (en) * 1996-12-06 1999-11-23 Coffin; Jeffrey S. Facial recognition system for security access and identification
US5966074A (en) * 1996-12-17 1999-10-12 Baxter; Keith M. Intruder alarm with trajectory display
US6069655A (en) 1997-08-01 2000-05-30 Wells Fargo Alarm Services, Inc. Advanced video security system
GB2329542B (en) 1997-09-17 2002-03-27 Sony Uk Ltd Security control system and method of operation
JPH11328405A (ja) 1998-05-11 1999-11-30 Mitsubishi Electric Corp 顔形判別装置
GB9811586D0 (en) * 1998-05-30 1998-07-29 Stevenson Neil J A vehicle entry/exit control system
US6054928A (en) * 1998-06-04 2000-04-25 Lemelson Jerome H. Prisoner tracking and warning system and corresponding methods
GB2343945B (en) 1998-11-18 2001-02-28 Sintec Company Ltd Method and apparatus for photographing/recognizing a face
US6188318B1 (en) * 1999-06-29 2001-02-13 Pittway Corp. Dual-technology intrusion detector with pet immunity
US6441734B1 (en) * 2000-12-12 2002-08-27 Koninklijke Philips Electronics N.V. Intruder detection through trajectory analysis in monitoring and surveillance systems

Also Published As

Publication number Publication date
EP1350234A1 (en) 2003-10-08
US6593852B2 (en) 2003-07-15
US20020070859A1 (en) 2002-06-13
ATE300071T1 (de) 2005-08-15
CN1276395C (zh) 2006-09-20
US20020171736A1 (en) 2002-11-21
EP1350234B1 (en) 2005-07-20
DE60112123D1 (de) 2005-08-25
US6441734B1 (en) 2002-08-27
DE60112123T2 (de) 2006-05-24
JP2004516560A (ja) 2004-06-03
WO2002048982A1 (en) 2002-06-20
CN1401112A (zh) 2003-03-05

Similar Documents

Publication Publication Date Title
JP3974038B2 (ja) 監視・偵察システムにおける軌道分析を用いた侵入者検知
JP4101655B2 (ja) セキュリティ監視システムにおける入退出の衝突を解決する装置及び方法
US6700487B2 (en) Method and apparatus to select the best video frame to transmit to a remote station for CCTV based residential security monitoring
US7504942B2 (en) Local verification systems and methods for security monitoring
US6690414B2 (en) Method and apparatus to reduce false alarms in exit/entrance situations for residential security monitoring
US20180315200A1 (en) Monitoring system
US20070268145A1 (en) Automated tailgating detection via fusion of video and access control
CN107408316A (zh) 门和住宅安全系统以及方法
US20040223629A1 (en) Facial surveillance system and method
CN116457851B (zh) 用于地产监控的系统和方法
CN111212274A (zh) 一种智能楼宇安防系统
EP2333735A1 (en) Filtering video events in a secured area using loose coupling within a security system
KR20200023944A (ko) 출입자 감시기능을 갖는 중문 시스템
CN211457260U (zh) 一种智能楼宇安防系统
KR200336570Y1 (ko) 투시 카메라를 이용한 무인 경비 시스템
AU2002100181A4 (en) Delta Camera
KR19990016367A (ko) 컴퓨터 스크린 세이버와 화상처리/압축저장 기법을 사용한개인용 감시/경비 시스템의 운영 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060912

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20061211

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20061218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070309

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070515

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070613

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3974038

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100622

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110622

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110622

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120622

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130622

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term