JP2000339329A - 画像監視警報方法及び装置及び画像監視警報プログラムを格納した記憶媒体 - Google Patents

画像監視警報方法及び装置及び画像監視警報プログラムを格納した記憶媒体

Info

Publication number
JP2000339329A
JP2000339329A JP11148504A JP14850499A JP2000339329A JP 2000339329 A JP2000339329 A JP 2000339329A JP 11148504 A JP11148504 A JP 11148504A JP 14850499 A JP14850499 A JP 14850499A JP 2000339329 A JP2000339329 A JP 2000339329A
Authority
JP
Japan
Prior art keywords
image
time
feature amount
event
dissimilarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP11148504A
Other languages
English (en)
Inventor
Kazuhiro Otsuka
和弘 大塚
Tsutomu Horikoshi
力 堀越
Haruhiko Kojima
治彦 児島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP11148504A priority Critical patent/JP2000339329A/ja
Publication of JP2000339329A publication Critical patent/JP2000339329A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Alarm Systems (AREA)

Abstract

(57)【要約】 (修正有) 【課題】 逐次得られる最新の画像系列から警告対象の
時間先における事象の予測を行い、正確かつ簡易に警報
を出すことが可能な画像監視警報方法。 【解決手段】 蓄積された時系列画像から警告対象の事
象を含む画像を選択して、その時刻を警告の内容と共に
警告事象記憶手段に記憶し、利用者の所望する現象の発
生を予見すべき予測先行時間を指定し、記憶手段に蓄積
されている時系列画像から、計算された該画像特徴量を
画像特徴量記憶手段に蓄積し、蓄積されている現時点の
画像から計算される画像特徴量と、過去の画像の画像特
徴量との比較を行い、検索された過去の類似事象の履歴
に基づいて、予測先行時間後の画像特徴量の予測値を求
め、予測された画像特徴量と、予め設定された警告対象
の事象に対応する画像特徴量との非類似度の度合いを比
較し、予め設定された基準を満たす場合に、予想現象に
対応した警報を警告事象記憶手段から読み出して出力す
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像監視警報方法
及び装置及び画像監視警報プログラムを格納した記憶媒
体に係り、特に、ビデオカメラ画像や気象レーダ、気象
衛星、医療用撮像装置等により逐次観測される時系列画
像を用いて、人物動作、車両交通状況、気象状況、生体
活動状況等を常時監視し、所定の事象、現象、動作の発
生を事前に予測し、利用者に警報を出すことを目的とす
る画像を用いた監視と警報などの応用に関連する画像監
視警報方法及び装置及び画像監視警報プログラムを格納
した記憶媒体に関する。
【0002】
【従来の技術】人物や交通状況などを撮影した時系列画
像を用いて、画像中の人物や車両の動作を判定する手法
としては、例えば、文献[1]渡辺孝弘、谷内田正彦:
“複数入力画像の固有空間法による実時間ジェスチャ認
識”、電子情報通信学会論文誌D-II, No.5, pp.810-82
1, 1998があげられる。この方法は、ジェスチャ動作を
行う人の手の領域をビデオカメラで撮影し、画像中の手
の領域を抽出した2値画像の集合について、主成分分析
を施し、得られる上位の固有ベクトルの張る空間中にお
いて一連のジェスチャ動作を軌跡として表現し、その軌
跡の極値点の数と向きを一定の時間幅計測し、その極値
点の性質に基づき予め設定していたジェスチャ動作と、
新たに入力されたジェスチャ動作との類似性を照合し、
入力されたジェスチャ動作の種別の判定を行うものであ
る。
【0003】
【発明が解決しようとする課題】しかしながら、上記従
来の方法は、検出しようとする現象などが起こった後
に、その種類を判別しているため、事前に警告を出すと
いう目的には使用できない。また、事前に警報を出すた
めには、警報対象の事象の発生の予兆を利用者が予め設
定する必要があるが、事象が複雑になると正確で効率的
な予兆の設定が困難となるという問題がある。
【0004】本発明は、上記の点に鑑みなされたもの
で、画像を用いて現象を逐次監視するため、警報対象の
事例が含まれる画像を事前に設定しておき、逐次得られ
る最新の画像系列から警告対象の時間先における事象の
予測を行い、事前に設定した警告対象の事例との類似性
を判定し、正確かつ簡易に事象の警報を出すことが可能
な画像監視警報方法及び装置及び画像監視警報プログラ
ムを格納した記憶媒体を提供することを目的とする。
【0005】
【課題を解決するための手段】図1は、本発明の原理を
説明するための図である。本発明(請求項1)は、逐次
撮像される時系列画像を用いて、画像中に現れる現象、
事象の発生を事前に予測し、警報を出すための画像監視
警報方法において、警報対象の事象を観測した画像を含
む時系列画像を撮影して時系列画像記憶手段に蓄積して
おき(ステップ1)、蓄積された時系列画像から警告対
象の事象を含む画像を選択して、該画像の時刻を警告事
象記憶手段に記憶し(ステップ2)、利用者の所望する
現象の発生を予見すべき予測先行時間を指定し(ステッ
プ3)、時系列画像記憶手段に蓄積されている時系列画
像から画像特徴量を計算し、計算された該画像特徴量を
画像特徴量記憶手段に蓄積し(ステップ4)、現時点の
画像から計算される画像特徴量と、画像特徴量記憶手段
に蓄積されている過去の画像の画像特徴量との比較を行
い、類似する過去の事象を検索し(ステップ5)、検索
された過去の類似事象の履歴に基づいて、現在の事象の
予測先行時間後の画像特徴量の予測値を求めることで予
測先行時間後の事象の予測を行い(ステップ6)、予測
された画像特徴量と、予め設定された警告対象の事象に
対応する画像特徴量との非類似度の度合いを比較し(ス
テップ7)、予め設定された基準を満たす場合に、予想
される現象に対応した警報を警告事象記憶手段から読み
出して出力する(ステップ8)。
【0006】本発明(請求項2)は、画像特徴量を計算
する際に(ステップ4)、単位時刻毎の画像中の画素の
濃淡値、該濃淡値を空間的に平均した平均輝度値、画像
平面をメッシュ状に区切り、各メッシュに含まれる画像
の濃淡値の平均値、画像中の物体の速度ベクトルのうち
いずれか一つまたは、複数を画像特徴量として計算す
る。
【0007】本発明(請求項3)は、気象レーダ装置を
用いて、警報対象の事象を観測した画像を含む時系列画
像及び、現時点の時系列画像を撮影する。本発明(請求
項4)は、類似する過去の事象を検索する際に(ステッ
プ5)、現在時刻直近の部分画像系列に対応する各画像
特徴量の系列と、画像特徴量記憶手段中の各時刻の部分
画像系列に対応する各画像特徴量の系列について、2つ
の系列間の特徴量ベクトル間の距離の和、または、平均
的な距離を、該現在時刻直近の部分画像系列と該記憶手
段中の部分画像系列との非類似度として、時間的な順序
関係を保持して、各々の特徴量毎に計算し、各特徴量毎
の非類似度を統合して、総合的な部分画像系列間の非類
似度を計算し、非類似度が小さい部分系列、または、部
分画像系列の時刻を時系列画像記憶手段より選択し、出
力する。
【0008】本発明(請求項5)は、総合的な部分画像
系列間の非類似度を計算する際に、時系列画像記憶手段
に蓄積されている部分画像系列の各々について、該時系
列画像記憶手段中の他の時刻の部分画像系列との間の非
類似度を各特徴量についてそれぞれ計算し、計算された
それぞれの部分画像系列に続く未来の2つの部分画像系
列間の非類似度を特定の一つの特徴量について計算し、
計算された2つの部分画像系列間の非類似度とその未来
の画像系列間の非類似度との関連を、部分画像系列の非
類似度の関数として、該部分画像系列に続く未来の部分
画像系列の期待値をモデル化することで取得し、現時点
の部分画像系列と時系列画像記憶手段中の各部分画像系
列との間において計算される各特徴量についての非類似
度を、モデルに適用し、未来の画像系列間の非類似度の
期待値として総合的な非類似度を計算する。
【0009】本発明(請求項6)は、予測先行時間後の
事象を予測する際に(ステップ6)、検索された画像特
徴量記憶手段中の過去の画像の予測先行時刻後の画像特
徴量を、現時刻の画像と検索された画像の非類似度の大
きさに逆比例して重み付けして、足し合わせたものを、
予測先行時間後の画像特徴量として計算する。本発明
(請求項7)は、予測される事象に対応した警報を出力
する際に(ステップ8)、予め設定された警報対処の事
象を含む画像のそれぞれに対応する画像特徴量と、現在
の事象の予測先行時刻後の事象に対応する画像特徴量の
予測値との間の距離を計算し、計算された距離のうち、
各々の警告対象の事象について最も小さいものを選択
し、選択された各警告対象の事象と、現在の事象との距
離を計算し、予め設定された距離の条件を満たす事象を
選択し、選択された事象の警報情報を出力する。
【0010】図2は、本発明の原理構成図である。本発
明(請求項8)は、逐次撮像される時系列画像を用い
て、画像中に現れる現象、事象の発生を事前に予測し、
警報を出すための画像監視警報装置であって、警報対象
の事象を観測した画像を含む時系列画像を撮影する撮影
手段101と、撮影手段101で撮影された時系列画像
を蓄積する時系列画像記憶手段201と、時系列画像記
憶手段201に蓄積された時系列画像から選択された警
告対象の事象を含む画像の時刻を警告の内容と共に記憶
する警告事象記憶手段206と、利用者の所望する現象
の発生を予見すべき予測先行時間を指定する予測先行時
間指定手段102と、時系列画像記憶手段201の現時
点における時系列画像から画像特徴量を計算する画像特
徴量計算手段202と、計算された該画像特徴量を蓄積
する画像特徴量記憶手段203と、現時点の画像から計
算される画像特徴量と画像特徴量記憶手段203に蓄積
されている過去の画像の画像特徴量との比較を行い、類
似する過去の事象を検索し、検索された過去の類似事象
の履歴に基づいて、現在の事象の予測先行時間後の画像
特徴量の予測値を求めることで予測先行時間後の事象の
予測を行う検索予測手段204と、予測された画像特徴
量と予め設定された警告対象の事象に対応する画像特徴
量との非類似度の度合いを比較する状況判定手段205
と、状況判定手段205において、予め設定された基準
を満たす場合に、予想される現象に対応した警報を警報
事象記憶手段206から読み出して出力する出力手段3
01とを有する。
【0011】本発明(請求項9)は、画像特徴量計算手
段202において、単位時刻毎の画像中の画素の濃淡
値、該濃淡値を空間的に平均した平均輝度値、画像平面
をメッシュ状に区切り、各メッシュに含まれる画像の濃
淡値の平均値、画像中の物体の速度ベクトルのうちいず
れか一つまたは、複数を画像特徴量として計算する手段
を含む。
【0012】本発明(請求項10)は、撮影手段101
において、時系列画像を撮影する気象レーダ装置を有す
る。本発明(請求項11)は、検索予測手段204にお
いて、現在時刻直近の部分画像系列に対応する各画像特
徴量の系列と、画像特徴量記憶手段203中の各時刻の
部分画像系列に対応する各画像特徴量の系列について、
2つの系列間の特徴量ベクトル間の距離の和、または、
平均的な距離を、該現在時刻直近の部分画像系列と該時
系列画像記憶手段201中の部分画像系列との非類似度
として、時間的な順序関係を保持して、各々の特徴量毎
に計算する手段と、各特徴量毎の非類似度を統合して、
総合的な部分画像系列間の非類似度を計算する手段と、
非類似度が小さい部分系列、または、部分画像系列の時
刻を時系列画像記憶手段201より選択し、出力する手
段を有する。
【0013】本発明(請求項12)は、総合的な部分画
像系列間の非類似度を計算する手段は、時系列画像記憶
手段201に蓄積されている部分画像系列の各々につい
て、該記憶手段中の他の時刻の部分画像系列との間の非
類似度を各特徴量についてそれぞれ計算する手段と、計
算されたそれぞれの部分画像系列に続く未来の2つの部
分画像系列間の非類似度を特定の一つの特徴量について
計算する手段と、計算された2つの部分画像系列間の非
類似度とその未来の画像系列間の非類似度との関連を、
部分画像系列の非類似度の関数として、該部分画像系列
に続く未来の部分画像系列の期待値をモデル化すること
で取得する手段と、現時点の部分画像系列と時系列画像
記憶手段201中の各部分画像系列との間において計算
される各特徴量についての非類似度を、モデルに適用
し、未来の画像系列間の非類似度の期待値として総合的
な非類似度を計算する手段とを有する。
【0014】本発明(請求項13)は、検索予測手段2
04において、検索された画像特徴量記憶手段中の過去
の画像の予測先行時刻後の画像特徴量を、現時刻の画像
と検索された画像の非類似度の大きさに逆比例して重み
付けして、足し合わせたものを、予測先行時間後の画像
特徴量として計算する手段を有する。
【0015】本発明(請求項14)は、状況判定手段2
05において、予め設定された警報対処の事象を含む画
像のそれぞれに対応する画像特徴量と、現在の事象の予
測先行時刻後の事象に対応する画像特徴量の予測値との
間の距離を計算する手段と計算された距離のうち、各々
の警告対象の事象について最も小さいものを選択する手
段と、選択された各警告対象の事象と、現在の事象との
距離を計算し、予め設定された距離の条件を満たす事象
を選択する手段とを有し、出力手段301は、選択され
た事象の警報情報を出力する手段を有する。
【0016】本発明(請求項15)は、出力手段301
において、CRT、ページャー、拡声器、電話のうちい
ずれか一つまたは、複数の装置を有する。本発明(請求
項16)は、逐次撮像される時系列画像を用いて、画像
中に現れる現象、事象の発生を事前に予測し、警報を出
すための画像監視警報プログラムを格納した記憶媒体で
あって、警報対象の事象を観測した画像を含む時系列画
像を撮影させる撮影プロセスと、撮影プロセスで撮影さ
れた時系列画像を時系列画像記憶手段に蓄積するプロセ
スと、時系列画像記憶手段に蓄積された時系列画像から
警告対象の事象を含む画像を選択して、該画像の時刻を
警告事象記憶手段に記憶するプロセスと、利用者の所望
する現象の発生を予見すべき予測先行時間を指定する予
測先行時間指定プロセスと、時系列画像記憶手段の現時
点における時系列画像から画像特徴量を計算し、画像特
徴量記憶手段に蓄積する画像特徴量計算プロセスと、現
時点の画像から計算される画像特徴量と画像特徴量記憶
手段に蓄積されている過去の画像の画像特徴量との比較
を行い、類似する過去の事象を検索し、検索された過去
の類似事象の履歴に基づいて、現在の事象の予測先行時
間後の画像特徴量の予測値を求めることで予測先行時間
後の事象の予測を行う検索予測プロセスと、予測された
画像特徴量と予め設定された警告対象の事象に対応する
画像特徴量との非類似度の度合いを比較する状況判定プ
ロセスと、状況判定プロセスにおいて、予め設定された
基準を満たす場合に、予想される現象に対応した警報を
前記警告事象記憶手段から読み出して出力する出力プロ
セスとを有する。
【0017】本発明(請求項17)は、画像特徴量計算
プロセスにおいて、単位時刻毎の画像中の画素の濃淡
値、該濃淡値を空間的に平均した平均輝度値、画像平面
をメッシュ状に区切り、各メッシュに含まれる画像の濃
淡値の平均値、画像中の物体の速度ベクトルのうちいず
れか一つまたは、複数を画像特徴量として計算するプロ
セスを含む。
【0018】本発明(請求項18)は、検索予測プロセ
スにおいて、現在時刻直近の部分画像系列に対応する各
画像特徴量の系列と、画像特徴量記憶手段中の各時刻の
部分画像系列に対応する各画像特徴量の系列について、
2つの系列間の特徴量ベクトル間の距離の和、または、
平均的な距離を、該現在時刻直近の部分画像系列と該時
系列画像記憶手段中の部分画像系列との非類似度とし
て、時間的な順序関係を保持して、各々の特徴量毎に計
算するプロセスと、各特徴量毎の非類似度を統合して、
総合的な部分画像系列間の非類似度を計算するプロセス
と、非類似度が小さい部分系列、または、部分画像系列
の時刻を時系列画像記憶手段より選択し、出力するプロ
セスを有する。
【0019】本発明(請求項19)は、総合的な部分画
像系列間の非類似度を計算するプロセスにおいて、時系
列画像記憶手段に蓄積されている部分画像系列の各々に
ついて、該時系列画像記憶手段中の他の時刻の部分画像
系列との間の非類似度を各特徴量についてそれぞれ計算
するプロセスと、計算されたそれぞれの部分画像系列に
続く未来の2つの部分画像系列間の非類似度を特定の一
つの特徴量について計算するプロセスと、計算された2
つの部分画像系列間の非類似度とその未来の画像系列間
の非類似度との関連を、部分画像系列の非類似度の関数
として、該部分画像系列に続く未来の部分画像系列の期
待値をモデル化することで取得するプロセスと、現時点
の部分画像系列と時系列画像記憶手段中の各部分画像系
列との間において計算される各特徴量についての非類似
度を、モデルに適用し、未来の画像系列間の非類似度の
期待値として総合的な非類似度を計算するプロセスとを
有する。
【0020】本発明(請求項20)は、検索予測プロセ
スにおいて、検索された記憶手段中の過去の画像の予測
先行時刻後の画像特徴量を、現時刻の画像と検索された
画像の非類似度の大きさに逆比例して重み付けして、足
し合わせたものを、予測先行時間後の画像特徴量として
計算するプロセスを有する。本発明(請求項21)は、
状況判定プロセスにおいて、予め設定された警報対処の
事象を含む画像のそれぞれに対応する画像特徴量と、現
在の事象の予測先行時刻後の事象に対応する画像特徴量
の予測値との間の距離を計算するプロセスと計算された
距離のうち、各々の警告対象の事象について最も小さい
ものを選択するプロセスと、選択された各警告対象の事
象と、現在の事象との距離を計算し、予め設定された距
離の条件を満たす事象を選択するプロセスとを有し、出
力プロセスにおいて、選択された事象の警報情報を出力
させるプロセスを有する。
【0021】上記のように、本発明によれば、逐次撮像
される画像系列を用いて事象を監視し、画像の特徴量に
基づき警告対象の事例の発生を予測し、警報を出すこと
が可能となる。このため、これまで、人間が前兆を明確
に画像から捉えるのが困難である複雑な対象からも、過
去の警報を発すべき事象について、それが含まれている
画像の時刻を予め指定するだけで、容易に警報事例の設
定ができ、その後、自動的に事象の前兆を捉えて警報を
出すことが可能となる。
【0022】また、本発明によれば、現象が生じるどれ
くらい時間前に警報を出すかという先行時間が指定可能
である。また、事前に設定した警告対象の事例との類似
性を、画像特徴量ベクトルについての距離として知るこ
とができるため、利用者が適宜閾値を設定することで誤
警報を少なく保つことが可能となる。また、本発明によ
れば、警告対象として指定した過去の事象の記憶のみで
はなく、警告対象に類似する事象、及び、他の事象も含
めた同一撮影条件下で画像中に現れる様々な事象を逐次
記憶しており、画像中に含まれる対象のダイナミクスを
自動的に取得することができ、そのため、現在の事象に
類似する複数の過去の事象の履歴情報を元に、統計的に
妥当な将来の事象を予測することが可能であり、警告対
象事例の設定数が少ない場合でも、正確な警報を出すこ
とが可能となる。
【0023】さらに、本発明によれば、監視者が警告を
発すべき現象が新たに生じた場合、新たに事例を追加す
ることができる。そのため、運用時間の増大とともに、
本発明の方法及び装置の信頼性を向上させることが可能
となる。また、本発明によれば、個々の警報に対する説
明を事前に容易に、テキストや音声等の形式で記憶させ
ておくことで、利用者にも判りやすい警報情報を配信す
ることが可能となる。
【0024】
【発明の実施の形態】図3は、本発明の画像監視警報装
置構成を示す。同図に示す装置は、入力部100、処理
部200及び出力部300から構成される。入力部10
0は、撮像部101と操作部102から構成される。
【0025】撮像部101は、現象を観測した時系列画
像を撮像するためのビデオカメラや衛星搭載のカメラ、
レーダ装置、医療用撮像装置等、一定時間間隔で画像を
撮像できる装置を用いることができる。また、物理量の
空間的な分布を複数の測定器により観測し、その情報を
画像化する装置も用いることができる。撮像部101
は、監視すべき対象が観測できる場所に設置され、逐次
撮像される時系列の画像は電話回線等の通信路などを通
して処理部200への出力される。
【0026】操作部102は、警告事象の設定などを行
うもので、撮像部101で観測された時系列画像、及び
処理部200に蓄積された過去の時系列画像、処理部2
00が出力する警告情報を表示するためのCRT装置な
どが使用できる。また、操作者が警告対象の事象を指示
するための入力卓も操作部102に含まれる。処理部2
00は、時系列画像記憶部201、画像特徴抽出部20
2、画像特徴量記憶部203、検索予測部204、状況
判定部205、警告事象記憶部206から構成される。
【0027】時系列記憶部201は、撮像部101より
観測される時系列画像を逐次蓄積するデータベースであ
る。画像特徴抽出部202は、時系列画像記憶部201
に蓄積される時系列画像から一定時間間隔毎に、画像特
徴量を計算する。画像特徴量記憶部203は、画像特徴
量抽出部202で計算される画像特徴量のベクトルの時
系列を蓄積するデータベースである。
【0028】検索予測部204は、画像特徴量に基づい
て、直近の画像系列に含まれる事象と類似した過去の事
象を含む画像から検索し、過去の事象の変化に基づき、
指定される予測先行時間先の未来に生じる事象を予測す
る。状況判定部205は、検索予測部204により予測
された未来の事象と、警報事象記憶部203に記憶され
ている過去の警告対象の事象との類似性を画像特徴量に
基づき判定して、予め操作部102により指定された条
件を満たすとき、警報を出力部300へ出力する。
【0029】警告事象記憶部206は、時系列画像記憶
部201に含まれている過去の事象の中で、警報を発す
べき事象を表す画像の時刻、及び、その警報の説明を記
憶している。出力部300は、処理部200から出力さ
れ、通信路を通じて入力される警報情報の情報の利用者
に伝達するためのCRT装置、ページャー、拡声器、電
話などに使用することができ、さらに、警報情報に基づ
いた機器の制御などを行うための制御装置を使用するこ
とができる。
【0030】次に、上記の構成における動作を説明す
る。図4は、本発明の画像監視警報装置の動作を示すフ
ローチャートである。まず、入力部100から現像を観
測した最新の画像を入力し(ステップ101)、処理部
200では、時系列画像記憶部201に入力された画像
を必要に応じて蓄積し(ステップ102)、画像特徴抽
出部202において入力された画像の画像特徴を抽出
し、画像特徴量記憶部203に蓄積し(ステップ10
3)、検索予測部204は、特徴量に基づき過去の事象
から類似した事象を検索し、それに基づいて入力された
画像の未来の事象を予測し(ステップ104)、状況判
定部205は、予測された事象と、設定されている警報
の対象になる事象との照合を行い(ステップ105)、
警告の条件を満たすかの判断を行い(ステップ10
6)、条件を満たす場合には、該当する警告の情報を出
力部300へ出力し(ステップ107)、ステップ10
1に移行し、条件を満たさない場合には、ステップ40
1に移行する。
【0031】次に、警報事例設定時の動作を説明する。
図5は、本発明の警報事例設定時の動作のフローチャー
トである。まず、予め、警報を発すべき事象を監視した
画像を含む時系列画像を必要十分な量だけ撮像部101
にて観測し、時系列画像記憶部201に蓄積し(ステッ
プ201)、次に、操作者が蓄積されている画像を順次
検索し(ステップ202)、警報を発すべき事象かどう
かを判断し(ステップ203)、警告を発すべき事象で
ある場合には、それが含まれる画像の時刻、及び、警告
の内容を記述した情報(テキスト、音声など)を警報事
象記憶部206へ記憶し(ステップ204)、この作業
を必要な警報事象を網羅するまで繰り返す。
【0032】
【実施例】以下、図面と共に本発明の実施例を説明す
る。以下の実施例では、前述の図3に示す構成に基づい
て説明する。時系列画像記憶部201は、撮像部101
で観測され、通信路を通して入力される時系列の画像を
必要に応じて蓄積するデータベースである。また、画像
特徴抽出部202、及び操作部102から指示された画
像フレームを出力することができる。
【0033】警報事例設定時には、まず、警報を発すべ
き現象を監視した画像を含む時系列画像を必要十分な量
だけ蓄積し、警報事例設定が終了した後は、蓄積した画
像を必要に応じて消去する。運用時には、観測された画
像の全て、または、過去の一定時間分のみを選択して記
憶することができる。上記の画像の保存量については、
装置の記憶容量を考慮して利用者が設定することができ
る。
【0034】画像系列は時間的に切れ目なく継続してい
るもの、及び、任意の区間連続している画像系列の集合
を入力、蓄積することができ、画像フレームの時刻また
は、フレーム番号を指定することで対応する画像が取り
出せるものとする。画像特徴抽出部202では、時系列
画像記憶部201に記憶されている画像系列、及び、撮
像部101を通じて入力される最新の画像系列から、一
定の時間間隔で画像の性質を表現する一つまたは、複数
の特徴量ベクトルを計算する。
【0035】警報事例設定時には、時系列画像記憶部2
01に記憶されている画像系列から計算した画像特徴量
を画像特徴量記憶部203に格納し、運用時には、撮像
部101を通じて入力される最新の画像系列から計算し
た画像特徴量を、画像特徴量記憶部203に格納すると
共に、検索予測部204へ出力する。ここでは、例とし
て、画像中のパターンの濃淡値の空間分布を表すメッシ
ュ特徴と、パターンの動き分布を表すベクトル場と、パ
ターン表面の細かい動きやテクスチャーを表現するテン
ポラルテクスチャー特徴の3つの特徴ベクトルを計算す
る例を示す。なお、以下で説明する以外の画像特徴量も
使用可能である。
【0036】図6は、本発明の一実施例の画像特徴量の
例を示す。メッシュ特徴は、ある時刻tにおいて、図6
(a)の例のように得られた画像を図6(b)のように
メッシュに区切り、各メッシュ内の画素の濃淡値を要素
とする1次元の特徴量ベクトルx1 (t)である。ま
た、図6(b)のような各メッシュ中に含まれるパター
ンの平均的な速度ベクトルを図6(c)のような速度ベ
クトル場を計算し、その各成分を要素とする1次元ベク
トルとして速度ベクトル場の特徴量ベクトルx2 (t)
とする。
【0037】さらに、テンポラルテクスチャー特徴は、
パターン表面の細かい動きテクスチャーを表現する画像
特徴であり、パターンの生成・消滅を伴う非剛体の動き
パターンについて、その性質を定量化することができ
る。複数の画像フレームに含まれるパターンの動き成分
の確率密度分布を計算し、その分布から時系列画像の局
所的な時空間領域中に含まれる動きの多様性や、画像要
素の配置の規則性などの画像特徴量を計算している。こ
こでは、優勢な速度の大きさ、動きの一様性、隠蔽率、
輪郭配置の方向性、輪郭配置の粗さ、輪郭のコントラス
トなどの量を要素とするベクトルを一定時間毎に計算
し、特徴量ベクトルx3 (t)とする。
【0038】時系列画像記憶部201に含まれるデータ
について得られた特徴量ベクトルは、画像特徴量記憶部
203に記憶される。なお、この際、各特徴量ベクトル
ごとに、その分散、平均についての正規化を行い、ま
た、検索問い合わせデータ系列入力部(操作部102)
から入力された問い合わせデータ系列から得られた特徴
量ベクトルについても、同じパラメータで正規化を行
う。
【0039】画像特徴量記憶部203では、画像特徴抽
出部202により計算された特徴量ベクトルを記憶し、
検索予測部204及び、状況判定部205からの要求に
応じて、要求された時刻に対応する特徴量ベクトルを出
力する。検索予測部204では、運用時において、画像
特徴抽出部202により計算される最新の時系列画像の
特徴量を入力とし、画像特徴量記憶部203に記憶され
ている過去の時系列画像の特徴量のそれぞれと比較し、
過去の類似する事象を検索し、過去の事例の変化に基づ
き、指定される先行時間先の特徴量の予測値の計算を行
い、その結果を状況判定部204に出力する。
【0040】ここでは、その一例として、以下の方法を
示す。いま、直近の画像系列として、時刻Tに観測され
た画像を含むL時間ステップの画像系列 {T−L+1,…,T−1,T} を入力すると考える。ここで、画像系列をTを表記す
る。Lは、事象のダイナミクスを表現するために必要な
時間幅を予め設定しておく。そこで、時刻Tの画像系列
と時系列画像記憶部201に記憶されている過去の時刻
tの部分画像系列 {t−L+1,…,t−1,t} との間について、各特徴量ベクトルkに関する非類似度 D(T,t)={Dk (T,t)|k=1,2,3} を計算する方法を示す。本実施例では、2つの部分系列
の間の時間伸縮を補正するためにDPマッチングを用い
た方法を利用し、次のように計算する。
【0041】
【数1】
【0042】但し、ηは、警報の予測先行時間のステッ
プ数とし、|・|はユークリッドノルムである。また、
k (T)は、最新の画像系列のパターン変化の速さで
あり、 Vk (T)=|xk (T)−xk (T−1)|. (2) のように計算できる。このVk (T)を用いて、2つの
時刻間のパターン変化の速さに依らない正規化された非
類似度dk (m,n)を計算し、それを時間ステップ幅
Lについて、和が最小になるような非類似度Dk (T,
t)を計算する。
【0043】次に、上記で定義した方法を用いて、最新
の画像系列Tと、時系列画像記憶部201中の各時刻の
部分画像系列との間の非類似度を、それぞれの特徴量ベ
クトルkについて計算する。そして、類似した過去の事
象の候補として、各特徴量ベクトルの非類似度につい
て、利用者が与える閾値ξ={ξ1 ,ξ2 ,ξ3 }を満
たす部分画像系列の集合ST を求める。
【0044】
【数2】
【0045】ここで、ST の各要素を検索候補と呼ぶ。
次に、検索候補集合ST 中の各要素について、各特徴量
ベクトルの非類似度を統合して、総合的な非類似度を求
める。その一例として、非類似度Dk (T,t)につい
ての多項式の関数fとして、総合的な非類似度Y
T (t)を求めることができる。
【0046】 YT (t)=f(D(T,t)) (4) 関数fとしては、各非類似度Dk (T,t)の重み付き
和等が使用できる。また、この各特徴量の非類似度の統
合の方法として具体的に以下の方法が使用できる。ま
ず、上記で得られた部分画像系列の集合ST 中の各時刻
に着目し、その時刻tと時系列画像記憶部201中の他
の時刻τの部分画像系列との非類似度Dk (t,τ)を
計算して、また、併せて、それらの時刻t,τ以後の時
刻における2つの系列の間の非類似度y(t,τ)を着
目する特徴量ベクトルについて計算する。この非類似度
y(t,τ)を予測誤差と呼ぶ。ここでは、前述の、画
像特徴抽出部202の特徴量ベクトルの例として説明し
た、メッシュ特徴x1 (t)を着目する特徴ベクトルと
する。そこで予測誤差y(t,τ)を、
【0047】
【数3】
【0048】のように計算する。次に、このように選択
されたデータ集合ST 中の各要素について得られた非類
似度Dk (t,τ)と、予測誤差のy(t,τ)の組よ
り、非類似度に課される閾値ε=(ε1 ,ε2 ,ε3
を満たす組に対する予測誤差y(t,τ)の期待値e
(ε)を計算する。
【0049】
【数4】
【0050】さらに、この予測誤差の期待値e(ε)
を、非類似度の閾値εの関数と考え、回帰分析を用いて
モデル化を行う。ここでは、モデルの一つとしてロジス
ティックモデルを用いた例を示す。
【0051】
【数5】
【0052】ここで、g(ε)は、閾値εk を変数とす
る多項式であり、b0 は、一つの係数である。このよう
なモデルを用いて計算した予測誤差の期待値
【0053】
【数6】
【0054】を期待予測誤差と呼ぶことにする。期待予
測誤差は、ある閾値εを満たす検索候補の集合につい
て、その将来の画像系列に関する平均的な非類似度の推
定値を意味する。以上の考案より、最新の画像系列T
と、過去の画像系列tとの間の総合的な非類似度Y
T (t)を、
【0055】
【数7】
【0056】として計算することができる。次に、検索
結果の画像系列の最大数Kと、検索結果の画像系列が満
たしているべき総合的な非類似度の閾値eTHを与えて、
以下のように画像系列を選択する。 Cp ={q1 ,q2 ,…,qp } (9) where YT (qi )≦YT (qi+1 ) p=max {i|i≦K,Y’(qi )≦eTH, 次に、検索された過去の時系列画像の特徴量から、予測
対象の時刻における入力された画像の特徴量の予測を行
う。
【0057】ここでは、その例として次の2つの方法を
説明する。なお、以下の方法以外の方法も使用可能であ
る。一つ目の方法は、検索されたデータベース(画像特
徴量記憶部203)中の時系列画像の予測時間先分の時
刻T+ηの画像特徴量を、検索された画像系列と最新の
画像系列との類似度に比例して重み付けをして足し合わ
せたものを予測対象時刻の画像特徴量として計算する方
法である。具体的には、前述の検索部204の説明にお
いて、検索された過去の部分画像系列の集合Cp の時刻
に対応する画像特徴量 {xk (q1 ),xk (q2 ),…,xk (qp )} の最新時刻Tから予測先行時間をステップ先T+ηの時
刻における特徴量値 {xk (q1 +η),xk (q2 +η),…,xk (q
p +η)} を、重みをつけて平均するという方法により、時刻T+
ηにおける画像特徴量の予測値
【0058】
【数8】
【0059】を次のように計算する。
【0060】
【数9】
【0061】ここで、w(qi )は、検索された各画素
の重みであり、検索時における最新の画像系列と検索候
補の画像系列との間の非類似度の逆数に比例している。
また、もう一つの方法としては、検索されたデータベー
ス(画像特徴量記憶部203)中の部分画像系列の画像
特徴量のベクトルの集合中の、任意の2つの画像特徴量
の間のベクトルの差分が、予測先行時間積においてはど
のように変化するかという写像関係を取得し、最新の画
像系列の画像特徴量ベクトルxk (T)と最も類似する
検索された画像の画像特徴量のベクトルxk (q1 )と
の間の差分から、予測対象時刻先における差分ベクトル
を計算し、対応する時刻での画像特徴量のベクトルxk
(q1 +T)との和から、画像特徴量の予測値を計算す
る方法が利用できる。
【0062】具体的には、検索結果の画像系列に対応す
る特徴量ベクトルの集合 X={xk (q1 ),xk (q2 ),…,x
k (qp )} 中の2つのベクトルの組み合わせ (xk (qi ),xk (qj ))(但し、|qi −qj
|>Δ、Δは定数) について、2つの特徴量ベクトル間の変位ベクトル z(qi ,qj )=xk (qi )−xk (qj ) (12) と、2つの特徴量ベクトルの予測対象時間先における変
位ベクトル z’(qi ,qj )=xk (qi +η)−xk (qj +η) (13) との間の関係が、 z’(qi ,qj )=Gz(qi ,qj ) (14) のように局所線形変換Gにより表されると仮定し、検索
結果の集合Cp 中の2つのベクトル間の組み合わせにつ
いて、
【0063】
【数10】
【0064】が最小となるような行列Gを最小2乗法に
より計算する。そして、得られたGを用いて、特徴量の
予測値
【0065】
【数11】
【0066】は、
【0067】
【数12】
【0068】と計算できる。このようにして各種の画像
特徴量k毎に、対象となる予測時間T+ηにおける画像
特徴量の予測値
【0069】
【数13】
【0070】が得られ、これは、状況判定部206へと
出力される。状況判定部206では、運用時において、
検索予測部204により未来の事象を予測を表す画像特
徴量の予測値を入力し、警報事象記憶部206に記憶さ
れている過去の事象との類似性を判定して、予め操作部
102により指定された条件を満たすとき、警報を出力
部300へ出力する。
【0071】ここでは、一例として以下に示す方法を説
明する。まず、前述の検索予測部204により予測され
た対象時刻T+ηにおける画像特徴量の予測値
【0072】
【数14】
【0073】と、警報事象記憶部206に記憶されてい
る事象に対応する画像特徴量との距離を計算する。N種
類の警告対象事例U={U1 ,U2 ,…,UN }の各サ
ンプル時刻Ui ={ui,1 ,ui,2 ,…,ui,Ni}の各
々についての予測画像特徴値
【0074】
【数15】
【0075】との距離は、例えば、次のように計算する
ことができる。
【0076】
【数16】
【0077】但し、Wk (i,j)は、警報対象のi事
象のjサンプルと予測値との現象の進行速度で正規化し
た距離である。また、警報事象記憶部206に記憶され
ている警報に該当しない事象を明示的に示した偽警報事
象の各サンプル時刻{u0,1 ,u0,2 ,…,u0,N0}と
の距離も併せて計算する。
【0078】
【数17】
【0079】ここで、各警報事象と、偽警報事象の各サ
ンプルについての最小の距離を求める。
【0080】
【数18】
【0081】この距離が0に近いほど指定時間先ηの現
象の予測が、予め設定してある警報情報iに近いという
ことを意味する。そこで、操作者が操作部102により
予め設定した閾値RkTH を満たす事象 U’={i|W’k (i)<RkTH } (20) のみ選択し、事象の種類と、各事象の距離と、信頼度を
出力部300へ出力する。ここで、選択された事象の集
合中に偽事象が存在した場合には、偽事象の距離W’k
(0)より大きい事象については警報を出力しないもの
とする。また、事象を説明するテキスト、音声などを警
告事例記憶部206より取り出し、併せて出力する。
【0082】警告事例記憶部206は、時系列画像記憶
部201に含まれている過去の事象の中で、警報を発す
べき事象を表す画像の時刻、及び、その警報の内容を記
憶する。以下では、警報事例の設定方法と、時系列画像
記憶部201に記憶される内容について警報事例設定時
の動作の説明を行う。
【0083】まず、警報を発すべき現象を監視した画像
を含む時系列画像を必要十分な量だけ撮像部101にて
撮像し、時系列画像記憶部201に蓄積を行う。次に、
操作者が、時系列画像記憶部201に蓄積されている画
像を操作部102内のCRT装置などを通して順次観察
し、警告を発すべき現象を含む画像を発見した場合、そ
の画像の時刻と事象の種類を、警告事例記憶部206に
記憶させる。ここでは、N種類の警告対象事例U={U
1 ,U2 ,…,UN }のそれぞれについて、該当する時
刻の集合Ui ={ui,1 ,ui,2 ,…,ui,N }が保存
される。また、事象毎に警告の掲揚を記述した情報(テ
キスト、音声等)も、事象の種類と関連付けて警報事象
記憶部206に記憶させる。
【0084】また、警告を発すべき現象と類似するが、
そうではない事象を偽警報事象として、その時刻を記憶
させる。 Uk (0)={u0,1 ,u0,2 ,…,u0,N0} (21) この作業は、時系列画像記憶部201に含まれている過
去の時系列画像について、必要な警報の対象となる事象
全てについて登録が行われるまで繰り返される。また、
警報対象の事象を観測した画像が、時系列画像記憶部2
01に含まれていない場合には、撮像部101にて、対
象の事象の観測を行う。
【0085】さらに、運用時において警報を出すべき事
象が生じたときに、警報が出力されない場合や、違った
事象の警報が出される場合には、上記の登録作業を逐次
行うことができる。また、警報を出す必要がない場合
に、警報が出力された場合には、上記の該当の画像を偽
警報事象として登録を行う。本発明の用途しては、気象
レーダ、気象衛星から得られる気象画像を用いた気象現
象の監視や、ビデオカメラを用いた道路交通、河川、火
山などの監視などが考えられ、所定の事象、現象、動作
の発生を事前に予知し、利用者に警報を出す応用に利用
できる。
【0086】以下でその一例として、気象レーダ装置を
撮像部101として用い、気象レーダ装置から得られる
時系列の気象レーダ画像を監視することで、気象状況に
関する警報を出す応用を考える。気象レーダ画像中のエ
コーパターンは、降水強度の空間分布に対応している。
画像特徴抽出部202の説明で述べた通り、特徴量ベク
トルとして、メッシュ特徴、速度ベクトル場、テンポラ
ルテクスチャ特徴の3種を用いた。また、時系列画像記
憶部201には、およそ9000時間分(12万フレー
ム)の時系列画像を記憶した。
【0087】警告対象の事象として、図7に示すレーダ
画像パターンを予め設定した。この事象は、広く平野部
に降水パターンが広がり、さらに、長時間の降水の継続
が予期される筋状エコーが発生する気象現象である。い
ま、図8のような画像系列が観測された場合を考える。
図8には、過去3時間から現在までに観測された気象レ
ーダ画像の系列の始めと最後のフレームを示す。36フ
レームで構成される。図9には、図8について得られた
類似した過去の事象を示す。予測対象である時系列画像
には、線状のパターンが、その形状を若干崩しながら、
陸地へ接近する様子が示されており、現在の現象に類似
した現象が過去にも起こっていることが分かる。
【0088】いま、このように検索された過去の事象か
ら、3時間30分後の事象の予測を行った結果、図7の
警告事象と類似するという判断ができ、警報が出力され
る。警報の説明としては例えば、テキスト情報が考えら
れ、「今後、3時間以内に平野部全域で雪が降り始め、
さらに、北西から季節風に伴う筋状の降雪バンドが、数
時間降雪が継続すると予想されます。」といったメッセ
ージが、出力部300より、CRTやページャの画面
上、あるいは、録音済のテキスト音声が拡声器や電話を
通じて利用者に伝達される。さらに、ロードヒーティン
グ装置や、下水道ルーティングプログラム、豪雪時交通
制御プログラム、航空機離発着管制センタなどの装置や
システムに対して起動をかけることができる。
【0089】図10には、実際に3時間30分後に観測
されたレーダ画像を示す。図7の警告対象として設定し
た画像パターンと類似して、平野部の降水と、海上の筋
状エコーが画像中に含まれており、意図した通りに警告
を出すことができたことが確認できる。なお、本発明
は、データを保存し、それらを自由に読み出し可能なハ
ードディスクや、それに準ずる装置と、データを処理す
る際に必要なバックアップやそれに準ずる装置と、所望
の情報を表示・出力するディスプレイやファイル装置な
どの装置を備え、それらを予め定められた手順に基づい
て制御する中央演算装置などを備えたコンピュータやそ
れに準じる装置をもとに、上述した実施例での各部の処
理の一部もしくは、全部、乃至は、図4のフローチャー
トに示した手順、もしくは、アルゴリズムを記述した処
理プログラムやそれに準じるものを、当該コンピュータ
に対して与え、制御、実行させることで実現することが
可能である。ここで、当該処理プログラムやそれに準ず
るものを、コンピュータが実行する際に読み出しを実行
できるCD−ROM、フロッピーディスク(FD)、光
磁気ディスク(MO)、あるいは、それらに準ずる記憶
媒体に記録して、配布することが可能である。
【0090】なお、本発明は、上記の実施例に限定され
ることなく、特許請求の範囲内で種々変更・応用が可能
である。
【0091】
【発明の効果】上述のように、本発明によれば、現在の
現象、事象を観測した時系列画像から、過去に観測した
事象の履歴に基づき、将来起こりうる事象の予測を行
い、事前に設定した事象との類似性を判定して、利用者
に事前に警告を発することができる。そのため、人手で
判断するのが困難な複雑な現象についても、容易に精度
の高い現象の発生が予測できる。
【図面の簡単な説明】
【図1】本発明の原理を説明するための図である。
【図2】本発明の原理構成図である。
【図3】本発明の画像監視警報装置の構成図である。
【図4】本発明の画像監視警報装置の動作のフローチャ
ートである。
【図5】本発明の警報事例設定時の動作のフローチャー
トである。
【図6】本発明の一実施例の画像特徴量の例である。
【図7】本発明の一実施例の警告対象の事象として設定
した気象レーダ画像パターンの例である。
【図8】本発明の一実施例の最新の画像系列を示す図で
ある。
【図9】本発明の一実施例の最新の事象に類似する過去
の事象を含む画像の検索結果である。
【図10】本発明の一実施例の警告を出した3時間後の
実際の気象レーダ画像である。
【符号の説明】
100 入力部 101 撮影手段、撮像部 102 予測先行時間指定手段、操作部 200 処理部 201 時系列画像記憶手段、時系列画像記憶部 202 画像特徴量計算手段、画像特徴抽出部 203 画像特徴量記憶手段、画像特徴量記憶部 204 検索予測手段、検索予測部 205 状況判定手段、状況判定部 206 警告事象記憶手段、警告事象記憶部 300 出力部 301 出力手段
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06F 15/62 380 (72)発明者 児島 治彦 東京都新宿区西新宿三丁目19番2号 日本 電信電話株式会社内 Fターム(参考) 5B057 AA14 BA01 CA08 CA12 CA16 DA15 DB02 DB09 DC02 DC08 DC22 DC36 5B075 ND06 NK06 NK39 PQ02 PQ40 PR03 PR06 QM08 UU29 5C054 FC00 FC01 FC12 FC13 FC16 FE28 FF06 GB05 GB12 GB15 GD05 GD09 HA12 HA18 HA38 5C087 AA02 AA03 AA08 AA24 AA37 AA44 DD02 DD03 DD08 DD13 EE05 EE07 GG02 GG06 GG14 GG21

Claims (21)

    【特許請求の範囲】
  1. 【請求項1】 逐次撮像される時系列画像を用いて、画
    像中に現れる現象、事象の発生を事前に予測し、警報を
    出すための画像監視警報方法において、 警報対象の事象を観測した画像を含む時系列画像を撮影
    して時系列画像記憶手段に蓄積しておき、 蓄積された前記時系列画像から警告対象の事象を含む画
    像を選択して、該画像の時刻を警告の内容と共に警告事
    象記憶手段に記憶し、 利用者の所望する現象の発生を予見すべき予測先行時間
    を指定し、 前記時系列画像記憶手段に蓄積されている前記時系列画
    像から画像特徴量を計算し、計算された該画像特徴量を
    画像特徴量記憶手段に蓄積し、 現時点の画像から計算される画像特徴量と、前記画像特
    徴量記憶手段に蓄積されている過去の画像の画像特徴量
    との比較を行い、類似する過去の事象を検索し、 検索された過去の類似事象の履歴に基づいて、現在の事
    象の予測先行時間後の画像特徴量の予測値を求めること
    で予測先行時間後の事象の予測を行い、 予測された画像特徴量と、予め設定された警告対象の事
    象に対応する画像特徴量との非類似度の度合いを比較
    し、予め設定された基準を満たす場合に、予想される現
    象に対応した警報を前記警告事象記憶手段から読み出し
    て出力することを特徴とする画像監視警報方法。
  2. 【請求項2】 前記画像特徴量を計算する際に、 単位時刻毎の画像中の画素の濃淡値、該濃淡値を空間的
    に平均した平均輝度値、画像平面をメッシュ状に区切
    り、各メッシュに含まれる画像の濃淡値の平均値、画像
    中の物体の速度ベクトルのうちいずれか一つまたは、複
    数を画像特徴量として計算する請求項1記載の画像監視
    警報方法。
  3. 【請求項3】 気象レーダ装置を用いて前記警報対象の
    事象を観測した画像を含む時系列画像及び、前記現時点
    の時系列画像を撮像する請求項1記載の画像監視警報方
    法。
  4. 【請求項4】 前記類似する過去の事象を検索する際
    に、 現在時刻直近の部分画像系列に対応する各画像特徴量の
    系列と、前記画像特徴量記憶手段中の各時刻の部分画像
    系列に対応する各画像特徴量の系列について、2つの系
    列間の特徴量ベクトル間の距離の和、または、平均的な
    距離を、該現在時刻直近の部分画像系列と該記憶手段中
    の部分画像系列との非類似度として、時間的な順序関係
    を保持して、各々の特徴量毎に計算し、 各特徴量毎の非類似度を統合して、総合的な部分画像系
    列間の非類似度を計算し、 前記非類似度が小さい部分系列、または、前記部分画像
    系列の時刻を前記時系列画像記憶手段より選択し、出力
    する請求項1記載の画像監視警報方法。
  5. 【請求項5】 前記総合的な部分画像系列間の非類似度
    を計算する際に、 前記時系列画像記憶手段に蓄積されている部分画像系列
    の各々について、該時系列画像記憶手段中の他の時刻の
    部分画像系列との間の非類似度を各特徴量についてそれ
    ぞれ計算し、 計算されたそれぞれの部分画像系列に続く未来の2つの
    部分画像系列間の非類似度を特定の一つの特徴量につい
    て計算し、 計算された2つの部分画像系列間の非類似度とその未来
    の画像系列間の非類似度との関連を、部分画像系列の非
    類似度の関数として、該部分画像系列に続く未来の部分
    画像系列の期待値をモデル化することで取得し、 現時点の部分画像系列と前記記憶手段中の各部分画像系
    列との間において計算される各特徴量についての非類似
    度を、モデルに適用し、未来の画像系列間の非類似度の
    期待値として前記総合的な非類似度を計算する請求項4
    記載の画像監視警報方法。
  6. 【請求項6】 前記予測先行時間後の事象を予測する際
    に、 検索された前記画像特徴量記憶手段中の過去の画像の予
    測先行時刻後の画像特徴量を、現時刻の画像と検索され
    た画像の非類似度の大きさに逆比例して重み付けして、
    足し合わせたものを、前記予測先行時間後の画像特徴量
    として計算する請求項1記載の画像監視警報方法。
  7. 【請求項7】 前記予測される事象に対応した警報を出
    力する際に、 予め設定された警報対処の事象を含む画像のそれぞれに
    対応する画像特徴量と、現在の事象の予測先行時刻後の
    事象に対応する画像特徴量の予測値との間の距離を計算
    し、 計算された距離のうち、各々の警告対象の事象について
    最も小さいものを選択し、 選択された各警告対象の事象と、現在の事象との距離を
    計算し、予め設定された距離の条件を満たす事象を選択
    し、 選択された事象の警報情報を出力する請求項1記載の画
    像監視警報方法。
  8. 【請求項8】 逐次撮像される時系列画像を用いて、画
    像中に現れる現象、事象の発生を事前に予測し、警報を
    出すための画像監視警報装置であって、 警報対象の事象を観測した画像を含む時系列画像を撮影
    する撮影手段と、 前記撮影手段で撮影された前記時系列画像を蓄積する時
    系列画像記憶手段と、 前記時系列画像記憶手段に蓄積された前記時系列画像か
    ら選択された警告対象の事象を含む画像の時刻を警告の
    内容と共に記憶する警告事象記憶手段と、 利用者の所望する現象の発生を予見すべき予測先行時間
    を指定する予測先行時間指定手段と、 前記時系列画像記憶手段の現時点における時系列画像か
    ら画像特徴量を計算する画像特徴量計算手段と、 計算された該画像特徴量を蓄積する画像特徴量記憶手段
    と、 現時点の画像から計算される画像特徴量と前記画像特徴
    量記憶手段に蓄積されている過去の画像の画像特徴量と
    の比較を行い、類似する過去の事象を検索し、検索され
    た過去の類似事象の履歴に基づいて、現在の事象の予測
    先行時間後の画像特徴量の予測値を求めることで予測先
    行時間後の事象の予測を行う検索予測手段と、 予測された画像特徴量と予め設定された警告対象の事象
    に対応する画像特徴量との非類似度の度合いを比較する
    状況判定手段と、 前記状況判定手段において、予め設定された基準を満た
    す場合に、予想される現象に対応した警報を前記警報事
    象記憶手段から読み出して出力する出力手段とを有する
    ことを特徴とする画像監視警報装置。
  9. 【請求項9】 前記画像特徴量計算手段は、 単位時刻毎の画像中の画素の濃淡値、該濃淡値を空間的
    に平均した平均輝度値、画像平面をメッシュ状に区切
    り、各メッシュに含まれる画像の濃淡値の平均値、画像
    中の物体の速度ベクトルのうちいずれか一つまたは、複
    数を画像特徴量として計算する手段を含む請求項8記載
    の画像監視警報装置。
  10. 【請求項10】 前記撮影手段は、 前記時系列画像を撮影する気象レーダ装置を有する請求
    項8記載の画像監視警報装置。
  11. 【請求項11】 前記検索予測手段は、 現在時刻直近の部分画像系列に対応する各画像特徴量の
    系列と、前記画像特徴量記憶手段中の各時刻の部分画像
    系列に対応する各画像特徴量の系列について、2つの系
    列間の特徴量ベクトル間の距離の和、または、平均的な
    距離を、該現在時刻直近の部分画像系列と該時系列画像
    記憶手段中の部分画像系列との非類似度として、時間的
    な順序関係を保持して、各々の特徴量毎に計算する手段
    と、 各特徴量毎の非類似度を統合して、総合的な部分画像系
    列間の非類似度を計算する手段と、 前記非類似度が小さい部分系列、または、前記部分画像
    系列の時刻を前記時系列画像記憶手段より選択し、出力
    する手段を有する請求項8記載の画像監視警報装置。
  12. 【請求項12】 前記総合的な部分画像系列間の非類似
    度を計算する手段は、 前記時系列画像記憶手段に蓄積されている部分画像系列
    の各々について、該記憶手段中の他の時刻の部分画像系
    列との間の非類似度を各特徴量についてそれぞれ計算す
    る手段と、 計算されたそれぞれの部分画像系列に続く未来の2つの
    部分画像系列間の非類似度を特定の一つの特徴量につい
    て計算する手段と、 計算された2つの部分画像系列間の非類似度とその未来
    の画像系列間の非類似度との関連を、部分画像系列の非
    類似度の関数として、該部分画像系列に続く未来の部分
    画像系列の期待値をモデル化することで取得する手段
    と、 現時点の部分画像系列と前記時系列画像記憶手段中の各
    部分画像系列との間において計算される各特徴量につい
    ての非類似度を、モデルに適用し、未来の画像系列間の
    非類似度の期待値として前記総合的な非類似度を計算す
    る手段とを有する請求項11記載の画像監視警報装置。
  13. 【請求項13】 前記検索予測手段は、 検索された前記画像特徴量記憶手段中の過去の画像の予
    測先行時刻後の画像特徴量を、現時刻の画像と検索され
    た画像の非類似度の大きさに逆比例して重み付けして、
    足し合わせたものを、前記予測先行時間後の画像特徴量
    として計算する手段を有する請求項8記載の画像監視警
    報装置。
  14. 【請求項14】 前記状況判定手段は、 予め設定された警報対処の事象を含む画像のそれぞれに
    対応する画像特徴量と、現在の事象の予測先行時刻後の
    事象に対応する画像特徴量の予測値との間の距離を計算
    する手段と計算された距離のうち、各々の警告対象の事
    象について最も小さいものを選択する手段と、 選択された各警告対象の事象と、現在の事象との距離を
    計算し、予め設定された距離の条件を満たす事象を選択
    する手段とを有し、 前記出力手段は、 選択された事象の警報情報を出力する手段を有する請求
    項8記載の画像監視警報装置。
  15. 【請求項15】 前記出力手段は、 CRT、ページャー、拡声器、電話のうちいずれか一つ
    または、複数の装置を有する請求項1記載の画像監視警
    報装置。
  16. 【請求項16】 逐次撮像される時系列画像を用いて、
    画像中に現れる現象、事象の発生を事前に予測し、警報
    を出すための画像監視警報プログラムを格納した記憶媒
    体であって、 警報対象の事象を観測した画像を含む時系列画像を撮影
    させる撮影プロセスと、前記撮影プロセスで撮影された
    前記時系列画像を時系列画像記憶手段に蓄積するプロセ
    スと、 前記時系列画像記憶手段に蓄積された前記時系列画像か
    ら警告対象の事象を含む画像の時刻を警告の内容と共に
    警告事象記憶手段に記憶するプロセスと、 利用者の所望する現象の発生を予見すべき予測先行時間
    を指定する予測先行時間指定プロセスと、 前記時系列画像記憶手段の現時点における時系列画像か
    ら画像特徴量を計算し、画像特徴量記憶手段に蓄積する
    画像特徴量計算プロセスと、 現時点の画像から計算される画像特徴量と、前記画像特
    徴量記憶手段に蓄積されている過去の画像の画像特徴量
    との比較を行い、類似する過去の事象を検索し、検索さ
    れた過去の類似事象の履歴に基づいて、現在の事象の予
    測先行時間後の画像特徴量の予測値を求めることで予測
    先行時間後の事象の予測を行う検索予測プロセスと、 予測された画像特徴量と、予め設定された警告対象の事
    象に対応する画像特徴量との非類似度の度合いを比較す
    る状況判定プロセスと、 前記状況判定プロセスにおいて、予め設定された基準を
    満たす場合に、予想される現象に対応した警報を前記警
    告事象記憶手段から読み出して出力する出力プロセスと
    を有することを特徴とする画像監視警報プログラムを格
    納した記憶媒体。
  17. 【請求項17】 前記画像特徴量計算プロセスは、 単位時刻毎の画像中の画素の濃淡値、該濃淡値を空間的
    に平均した平均輝度値、画像平面をメッシュ状に区切
    り、各メッシュに含まれる画像の濃淡値の平均値、画像
    中の物体の速度ベクトルのうちいずれか一つまたは、複
    数を画像特徴量として計算するプロセスを含む請求項1
    6記載の画像監視警報プログラムを格納した記憶媒体。
  18. 【請求項18】 前記検索予測プロセスは、 現在時刻直近の部分画像系列に対応する各画像特徴量の
    系列と、前記画像特徴量記憶手段中の各時刻の部分画像
    系列に対応する各画像特徴量の系列について、2つの系
    列間の特徴量ベクトル間の距離の和、または、平均的な
    距離を、該現在時刻直近の部分画像系列と該時系列画像
    記憶手段中の部分画像系列との非類似度として、時間的
    な順序関係を保持して、各々の特徴量毎に計算するプロ
    セスと、 各特徴量毎の非類似度を統合して、総合的な部分画像系
    列間の非類似度を計算するプロセスと、 前記非類似度が小さい部分系列、または、前記部分画像
    系列の時刻を前記時系列画像記憶手段より選択し、出力
    するプロセスを有する請求項16記載の画像監視警報プ
    ログラムを格納した記憶媒体。
  19. 【請求項19】 前記総合的な部分画像系列間の非類似
    度を計算するプロセスは、 前記時系列画像記憶手段に蓄積されている部分画像系列
    の各々について、該時系列画像記憶手段中の他の時刻の
    部分画像系列との間の非類似度を各特徴量についてそれ
    ぞれ計算するプロセスと、 計算されたそれぞれの部分画像系列に続く未来の2つの
    部分画像系列間の非類似度を特定の一つの特徴量につい
    て計算するプロセスと、 計算された2つの部分画像系列間の非類似度とその未来
    の画像系列間の非類似度との関連を、部分画像系列の非
    類似度の関数として、該部分画像系列に続く未来の部分
    画像系列の期待値をモデル化することで取得するプロセ
    スと、 現時点の部分画像系列と前記時系列画像記憶手段中の各
    部分画像系列との間において計算される各特徴量につい
    ての非類似度を、モデルに適用し、未来の画像系列間の
    非類似度の期待値として前記総合的な非類似度を計算す
    るプロセスとを有する請求項18記載の画像監視警報プ
    ログラムを格納した記憶媒体。
  20. 【請求項20】 前記検索予測プロセスは、 検索された前記画像特徴量記憶手段中の過去の画像の予
    測先行時刻後の画像特徴量を、現時刻の画像と検索され
    た画像の非類似度の大きさに逆比例して重み付けして、
    足し合わせたものを、前記予測先行時間後の画像特徴量
    として計算するプロセスを有する請求項16記載の画像
    監視警報プログラムを格納した記憶媒体。
  21. 【請求項21】 前記状況判定プロセスは、 予め設定された警報対処の事象を含む画像のそれぞれに
    対応する画像特徴量と、現在の事象の予測先行時刻後の
    事象に対応する画像特徴量の予測値との間の距離を計算
    するプロセスと計算された距離のうち、各々の警告対象
    の事象について最も小さいものを選択するプロセスと、 選択された各警告対象の事象と、現在の事象との距離を
    計算し、予め設定された距離の条件を満たす事象を選択
    するプロセスとを有し、 前記出力プロセスは、 選択された事象の警報情報を出力させるプロセスを有す
    る請求項16記載の画像監視警報プログラムを格納した
    記憶媒体。
JP11148504A 1999-05-27 1999-05-27 画像監視警報方法及び装置及び画像監視警報プログラムを格納した記憶媒体 Pending JP2000339329A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11148504A JP2000339329A (ja) 1999-05-27 1999-05-27 画像監視警報方法及び装置及び画像監視警報プログラムを格納した記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11148504A JP2000339329A (ja) 1999-05-27 1999-05-27 画像監視警報方法及び装置及び画像監視警報プログラムを格納した記憶媒体

Publications (1)

Publication Number Publication Date
JP2000339329A true JP2000339329A (ja) 2000-12-08

Family

ID=15454249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11148504A Pending JP2000339329A (ja) 1999-05-27 1999-05-27 画像監視警報方法及び装置及び画像監視警報プログラムを格納した記憶媒体

Country Status (1)

Country Link
JP (1) JP2000339329A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010128711A (ja) * 2008-11-26 2010-06-10 Nippon Telegr & Teleph Corp <Ntt> 天候変化検出装置、天候変化検出方法及び天候変化検出プログラム
CN106683361A (zh) * 2017-01-24 2017-05-17 宇龙计算机通信科技(深圳)有限公司 声音监控方法及装置
CN107609498A (zh) * 2017-09-01 2018-01-19 湖州师范学院 一种计算机监控系统的数据处理方法
CN112257546A (zh) * 2020-10-19 2021-01-22 浙江宇视科技有限公司 一种事件预警方法、装置、电子设备及存储介质
CN112561361A (zh) * 2020-12-22 2021-03-26 深圳市九州建设技术股份有限公司 基于bim的工程监理信息化管理方法、系统及存储介质

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010128711A (ja) * 2008-11-26 2010-06-10 Nippon Telegr & Teleph Corp <Ntt> 天候変化検出装置、天候変化検出方法及び天候変化検出プログラム
JP4722178B2 (ja) * 2008-11-26 2011-07-13 日本電信電話株式会社 天候変化検出装置、天候変化検出方法及び天候変化検出プログラム
CN106683361A (zh) * 2017-01-24 2017-05-17 宇龙计算机通信科技(深圳)有限公司 声音监控方法及装置
CN107609498A (zh) * 2017-09-01 2018-01-19 湖州师范学院 一种计算机监控系统的数据处理方法
CN107609498B (zh) * 2017-09-01 2020-08-18 湖州师范学院 一种计算机监控系统的数据处理方法
CN112257546A (zh) * 2020-10-19 2021-01-22 浙江宇视科技有限公司 一种事件预警方法、装置、电子设备及存储介质
CN112257546B (zh) * 2020-10-19 2024-04-09 浙江宇视科技有限公司 一种事件预警方法、装置、电子设备及存储介质
CN112561361A (zh) * 2020-12-22 2021-03-26 深圳市九州建设技术股份有限公司 基于bim的工程监理信息化管理方法、系统及存储介质
CN112561361B (zh) * 2020-12-22 2024-04-09 深圳市九州建设技术股份有限公司 基于bim的工程监理信息化管理方法、系统及存储介质

Similar Documents

Publication Publication Date Title
US6263089B1 (en) Method and equipment for extracting image features from image sequence
US20090304230A1 (en) Detecting and tracking targets in images based on estimated target geometry
JP5459674B2 (ja) 移動物体追跡システムおよび移動物体追跡方法
JP4874607B2 (ja) 物体測位装置
JP2005190477A (ja) オブジェクト検出
JP6565600B2 (ja) アテンション検出装置及びアテンション検出方法
JP2005174352A (ja) オブジェクト検出
CN109191498B (zh) 基于动态记忆和运动感知的目标检测方法及系统
JP2002373332A (ja) 画像認識装置および画像認識方法
CN109255360B (zh) 一种目标分类方法、装置及系统
JP5371040B2 (ja) 移動物体追跡装置、移動物体追跡方法および移動物体追跡プログラム
CN116343436A (zh) 一种山体滑坡检测的方法、装置、设备及介质
CN115690545B (zh) 训练目标跟踪模型和目标跟踪的方法和装置
JP2007028680A (ja) 監視装置
CN111768429A (zh) 一种基于卡尔曼滤波和行人重识别算法的隧道环境下行人目标跟踪方法
CN110969645A (zh) 面向拥挤场景的无监督异常轨迹检测方法和装置
JP2000339329A (ja) 画像監視警報方法及び装置及び画像監視警報プログラムを格納した記憶媒体
JPWO2018163243A1 (ja) 物体追跡装置及び物体追跡方法
CN117372629A (zh) 一种基于数字孪生的水库可视化数据监管控制系统及方法
JP7327645B2 (ja) 画像処理装置、画像処理システム、画像処理方法、および画像処理プログラム
JP7243372B2 (ja) 物体追跡装置および物体追跡方法
Pillai et al. Fine-Tuned EfficientNetB4 Transfer Learning Model for Weather Classification
JP2000322556A (ja) 時系列画像予測方法及び装置及び時系列画像予測プログラムを格納した記憶媒体
CN113743293B (zh) 跌倒行为检测方法、装置、电子设备及存储介质
CN113450385B (zh) 一种夜间工作工程机械视觉跟踪方法、装置及存储介质