JP6813055B2 - 画像処理システム、画像処理方法及びプログラム記憶媒体 - Google Patents

画像処理システム、画像処理方法及びプログラム記憶媒体 Download PDF

Info

Publication number
JP6813055B2
JP6813055B2 JP2019105217A JP2019105217A JP6813055B2 JP 6813055 B2 JP6813055 B2 JP 6813055B2 JP 2019105217 A JP2019105217 A JP 2019105217A JP 2019105217 A JP2019105217 A JP 2019105217A JP 6813055 B2 JP6813055 B2 JP 6813055B2
Authority
JP
Japan
Prior art keywords
background model
image
moving body
pixel
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019105217A
Other languages
English (en)
Other versions
JP2019145174A (ja
Inventor
博義 宮野
博義 宮野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JP2019145174A publication Critical patent/JP2019145174A/ja
Application granted granted Critical
Publication of JP6813055B2 publication Critical patent/JP6813055B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/215—Motion-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/28—Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20076—Probabilistic image processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30196—Human being; Person
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30232—Surveillance

Description

本発明に係るいくつかの態様は、画像処理システム、画像処理方法及びプログラム記憶媒体に関する。
近年、ビデオ監視などの用途において、人や車等の移動体を検出し追跡することに対するニーズが高まっている。このようなニーズの高まりにあわせて、移動体を検出し、検出した移動体を追跡する手法が数多く提案されている。ここで移動体は、画像に映る物体のうち、常に移動をつづける物体のみに限られるものではなく、一時的に停止（静止／滞留ともいう。）する場合をも含む。換言すれば、移動体は、画像中の背景とみなされる部分以外に映る物体全般を指す。例えば、ビデオ監視での監視対象として一般的である人や車は、常に動いているわけではなく、一時的に停止したり駐車したりといった静止状態が発生する。そのため、一時的に停止する場合でも検出できるようにすることが、ビデオ監視などの用途において重要である。
移動体を検出する手法の１つとして、背景差分法が知られている（例えば、非特許文献１及び非特許文献２参照）。背景差分法は、背景として記憶している画像と、カメラで撮影された画像とを比較して、違いのある領域を移動体として抽出する手法である。ここで、背景差分を用いて移動体を検出する場合、解析を行う時点における正確な背景抽出が必要となる。単純に観測開始時のデータを固定的に背景として利用する場合には、照明の変化など環境が変化していくことに伴う背景変化の影響を受けて誤検出が多く発生してしまうからである。そこで、このような課題を回避すべく、最新の一定時間内の観測画像から例えば各画素について平均値を算出する等の手法により、解析を行う時点での背景を推定することが多い。例えば非特許文献１には、背景の更新を逐次行いながら背景差分法を適用する方法が開示されている。
一方、置き去りにされた物体や一定時間滞留する人物のような一時的な静止する物体に限定して抽出する技術も存在する（例えば、特許文献１参照）。特許文献１には、シーン中の動きを複数の異なる時間幅の背景モデルで解析する手法が開示されている。当該手法では、長時間のレンジで解析された長期背景モデルと、短時間のレンジで解析された短期背景モデルを作成する。そして、短期背景モデルに基づく背景差分で移動体が検知されず、長期背景モデルに基づく背景差分で移動体が検知される状態が所定回数継続すれば、一時的な静止物が存在するものとして、当該静止物が移動体として検出される。
特許第５０５８０１０号公報
川端敦、谷藤真也、諸岡泰男。「移動体像の抽出技術」、情報処理学会、vol.28、no.4、pp.395-402、1987 C. Stauffer and W. E. L. Grimson， "Adaptive background mixture models for real-time tracking"， Proceedings of CVPR， vol.2， pp. 246-252， 1999
ここで、非特許文献１のように、逐次背景画像を更新していきながら解析対象の画像と背景画像との差分（「背景差分」ともいう。）を行う手法において、人や車等の移動体が背景画像を解析する時間幅よりも長時間滞在する場合を考える。この場合、当該移動体は背景画像の一部と判定されてしまうため、検知できないという課題がある。一方で、一時的な静止物を検出するために解析する時間幅を長くすると、照明変動のような外部ノイズによる背景変化の影響を受けやすくなるため、静止物以外の背景画像の一時的な変化を多く誤検出する課題が生じる。
また、特許文献１は一時的な静止物を検出することを意図したものであるが、長期背景モデルに基づく背景差分が観測画像取得時の真の背景を表現できることを前提としている。そのため、照明変動のような時々刻々と背景が変化する環境では、長期背景モデルが観測画像取得時の真の背景との違いが大きくなるため、誤検出を十分に抑止するのは困難であった。
本発明のいくつかの態様は前述の課題に鑑みてなされたものであり、好適に移動体を検出するための画像処理システム、画像処理方法及びプログラム記憶媒体を提供することを目的の１つとする。
本発明に係る１の画像処理システムは、映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受け、前記入力に基づき、移動体を検出するためのパラメータを学習する学習手段に、前記入力された情報を出力する。
本発明に係る１の画像処理方法は、コンピュータが映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受け、前記入力に基づき、移動体を検出するためのパラメータを学習する学習手段に、前記入力された情報を出力する。
本発明に係る１のプログラムは、映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受け、前記入力に基づき、移動体を検出するためのパラメータを学習する学習手段に、前記入力された情報を出力する処理をコンピュータに実行させる。
なお、本発明において、「部」や「手段」、「装置」、「システム」とは、単に物理的手段を意味するものではなく、その「部」や「手段」、「装置」、「システム」が有する機能をソフトウェアによって実現する場合も含む。また、１つの「部」や「手段」、「装置」、「システム」が有する機能が２つ以上の物理的手段や装置により実現されても、２つ以上の「部」や「手段」、「装置」、「システム」の機能が１つの物理的手段や装置により実現されても良い。
本発明によれば、好適に移動体を検出するための画像処理システム、画像処理方法及びプログラム記憶媒体を提供することができる。
背景モデルと入力画像フレームとの関係を説明するための図である。 表示画面の具体例を説明するための図である。 本実施形態に係る移動体検出手法を説明するための図である。 第１実施形態に係る画像処理システムの概略構成を示す機能ブロック図である。 第１実施形態に係る画像処理システムの概略構成を示す機能ブロック図である。 図４に示す画像処理システムの処理の流れを示すフローチャートである。 図５に示す画像処理システムの処理の流れを示すフローチャートである。 図４及び５に示す画像処理システムを実装可能なハードウェアの構成を示すブロック図である。 第２実施形態に係る画像処理システムの概略構成を示す機能ブロック図である。 第２実施形態に係る画像処理システムの概略構成を示す機能ブロック図である。
以下に本発明の実施形態を説明する。以下の説明及び参照する図面の記載において、同一又は類似の構成には、それぞれ同一又は類似の符号が付されている。
（１ 第１実施形態）
（１．１ 概要）
図１乃至図７は、実施形態を説明するための図である。以下、これらの図を参照しながら説明する。
本実施形態は、カメラ等の撮影装置により撮影された映像中から、人物や車などの、移動や一時的な滞留を繰り返す移動体を検出するための画像処理システムに関する。特に、本実施形態に係る画像処理システムでは、照明変動のような時々刻々と環境が変化する場合であっても、人や車などの移動体を好適に検出する。
そのために本実施形態に係る画像処理システムは、図１に示すように、映像から切りだされた各時刻の画像フレームを元にそれぞれ作成される３つの背景モデルを生成し、これらの背景モデルを用いて移動体の検出を行う。これらの３つの背景モデルは、それぞれ背景モデルの元となる複数の画像フレームが撮影される時刻の時間幅（解析対象の時間幅）が異なる。以下、これらの３つの背景モデルを、長期背景モデル、中期背景モデル、及び短期背景モデルと呼ぶ。
ここで、本実施形態に係る画像処理システムでは、短期背景モデル、中期背景モデル、及び長期背景モデルに対して非線形関数を適用することにより、移動体の写る領域（移動体領域）と移動体の存在しない背景領域とを判定する。より具体的には、本実施形態に係る画像処理システムは、非線形関数として、ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ。畳み込みニューラルネットワークとも呼ぶ。）を用いて、移動体領域の判別を行う。当該手法は、（１）移動体を判別するための移動体検出モデル（パラメータ）を学習（教師付き学習）するフェーズと、（２）生成した移動体検出モデルを用いて移動体を検出するフェーズ、の大きく２つに分かれる。
まず、移動体検出モデルを生成するための正解データの生成手法について説明する。画像処理システムは、正解データとして、入力された各撮影時刻の画像フレームに対して、移動体領域の画素と背景領域の画素との指定をユーザから受ける。図２に、移動体領域の画素と背景領域の画素との指定を受けるＧＵＩ（Ｇｒａｐｈｉｃａｌ Ｕｓｅｒ Ｉｎｔｅｒｆａｃｅ）画面の画面例を示す。
図２の例では、画像フレーム２０上に、カーソル２１が表示されている。ユーザはマウス等のポインティングデバイスによりカーソル２１を操作して、背景領域にはアイコン２３を配置し、人物が写る移動体領域にはアイコン２５を配置する。なお、ユーザは、画像フレーム２０の全画素について移動体領域であるか背景領域であるかを指定する必要はない。画像処理システムは、このように移動体領域か背景領域かの指定を受けた画素を用いてＣＮＮの移動体検出モデルを生成する。
図３に、本実施形態に係る画像処理システムが利用可能なＣＮＮの具体例を示す。図３に示した例では、まず、移動体か否かを判別したい画素位置に対し、当該画素位置を中心とする５画素×５画素の画像を、短期背景モデルと中期背景モデルとの差分画像、短期背景モデルと長期背景モデルとの差分画像、及び中期背景モデルと長期背景モデルとの差分画像のそれぞれから抽出する。
その上で、８種類の３×３×３フィルタを用いて、８種類の畳み込み処理を行うことにより、３画素×３画素の画像を８枚生成する。さらに、それぞれの画像内の画素値ｘに対して、以下の数式ｆ（ｘ）を適用することにより、非線形変換を行う。
Figure 0006813055
ここで、ａは８種類のフィルタで得られる画像の画素毎に定められるパラメータであり、教師付き学習により決定される。生成された３画素×３画素×８枚の画像は、ニューラルネットワークのノードに相当する。
同様に、これらの３画素×３画素×８枚の画像に対して、１５種類の３×３×８フィルタを用いて、１５種類の畳み込み処理を行うことにより、１画素×１画素の画像を１５枚生成する。その上で、それぞれの画像内の画素値ｘに対して、上記ｆ（ｘ）を適用する。
ｆ（ｘ）に含まれるパラメータａは、上記の場合と同様に、１５種類のフィルタで得られる画像の画素毎に定められるパラメータであり、上記教師付き学習により決定される。生成された１画素×１画素×１５枚の画像は、ニューラルネットワークのノードに相当する。
最後に、これらの１画素×１画素×１５枚の画像に対して、１種類の１×１×１５フィルタを用いて畳み込み処理を行い、１つの値を計算する。その上で、当該１つの値に対して上記ｆ（ｘ）を適用する。ｆ（ｘ）に含まれるパラメータａは、上記の場合と同様に、当該１つのフィルタで得られる値に対して定められるパラメータであり、上記教師付き学習により決定される。
このような処理により得られる値を、ここでは移動体らしさｖとする。移動体であるか否かの判定は、ｖに対して予め定めた閾値Ｔとの比較によりおこなわれる。ｖ≧Ｔであれば、処理対象の画素位置は移動体であると判別され、ｖ＜Ｔであれば背景領域と判別される。閾値Ｔの値は予め定められるパラメータである。
上述の通り、パラメータａやＴ等のＣＮＮに利用するパラメータは、教師付き学習によって推定され、後述の移動体検出パラメータ辞書に格納される。パラメータの学習を行うことで、例えば風による木の揺れ等、動きを検出しやすい時間幅の背景モデルをあまり利用せずに、人や車などの特定の移動体の動きを正しく検出しやすい時間幅の背景モデルを利用するといった、特定の移動体を検出しやすい移動体検出モデルを構築することが可能である。
よって、本実施形態に係る画像処理システムは、照明変動や風等の外部ノイズによる背景変化の影響をうける環境下であっても、人や車などの移動体を、安定的に移動物体を検出できる。
なお、図３の移動体検出モデルの例では、３枚の背景モデルの差分画像から、８枚及び１５枚の中間画像を生成し、最終的な移動体らしさｖを算出しているが、これに限られるものではない。例えば、入力となる背景モデルの差分画像は４以上であっても良いし、中間画像の枚数の数ももっと多く、若しくは少なくすることも可能である。
（１．２ システム構成）
以下、図４及び図５を用いて、本実施形態に係る画像処理システムのシステム構成を説明する。図４は移動体検出のための移動体検出モデル（パラメータ）の生成に係る学習を行う画像処理システム１００のシステム構成を示す。また図５は生成された移動体検出モデルを用いて移動体を検出する画像処理システム２００のシステム構成を示す。なお、図４及び図５に係る画像処理システム１００及び２００は、同一の装置上で実現してもよいし、異なる装置上で実現しても良い。
（１．２．１ 学習に用いる画像処理システム１００のシステム構成）
まず、図４を参照しながら、移動体検出のためのＣＮＮの移動体検出モデルを生成するための画像処理システム１００のシステム構成について説明する。画像処理システム１００は、画像入力部１１０、領域指定部１２０、背景モデル取得部１３０、背景モデル更新部１４０、背景モデルデータベース（ＤＢ）１５０、背景モデル間距離計算部１６０、移動体検出モデル構築部１７０、及び移動体検出パラメータ辞書１８０を含む。
（１．２．１．１ 画像入力部１１０）
画像入力部１１０は、図示しないカメラなどの撮影装置から映像を構成する画像フレーム、すなわちそれぞれ撮影時刻の異なる画像フレームの入力を受ける。ここで、画像フレームはモノクロ画像であっても良いし、カラー画像であっても良い。モノクロ画像であれば、画像フレームには各画素に１つの値が含まれる。カラー画像であれば、画像フレームには各画素に３つの値（例えばＲＧＢ、ＹＣｂＣｒ等の色表現）を有する。或いは画像フレームには、ＴＯＦ（Ｔｉｍｅ ｏｆ Ｆｌｉｇｈｔ）カメラなどにより得られる距離情報など、画素毎に４以上の値を有してもよい。
（１．２．１．２ 領域指定部１２０）
領域指定部１２０は、画像フレームに対して、正解データを入力するためのＧＵＩをユーザに提供し、ユーザからの入力に応じて、画像フレーム内に含まれる画素に対して、移動体領域と背景領域との指定を行う。領域指定部１２０が表示装置に表示する表示画面の具体例は、図２に示した通りである。
これにより、領域指定部１２０は、当該画像フレーム内のユーザの選択した画素についての、正解データ（移動体領域若しくは背景領域の区別）を用意することができる。
なお、移動体領域と背景領域との指定は、画素に対して行うことからわかるように、画面上の様々な位置に対して点として入力する。様々な位置に対して点として入力することにより、少ない入力数でも多様性のある学習データが生成され、学習効率が良くなる。また、移動体領域と背景領域との指定は、さまざまな時刻の画像に対して実施する。これにより、より多様性のある学習データ（正解データ）が生成され、学習効率が良くなる。
（１．２．１．３ 背景モデル取得部１３０）
背景モデル取得部１３０は、画像入力部１１０から入力された画像フレーム、及び、背景モデルＤＢ１５０に格納されている短期背景モデル、中期背景モデル、及び長期背景モデルの３つの背景モデルを読み込む。
（１．２．１．４ 背景モデルＤＢ１５０）
背景モデルＤＢ１５０は、解析元となる画像フレームの撮影時刻の時間幅の異なる短期背景モデル、中期背景モデル、及び長期背景モデルを含む複数の背景モデルを格納する。
ここで、各背景モデルの形式は種々考えられるが、例えば画像入力部１１０から入力される画像フレームと同様の画像形式とすることができる。例えば背景モデルをモノクロ画像とするのであれば、各画素毎に１つの値が、カラー画像とするのであれば各画素毎に３つの値が含まれる。
或いは、背景モデルは、各画素毎に、その元となった各画像フレームの画素値の尤度を示す、各画素毎の分布関数とすることもできる。ここで分布関数は、例えばヒストグラムとすることも考えられるし、或いは、複数のガウシアンの和による分布関数としてもよい。
前述のとおり、短期背景モデル、中期背景モデル、及び長期背景モデルは、元となる画像フレームの撮影時刻の時間幅がそれぞれ異なり、短期背景モデル、中期背景モデル、長期背景モデルの順に、時間幅が長くなる。特に短期背景モデルに関しては、画像入力部１１０から入力された画像フレームを、そのまま短期背景モデルとして採用することも考えられる。その場合には、背景モデルＤＢ１５０では短期背景モデルを管理しないことも考えられる。
（１．２．１．５ 背景モデル更新部１４０）
背景モデル更新部１４０は、背景モデル取得部１３０が取得した処理時刻の画像フレーム、及び背景モデルＤＢ１５０に記憶された背景モデルから、処理時刻の画像フレーム（最も新しい時刻の画像フレーム）を考慮した短期背景モデル、中期背景モデル、及び長期背景モデルを生成する。生成された背景モデルは、背景モデルＤＢ１５０に格納される。
本実施形態において、短期背景モデル、中期背景モデル、及び長期背景モデルは、それぞれ元となる画像フレームの撮影時刻の時間幅が異なる。図１に示すように、短期背景モデルは処理時刻から最も短い時間幅に撮影された画像フレームから、中期背景モデルはそれよりも長い時間幅に撮影された画像フレームから、長期背景モデルは最も長い時間幅に撮影された画像フレームから、それぞれ生成される。
背景モデルの生成方法としては、例えば、各背景モデルごとに定められた時間幅分の画像フレームについて、画素値の平均値や最頻値を取ることが考えられる。或いは、前述のとおり背景モデルを画素毎の分布関数とするのであれば、時間幅内に含まれる各画像フレームの画素値の分布関数を生成してもよい。
なお、本実施形態では、短期背景モデル、中期背景モデル、及び長期背景モデルは、それぞれ元となる画像フレームの撮影時刻の時間幅が異なるものとして説明しているが、これに限られるものではない。短期背景モデル、中期背景モデル、及び長期背景モデルは、処理時刻（最も新しい時刻）の画像フレームが与える影響の大きさの異なる背景モデルであると理解することもできる。すなわち、短期背景モデルは、処理時刻の画像フレームの与える影響が最も大きく、長期背景モデルは、処理時刻の画像フレームの与える影響は最も小さい。よって、時間幅という概念を用いる代わりに更新係数という概念を導入し、画像入力部１１０から入力された画像フレームを用いて背景モデルを更新する際の更新係数を短期背景モデル、中期背景モデル及び長期背景モデルで変えるようにしても良い。
この場合、例えば、背景モデルがＩbgであり、画像入力部１１０から入力された画像フレームをＩとすると、
Figure 0006813055
として、背景モデルを更新することができる。この式において、ａは０以上１以下の定数であり、短期背景モデルと中期背景モデルと長期背景モデルとで異なる値を取る。短期背景モデル、中期背景モデル、及び長期背景モデルの定数をａ1、ａ2、ａ3とすると、
Figure 0006813055
との関係が成立する。ａ1＝１の場合には、短期背景モデルは新しい画像フレームで常に置き換えられる。また、ａ3＝０の場合には、長期背景モデルは固定の背景モデルを利用することを意味する。背景モデルとして固定の背景モデルを用いる場合であっても、同様の方式により更新することができる。
（１．２．１．６ 背景モデル間距離計算部１６０）
背景モデル間距離計算部１６０は、背景モデル取得部１３０が取得した３つの背景モデル間の差異を数値で示す距離値を、各画素毎に計算する。具体的には、各画素毎に、短期背景モデルと中期背景モデルとの距離、短期背景モデルと長期背景モデルとの距離、中期背景モデルと長期背景モデルとの距離を、背景モデル間距離計算部１６０はそれぞれ算出する。
例えば、背景モデルを画像形式とする場合には、背景モデル間距離計算部１６０は、各画素の画素値の差分値もしくは差分ベクトルを算出した上で、その絶対値若しくは大きさを距離として計算することが考えられる。背景モデルが画素毎に複数の値を持っている場合、例えばＲＧＢやＹＣｂＣｒ、ＨＳＶ等のカラー画像形式である場合には、それぞれの値について差分値を算出した上で、それらの差分値の絶対値総和を、各画素の距離とすることも考えられる。或いは、処理対象の画素位置を中心とした近傍３画素×３画素画像や５画素×５画素画像等の近傍部分画像を抽出した上で、抽出された２つの近傍部分画像の画素値をそれぞれ２つのベクトルと捉え、当該２つのベクトルのベクトル間距離や正規化相関ｒを計算してもよい。この場合、例えばモノクロ画像形式の背景モデルで近傍３×３画像により距離を算出する場合には、９次元ベクトル同士の距離を算出することになる。
また、ＲＧＢカラー画像で近傍５×５画像により距離を算出する場合には、７５次元（５×５×３）ベクトル同士の距離を算出することになる。
なお、正規化相関ｒを距離に用いる場合には、相関ｒは１が最大値であり、ｒが１に近いほど同一に近いことを示す。よって、距離の尺度に変換するため、１−ｒを距離を示す値として用いることができる。或いは、エッジ強調フィルタなどで上記近傍部分画像に対して前処理を行った上で、距離を計算してもよい。
また、背景モデルにヒストグラムなどの分布関数を用いている場合には、背景モデル間距離計算部１６０は、２つのヒストグラムの共通部分の面積や、バタチャリヤ距離などのヒストグラム距離計算手法を用いて、背景モデル間の距離を計算することができる。
なお、上述の手法では、背景モデル間距離計算部１６０は画素毎に距離を計算するものとして説明したが、これに限られるものではない。例えば、画像をいくつかの領域単位であるメッシュ状に区切った上で、当該メッシュ単位毎に距離を算出する等の手法を用いることもできる。なお、距離はマイナス値を取るようにしても良い。
また、短期背景モデル、中期背景モデル、及び長期背景モデルは、それぞれ異なる形式であることも考えられる。例えば、短期背景モデルは画像形式とし、中期背景モデルは画素毎の分布関数としてもよい。この場合、距離の計算方法としては、例えば、短期背景モデルで保持されている画素値を中心として、予め定めた標準偏差の正規分布のヒストグラムを生成する。そして、当該ヒストグラムを短期背景モデルにおける分布関数とみなして、当該ヒストグラムと中期背景モデルのヒストグラムとを比較することにより距離を算出する手法を採用することが考えられる。或いは、中期背景モデルの各画素の分布関数から画素毎に平均値を算出した上で、当該平均値の集合として生成される画像形式の中期背景モデルと、短期背景モデルとを比較することにより距離を算出することも考えられる。
（１．２．１．７ 移動体検出モデル構築部１７０）
移動体検出モデル構築部１７０は、領域指定部１２０により与えられた正解データを用いて、ＣＮＮを用いて移動体を検出するための移動体検出モデル（ＣＮＮに対応するパラメータ）を生成する。より具体的には、移動体検出モデル構築部１７０は、与えられた正解データに最も近くなるように設定される。具体的には、Ｎ個の画素ｘi（ｉは１≦ｉ≦Ｎの整数）に対してそれぞれ正解データｙiが与えられるとする。ここで、例えば画素ｘiが背景領域であればｙi＝０、移動体領域であればｙi＝１とする。
ＣＮＮの各パラメータは、初期値としてはランダムな値を設定すれば良い。その後、上記Ｎ個の画素においてＣＮＮを用いて移動体らしさを計算する。ここで、画素ｘiに対する移動体領域若しくは背景領域のいずれであるかを示す推定結果（移動体らしさ）をｖiとする。このとき、以下の評価値Ｓを考える。
Figure 0006813055
当該評価値Ｓは、ＣＮＮによる推定結果が正解データに近いほど小さい値となる。よって、Ｓがなるべく小さくなるように、例えば確率的降下法などの勾配法を用いてＣＮＮのパラメータを求めれば良い。
なお、評価値Ｓの算出方法は異なる方式を用いても良い。例えば、交差エントロピーに相当する値である
Figure 0006813055
とすることも考えられる。
なお、上記の領域指定部１２０による正解データの生成方法は、ユーザがランダムな位置に対して行うものである。このような手法においては、学習データが十分ではなく、特定箇所の推定精度が悪くなる場合もある。そこで、領域指定部１２０により与えられた正解データにより学習を行うことにより移動体検出モデルを生成した上で、推定結果を見て推定精度の低いところに関して、追加で正解データを与え、当該正解データを用いて再度学習を行う、ということを繰り返すようにしても良い。
このような処理により移動体検出モデル構築部１７０が生成した移動体検出パラメータは、移動体検出パラメータ辞書１８０に格納される。
（１．２．２ 移動体検出に用いる画像処理システム２００のシステム構成）
次に、上記画像処理システム１００が生成した移動体検出モデルを用いて移動体を検出する画像処理システム２００のシステム構成について説明する。画像処理システム２００は、画像入力部２１０、背景モデル取得部２２０、背景モデル更新部２３０、背景モデルＤＢ２４０、背景モデル間距離計算部２５０、移動体検出部２６０、移動体検出パラメータ辞書２７０、及び結果出力部２８０を含む。
ここで、画像入力部２１０、背景モデル取得部２２０、背景モデル更新部２３０、背景モデルＤＢ２４０、背景モデル間距離計算部２５０、及び移動体検出パラメータ辞書２７０の機能は、それぞれ画像入力部１１０、背景モデル取得部１３０、背景モデル更新部１４０、背景モデルＤＢ１５０、背景モデル間距離計算部１６０、及び移動体検出パラメータ辞書１８０と同様であるため、説明を省略する。
移動体検出部２６０は、移動体検出パラメータ辞書２７０に格納されたパラメータを用いた移動体検出モデルであるＣＮＮにより移動体か否かを判定する。移動体の具体的な検出方法については、図３を参照しながら前述したため、ここでは説明を省略する。なお、移動体検出部２６０は、静止中の移動体を、移動体検出パラメータ辞書２７０に格納されたパラメータを用いた移動体検出モデルにより検出し、移動中の移動体を、中期背景モデルと、短期背景モデルとの差分にもとづき検出するようにしても良い。
結果出力部２８０は、移動体検出部２６０で得られた移動体の情報を出力する。出力方法は種々考えられるが、例えば、移動体領域を１とし、それ以外の領域を０とした２値画像によって出力することができる。或いは、当該２値画像に対してラベリング処理を施すことによって連結部分を生成し、連結部分毎に外接矩形を出力することも考えられる。
若しくは、移動体検出部２６０で移動中の移動体と一時的に静止している移動体とを、移動体検出部２６０が検出できる場合を考える。この場合、例えば、移動中の移動体として検出された画素の画素値を１、一時的に静止している移動体として検出された画素の画素値を２、それ以外の画素値を０として、３値で出力することも考えられる。場合によっては、移動中の物体であるか静止中の物体であるかを判別しづらい場合も考えられるが、その場合には移動中の物体として１を出力してもよい。或いは、全体として４値をとることを可能とした上で、どちらかわからない画素に画素値３を出力するようにしても良い。
（１．３ 処理の流れ）
以下、画像処理システム１００及び画像処理システム２００の処理の流れを、図６及び図７を参照しながら説明する。図６は画像処理システム１００の処理の流れを示すフローチャート、図７は画像処理システム２００の処理の流れを示すフローチャートである。
なお、後述の各処理ステップは、処理内容に矛盾を生じない範囲で、任意に順番を変更して若しくは並列に実行することができ、また、各処理ステップ間に他のステップを追加しても良い。更に、便宜上１つのステップとして記載されているステップは複数のステップに分けて実行することもでき、便宜上複数に分けて記載されているステップを１ステップとして実行することもできる。
（１．３．１ 画像処理システム１００の処理の流れ）
まず、移動体検出のためのパラメータを学習する画像処理システム１００の処理の流れを、図６を参照しながら説明する。
画像入力部１１０は、新しい画像フレーム（処理時刻の画像フレーム）の入力を受ける（Ｓ６０１）。また、領域指定部１２０は、入力を受けた画像フレームに対する正解データの入力を受けるべく、図２に具体例を示した表示画面を表示し、当該画像フレーム内のランダムな位置の１以上の画素に対して、ユーザから移動体領域であるか背景領域であるかの指定を受ける（Ｓ６０３）。当該指定により、領域指定部１２０は移動体領域であるか否かを示す正解データを生成する。ここで、画像入力部１１０による入力の受付は、所定枚数の複数の異なる時刻の画像フレームに対して行われる。ここで、所定枚数は任意であり、予め定められていても良く、また、ユーザによる指定を受け付けても良い。
また、背景モデル取得部１３０は、背景モデルＤＢ１５０に格納された短期背景モデル、中期背景モデル、及び長期背景モデルを読み込む（Ｓ６０５）。背景モデル間距離計算部１６０は、各画素に対して、短期背景モデルと中期背景モデルとの間の距離、中期背景モデルと長期背景モデルとの間の距離、及び短期背景モデルと長期背景モデルとの間の距離を算出する（Ｓ６０７）。
移動体検出モデル構築部１７０は、背景モデル間距離計算部１６０が算出した各背景モデルの、正解データが用意された画素に対してＣＮＮを適用し、評価値Ｓが小さくなるようなＣＮＮのパラメータを求める（Ｓ６０９）。すなわち、学習により移動体検出モデルを構築する。
画像処理システム１００は、学習した移動体検出モデルによりサンプルデータの移動体検出結果を表示画面に表示する。画像処理システム１００は、表示の際、移動体検出結果に対する信頼度として、前述した推定結果（移動体らしさ）ｖiを検出した移動体領域の近辺に表示しても良い。または、ｖiの値に応じて、ヒートマップのように表示しても良い。具体的には、画像処理システム１００は、ｖiの値が高ければ高いほど赤く、低ければ低いほど青く表示するなどしても良い。このようにして、学習した移動体検出モデルによる移動体検出結果を、人が目視で判断する。移動体検出モデルによる移動体検出精度が十分であれば（Ｓ６１１のＹｅｓ）、移動体検出モデル構築部１７０は算出したパラメータを移動体検出パラメータ辞書１８０に出力する（Ｓ６１３）。
もし移動体検出モデルによる移動体検出精度が不十分であれば（Ｓ６１１のＮｏ）、領域指定部１２０は図２のような表示画面により、特に検出精度の低い領域のランダムな画素に対して、移動体領域であるか否かの入力をユーザから受ける（Ｓ６１５）。その後、Ｓ６０５に戻って新たな正解データを用いた移動体検出モデルの構築を行う。
（１．３．２ 画像処理システム２００の処理の流れ）
続いて、画像処理システム１００により生成されたＣＮＮのパラメータを用いた移動体検出に係る処理の流れを、図７を参照しながら説明する。
画像入力部２１０は、新しい画像フレーム（処理時刻の画像フレーム）の入力を受ける（Ｓ７０１）。また、背景モデル取得部２２０は、背景モデルＤＢ２４０に格納された短期背景モデル、中期背景モデル及び長期背景モデルを読み込む（Ｓ７０３）。
背景モデル間距離計算部２５０は、各画素に対して、短期背景モデルと中期背景モデルとの間の距離、中期背景モデルと長期背景モデルとの間の距離、及び短期背景モデルと長期背景モデルとの間の距離を算出する（Ｓ７０５）。移動体検出部２６０は、移動体検出パラメータ辞書２７０に格納された、画像処理システム１００が生成したパラメータを用いて、背景モデル間距離計算部２５０が算出した各背景モデル間の距離を入力として、各画素が移動体の映る領域であるか否かを判別する（Ｓ７０７）。結果出力部２８０は、検出結果を出力する（Ｓ７０９）。
また、背景モデル更新部２３０は、画像入力部２１０から入力された画像フレームを用いて各背景モデルを更新し、更新した背景モデルを背景モデルＤＢ２４０に記憶させる（Ｓ７１１）。
（１．４ ハードウェア構成の具体例）
以下、図８を参照しながら、上述してきた画像処理システム１００及び２００をコンピュータ８００により実現する場合のハードウェア構成の一例を説明する。なお、前述のとおり、画像処理システム１００及び２００は同一のコンピュータ上に実装してもよいし、画像処理システム１００及び２００の機能を、それぞれ複数台のコンピュータ上に実装してもよい。
図８に示すように、コンピュータ８００は、プロセッサ８０１、メモリ８０３、記憶装置８０５、入力インタフェース（Ｉ／Ｆ）部８０７、データＩ／Ｆ部８０９、通信Ｉ／Ｆ部８１１、及び表示装置８１３を含む。
プロセッサ８０１は、メモリ８０３に記憶されているプログラムを実行することにより、画像処理システム１００及び２００の様々な処理を制御する。例えば、図４に示した画像入力部１１０、領域指定部１２０、背景モデル取得部１３０、背景モデル更新部１４０、背景モデル間距離計算部１６０、及び移動体検出モデル構築部１７０にかかる処理は、メモリ８０３に一時記憶された上で主にプロセッサ８０１上で動作するプログラムとして実現可能である。また、図５に示した画像入力部２１０、背景モデル取得部２２０、背景モデル更新部２３０、背景モデル間距離計算部２５０、移動体検出部２６０、及び結果出力部２８０にかかる処理も、同様に、メモリ８０３に一時記憶された上で主にプロセッサ８０１上で動作するプログラムとして実現可能である。
メモリ８０３は、例えばＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）等の記憶媒体である。メモリ８０３は、プロセッサ８０１によって実行されるプログラムのプログラムコードや、プログラムの実行時に必要となるデータを一時的に記憶する。
記憶装置８０５は、例えばハードディスクやフラッシュメモリ等の不揮発性の記憶媒体である。記憶装置８０５は、オペレーティングシステムや、画像処理システム１００及び２００の各機能を実現するための各種プログラムや、背景モデルＤＢ１５０及び２４０、並びに移動体検出パラメータ辞書１８０及び２７０を含む各種データ等を記憶できる。記憶装置８０５に記憶されているプログラムやデータは、必要に応じてメモリ８０３にロードされることにより、プロセッサ８０１から参照される。
入力Ｉ／Ｆ部８０７は、ユーザからの入力を受け付けるためのデバイスである。例えば、領域指定部１２０が提供する図２のような表示画面において、背景領域であるか移動体領域であるかの指定を行うためのユーザ操作は、入力Ｉ／Ｆ部８０７により入力される。
入力Ｉ／Ｆ部８０７の具体例としては、キーボードやマウス、タッチパネル等が挙げられる。入力Ｉ／Ｆ部８０７は、例えばＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）等のインタフェースを介してコンピュータ８００に接続されても良い。
データＩ／Ｆ部８０９は、コンピュータ８００の外部からデータを入力するためのデバイスである。データＩ／Ｆ部８０９の具体例としては、各種記憶装置に記憶されているデータを読み取るためのドライブ装置等がある。データＩ／Ｆ部８０９は、コンピュータ８００の外部に設けられても良い。その場合、データＩ／Ｆ部８０９は、例えばＵＳＢ等のインタフェースを介してコンピュータ８００へと接続される。
通信Ｉ／Ｆ部８１１は、コンピュータ８００の外部の装置、例えば撮影装置（ビデオカメラや監視カメラ、デジタルカメラ）などとの間で有線又は無線によりデータ通信するためのデバイスである。通信Ｉ／Ｆ部８１１は画像処理システム１００の外部に設けられても良い。その場合、通信Ｉ／Ｆ部８１１は、例えばＵＳＢ等のインタフェースを介してコンピュータ８００に接続される。
表示装置８１３は、例えば、図２に例示した背景領域／移動体領域を指定するための表示画面や、結果出力部２８０が出力する移動体の検出結果等を表示するためのデバイスである。表示装置８１３の具体例としては、例えば液晶ディスプレイや有機ＥＬ（Ｅｌｅｃｔｒｏ−Ｌｕｍｉｎｅｓｃｅｎｃｅ）ディスプレイ等が挙げられる。表示装置８１３は、コンピュータ８００の外部に設けられても良い。その場合、表示装置８１３は、例えばディスプレイケーブルなどを介してコンピュータ８００に接続される。
（１．５ 本実施形態に係る効果）
以上説明したように、本実施形態に係る画像処理システム１００及び２００は、短期背景モデル、中期背景モデル、及び長期背景モデル間のそれぞれの差異を用いてＣＮＮにより移動体を検出する。特に、学習を用いることにより、例えば風による木の揺れなどで動きを検出しやすい時間幅の背景モデルをあまり利用せずに、人や車などの移動体を検出しやすい時間幅の背景モデルの寄与度を大きくすることにより、特定の移動体を誤検出を抑制しつつ検知することが可能である。また、照明変動のような外部ノイズによる背景変化の影響を受ける環境下においても、安定的に移動体を検出することができる。
（２ 第２実施形態）
以下、第２実施形態を、図９及び図１０を参照しながら説明する。図９は、本実施形態に係る画像処理システム９００の機能構成を示すブロック図である。画像処理システム９００は、入力部９１０、及び学習部９２０とを含む。
入力部９１０は、映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受ける。
学習部９２０は、入力部９１０から入力された、移動体の映る画素であるか移動体の映らない画素であるかの入力に基づき、移動体を検出するためのパラメータを学習する。
また、画像処理システム１０００は、入力部１０１０及び検出部１０２０を含む。
入力部１０１０は、撮影時刻の異なる複数の画像フレームの入力を受ける。
検出部１０２０は、処理時刻の画像フレームを元に生成された第１の背景モデルと、第１の背景モデルよりも処理時刻の画像フレームの影響が小さい第２の背景モデルと、第２の背景モデルよりも処理時刻の画像フレームの影響が小さい第３の背景モデルとを用いて、対象画素の近傍領域の背景モデルの値を用いて畳み込み計算を１回以上行うことにより移動体を検出する。
このように実装することで、本実施形態に係る画像処理システム９００及び画像処理システム１０００は、好適に移動体を検出することができる。
（３ 付記事項）
なお、前述の実施形態の構成は、組み合わせたり或いは一部の構成部分を入れ替えたりしてもよい。また、本発明の構成は前述の実施形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加えてもよい。
なお、前述の各実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。また、本発明のプログラムは、上記の各実施形態で説明した各動作を、コンピュータに実行させるプログラムであれば良い。
（付記１）
映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受ける入力手段と、前記入力に基づき、移動体を検出するためのパラメータを学習する学習手段とを備える画像処理システム。
（付記２）
前記処理時刻の画像フレームを元に生成された第１の背景モデルと、前記第１の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第２の背景モデルと、前記第２の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第３の背景モデルとの間で、それぞれ差異を算出する算出手段、を更に備え、前記学習手段は、前記入力に基づき、前記第１の背景モデル、前記第２の背景モデル、及び前記第３の背景モデルを用いて移動体を検出するためのパラメータを学習する付記１に記載の画像処理システム。
（付記３）
前記学習手段は、前記１以上の画素の近傍領域の背景モデルの値を用いて畳み込み計算を１以上行うことにより移動体を検出するための検出モデルに用いられる前記パラメータを学習する、付記１又は付記２記載の画像処理システム。
（付記４）
前記学習手段は、前記畳み込み計算、及び、前記畳み込み計算の結果得られる値と比較される閾値とを前記パラメータとして学習する付記１乃至付記３のいずれか１項記載の画像処理システム。
（付記５）
撮影時刻の異なる複数の画像フレームの入力を受ける入力手段と、処理時刻の画像フレームを元に生成された第１の背景モデルと、前記第１の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第２の背景モデルと、前記第２の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第３の背景モデルとを用いて、対象画素の近傍領域の背景モデルの値を用いて畳み込み計算を１回以上行うことにより移動体を検出する検出手段とを備える画像処理システム。
（付記６）
前記第１の背景モデルと、前記第２の背景モデルと、前記第３の背景モデルとは、考慮される画像フレームの撮影時刻の時間幅が異なる付記５記載の画像処理システム。
（付記７）
前記第１の背景モデルとして、前記処理時刻の画像フレームを用いる、付記５又は付記６記載の画像処理システム。
（付記８）
映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受けるステップと、前記入力に基づき、移動体を検出するためのパラメータを学習するステップとをコンピュータが行う画像処理方法。
（付記９）
前記処理時刻の画像フレームを元に生成された第１の背景モデルと、前記第１の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第２の背景モデルと、前記第２の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第３の背景モデルとの間で、それぞれ差異を算出する算出手段、を更に備え、前記学習手段は、前記入力に基づき、前記第１の背景モデル、前記第２の背景モデル、及び前記第３の背景モデルを用いて移動体を検出するためのパラメータを学習する付記８に記載の画像処理方法。
（付記１０）
前記１以上の画素の近傍領域の背景モデルの値を用いて畳み込み計算を１以上行うことにより移動体を検出するための検出モデルに用いられる前記パラメータを学習する、付記８又は付記９記載の画像処理方法。
（付記１１）
前記畳み込み計算、及び、前記畳み込み計算の結果得られる値と比較される閾値とを前記パラメータとして学習する付記８乃至付記１０のいずれか１項記載の画像処理方法。
（付記１２）
撮影時刻の異なる複数の画像フレームの入力を受けるステップと、処理時刻の画像フレームを元に生成された第１の背景モデルと、前記第１の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第２の背景モデルと、前記第２の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第３の背景モデルとを用いて、対象画素の近傍領域の背景モデルの値を用いて畳み込み計算を１回以上行うことにより移動体を検出するステップとをコンピュータが行う画像処理方法。
（付記１３）
前記第１の背景モデルと、前記第２の背景モデルと、前記第３の背景モデルとは、考慮される画像フレームの撮影時刻の時間幅が異なる付記１２記載の画像処理方法。
（付記１４）
前記第１の背景モデルとして、前記処理時刻の画像フレームを用いる、付記１２又は付記１３記載の画像処理方法。
（付記１５）
映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受ける処理と、
前記入力に基づき、移動体を検出するためのパラメータを学習する処理とをコンピュータに実行させるプログラム。
（付記１６）
前記処理時刻の画像フレームを元に生成された第１の背景モデルと、前記第１の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第２の背景モデルと、前記第２の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第３の背景モデルとの間で、それぞれ差異を算出する算出手段、を更に備え、前記学習手段は、前記入力に基づき、前記第１の背景モデル、前記第２の背景モデル、及び前記第３の背景モデルを用いて移動体を検出するためのパラメータを学習する付記１５に記載のプログラム。
（付記１７）
前記１以上の画素の近傍領域の背景モデルの値を用いて畳み込み計算を１以上行うことにより移動体を検出するための検出モデルに用いられる前記パラメータを学習する、付記１５又は付記１６記載のプログラム。
（付記１８）
前記畳み込み計算、及び、前記畳み込み計算の結果得られる値と比較される閾値とを前記パラメータとして学習する付記１５乃至付記１７のいずれか１項記載のプログラム。
（付記１９）
撮影時刻の異なる複数の画像フレームの入力を受ける処理と、処理時刻の画像フレームを元に生成された第１の背景モデルと、前記第１の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第２の背景モデルと、前記第２の背景モデルよりも前記処理時刻の画像フレームの影響が小さい第３の背景モデルとを用いて、対象画素の近傍領域の背景モデルの値を用いて畳み込み計算を１回以上行うことにより移動体を検出する処理とをコンピュータに実行させるプログラム。
（付記２０）
前記第１の背景モデルと、前記第２の背景モデルと、前記第３の背景モデルとは、考慮される画像フレームの撮影時刻の時間幅が異なる付記１９記載のプログラム。
（付記２１）
前記第１の背景モデルとして、前記処理時刻の画像フレームを用いる、付記１９又は付記２０記載のプログラム。
以上、上述した実施形態を模範的な例として本発明を説明した。しかしながら、本発明は、上述した実施形態には限定されない。即ち、本発明は、本発明のスコープ内において、当業者が理解し得る様々な態様を適用することができる。
この出願は、２０１４年６月３０日に出願された日本出願特願２０１４−１１５２０５を基礎とする優先権を主張し、その開示の全てをここに取り込む。
２０ ：画像フレーム
２１ ：カーソル
２３、２５ ：アイコン
１００ ：画像処理システム
１１０ ：画像入力部
１２０ ：領域指定部
１３０ ：背景モデル取得部
１４０ ：背景モデル更新部
１５０ ：背景モデルデータベース
１６０ ：背景モデル間距離計算部
１７０ ：移動体検出モデル構築部
１８０ ：移動体検出パラメータ辞書
２００ ：画像処理システム
２１０ ：画像入力部
２２０ ：背景モデル取得部
２３０ ：背景モデル更新部
２４０ ：背景モデルデータベース
２５０ ：背景モデル間距離計算部
２６０ ：移動体検出部
２７０ ：移動体検出パラメータ辞書
２８０ ：結果出力部
８００ ：コンピュータ
８０１ ：プロセッサ
８０３ ：メモリ
８０５ ：記憶装置
８０７ ：入力インタフェース部
８０９ ：データインタフェース部
８１１ ：通信インタフェース部
８１３ ：表示装置
９００ ：画像処理システム
９１０ ：入力部
９２０ ：学習部
１０００ ：画像処理システム
１０１０ ：入力部
１０２０ ：検出部

Claims (4)

  1. 映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受け、前記入力に基づき、移動体を検出するためのパラメータを学習する学習手段に、前記入力された情報を出力し、
    前記画像フレームに対して、移動体の映る画素を含む移動体領域に第１の図形のアイコンを配置し、移動体の映らない画素を含む背景領域に前記第１の図形と異なる第２の図形のアイコンを配置する操作によって、前記入力を受ける
    画像処理システム。
  2. 前記学習手段は、前記入力に基づき、前記処理時刻の画像フレームを元に生成された第１の背景モデルと、前記第１の背景モデルよりも前、前記処理時刻の画像フレームの影響が小さい第２の背景モデルと、前記第２の背景モデルよりも前、前記処理時刻の画像フレームの影響が小さい第３の背景モデルとを用いて移動体を検出するためのパラメータを学習する請求項１に記載の画像処理システム。
  3. コンピュータが
    映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受け、前記入力に基づき、移動体を検出するためのパラメータを学習する学習手段に、前記入力された情報を出力し、
    前記画像フレームに対して、移動体の映る画素を含む移動体領域に第１の図形のアイコンを配置し、移動体の映らない画素を含む背景領域に前記第１の図形と異なる第２の図形アイコンを配置する操作によって、前記入力を受ける
    画像処理方法。
  4. 映像を構成する複数の画像フレームのうちのいくつかの異なる時刻の画像フレームに対する入力であって、処理時刻の画像フレームのうち、選択された任意の１以上の画素に対し、移動体の映る画素であるか移動体の映らない画素であるかの入力を受け、前記入力に基づき、移動体を検出するためのパラメータを学習する学習手段に、前記入力された情報を出力し、前記画像フレームに対して、移動体の映る画素を含む移動体領域に第１の図形のアイコンを配置し、移動体の映らない画素を含む背景領域に前記第１の図形と異なる第２の図形のアイコンを配置する操作によって、前記入力を受ける処理をコンピュータに実行させるプログラム。
JP2019105217A 2014-06-03 2019-06-05 画像処理システム、画像処理方法及びプログラム記憶媒体 Active JP6813055B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014115205 2014-06-03
JP2014115205 2014-06-03

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016525694A Division JP6547744B2 (ja) 2014-06-03 2015-06-02 画像処理システム、画像処理方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020209692A Division JP7252188B2 (ja) 2014-06-03 2020-12-17 画像処理システム、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2019145174A JP2019145174A (ja) 2019-08-29
JP6813055B2 true JP6813055B2 (ja) 2021-01-13

Family

ID=54766424

Family Applications (5)

Application Number Title Priority Date Filing Date
JP2016525694A Active JP6547744B2 (ja) 2014-06-03 2015-06-02 画像処理システム、画像処理方法及びプログラム
JP2019105217A Active JP6813055B2 (ja) 2014-06-03 2019-06-05 画像処理システム、画像処理方法及びプログラム記憶媒体
JP2020209692A Active JP7252188B2 (ja) 2014-06-03 2020-12-17 画像処理システム、画像処理方法及びプログラム
JP2022091955A Active JP7447932B2 (ja) 2014-06-03 2022-06-07 画像処理システム、画像処理方法及びプログラム
JP2023217630A Pending JP2024042703A (ja) 2014-06-03 2023-12-25 画像処理システム、画像処理方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016525694A Active JP6547744B2 (ja) 2014-06-03 2015-06-02 画像処理システム、画像処理方法及びプログラム

Family Applications After (3)

Application Number Title Priority Date Filing Date
JP2020209692A Active JP7252188B2 (ja) 2014-06-03 2020-12-17 画像処理システム、画像処理方法及びプログラム
JP2022091955A Active JP7447932B2 (ja) 2014-06-03 2022-06-07 画像処理システム、画像処理方法及びプログラム
JP2023217630A Pending JP2024042703A (ja) 2014-06-03 2023-12-25 画像処理システム、画像処理方法及びプログラム

Country Status (3)

Country Link
US (5) US11003961B2 (ja)
JP (5) JP6547744B2 (ja)
WO (1) WO2015186341A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB201601660D0 (en) * 2016-01-29 2016-03-16 Global Surface Intelligence Ltd System and method for earth observation and analysis
WO2018123801A1 (ja) * 2016-12-28 2018-07-05 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 三次元モデル配信方法、三次元モデル受信方法、三次元モデル配信装置及び三次元モデル受信装置
US10579908B2 (en) * 2017-12-15 2020-03-03 Google Llc Machine-learning based technique for fast image enhancement
JP2019109709A (ja) * 2017-12-18 2019-07-04 株式会社東芝 画像処理装置、画像処理方法およびプログラム
JP7208713B2 (ja) * 2018-02-13 2023-01-19 キヤノン株式会社 画像解析装置および画像解析方法
CN108709494B (zh) * 2018-03-26 2019-12-13 中国民航大学 一种白光干涉信号背景光强实时分离方法
KR20200054367A (ko) * 2018-11-05 2020-05-20 현대자동차주식회사 객체 검출 장치 및 그 방법
KR20200116728A (ko) 2019-04-02 2020-10-13 삼성전자주식회사 자체 운동 정보 추정 장치 및 방법
CN110232359B (zh) * 2019-06-17 2021-10-01 中国移动通信集团江苏有限公司 滞留物检测方法、装置、设备及计算机存储介质
JP7453668B2 (ja) 2020-02-05 2024-03-21 電制コムテック株式会社 学習処理装置および学習処理方法、物体検出装置および物体検出方法、ならびに、プログラム
JP2023515523A (ja) * 2020-02-26 2023-04-13 マジック リープ， インコーポレイテッド 位置特定正確度のためのバッファを伴うクロスリアリティシステム
US20220201295A1 (en) * 2020-12-21 2022-06-23 Electronics And Telecommunications Research Institute Method, apparatus and storage medium for image encoding/decoding using prediction

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3812985B2 (ja) 1997-04-04 2006-08-23 富士通株式会社 自動監視装置
JP4068485B2 (ja) 2002-09-30 2008-03-26 株式会社東芝 画像合成方法、画像合成装置、画像合成プログラム
US7295700B2 (en) * 2003-10-24 2007-11-13 Adobe Systems Incorporated Object extraction based on color and visual texture
JP4993678B2 (ja) 2006-10-04 2012-08-08 一般財団法人電力中央研究所 対話型動画像監視方法、対話型動画像監視装置および対話型動画像監視プログラム
EP2188759A1 (en) 2007-03-05 2010-05-26 Fotonation Vision Limited Face searching and detection in a digital image acquisition device
US7813528B2 (en) * 2007-04-05 2010-10-12 Mitsubishi Electric Research Laboratories, Inc. Method for detecting objects left-behind in a scene
JP5127390B2 (ja) * 2007-10-12 2013-01-23 キヤノン株式会社 信号処理装置、信号処理方法、プログラム
CN102388391B (zh) 2009-02-10 2014-01-22 汤姆森特许公司 基于前景-背景约束传播的视频抠图
JP2011059898A (ja) 2009-09-08 2011-03-24 Fujifilm Corp 画像解析装置、画像解析方法およびプログラム
JP5075924B2 (ja) 2010-01-13 2012-11-21 株式会社日立製作所 識別器学習画像生成プログラム、方法、及びシステム
JP5459674B2 (ja) 2010-09-13 2014-04-02 株式会社東芝 移動物体追跡システムおよび移動物体追跡方法
KR101434768B1 (ko) 2010-02-19 2014-08-27 가부시끼가이샤 도시바 이동 물체 추적 시스템 및 이동 물체 추적 방법
JP5505936B2 (ja) 2010-11-05 2014-05-28 オムロン株式会社 画像処理ユニット、および画像処理プログラム
US8891864B2 (en) 2011-02-16 2014-11-18 Apple Inc. User-aided image segmentation
JP5713790B2 (ja) * 2011-05-09 2015-05-07 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP2012257173A (ja) 2011-06-10 2012-12-27 Canon Inc 追尾装置、追尾方法及びプログラム
JP2013058063A (ja) 2011-09-08 2013-03-28 Chuo Electronics Co Ltd 画像処理装置、方法、プログラム、および監視システム
JP2013065151A (ja) 2011-09-16 2013-04-11 Sony Corp 画像処理装置、画像処理方法、および、プログラム
US8873852B2 (en) * 2011-09-29 2014-10-28 Mediatek Singapore Pte. Ltd Method and apparatus for foreground object detection
US9111147B2 (en) * 2011-11-14 2015-08-18 Massachusetts Institute Of Technology Assisted video surveillance of persons-of-interest
JP5840940B2 (ja) 2011-12-16 2016-01-06 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 画像領域抽出装置、画像領域抽出方法、および画像領域抽出プログラム
US8917934B2 (en) 2012-06-14 2014-12-23 International Business Machines Corporation Multi-cue object detection and analysis
JP2014059691A (ja) 2012-09-18 2014-04-03 Sony Corp 画像処理装置および方法、並びにプログラム
US9852511B2 (en) 2013-01-22 2017-12-26 Qualcomm Incoporated Systems and methods for tracking and detecting a target object
KR102026717B1 (ko) 2013-02-08 2019-10-04 삼성전자 주식회사 사진 촬영 가이드 방법 및 이를 구현하는 휴대 단말
US9939909B2 (en) * 2013-09-12 2018-04-10 Mitsubishi Electric Corporation Gesture manipulation device and method, program, and recording medium
EP3271894B1 (en) 2015-03-20 2019-02-13 Ventana Medical Systems, Inc. System and method for image segmentation
US9542751B2 (en) 2015-05-08 2017-01-10 Qualcomm Incorporated Systems and methods for reducing a plurality of bounding regions
US10586102B2 (en) 2015-08-18 2020-03-10 Qualcomm Incorporated Systems and methods for object tracking
US10192129B2 (en) 2015-11-18 2019-01-29 Adobe Systems Incorporated Utilizing interactive deep learning to select objects in digital visual media
US11132533B2 (en) * 2017-06-07 2021-09-28 David Scott Dreessen Systems and methods for creating target motion, capturing motion, analyzing motion, and improving motion
US11282208B2 (en) 2018-12-24 2022-03-22 Adobe Inc. Identifying target objects using scale-diverse segmentation neural networks

Also Published As

Publication number Publication date
JP7252188B2 (ja) 2023-04-04
JP2021051783A (ja) 2021-04-01
US20230410493A1 (en) 2023-12-21
JP6547744B2 (ja) 2019-07-24
WO2015186341A1 (ja) 2015-12-10
JPWO2015186341A1 (ja) 2017-05-25
JP7447932B2 (ja) 2024-03-12
US20230394808A1 (en) 2023-12-07
US20230394809A1 (en) 2023-12-07
JP2019145174A (ja) 2019-08-29
US20190236418A1 (en) 2019-08-01
JP2024042703A (ja) 2024-03-28
US20170206441A1 (en) 2017-07-20
JP2022122984A (ja) 2022-08-23
US11003961B2 (en) 2021-05-11

Similar Documents

Publication Publication Date Title
JP6813055B2 (ja) 画像処理システム、画像処理方法及びプログラム記憶媒体
US10885365B2 (en) Method and apparatus for detecting object keypoint, and electronic device
CN107529650B (zh) 闭环检测方法、装置及计算机设备
CN106682697B (zh) 一种基于卷积神经网络的端到端物体检测方法
JP6088792B2 (ja) 画像検出装置及び制御プログラム並びに画像検出方法
JP6482195B2 (ja) 画像認識装置、画像認識方法及びプログラム
EP3001354A1 (en) Object detection method and device for online training
JP6652051B2 (ja) 検出システム、検出方法及びプログラム
CN113780466B (zh) 模型迭代优化方法、装置、电子设备和可读存储介质
WO2018082308A1 (zh) 一种图像处理方法及终端
WO2013005815A1 (ja) 物体検出装置、物体検出方法及びプログラム
JP6948851B2 (ja) 情報処理装置、情報処理方法
CN109522970B (zh) 图像分类方法、装置及系统
WO2022082848A1 (zh) 高光谱图像分类方法及相关设备
JP6435049B2 (ja) 画像検索装置及び方法、撮影時刻推定装置及び方法、反復構造抽出装置及び方法、並びにプログラム
KR20210081852A (ko) 객체 검출 모델 학습 장치 및 방법
JP2014203133A (ja) 画像処理装置、画像処理方法
CN112183299B (zh) 行人属性预测方法、装置、电子设备及存储介质
JPWO2007013425A1 (ja) 画像処理自動構成装置
US20230196752A1 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
CN107886522B (zh) 尺度自适应的目标模型更新方法及装置
CN114782738A (zh) 联邦学习安全检测方法、装置、电子设备及可读存储介质
EP2921972A1 (en) Computer-implemented system and method for identifying objects on an image
JP6292613B2 (ja) 背景抽出装置、主成分分析装置及び主成分分析プログラム
CN114373220A (zh) 时空图网络可解释方法、可视化方法及相关装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190605

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200902

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200915

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201130

R150 Certificate of patent or registration of utility model

Ref document number: 6813055

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150