JP7154045B2 - 画像処理装置、撮像装置、画像処理方法 - Google Patents

画像処理装置、撮像装置、画像処理方法 Download PDF

Info

Publication number
JP7154045B2
JP7154045B2 JP2018113845A JP2018113845A JP7154045B2 JP 7154045 B2 JP7154045 B2 JP 7154045B2 JP 2018113845 A JP2018113845 A JP 2018113845A JP 2018113845 A JP2018113845 A JP 2018113845A JP 7154045 B2 JP7154045 B2 JP 7154045B2
Authority
JP
Japan
Prior art keywords
image
background
background image
image processing
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018113845A
Other languages
English (en)
Other versions
JP2019215819A (ja
JP2019215819A5 (ja
Inventor
正幸 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018113845A priority Critical patent/JP7154045B2/ja
Priority to US16/440,089 priority patent/US11276186B2/en
Publication of JP2019215819A publication Critical patent/JP2019215819A/ja
Publication of JP2019215819A5 publication Critical patent/JP2019215819A5/ja
Application granted granted Critical
Publication of JP7154045B2 publication Critical patent/JP7154045B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像中の物体検知技術に関するものである。
従来より、画像処理を用いた特定物体の持ち去り検知には、撮像画像と事前に取得しておいた背景画像との比較を行い、事前に取得しておいた背景画像には存在しない領域の抽出を行う背景差分法が多く使用されている。図1は、背景差分法を用いた持ち去り検知処理の例を示したものである。1000は物体101を含む背景画像、1001~1003はこの順に撮像された撮像画像である。1004は背景画像1000と撮像画像1001との差分、1005は背景画像1000と撮像画像1002との差分、100は背景画像1000と撮像画像1003との差分、を表している。
撮像画像1001と撮像画像1002との間のタイミングで物体101が持ち去られたので、図1に示す如く、撮像画像1001には写っていた物体101が撮像画像1002、1003には写っていない。そのため、差分1005,1006には、事前に設定した持ち去り検知領域102内に背景差分103が存在する。背景差分103の大きさが規定の大きさ以上で且つ一定時間以上撮像画像内に存在する場合には、持ち去りが発生したと判定されてアラート104(背景差分103を囲む枠の表示)が発生する。
持ち去り検知の精度を保証するためには、正確な背景差分の抽出が必要であり、それには常に適切な背景画像を設定する必要がある。適切な背景画像を設定するためには、照明条件等の環境変化が起きる度に背景画像を更新する必要があるが、背景画像の更新時には、動体を含む背景画像を設定してしまう可能性がある。
図2は、動体を含む背景画像が設定された場合の持ち去り検知処理の例を示したものである。2000は動体としての手201を含む背景画像である。2001~2003はこの順に撮像された撮像画像である。2004は背景画像2000と撮像画像2001との差分、2005は背景画像2000と撮像画像2002との差分、200は背景画像2000と撮像画像2003との差分、を表している。
撮像画像2001に写り込んでいた手201が撮像画像2002,2003には写っていない。然るに、差分2005、2006の持ち去り検知領域102内に背景差分203が発生する。これにより、持ち去りが発生したと判定されてアラート204(背景差分203を囲む枠の表示)が発生する可能性がある。
このような問題を解決するために、特許文献1には、背景として適切ではない人体が検出されると、更新手段による背景画像の更新を中断し、人体を検出しなくなったところで処理を再開する方法が開示されている。また、特許文献2には、フレーム間差分処理によって差分が無いフレームを抽出し、そのフレームを用いて背景画像の更新を行う方法が開示されている。
特許第4811653号 特開2013-257785号広報
しかしながら、上述の特許文献1に開示された従来技術では、動体を人体として判定する必要があり、短時間の変化であったり、画角が制限されるような場合には適用することが難しいと考えられる。また、特許文献2に開示された従来技術では、背景差分のほかにフレーム間差分も求める必要があり、計算負荷が高くなってしまう。本発明では、持ち去り検知に適切な背景画像を登録するための技術を提供する。
本発明の一様態は、順次入力される撮像画像のうち複数フレームおきの撮像画像を背景画像として登録する登録手段と、
前記登録手段が第1のタイミングで登録した第1背景画像に動体が含まれているか否かを判断する判断手段と、
前記第1背景画像に動体が含まれていると前記判断手段が判断した場合には、前記登録手段が登録した前記第1背景画像を、前記第1のタイミングより前の第2のタイミングで登録した第2背景画像に置換する置換手段と
を備え
前記判断手段は、順次入力される撮像画像と、前記第2背景画像と、の差分画像に基づいて、前記第1背景画像に動体が含まれているか否かを判断することを特徴とする。
本発明の構成によれば、持ち去り検知に適切な背景画像を登録することができる。
背景差分法を用いた持ち去り検知処理の例を示した図である。 動体を含む背景画像が設定された場合の持ち去り検知処理の例を示した図である。 画像処理装置の機能構成例を示すブロック図である。 背景画像の更新例を示す図である。 画像処理装置300の動作のフローチャートである。 テーブル情報の構成例を示す図である。 画像処理装置の機能構成例を示すブロック図である。 コンピュータ装置のハードウェア構成例を示すブロック図である。 システムの構成例を示す図である。
以下、添付図面を参照し、本発明の実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施形態の1つである。
[第1の実施形態]
先ず、本実施形態に係る画像処理装置の機能構成例について、図3のブロック図を用いて説明する。なお図3では、画像処理装置300と、検知設定部311と、外部出力部312と、を別個のものとして示しているが、このうち2以上を一体化させてても良い。
画像入力部301は、画像処理装置300に対して順次入力される撮像画像を取得する。撮像画像の供給元は特定の供給元に限らない。例えば、画像入力部301は、撮像装置から出力される各フレームの撮像画像を取得するようにしても良い。例えば、図9に示す如く、画像処理装置300と、複数フレームの撮像画像を撮像する撮像装置900と、を有するシステムを構築したとする。このとき、画像処理装置300(画像入力部301)は、撮像装置900からネットワーク901を介して送信される各フレームの撮像画像を取得するようにしても良い。また、画像入力部301は、動画像が記録された装置(例えばサーバ装置)から各フレームの撮像画像を取得するようにしても良い。また、画像入力部301は、画像処理装置300内の不図示のメモリに格納されている各フレームの撮像画像を取得するようにしても良い。また、撮像画像は動画像を構成する各フレームの画像であることに限らず、複数回撮像することで得られる複数枚の静止画像のそれぞれであっても良い。
更新部302は、画像入力部301が取得した撮像画像のうち複数フレームおきの撮像画像を背景画像として背景記憶部303に登録する。例えば更新部302は、画像入力部301が順次取得する撮像画像のうちN(Nは2以上の整数)フレームおきの撮像画像を背景画像として背景記憶部303に登録するようにしても良い。また更新部302は、画像入力部301が順次取得する撮像画像を規定時間おきにサンプリングし、該サンプリングした撮像画像を背景画像として背景記憶部303に登録するようにしても良い。また更新部302は、画像入力部301が順次取得する撮像画像を不定期的(例えば環境に変化があると)にサンプリングし、該不定期的にサンプリングされた撮像画像を背景画像として背景記憶部303に登録するようにしても良い。環境の変化は、例えば、画像処理装置300の周囲の明るさの変化である。背景記憶部303には、最近登録された背景画像(第1のタイミングで登録された第1背景画像)である現背景320と、該現背景320よりも過去に登録された複数枚の背景画像(第1のタイミングより前の第2のタイミングで登録された第2背景画像)である過去背景321と、が格納されている。
差分検出部304は、画像入力部301が取得した撮像画像と、背景記憶部303に登録されている現背景320と、の差分を生成する。動体判定部305は、背景記憶部303に撮像画像が現背景320として登録された場合に、該現背景320に動体が含まれているか否かを判定する。
背景照合部306は、画像入力部301が取得した撮像画像と、背景記憶部303に登録されている過去背景321に含まれている複数の第2背景画像のうち1以上の第2背景画像と、の差分を生成する。
判定部307は、差分検出部304が生成した差分に基づき、画像入力部301が取得した撮像画像中の「検知設定部311により設定された持ち去り検知領域」において物体の有無を判定することで、物体の持ち去りがあったか否かを判定する。
検知設定部311は、持ち去り検知に係るパラメータの設定を行う。パラメータには、画像中の持ち去り検知領域を規定する情報(持ち去り検知領域の四隅の座標等)、持ち去りがあったと判定するために満たすべき時間、持ち去りがあったと判定するために満たすべき「持ち去り検知領域において物体が占める割合」等が含まれる。なお、持ち去り検知領域は画像の部分領域であることに限らず、画像の全体領域であっても良い。
外部出力部312は、画像処理装置300における様々な処理結果(例えば、差分検出部304や判定部307による処理結果)を出力する。外部出力部312による処理結果の出力先については特定の出力先に限らない。例えば、外部出力部312は、無線及び/または有線のネットワークを介して外部の装置に対して処理結果を出力しても良いし、表示装置に処理結果を画像や文字として出力しても良いし、スピーカに対して処理結果を表す音声信号を出力しても良い。また、外部出力部312は、処理結果をそのまま出力しても良いし、処理結果を加工してから出力しても良い。
次に、画像処理装置300の動作について、図5のフローチャートに従って説明する。なお、図5のフローチャートに従った処理は、1フレーム分の撮像画像が画像処理装置300に入力された場合に画像処理装置300が行う処理である。然るに、画像処理装置300は、該画像処理装置300に入力される各フレームの撮像画像に対して図のフローチャートに従った処理を行うことになる。
ステップS501では、画像入力部301は、画像処理装置300に対して入力された撮像画像を取得する。このとき、外部出力部312は、ステップS501において取得した撮像画像を外部に出力する。
ステップS502では、更新部302は、ステップS501において取得した撮像画像を背景画像として背景記憶部303に登録するか否かを判断する。例えば、Nフレームおきの撮像画像を背景画像として登録する場合、更新部302は、ステップS501において取得した撮像画像が、前回登録した撮像画像からNフレームおきの撮像画像であれば、登録すると判断する。一方、更新部302は、ステップS501において取得した撮像画像が、前回登録した撮像画像からNフレームおきの撮像画像ではなければ、登録しないと判断する。このように、更新部302は、複数フレームおきの撮像画像を背景画像として背景記憶部303に登録するのであれば、ステップS502における判断処理は特定の判断処理に限らない。
ステップS501において取得した撮像画像を背景画像として背景記憶部303に登録すると判断した場合には、処理はステップS503に進む。一方、ステップS501において取得した撮像画像を背景画像として背景記憶部303に登録しないと判断した場合には、処理はステップS508に進む。ステップS503では、更新部302は、ステップS501において取得した撮像画像を現背景320として背景記憶部303に登録する。
ステップS505では、動体判定部305は、現背景320に動体が含まれているか否かを判断する。現背景320に動体が含まれているか否かを判断するための方法には様々な方法があり、特定の方法に限らない。以下に、その判断方法の一例を説明する。
背景照合部306は、撮像画像が入力されるたびに、該撮像画像と、背景記憶部303に登録されている過去背景321と、の差分を生成する。例えば背景照合部306は、撮像画像と、背景記憶部303に登録されている1以上の第2背景画像と、の差分画像を生成する。2枚の画像間の差分画像の生成方法については特定の生成方法に限らない。例えば、一方の画像中の画素位置(x、y)における画素の画素値と、他方の画像中の画素位置(x、y)における画素の画素値と、の差分値(絶対値)を差分画像中の画素位置(x、y)における画素の画素値とする生成方法であっても良い。
そして動体判定部305は、差分画像において画素値が規定値よりも大きい画素で構成される画像領域(背景差分)のサイズ(例えば背景差分を構成する画素の数)の変化をチェックする。そして動体判定部305は、背景差分のサイズが規定のサイズ未満になれば、現背景320に動体が含まれていると判断する。なお、背景差分のサイズに基づいて「現背景320に動体が含まれているか否かを判断する」方法は上記の方法に限らない。また、撮像画像と第2背景画像との差分画像に基づいて「現背景320に動体が含まれているか否かを判断する」方法は上記の方法に限らない。なお、外部出力部312は、この背景差分を出力するようにしても良い。
そして、現背景320に動体が含まれていると判断した場合には、処理はステップS506に進む。一方、現背景320に動体が含まれていないと判断した場合(例えば、現背景320に動体が含まれていると判断するための条件が満たされていない場合)には、処理はステップS508に進む。
ステップS506で更新部302は、背景記憶部303に登録されている第2背景画像のうち、ステップS505の判断以降(例えば判断時若しくは直後)に画像入力部301が取得した撮像画像と最も類似する第2背景画像を選択第2背景画像として選択する。
例えば更新部302は、背景記憶部303に登録されているそれぞれの第2背景画像について、撮像画像との類似度を求める。2つの画像間の類似度を求める方法には様々な方法があり、特定の方法に限らない。例えば、2つの画像間におけるSSD(Sum of Squared Difference)が小さいほど類似度を高くし、該SSDが大きいほど類似度を低くするように該2つの画像間の類似度を定めても良い。そして更新部302は、背景記憶部303に登録されているそれぞれの第2背景画像のうち撮像画像との類似度が最も高い第2背景画像を選択第2背景画像として選択する。
そしてステップS507では、更新部302は、現背景320として登録されている背景画像を、ステップS506において選択した選択第2背景画像に更新(置換)することで、選択第2背景画像を現背景320として背景記憶部303に登録する。
ステップS508では、差分検出部304は、画像入力部301が取得した撮像画像と、現背景320と、の差分を生成する。例えば、差分として画像入力部301が取得した撮像画像と現背景320との差分画像を、上記の差分画像生成方法でもって生成する。
ステップS509では、判定部307は、ステップS508において生成した差分画像に基づき、撮像画像中の持ち去り検知領域において物体の有無を判定することで、物体の持ち去りがあったか否かを判定する。例えば判定部307は、差分画像中の持ち去り検知領域内で規定値以上の画素値を有する画素で構成される画像領域(規定サイズ以上のサイズを有する)を検知した場合には、撮像画像中に物体が存在すると判断する。一方、判定部307は、差分画像中の持ち去り検知領域内で規定値以上の画素値を有する画素で構成される画像領域(規定サイズ以上のサイズを有する)を検知しなかった場合、撮像画像中に物体が存在しないと判断する。そして判定部307は、Pフレーム目の撮像画像には物体が存在すると判断し、(P+1)フレーム目~Q(Q>P+1)フレーム目の各フレームの撮像画像には物体が存在しないと判断した場合(持ち去り条件)には、持ち去りが発生したと判断する。Qは、検知設定部311が上記の「時間」として設定したパラメータである。一方、判定部307は、持ち去り条件が満たされなかった場合には、持ち去りは発生していないと判断する。
判定部307が持ち去りが発生したと判断した場合には、処理はステップS510に進み、持ち去りは発生していないと判断した場合には、今回の図5のフローチャートに従った処理は終了する。
なお、ステップS510に進む条件は上記の条件に限らず、検知設定部311が設定したパラメータが規定する条件を満たした場合に、ステップS510に進むようにしても良い。
ステップS510では、外部出力部312は、持ち去りがあったことを報知する。持ち去りがあったことを報知するための方法には様々な方法があり、特定の方法に限らない。例えば、外部出力部312は、画像入力部301が取得した撮像画像を表示装置に表示する場合、該撮像画像における持ち去り検知領域の枠を、持ち去りが無かった場合における表示形態とは異なる表示形態で表示するようにしても良い。例えば、持ち去りが無かった場合と比べて枠の色や太さを変更しても良いし、枠を点滅させて表示させても良い。また、持ち去りがあったことを表すテキストやアイコンを表示しても良いし、スピーカを介して持ち去りがあったことを示す音を出力するようにしても良い。また、外部出力部312は、持ち去りがあった旨を示すメールなどのメッセージを外部に送信するようにしても良い。
背景画像の更新例について、図4を用いて説明する。現背景320が、背景画像4000から、動体としての手401を含む背景画像4001に更新されたとする。このとき、該更新後に入力された撮像画像4004と背景画像4000との差分4008には動体としての手401が含まれているが、その後に入力された撮像画像4005と背景画像4000との差分4009には動体としての手401が含まれていない。然るにこの場合には、現背景320として登録した背景画像4001を、撮像画像4005と最も類似する第2背景画像4002に戻す。
このように、本実施形態によれば、動体を含む背景画像を、持ち去り検知を実施するために用いる背景画像として登録してしまっても、該背景画像を適切な背景画像に戻すことができ、その後の持ち去り検知を精度を落とすことなく行うことができる。
[第2の実施形態]
本実施形態を含む以下の各実施形態では、第1の実施形態との差分について説明し、以下で特に触れない限りは第1の実施形態と同様であるものとする。第1の実施形態では、背景画像の更新時には必ず更新前の背景画像を第2背景画像として登録したが、第2背景画像の保持方法は背景画像の更新頻度によって切り替えてもよい。例えば、背景画像の更新頻度が高い状況の場合には、第2背景画像すべてを蓄積していってしまうと蓄積するべきデータ量が増大してしまう。そのため、背景画像の更新頻度が予め決められた回数より多い場合は、最近の第2背景画像のみ若しくは最近の第2背景画像から過去に遡って規定数の第2背景画像を過去背景321として保持し続ける方法が挙げられる。このような制御は、例えば、更新部302が行う。また、保持する第2背景画像の数は、適用するユースシーンに応じて、ユーザが設定するようにしても良い。
[第3の実施形態]
第1の実施形態では、背景記憶部303に登録されている第2背景画像のうち撮像画像と最も類似する第2背景画像を選択第2背景画像として選択していた。一例としては、背景記憶部303に登録されているそれぞれの第2背景画像のうち撮像画像との類似度が最も高い第2背景画像を選択第2背景画像として選択していた。しかし、撮像画像とそれぞれの第2背景画像との類似度が何れも規定値を超えない場合には、該撮像画像を選択第2背景画像として選択するようにしても良い。また、規定値は、ユースシーンに応じてユーザが適宜決めても良い。
[第4の実施形態]
持ち去り検知を利用して商品棚などの監視を行う場合、持ち去りを検知した数をカウントすることで、その場から持ち去られた商品数を把握することができる。このような持ち去り検知を検知した数をカウントする画像処理装置の機能構成例について図7のブロック図を用いて説明する。図7において図3に示した機能部と同様の機能部には同じ参照番号を付しており、該機能部に係る説明は省略する。なお図7では、画像処理装置700と、検知設定部311と、外部出力部312と、を別個のものとして示しているが、このうち2以上を一体化させてても良い。
画像処理装置700は、図3の画像処理装置300にカウント部701を加えたものである。カウント部701は、判定部307が「持ち去りが発生した」と判断した場合には、この時点で現背景320として登録されている背景画像に対するカウントを「1」にする。カウントの初期値は「0」である。一方、カウント部701は、現背景320に動体が含まれていないと判断された場合には、該現背景320として登録されている背景画像に対するカウントを「0」にする。
カウント部701が背景記憶部303にて管理するテーブル情報の構成例を図6に示す。「時刻(更新時刻)」は、現背景320が登録された時刻を表しており、「背景データ」は、現背景320の画像ファイル名を表しており、「持ち去り検知数」はカウント値を表している。そして、外部出力部312は、図6のテーブル情報に登録されているそれぞれの持ち去り検知数の合計を、持ち去りの総数としてユーザに報知する。報知方法は第1の実施形態と同様に、特定の報知方法に限らず、持ち去りの総数を表示装置に画像や文字として表示しても良いし、スピーカを介して音声として報知しても良いし、メッセージとして報知しても良い。なお、本実施形態では、持ち去りが検知されると、背景画像の登録処理(現背景320の更新処理)を行う。
[第5の実施形態]
図3,7に示した各機能部を全てハードウェアで実装しても良いが、一部をソフトウェア(コンピュータプログラム)で実装しても良い。後者の場合、このソフトウェアを実行可能なコンピュータ装置は、上記の画像処理装置300、700に適用可能である。画像処理装置300、700に適用可能なコンピュータ装置のハードウェア構成例について、図8のブロック図を用いて説明する。
CPU801は、RAM802やROM803に格納されているコンピュータプログラムやデータを用いて各種の処理を実行する。これによりCPU801は、コンピュータ装置全体の動作制御を行うと共に、画像処理装置300、700が行うものとして上述した各処理を実行若しくは制御する。
RAM802は、ROM803や外部記憶装置806からロードされたコンピュータプログラムやデータ、I/F(インターフェース)807を介して外部から受信したデータ、を格納するためのエリアを有する。またRAM802は、CPU801が各種の処理を実行する際に用いるワークエリアを有する。このようにRAM802は、各種のエリアを適宜提供することができる。なお、上記の背景記憶部303は、RAM802を用いて実施可能である。ROM803には、コンピュータ装置の起動プログラムや設定データなど、書換不要の情報が格納されている。
操作部804は、キーボード、マウス、タッチパネルなどのユーザインターフェースにより構成されており、ユーザが操作することで各種の指示をCPU801に対して入力することができる。例えばユーザは操作部804を操作することで、上記のパラメータなどを設定することができる。
表示部805は、液晶画面やタッチパネル画面等により構成されており、CPU801による処理結果を画像や文字などでもって表示することができる。また表示部805は、画像や文字を投影する投影装置であっても構わない。
外部記憶装置806は、ハードディスクドライブ装置等の大容量情報記憶装置である。外部記憶装置806には、OS(オペレーティングシステム)や、画像処理装置300、700が行うものとして上述した各処理をCPU801に実行若しくは制御させるためのコンピュータプログラムやデータが保存されている。外部記憶装置806に保存されているコンピュータプログラムには、例えば、次のようなコンピュータプログラムが含まれている。つまり、画像入力部301、更新部302、差分検出部304、動体判定部305、背景照合部306、判定部307、検知設定部311、カウント部701、の各機能部の機能をCPU801に実現させるためのコンピュータプログラムである。また、外部記憶装置806に保存されているデータには、例えば、上記の説明において既知の情報として取り扱ったもの(規定値など)が含まれている。外部記憶装置806に保存されているコンピュータプログラムやデータは、CPU801による制御に従って適宜RAM802にロードされ、CPU801による処理対象となる。なお、上記の背景記憶部303は、外部記憶装置806を用いて実施可能である。
I/F807は、外部の機器との間のデータ通信を行うためのインターフェースとして機能するものである。例えば、撮像装置により撮像された各フレームの撮像画像を該撮像装置からI/F807を介して受信したり、動画像を保持するサーバ装置から該動画像をI/F807を介して受信したりすることができる。CPU801、RAM802、ROM803、操作部804、表示部805、外部記憶装置806、I/F807は何れも、バス808に接続されている。
なお、図8に示した構成は、上記の撮像装置900に適用しても構わない。また、上記の画像処理装置300、700は組み込み回路として撮像装置に組み込んでも良い。この場合、画像入力部301は、該撮像装置が有する撮像部(光学系や撮像素子を有し、外界からの光を画像信号に変換し、該画像信号から撮像画像を構成する)から送出される撮像画像を取得することになる。なお、上記の各実施形態の一部若しくは全部を適宜組み合わせて使用しても構わないし、上記の各実施形態の一部若しくは全部を選択的に使用しても構わない。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
301:画像入力部 302:更新部 303:背景記憶部 304:差分検出部 305:動体判定部 306:背景照合部 307:判定部 311:検知設定部 312:外部出力部

Claims (9)

  1. 順次入力される撮像画像のうち複数フレームおきの撮像画像を背景画像として登録する登録手段と、
    前記登録手段が第1のタイミングで登録した第1背景画像に動体が含まれているか否かを判断する判断手段と、
    前記第1背景画像に動体が含まれていると前記判断手段が判断した場合には、前記登録手段が登録した前記第1背景画像を、前記第1のタイミングより前の第2のタイミングで登録した第2背景画像に置換する置換手段と
    を備え
    前記判断手段は、順次入力される撮像画像と、前記第2背景画像と、の差分画像に基づいて、前記第1背景画像に動体が含まれているか否かを判断することを特徴とする画像処理装置。
  2. 前記置換手段は、前記第1背景画像に動体が含まれていると前記判断手段が判断した場合には、前記第1背景画像を、該判断の後に入力された撮像画像と最も類似する前記第2背景画像に置換することを特徴とする請求項に記載の画像処理装置。
  3. 前記置換手段は、前記第1背景画像に動体が含まれていると前記判断手段が判断し、該判断の後に入力された撮像画像と前記第2背景画像との類似度が規定値を超えない場合には、前記第1背景画像を該撮像画像に置換することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記登録手段は、前記登録の頻度に応じて、登録する前記第2背景画像の数を制御することを特徴とする請求項1乃至の何れか1項に記載の画像処理装置。
  5. 前記画像処理装置は更に、
    順次入力される撮像画像と、前記第1背景画像と、の差分に基づいて、該撮像画像に物体が含まれているか否かを判断し、該判断の結果に応じて持ち去りの有無を検知する検知手段と、
    前記検知手段による検知の結果を報知する報知手段と
    を備えることを特徴とする請求項1乃至の何れか1項に記載の画像処理装置。
  6. 前記報知手段は、前記持ち去り検知の回数をカウントして報知することを特徴とする請求項に記載の画像処理装置。
  7. 撮像画像を取得する撮像部と、
    請求項1乃至の何れか1項に記載の画像処理装置と
    を備えることを特徴とする撮像装置。
  8. 画像処理装置が行う画像処理方法であって、
    前記画像処理装置の登録手段が、順次入力される撮像画像のうち複数フレームおきの撮像画像を背景画像として登録する登録工程と、
    前記画像処理装置の判断手段が、前記登録工程で第1のタイミングで登録した第1背景画像に動体が含まれているか否かを判断する判断工程と、
    前記画像処理装置の置換手段が、前記第1背景画像に動体が含まれていると前記判断工程で判断した場合には、前記登録工程で登録した前記第1背景画像を、前記第1のタイミングより前の第2のタイミングで登録した第2背景画像に置換する置換工程と
    を備え
    前記判断工程では、順次入力される撮像画像と、前記第2背景画像と、の差分画像に基づいて、前記第1背景画像に動体が含まれているか否かを判断することを特徴とする画像処理方法。
  9. コンピュータを、請求項1乃至の何れか1項に記載の画像処理装置の各手段として機能させるためのコンピュータプログラム。
JP2018113845A 2018-06-14 2018-06-14 画像処理装置、撮像装置、画像処理方法 Active JP7154045B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018113845A JP7154045B2 (ja) 2018-06-14 2018-06-14 画像処理装置、撮像装置、画像処理方法
US16/440,089 US11276186B2 (en) 2018-06-14 2019-06-13 Image processing apparatus, image capturing apparatus, image processing method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018113845A JP7154045B2 (ja) 2018-06-14 2018-06-14 画像処理装置、撮像装置、画像処理方法

Publications (3)

Publication Number Publication Date
JP2019215819A JP2019215819A (ja) 2019-12-19
JP2019215819A5 JP2019215819A5 (ja) 2021-07-26
JP7154045B2 true JP7154045B2 (ja) 2022-10-17

Family

ID=68840136

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018113845A Active JP7154045B2 (ja) 2018-06-14 2018-06-14 画像処理装置、撮像装置、画像処理方法

Country Status (2)

Country Link
US (1) US11276186B2 (ja)
JP (1) JP7154045B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009140307A (ja) 2007-12-07 2009-06-25 Glory Ltd 人物検出装置
JP2011197936A (ja) 2010-03-18 2011-10-06 Secom Co Ltd 画像監視装置および監視システム
JP2011217201A (ja) 2010-03-31 2011-10-27 Saxa Inc 置き去り又は持ち去り判定装置及び同判定方法
JP2013257785A (ja) 2012-06-13 2013-12-26 Jvc Kenwood Corp 物体検出装置、物体検出方法、及びプログラム
JP2017117300A (ja) 2015-12-25 2017-06-29 Kddi株式会社 動物体の検出装置、検出方法及びプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS4811653B1 (ja) 1968-01-24 1973-04-14
KR100292138B1 (ko) * 1993-07-12 2002-06-20 이데이 노부유끼 디지탈비디오신호용송신기및수신기
JP3123587B2 (ja) * 1994-03-09 2001-01-15 日本電信電話株式会社 背景差分による動物体領域抽出方法
ATE458231T1 (de) * 2007-07-08 2010-03-15 Univ Liege Extraktor für visuellen hintergrund
TWI382360B (zh) * 2008-08-01 2013-01-11 Univ Nat Taiwan Science Tech 物件偵測方法及其裝置
JP5520463B2 (ja) * 2008-09-04 2014-06-11 株式会社ソニー・コンピュータエンタテインメント 画像処理装置、対象物追跡装置および画像処理方法
AU2009251048B2 (en) * 2009-12-18 2013-12-19 Canon Kabushiki Kaisha Background image and mask estimation for accurate shift-estimation for video object detection in presence of misalignment
JP6156163B2 (ja) * 2013-06-28 2017-07-05 株式会社Jvcケンウッド 画像処理装置及び画像処理方法
US10115206B2 (en) * 2014-06-03 2018-10-30 Nec Corporation Detection system, detection method, and program storage medium

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009140307A (ja) 2007-12-07 2009-06-25 Glory Ltd 人物検出装置
JP2011197936A (ja) 2010-03-18 2011-10-06 Secom Co Ltd 画像監視装置および監視システム
JP2011217201A (ja) 2010-03-31 2011-10-27 Saxa Inc 置き去り又は持ち去り判定装置及び同判定方法
JP2013257785A (ja) 2012-06-13 2013-12-26 Jvc Kenwood Corp 物体検出装置、物体検出方法、及びプログラム
JP2017117300A (ja) 2015-12-25 2017-06-29 Kddi株式会社 動物体の検出装置、検出方法及びプログラム

Also Published As

Publication number Publication date
JP2019215819A (ja) 2019-12-19
US20190385316A1 (en) 2019-12-19
US11276186B2 (en) 2022-03-15

Similar Documents

Publication Publication Date Title
US20150193698A1 (en) Data processing device
JP7067023B2 (ja) 情報処理装置、背景更新方法および背景更新プログラム
JP6381313B2 (ja) 制御装置、制御方法、およびプログラム
US20130271667A1 (en) Video processing apparatus and video processing method
US8942478B2 (en) Information processing apparatus, processing method therefor, and non-transitory computer-readable storage medium
CN110717914A (zh) 人体抠像的方法和装置
JP7154045B2 (ja) 画像処理装置、撮像装置、画像処理方法
JP6229554B2 (ja) 検出装置および検出方法
JP2019149119A (ja) 画像処理装置、画像処理方法及びプログラム
JP6098631B2 (ja) 解析処理装置
JP2013182450A (ja) 所在管理プログラム及び所在管理装置
JP2014209326A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2015032261A (ja) 表示装置および制御方法
US10706315B2 (en) Image processing device, image processing method, and computer program product
JP6519811B2 (ja) 画像処理装置
JP6503478B2 (ja) モバイル端末、画像処理方法、および、プログラム
JP2020166653A (ja) 情報処理装置、情報処理方法、およびプログラム
EP2624210B1 (en) Multi-touch recognition apparatus and control method thereof
JPWO2018159224A1 (ja) 操作支援装置、操作支援方法、及びプログラム
CN110266960B (zh) 预览画面处理方法、处理装置、摄像装置及可读存储介质
JP6838605B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び、ガス検知システム
CN110300253B (zh) 图像处理装置和方法及存储指令的存储介质
JP2020077230A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6697829B2 (ja) モバイル端末、画像処理方法、および、プログラム
TWI323604B (en) Video processing method and apparatus based on smooth detection

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210603

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210603

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220624

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220729

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221004

R151 Written notification of patent or utility model registration

Ref document number: 7154045

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151