JP7195782B2 - 情報処理装置、制御方法及びプログラム - Google Patents

情報処理装置、制御方法及びプログラム Download PDF

Info

Publication number
JP7195782B2
JP7195782B2 JP2018122422A JP2018122422A JP7195782B2 JP 7195782 B2 JP7195782 B2 JP 7195782B2 JP 2018122422 A JP2018122422 A JP 2018122422A JP 2018122422 A JP2018122422 A JP 2018122422A JP 7195782 B2 JP7195782 B2 JP 7195782B2
Authority
JP
Japan
Prior art keywords
detection area
setting
detection
image
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018122422A
Other languages
English (en)
Other versions
JP2020005111A (ja
JP2020005111A5 (ja
Inventor
和成 岩本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018122422A priority Critical patent/JP7195782B2/ja
Priority to US16/449,000 priority patent/US11308342B2/en
Priority to EP19181764.2A priority patent/EP3588375A1/en
Priority to CN201910554038.6A priority patent/CN110647792B/zh
Publication of JP2020005111A publication Critical patent/JP2020005111A/ja
Publication of JP2020005111A5 publication Critical patent/JP2020005111A5/ja
Application granted granted Critical
Publication of JP7195782B2 publication Critical patent/JP7195782B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/53Recognition of crowd images, e.g. recognition of crowd congestion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/231Analysis of motion using block-matching using full search
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • G06T7/238Analysis of motion using block-matching using non-full search, e.g. three-step search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30242Counting objects in image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、被写体を検出する情報処理装置、制御方法及びプログラムに関する。
従来、画像の解析を行い、画像内に映る被写体の検出を行う技術が知られている。また、時系列順に連続している複数の画像に対して被写体の検出処理を行う事で、被写体の追尾を行う技術が知られている。さらに、被写体の追尾結果と、画像内に設定したラインの位置から、ライン上を通過した被写体の数をカウントする通過カウント技術が知られている。(以降、このラインを通過カウントラインと呼ぶ。)
ところで、一般に被写体の検出処理は計算コストが大きい。そのため、被写体の検出を行う領域を狭める事で計算コストを抑制し、検出処理の時間を短縮する技術が知られている。
例えば、非特許文献1のような方法がある。非特許文献1では、まず撮像装置から画像を取得し、画像全体に対して被写体の特徴量を用いた検出処理を行う。例えば、人物形状を模したパッチ画像を、画像全体について走査(スキャン)しながらマッチングする(以降、本明細書では全体探索と呼称する。)最初の全体探索が終了時、撮像装置から後続の画像(例えば、次のフレームに対応する画像)を取得し、再度全体探索を実施する。その際、二回目の全体探索の開始と並行して、前述の後続画像に対して、最初の全体探索で検出した被写体の周辺に対して、局所的に被写体の検出を行う。(以降、本明細書では局所探索と呼称する。)例えば、前述のパッチ画像を検出した被写体の近傍だけ走査する。局所探索が終了した時に、撮像装置から後続の画像を取得し、同時に実行している全体探索の処理が終了していれば、全体探索で検出された被写体の周辺に対して更に局所探索を実施する。一方、全体探索の処理が終了していなければ、局所探索で検出された被写体の周辺に対して局所探索を実施する。
このように非特許文献1では、計算コストが局所探索と比べて大きな全体探索と、計算コストが全体探索と比べて小さい局所探索を並列に実行し、局所探索の被写体検出結果を出力することで、画像一枚に対する被写体の検出処理時間を短縮しつつ、被写体の追尾を実現している。
「画像ラボ」、日本工業出版、平成29年3月10日、第28巻第3号(通巻327号)、p.53-57(多人数を高速にカウントする映像解析ソフトウェア)
しかし、非特許文献1の技術では、全体探索の処理時間(主にパッチ画像を走査しながらマッチングする処理時間)が長くなると、新規被写体の検出の間隔が長くなる。そのため、全体探索を終了する前に被写体が通過カウントラインを通過してしまい、被写体の通過カウントに失敗する可能性が高くなってしまう。
撮像画像を取得する取得手段と、前記撮像画像に対して、ユーザの指定に基づき第1検出領域を設定する第1設定手段と、前記第1設定手段により設定された第1検出領域の端を含み、新規の被写体の検出を行うための第2領域を設定する第2設定手段と、前記第2設定手段により設定された第2領域から前記撮像画像における新規の被写体を検出する検出手段と、前記第1検出領域において、前記第2検出領域から検出された被写体を追尾する追尾手段と、前記撮像画像に対して、前記第2検出領域から検出された被写体による通過を検知するための検知線を設定する第3設定手段と、前記追尾手段によって得られた追尾結果と、前記検知線とに基づいて、通過カウントを実施する、通過カウント手段と、備え、前記第2設定手段は、前記撮像画像における前記第1検出領域を複数に分割した小領域のうち、小画像の所定の位置と前記第1検出領域の辺との距離が前記第1閾値以下かつ小画像の所定の位置と前記検知線との距離が第2閾値以上である小領域の集合を前記第2検出領域として設定することを特徴とする。
本発明によれば、全体探索の処理時間を短縮させ、全体探索のためスキャン処理を終了する前に、検出すべき被写体がラインを通過してしまうことによる通過カウントのカウント精度の低下を抑制する事ができる。
通過カウントシステムの概略構成を示す模式図である。 各装置のハードウェア構成を示すブロック図である。 各装置の機能構成の概略を示すブロック図である。 探索処理の概略を示すフローチャートである。 撮影された画像の一例を示す模式図である。 図5に、被写体検出領域、通過カウントラインを重畳した図である。 被写体検出領域の端近傍に全体探索領域を重畳した図である。 通過カウントラインの形状を考慮しつつ、被写体検出領域の端近傍に全体探索領域を重畳した図である。 被写体検出領域、通過カウントライン、全体探索領域と局所探索領域の境界の操作UIを示す図である。 通過カウントの概略処理を示すフローチャートである。
以下に、本発明の好ましい実施の形態を、図面に基づいて詳細に説明する。なお、本発明においては、非特許文献1と同様に、全体探索処理と局所探索処理を同時に実行する事で追尾処理を行い、通過カウント処理を実現する事とする。
<実施形態1>
本実施形態では、システムは撮像装置から取得した画像に対し、被写体の検出領域を設定し、検出領域の端近傍から一定距離の領域を全体探索領域として設定する。その後、非特許文献1と同様、全体探索処理と局所探索処理を同時に実行する事で追尾処理を行い、通過カウント処理を実現する。以下、本実施形態において、全体探索領域を設定するまでの処理の流れを説明する。
図1は、本実施形態のシステム構成の一例を示す図である。
本実施形態のシステムは、撮像装置110、クライアント装置120を含む。撮像装置110、クライアント装置120は、ネットワーク150を介して、相互に通信可能に接続されている。クライアント装置120は、入力装置130と表示装置140とに接続されている。
撮像装置110は、撮像を行うネットワークカメラ等の撮像装置である。クライアント装置120は、撮像装置110の駆動、撮像画像の取得、取得した画像に対しての動体の検出、マスクの重畳等を行うパーソナルコンピュータ、サーバ装置、タブレット装置等の情報処理装置である。入力装置130は、マウスやキーボード等から構成される入力装置である。表示装置140は、クライアント装置120が出力した画像を表示するモニタ等の表示装置である。本実施形態では、クライアント装置120と入力装置130と表示装置140とは、各々独立した装置とする。しかし、例えば、クライアント装置120と表示装置140とが、一体化されていてもよいし、入力装置130と表示装置140とが一体化されていてもよい。また、クライアント装置120と入力装置130と表示装置140とが、一体化されていてもよい。
ネットワーク150は、撮像装置110とクライアント装置120とを接続するネットワークである。ネットワーク150は、例えばEthernet(登録商標)等の通信規格を満足する複数のルータ、スイッチ、ケーブル等から構成される。本実施形態では、ネットワーク150は、撮像装置110とクライアント装置120との間の通信を行うことができるものであればよく、その通信規格、規模、構成を問わない。例えば、ネットワーク150は、インターネットや有線LAN(Local Area Network)、無線LAN(Wireless LAN)、WAN(Wide Area Network)等により構成されてもよい。
図2(a)は、撮像装置110のハードウェア構成の一例を示す図である。
撮像装置110は、CPU211、主記憶装置212、補助記憶装置213、駆動部214、撮像部215、ネットワークI/F216を含む。各要素は、システムバス217を介して、相互に通信可能に接続されている。
CPU211は、撮像装置110の動作を制御する中央演算装置である。主記憶装置212は、CPU211のワークエリア、データの一時的な記憶場所として機能するRandom Access Memory(RAM)等の記憶装置である。補助記憶装置213は、各種プログラム、各種設定データ等を記憶するハードディスクドライブ(HDD)、Read Only Memory(ROM)、ソリッドステートドライブ(SSD)等の記憶装置である。
駆動部214は、撮像装置110を駆動し、撮像装置110の姿勢等を変更させ、撮像部215の撮影方向及び画角を変更する駆動部である。撮像部215は、撮像素子と光学系とを有し、光学系の光軸と撮像素子との交点を撮像中心として被写体の像を撮像素子上に結像する撮像部である。撮像素子には、CMOS(ComplementaryMetal-Oxide Semiconductor)、CCD(Charged Coupled Device)等がある。ネットワークI/F216は、クライアント装置120等の外部の装置とのネットワーク150を介した通信に利用されるインターフェースである。
CPU211が、補助記憶装置213に記憶されたプログラムに基づき処理を実行することによって、図3で後述する撮像装置110の機能及び撮像装置110の処理が実現される。
図2(b)は、クライアント装置120のハードウェア構成の一例を示す図である。
クライアント装置120は、CPU221、主記憶装置222、補助記憶装置223、入力I/F224、出力I/F225、ネットワークI/F226を含む。各要素は、システムバス227を介して、相互に通信可能に接続されている。
CPU221は、クライアント装置120の動作を制御する中央演算装置である。主記憶装置222は、CPU221のワークエリア、データの一時的な記憶場所として機能するRAM等の記憶装置である。補助記憶装置223は、各種プログラム、各種設定データ等を記憶するHDD、ROM、SSD等の記憶装置である。
入力I/F224は、入力装置130等からの入力を受付ける際に利用されるインターフェースである。出力I/F225は、表示装置140等への情報の出力に利用されるインターフェースである。ネットワークI/F216は、撮像装置110等の外部の装置とのネットワーク150を介した通信に利用されるインターフェースである。
CPU221が、補助記憶装置223に記憶されたプログラムに基づき処理を実行することによって、図3で後述するクライアント装置120の機能及び図4で後述するフローチャートの処理等のクライアント装置120の処理が実現される。
図3(a)は、撮像装置110の機能構成の一例を示す図である。
撮像装置110は、撮像制御部311、信号処理部312、駆動制御部313、通信部314を含む。
撮像制御部311は、撮像部215を介して、周囲の環境を撮影する。信号処理部312は、撮像制御部311によって撮影された画像の処理を行う。信号処理部312は、例えば、撮像制御部311によって撮影された画像の符号化を行う。静止画の場合は、信号処理部312は、例えば、JPEG(Joint Photographic Experts Group)等の符号化方式を用いて、画像の符号化を行う。また、動画の場合は、信号処理部312は、H.264/MPEG-4 AVC(以下では、H.264)、HEVC(High Efficiency Video Coding符号化方式)等の符号化方式を用いて、画像の符号化を行う。また、信号処理部312は、予め設定された複数の符号化方式の中から、例えば撮像装置110の操作部を介してユーザーにより選択された符号化方式を用いて、画像の符号化を行うようにしてもよい。
駆動制御部313は、駆動部214を介して、撮像制御部311の撮影方向及び画角を変更させる制御を行う。しかし、駆動制御部313は、撮像制御部311による撮影方向と画角とのうちの何れか1つを変更することとしてもよい。また、撮像制御部311の撮影方向及び画角は、固定であってもよい。通信部314は、信号処理部312により処理された撮像制御部311により撮影された画像を、ネットワークI/F216を介して、クライアント装置120に送信する。また、通信部314は、ネットワークI/F216を介して、クライアント装置120から撮像装置110に対する制御命令を受信する。
図3(b)は、クライアント装置120の機能構成の一例を示す図である。
クライアント装置120は、入力情報取得部321、通信制御部322、画像取得部323、設定部324、検出部325、描画部326、表示制御部327を含む。
入力情報取得部321は、入力装置130を介したユーザーによる入力を受け付ける。通信制御部322は、撮像装置110から送信された画像を、ネットワーク150を介して受信する。また、通信制御部322は、撮像装置110への制御命令を、ネットワーク150を介して送信する。画像取得部323は、通信制御部322を介して、撮像装置110から、撮像装置110により撮影された画像を、被写体の検出処理の対象である画像として取得する。また、画像取得部323は、補助記憶装置223に記憶されている画像を、被写体の検出処理の対象である画像として取得しても良い。設定部324は、画像取得部323により取得された画像に対して、被写体を検出する領域(第2検出領域)、通過カウントライン(検知線)、および全体探索領域(第1検出領域)を設定する。検出部325は、画像取得部323により取得された画像に対して、全体探索、および局所探索を行い被写体の追尾を行う。さらに、被写体の追尾結果と、前述のラインの位置から被写体の通過カウント処理を行う。描画部326は設定部324で設定された検出領域(第1設定手段により設定された第1検出領域)、全体探索領域(第2設定手段により設定された第2検出領域)、およびラインを撮像画像上に重畳する。また、検出部325で検出された被写体を撮像画像上に重畳する。表示制御部327は、CPU221からの指示に従い、被写体の検出結果が重畳された撮像画像を表示装置140へ出力する。
図10は本実施形態のクライアント装置120による通過カウント処理の概略を示すフローチャートである。S1001において、通信制御部322と画像取得部323は、撮像装置110から撮像画像を取得する。S1002において、入力情報取得部321や設定部324は、ユーザーからの指示(第1検出領域の指示)に基づいて検出領域を設定する。S1003において、検出部325は、新たに画像取得部323が取得した撮像画像について、S1002の設定に基づいて全探索処理と局所探索処理と追尾処理および検知線の通過検出処理を実施する。
ここでは、検出部325は、ユーザーから指定された領域について被写体の特徴量を用いた検出処理を行う。ここでは、人物形状を模したパッチ画像を、第2検出領域について走査(スキャン)しながらマッチングする。第2検出領域の全体探索が終了した際に、撮像装置から次のフレームの画像(次フレーム画像)を取得し、第2検出領域から検出した新規の被写体の近傍について局所探索を実施することで追跡する。検出部325は、追跡により検知線を越えたことにより通過を検出する。
次にS1004において、描画部326および表示制御部327は、通過検出したカウント数を表示装置140の画面に表示させる。S1005において、CPU221が通過カウント処理を終了するかどうかを判断し、「NO」であればS1003に遷移し、「YES」であれば終了する。ここでは、ユーザーが通過カウント処理を終了する指示を出しているかどうかや、映像解析のモードを抜けたことを判断するようにすればよい。
図4は、本実施形態における、全体探索領域の設定処理を示すフローチャートである。図4を用いて、クライアント装置120が画像を取得し、取得した画像中に全体探索領域を設定するまでの処理を説明する。
S400において、設定部324は、通信制御部322を介して、撮像装置110から、撮像装置110により撮影された画像を取得する。以降、S400で取得された撮像装置110により撮影された画像を、撮像画像とする。
図5は、本実施形態において、撮像装置110により撮影された撮像画像の一例を示す図である。画像500は、撮像装置110により撮影された、撮像画像を示す。被写体501~503は、画像500中の環境において、通過カウント対象である被写体を表す。
S401において、設定部324は撮像画像に対して、被写体検出領域と、通過カウントラインを設定する。本実施形態では、システムは撮像画像を、表示装置140を介しユーザーへ表示し、ユーザーの撮像画像上へ入力に基づき、被写体検出領域、および通過カウントラインを設定する。
図6は、本実施形態における、設定部324により設定された被写体検出領域、および通過カウントラインの例である。図6中の領域600は画像500に対して設定部324が設定した被写体検出領域を示す。また、実線601は画像500に対して設定部324が設定した通過カウントラインを示す。
S402において、設定部324は被写体検出領域を、任意の大きさの小領域へ分割する。本実施形態では、前述の小領域を画像内のピクセル一つとする。しかしながらこの限りではない。例えば、任意のサイズの矩形でも良いし、SUPER PIXELなどの画像領域分割アルゴリズムを用いて小領域を作成しても良い。その後、S403において、設定部324は分割した小領域をリストで管理する。
S404において、設定部324はリストの先頭の小領域に注目する。
S405において、設定部324、注目している小領域を、全体探索領域にするか否かを判断する。本実施形態では、検出領域の端からの距離に基づいて、小領域が全体探索領域か否かの判断を行う。具体的な処理の流れは以下の通りである。
(1)小領域の重心から検出領域の各辺へ垂線を引き、垂線の長さを計算する。
(2)最も長さが短い垂線を選択する
(3)選択した垂線の長さが閾値以下であれば、注目している小領域は全体探索領域と判断し、S406へ進む。一方、閾値よりも大きければ、全体探索領域では無いと判断し、S407へ進む。
本実施形態では、前述の閾値はクライアント装置120がユーザーからの入力を受け付けるものとして説明するが、この限りではない。例えば、被写体が映る数フレーム分の動画像を撮像装置110からクライアント装置120受信し、各動画像の検出領域に対して全体探索を行い、検出された被写体に対して通過カウント処理を実施する。その後、前述の閾値を変えながら、全体探索および局所探索を並列に実施し、通過カウント処理を実施する。この時、全体探索のみを用いて通過カウントを行った場合と通過カウント結果が等しくなる閾値のうち、最小の値を選択しても良い。
S406において、設定部324は注目している小領域が全体探索領域である事をリストに記す。
S407において、設定部324は注目している小領域が全体探索領域でない事をリストに記す。
S408において、設定部324はリストの最後に注目しているか否かを判断する。リストの最後に注目しているのであれば、S410へ進む。リストの最後に注目していないのであれば、S409へ進む。
S409において、設定部324は次の小領域へ注目し、S405へ進む。
S410において、設定部324は小領域のリストに格納されている、各小領域が全体探索領域か否かの情報に基づき、撮像画像に全体探索領域を設定する。
図7は、本実施形態における、S410により設定された全体探索領域の例である。
図7中の点線と一点鎖線に囲まれた領域700は、画像500に対してS410により設定された全体探索領域である。
本実施形態では、領域700(第2検出領域)に対して全体探索を実施し、領域600(第1検出領域)に対して局所探索を実行する事で追尾処理を行い、通過カウント処理を実現する。これにより、領域600に対して、一律的に全体探索と局所探索を並行して実施した場合よりも、計算コストを削減する事ができる。
<実施形態2>
実施形態1では、検出領域の端近傍から一定距離の領域を全体探索領域として設定することで、通過カウント処理の計算コストを削減していた。しかしながら、通過をカウントする方向に偏りが存在する場合、通過カウントの精度の低下を抑制しつつ、実施形態1で設定した全体探索領域よりも、さらに全体探索領域を削減できる。例えば、撮像画像500では、被写体が上下方向へ移動しており、通過カウントは、上下方向のみカウントしている。この場合、新規被写体は検出領域の上端、下端から現れ、左右端からは現れない。そのため、新規被写体を検出するための全体探索領域は、被写体検出領域の上下端の領域のみでよく、左右端の領域を全体探索の対象から除外する事ができる。
本実施形態では、ユーザーが設定した通過カウントラインから、被写体の通過の方向を判断し、被写体の通過の方向に基づき、全体探索を行う領域を設定する方法について説明する。
本実施形態のシステム構成や、撮像装置110、及びクライアント装置120のハードウェア構成及び機能構成は、実施形態1と同様であるため、説明を省略する。
また、図4に示すフローのうち、S400からS404、およびS406~S410は実施形態1と同様であるため、説明を省略する。本実施形態では、図4のS405において注目している小領域が全体探索領域か否かの判定方法が実施形態1と異なる。本実施形態では、通過カウントラインの位置と、検出領域の端からの距離に基づいて、注目している小領域が全体探索領域か否かの判断を行う。具体的な処理の流れは以下の通りである。
(1)注目している小領域の重心から検出領域の各辺へ垂線を引き、垂線の長さを計算する。
(2)最も長さが短い垂線を選択する。
(3)注目している小領域の重心から通過カウントラインへ垂線を引き、垂線の長さを計算する。
(3)検出領域の辺への垂線の長さが閾値以下かつ、通過カウントラインへの垂線の長さが閾値以上であれば、注目している小領域は全体探索領域と判断し、S406へ進む。一方、閾値よりも大きければ、全体探索領域では無いと判断し、S407へ進む。
本実施形態では、前述の二つの閾値はユーザーからの指定を受ける事とするが、この限りではない。例えば、撮像装置から通行する被写体が映る数フレームの動画像を受信し、各動画像の検出領域に対して全体探索を行い、検出された被写体に対して通過カウント処理を実施する。その後、前述の二つの閾値を変えながら、全体探索および局所探索を並列に実施し、通過カウント処理を実施する。この時、全体探索のみを用いて通過カウントを行った場合と通過カウント結果が等しくなる閾値のうち、注目する小領域と被写体検出領域の辺までの垂線に関する閾値は最小の値を、通過カウントラインまでの垂線に関する閾値は最大の値を選択しても良い。
図8は、本実施形態における、S410により設定された全体探索領域の例である。
図8中の点線と一点鎖線に囲まれた領域801、および802は、画像500に対してS410により設定された全体探索領域である。
本実施形態では、領域801、802に対して全体探索を実施し、領域600に対して局所探索を実行する事で追尾処理を行い、通過カウント処理を実現する。これにより、領域600に対して、実施形態1を実施した場合よりも、計算コストを削減しつつ、通過カウント処理を実現する事ができる。
また、本実施形態は上下方向に被写体が通過する環境における、計算コストの削減方法について説明を行ったが、この限りではない。左右方向、もしくは斜め方向でも適用可能である。
<実施形態3>
実施形態1では、検出領域の端近傍から一定距離の領域を全体探索領域として設定していた。また、実施形態2では、通過カウントラインから一定以上の距離かつ、検出領域の端近傍から一定以下の距離の領域を全体探索領域として設定していた。しかしながらこの限りでは無く、ユーザーのマニュアル操作に基づいて全体探索領域の設定を行っても良い。本実施形態では、ユーザーのマニュアル操作に基づく被写体検出領域、通過カウントライン、全体探索領域の設定方法について説明する。
まずシステムは、表示装置140を介して、撮像装置110により撮影されたライブ映像をユーザーへ表示する。
図9は、被写体検出領域、通過カウントライン、全体探索領域を設定するための操作UIの表す。図9中の撮像画像表示領域900は撮像装置110により撮影されたライブ映像を表示する。本実施形態では、撮像画像表示領域には映像を表示するがこの限りではない。静止画でも良い。また、本実施形態では、図9に示す通り、被写体が上下左右の方向へ通過する環境における、全体探索領域の設定方法について説明する事とする。図9中の点線901は、被写体を検出する領域を表す。被写体検出領域の各頂点に重畳している矩形は被写体検出領域の操作子であり、ユーザーがドラッグすることで、被写体検出領域の形状を変形することが可能である。また、本実施形態では、ユーザーは被写体検出領域の辺をドラッグする事で、被写体検出領域の頂点を追加する事が可能とする。また、本実施形態では、ユーザーは被写体検出領域の頂点に対して、右クリックを行う事で、頂点の削除を行うことが可能であるとする。しかしながらこの限りではなく、ダブルクリックなどでも良い。また、例えばタブレット端末で操作を行う際、ダブルタップでも良いし、タップホールドであっても良い。
図9中の実線902~905は、通過カウントラインを表す。各通過カウントラインの端に重畳している丸は、通過カウントラインの始点を表し、二重丸は終点を表す。本実施形態では、始点、終点を表示することにより、通過カウントラインのIN/OUTの違いをユーザーへ提示する。しかしながらこの限りではない。例えば、通過カウントライン上に、通過カウントラインに直交するように矢印を表示し、矢印の矢柄から矢先へ通過する際にIN、逆方向へ通過する際にOUTとカウントする事をユーザーへ定時しても良い。また、前述の丸、二重丸はそれぞれ通過カウントラインの操作子でもあり、ユーザーは丸、および二重丸をドラッグすることにより、通過カウントラインの形状を変形することを可能とする。
図9中の一点鎖線906は、全体探索領域と、局所探索領域の境界を表す。一点鎖線の多角形の内部が局所探索領域である。また、一点鎖線の多角形の外部であり、被写体検出領域の内部に相当する領域が全体探索領域である。多角形の各頂点に重畳されている矩形は操作子であり、ユーザーがドラッグすることで、境界の形状を変形することが可能である。また、被写体検出領域と同様、本実施形態では、頂点の追加や削除が可能である。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
例えば、上述した検出システムの機能構成の一部又は全てをハードウェアとして撮像装置110又はクライアント装置120に実装してもよい。
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではない。上述した各実施形態を任意に組み合わせてもよい。
110 撮像装置
120 クライアント装置
221 CPU

Claims (7)

  1. 撮像画像を取得する取得手段と、
    前記撮像画像に対して、ユーザの指定に基づき第1検出領域を設定する第1設定手段と、
    前記第1設定手段により設定された第1検出領域の端を含み、新規の被写体の検出を行うための第2検出領域を設定する第2設定手段と
    前記第2設定手段により設定された第2検出領域から前記撮像画像における新規の被写体を検出する検出手段と、
    前記第1検出領域において、前記第2検出領域から検出された被写体を追尾する追尾手段と、
    前記撮像画像に対して、前記第2検出領域から検出された被写体による通過を検知するための検知線を設定する第3設定手段と、
    前記追尾手段によって得られた追尾結果と、前記検知線とに基づいて、通過カウントを実施する、通過カウント手段と、備え、
    前記第2設定手段は、前記撮像画像における前記第1検出領域を複数に分割した小領域のうち、小画像の所定の位置と前記第1検出領域の辺との距離が前記第1閾値以下かつ小画像の所定の位置と前記検知線との距離が第2閾値以上である小領域の集合を前記第2検出領域として設定することを特徴とする情報処理装置。
  2. 少なくとも前記第1設定手段により設定された第1検出領域および前記第2設定手段により設定された第2検出領域の一方を前記撮像画像に重畳する表示制御手段を更に備えることを特徴とする請求項1に記載の情報処理装置。
  3. 前記第3設定手段によって設定された検知線を前記撮像画像に重畳する表示制御手段を更に備えることを特徴とする請求項に記載の情報処理装置。
  4. 前記検出手段は、所定の形状を模したパッチ画像を、前記第2検出領域について走査しながらマッチングすることによって、前記撮像画像における新規の被写体を検出することを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
  5. 前記追尾手段は、前記第2検出領域から検出された被写体の近傍について局所探索を行うことによって被写体を追尾することを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
  6. 情報処理装置の制御方法であって、
    撮像画像を取得する取得工程と、
    前記撮像画像に対して、ユーザの指定に基づき第1検出領域を設定する第1設定工程と、
    前記第1設定工程により設定された第1検出領域の端を含み、新規の被写体の検出を行うための第2検出領域を設定する第2設定工程と、
    前記撮像画像における新規の被写体を検出する検出工程と、
    前記第1検出領域において、前記第2検出領域から検出された被写体を追尾する追尾工程と、
    前記撮像画像に対して、前記第2検出領域から検出された被写体による通過を検知するための検知線を設定する第3設定工程と、
    前記追尾工程で得られた追尾結果と、前記検知線とに基づいて、通過カウントを実施する、通過カウント工程と、有し、
    前記第2設定工程では、前記撮像画像における前記第1検出領域を複数に分割した小領域のうち、小画像の所定の位置と前記第1検出領域の辺との距離が前記第1閾値以下かつ小画像の所定の位置と前記検知線との距離が第2閾値以上である小領域の集合を前記第2検出領域として設定することを特徴とする制御方法。
  7. コンピュータを、請求項1乃至のいずれか1項に記載された情報処理装置の各手段として機能させるためのプログラム。
JP2018122422A 2018-06-27 2018-06-27 情報処理装置、制御方法及びプログラム Active JP7195782B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018122422A JP7195782B2 (ja) 2018-06-27 2018-06-27 情報処理装置、制御方法及びプログラム
US16/449,000 US11308342B2 (en) 2018-06-27 2019-06-21 Information processing apparatus, control method, and storage medium
EP19181764.2A EP3588375A1 (en) 2018-06-27 2019-06-21 Information processing apparatus, control method, and program
CN201910554038.6A CN110647792B (zh) 2018-06-27 2019-06-25 信息处理设备、控制方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018122422A JP7195782B2 (ja) 2018-06-27 2018-06-27 情報処理装置、制御方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2020005111A JP2020005111A (ja) 2020-01-09
JP2020005111A5 JP2020005111A5 (ja) 2021-07-29
JP7195782B2 true JP7195782B2 (ja) 2022-12-26

Family

ID=67262060

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018122422A Active JP7195782B2 (ja) 2018-06-27 2018-06-27 情報処理装置、制御方法及びプログラム

Country Status (4)

Country Link
US (1) US11308342B2 (ja)
EP (1) EP3588375A1 (ja)
JP (1) JP7195782B2 (ja)
CN (1) CN110647792B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7428052B2 (ja) * 2020-03-31 2024-02-06 コベルコ建機株式会社 作業機械の周囲検知装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009211311A (ja) 2008-03-03 2009-09-17 Canon Inc 画像処理装置及び方法
US20090309966A1 (en) 2008-06-16 2009-12-17 Chao-Ho Chen Method of detecting moving objects
JP2010140425A (ja) 2008-12-15 2010-06-24 Hitachi Kokusai Electric Inc 画像処理システム
JP2014116912A (ja) 2012-12-12 2014-06-26 Canon Inc 画像処理装置、画像処理装置の制御方法およびプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3757959B2 (ja) * 2003-07-04 2006-03-22 コニカミノルタホールディングス株式会社 計数システムおよび計数方法
JP5578816B2 (ja) * 2009-09-02 2014-08-27 キヤノン株式会社 画像処理装置
JP5674857B2 (ja) * 2013-05-10 2015-02-25 技研トラステム株式会社 乗降者計数装置
JP5853141B2 (ja) * 2014-03-26 2016-02-09 パナソニックIpマネジメント株式会社 人数計測装置、人数計測システムおよび人数計測方法
KR101558258B1 (ko) * 2015-02-04 2015-10-12 (주)유디피 Tof카메라를 이용한 피플 카운터 및 그 카운트 방법
FR3046488B1 (fr) 2015-12-30 2018-02-23 Fenotek Systeme pour mesurer la frequentation d’une zone d’accueil et procede d’estimation du franchissement d’un seuil associe
JP6525921B2 (ja) * 2016-05-13 2019-06-05 キヤノン株式会社 画像処理装置、画像処理方法、検索装置
JP6800628B2 (ja) * 2016-06-22 2020-12-16 キヤノン株式会社 追跡装置、追跡方法、及びプログラム
JP6765917B2 (ja) * 2016-09-21 2020-10-07 キヤノン株式会社 探索装置及び、その撮像装置及び、探索方法
JP6525934B2 (ja) * 2016-10-14 2019-06-05 キヤノン株式会社 画像処理装置および制御方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009211311A (ja) 2008-03-03 2009-09-17 Canon Inc 画像処理装置及び方法
US20090309966A1 (en) 2008-06-16 2009-12-17 Chao-Ho Chen Method of detecting moving objects
JP2010140425A (ja) 2008-12-15 2010-06-24 Hitachi Kokusai Electric Inc 画像処理システム
JP2014116912A (ja) 2012-12-12 2014-06-26 Canon Inc 画像処理装置、画像処理装置の制御方法およびプログラム

Also Published As

Publication number Publication date
CN110647792A (zh) 2020-01-03
EP3588375A1 (en) 2020-01-01
US11308342B2 (en) 2022-04-19
CN110647792B (zh) 2023-09-19
JP2020005111A (ja) 2020-01-09
US20200005066A1 (en) 2020-01-02

Similar Documents

Publication Publication Date Title
US20190182470A1 (en) Information processing apparatus, information processing method and storing unit
US10713797B2 (en) Image processing including superimposed first and second mask images
JP6494418B2 (ja) 画像解析装置、画像解析方法、およびプログラム
WO2021168804A1 (zh) 图像处理方法、图像处理装置和图像处理系统
JP2006276948A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記憶した記録媒体
US11019251B2 (en) Information processing apparatus, image capturing apparatus, information processing method, and recording medium storing program
JP7371076B2 (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP7195782B2 (ja) 情報処理装置、制御方法及びプログラム
JP6525934B2 (ja) 画像処理装置および制御方法
JP7208713B2 (ja) 画像解析装置および画像解析方法
US10885348B2 (en) Information processing device, information processing method, and storage medium
JP6348020B2 (ja) 画像処理装置、画像処理方法およびそれを用いた検査方法。
JP2018092507A (ja) 画像処理装置、画像処理方法及びプログラム
US10943103B2 (en) Human body detection apparatus, human body detection method, information processing apparatus, information processing method, and storage medium
JP6127399B2 (ja) ステレオカメラ装置及びプログラム
JP2015097089A (ja) 対象物検出装置、対象物検出方法
JP6034671B2 (ja) 情報表示装置、その制御方法およびプログラム
JP2019192154A (ja) 画像処理装置、撮影装置、画像処理方法、およびプログラム
JP2019125058A (ja) 画像処理装置、撮影装置、画像処理方法、およびプログラム
JP7140583B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6833558B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2019128791A (ja) 画像処理装置およびその制御方法
KR20210116247A (ko) 화상 처리장치, 화상 처리방법, 및 비일시적인 컴퓨터 판독가능한 기억매체
JP6089549B2 (ja) 情報処理装置、情報処理システム、およびプログラム
JP2021064871A (ja) 情報処理装置および情報処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210611

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210611

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221214

R151 Written notification of patent or utility model registration

Ref document number: 7195782

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151