JP2018160884A - 画像処理装置、画像処理装置の制御方法及びプログラム - Google Patents

画像処理装置、画像処理装置の制御方法及びプログラム Download PDF

Info

Publication number
JP2018160884A
JP2018160884A JP2017238918A JP2017238918A JP2018160884A JP 2018160884 A JP2018160884 A JP 2018160884A JP 2017238918 A JP2017238918 A JP 2017238918A JP 2017238918 A JP2017238918 A JP 2017238918A JP 2018160884 A JP2018160884 A JP 2018160884A
Authority
JP
Japan
Prior art keywords
person
image
processing
processing apparatus
privacy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017238918A
Other languages
English (en)
Other versions
JP6572293B2 (ja
Inventor
英 大野
Suguru Ono
英 大野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to EP18159428.4A priority Critical patent/EP3379471A1/en
Priority to US15/923,091 priority patent/US10750053B2/en
Priority to CN201810229593.7A priority patent/CN108629275B/zh
Publication of JP2018160884A publication Critical patent/JP2018160884A/ja
Application granted granted Critical
Publication of JP6572293B2 publication Critical patent/JP6572293B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】より柔軟で利便性の高いプライバシ保護を実現する。
【解決手段】画像処理システム1における画像処理装置100であって、撮影装置111により撮影された画像を取得する取得部101と、取得部により取得された画像から人物を認識する人物認識部104と、人物認識部により認識される人物について期限を設定する期限設定部106と、期限設定部により設定した期限を過ぎた人物が含まれる画像についてプライバシを保護するための処理を実行するプライバシ処理部105とを備える。
【選択図】図1

Description

本発明は、画像処理装置、画像処理装置の制御方法及びプログラムに関する。
近年、監視カメラが広く設置されている一方で、監視カメラで撮影された画像に映る個人情報保護の重要性が高まっている。
特許文献1では、動画内の領域ごとにプライバシ保護処理の対象とするか否かを設定し、プライバシ保護対象に設定された動体のみをプライバシ保護処理する技術が開示されている。
また、特許文献2では、画像解析結果に基づいて特定の事象の発生(物体の置き去り等)を検知した場合に、動体のプライバシ保護を解除する技術が開示されている。
特開2016−158156号公報 特開2011−091705号公報 特開2016−009543号公報
[Dalal '05] Dalal. N, Triggs. B, "Histograms of OrientedGradientsforHumanDetection",IEEECVPR,pp.886-893(2005).
しかしながら、従来の技術では、柔軟にプライバシ保護のための処理を適用することができないので利便性が低いという課題がある。
本発明は、上記の課題に鑑みてなされたものであり、より柔軟で利便性の高いプライバシ保護を実現するための技術を提供することを目的とする。
上記の目的を達成する本発明に係る画像処理装置は、
撮影装置により撮影された画像を取得する取得手段と、
前記取得手段により取得された画像から人物を認識する認識手段と、
前記認識手段により認識される人物について期限を設定する設定手段と、
前記設定手段により設定した期限を過ぎた人物が含まれる画像についてプライバシを保護するための処理を実行する処理手段と、
を備えることを特徴とする。
本発明によれば、より柔軟で利便性の高いプライバシ保護を実現することができる。
実施形態1に係る画像処理装置の構成の一例を示す図である。 実施形態1に係る画像処理装置の処理の一例を示すフローチャートである。 実施形態1に係る人事管理システムのユーザインタフェースの一例を示す図である。 実施形態1に係る人事管理システムおよび画像処理装置が保持するデータテーブルの一例である。 実施形態1に係るプライバシ保護処理の前後のフレーム画像の一例である。 実施形態2に係る画像処理装置の構成の一例を示す図である。 実施形態2に係る画像処理装置の処理の一例を示すフローチャートである。 実施形態2に係る人事管理システムのユーザインタフェースの一例を示す図である。 実施形態3に係る画像処理装置の処理の一例を示すフローチャートである。 実施形態3に係る人事管理システムおよび画像処理装置が保持するデータテーブルの一例である。 実施形態4に係る画像処理装置の処理の一例を示すフローチャートである。 実施形態5に係る画像処理装置の処理の一例を示すフローチャートである。 実施形態5に係る人事管理システムのユーザインタフェースの一例を示す図である。
以下、図面を参照しながら実施形態を説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
(実施形態1)
実施形態1では、あらかじめ特定の人物(以下、プライバシ保護対象者)に対して管理期限が設定されている場合に、動画の管理期限が過ぎていることを検知し、プライバシ保護処理を実施する例を説明する。本実施形態は、例えば、録画された動画について、社員ごとに管理期限が設定されている場合(例えば、契約社員など、在籍期間があらかじめ分かっている場合)に適用可能である。管理期限を過ぎて退職となる契約社員に対して、画像にプライバシ保護のための処理を実施することが想定される。
ここで、プライバシ保護のための処理(以下、プライバシ保護処理と称す)とは、動画内の人物を抽象化(匿名化)する処理である。具体的には画像中の人物を、人物のシルエット、輪郭のみの画像へ変換したり、2値画像に置き換える処理やマスク処理(矩形や人物形状の画像で覆い隠す処理)を行ったりするなどして、抽象化(匿名化)し、個人を特定し難い画像に変換するものである。なお、シルエットの様に黒色でなくてもよく、輪郭と輪郭内は背景と区別できる色であればよい。また、顔領域や人物の領域をモザイク処理したりぼかし処理をしたりする様な技術を用いてもよい。
<画像処理システムの構成>
図1は、本実施形態に係る画像処理システムの構成の一例を示す図である。画像処理システム1は、撮影装置111と、画像処理装置100とを含む。画像処理装置100は、所定の人物のプライバシを保護すべき事象を検知した場合に、その人物のプライバシ保護処理を行う。画像処理システム1は、社員の情報等を管理する人事管理システム112とは独立して動作するシステムであり、当該人事管理システム112と連携して動作可能である。また、画像処理システム1は、人物照合データベース113を参照することも可能である。なお、撮影装置111と、画像処理装置100と、人事管理システム112と、人物照合データベース113とを含めて画像処理システム1として構成してもよい。
撮影装置111は、撮影面に結像された光像を光電変換によりデジタル電気信号に変換するCMOSなどの撮影素子を備えた装置である。撮影装置10は、たとえば監視カメラであり、静止画または動画を取得する。
画像処理装置100は、画像取得部101と、保存部102と、事象検知部103と、人物認識部104と、プライバシ処理部105と、期限設定部106とを備えている。各処理部の機能は不図示の制御部(例えばCPU)が保存部102に保存されたプログラムを読み出して実行することにより実現される。
画像取得部101は、撮影装置111により撮影された静止画または動画を取得する。保存部102は、画像取得部101により取得された静止画または動画を保存するための装置であり、たとえばハードディスクである。保存部102に保存される映像は、1つの撮影装置111(監視カメラ)により取得された映像や、監視対象領域に設置された、録画サーバ(不図示)で管理する複数の撮影装置(監視カメラ)により撮影された映像である。また、本実施形態では保存部102は保存される動画に対応する付属情報を保持する。
事象検知部103は、プライバシ保護処理を行うべき事象が発生した場合に、プライバシ保護イベントを検知する。本実施形態では、事象検知部103は、画像取得部101により取得された動画に対して後述の期限設定部106により設定されている期限と現在時刻との比較を行い、期限が過ぎていることを事象として検知する。
人物認識部104は、動画中の人物を検出し、検出した人物を認識する。人体検出の方法としては非特許文献1に開示されるHOG(HistogramsofOrientedGradients)などの先行技術を適用すればよいため詳細な説明は省略する。また、人物を認識する方法としては特許文献3に開示される顔認証などの先行技術を適用すればよいため、詳細な説明は省略する。
プライバシ処理部105は、人物認識部104がプライバシを保護すべき人物と判定した場合に、プライバシ保護処理を行う。本実施形態では、人物領域を人物のシルエットに置き換えるが、プライバシを保護するために実施する画像処理であればいずれの方法を用いてもよい。例えば、人物認識部104が検出した人物領域を、特定の画素値で塗りつぶしたり、特定の画素値の2次元画像を乗算したりする等の方法でもよい。
期限設定部106は、撮影装置111が撮影して画像取得部101により取得された動画について、人物認識部104が認識する人物IDに基づき、動画に期限を付与する。本実施形態においては、撮影装置111が撮影する動画について、契約社員など、あらかじめ在籍期間が分かっている人物について、その人物の動画を保存する管理期限を設定する。本実施形形態では管理期限が過ぎた人物をプライバシ保護の対象とする。
<処理>
続いて、図2、図3及び図4を参照して、本実施形態に係る画像処理装置100が実施する処理の手順を説明する。図2(a)は人事管理システム登録シーケンスの一例であり、図3は人事管理システム登録シーケンスのユーザインタフェース(以下UI)の一例である。図4(a)−図4(c)は各データベースのデータテーブルの一例である。図4(a)は、人事管理システムの人事データのテーブルの一例である。図4(b)は、人物照合データベースの人物と特徴量のテーブルの一例である。そして図4(c)は、保存部に保存する動画情報のテーブルの一例である。人事管理システム登録シーケンスは、契約社員の契約時に入力することが想定される。
<登録シーケンス>
図2(a)のS201において、図3(a)に示すようなUI上で新規登録ボタンをユーザが選択すると、人事管理システム112は、図3(b)に示すような新規登録ウィンドウを表示する。
S202において、図3(b)に示すようなUI上で、人事管理システム112は、S201での操作により表示された新規登録ウィンドウへの登録情報の入力を受け付ける。受け付けたデータは人事管理システム112内のデータベースに保持される。
S203において、図3(c)に示すようなUI上で、人事管理システム112は、契約社員の契約期限満了後のプライバシ保護処理の希望の有無を受け付ける。受け付けたデータは、S202で登録された、図4(a)に示す人事管理システム112内のデータベースに保持される。図4(a)ではプライバシ保護処理を希望する場合は〇、希望しない場合は×で表現されている。
S204において、人事管理システム112は、プライバシ保護処理が希望されている場合にはS205の処理へ移行し、希望されていない場合には人事管理システム登録処理シーケンスを終了する。
S205において、図3(d)に示すようなUI上で、人事管理システム112は、写真の登録を受け付ける。人事担当者はプライバシ保護処理を希望している契約社員の写真(例えば顔写真)を登録する。たとえば、IDカード作成用の写真データなどを本UI上で登録する。
S206において、人事管理システム112は、登録された写真と登録される人物IDとを画像処理装置100の人物認識部104へ送信し、人物認識部104は受信した写真の特徴量を算出する。
S207において、人物認識部104は、S206において算出した特徴量を、受信した人物IDと対応付けて、図4(b)に示す人物照合データベース113に登録する。ここで登録される人物IDは、人事管理システム112で管理される人物IDと同じ人物IDである。以上が図2(a)の一連の処理の流れである。
<録画シーケンス>
続いて、図2(b)は本実施形態に係る録画シーケンスの一例である。録画シーケンスは、撮影装置111(監視カメラなど)で常時撮影される動画を録画サーバ又は保存部102のハードディスクドライブに所定の時間間隔で分割して保存する処理であり、継続的に処理される。
S221において、画像取得部101は、撮影装置111により撮影された動画を取得する。S222において、人物認識部104は、画像取得部101により取得された動画について、所定の時間間隔で分割された動画をフレーム画像に更に分割し、人物の検出処理を行う。
S223において、人物認識部104は、検出した人物の認識を行う。より具体的には、すべてのフレーム画像について、検出した人物領域情報から顔領域を特定し、顔領域の特徴量を抽出する。そして、人物認識部104は、抽出した顔領域の特徴量と、人物照合データベース113に保存されている特徴量とを照合して、人物IDを取得する。すべてのフレーム画像について処理を行った後、人物認識部104は、動画、フレーム番号、および人物検出領域を保存部102へ出力し、図4(c)のようなテーブルにデータを登録する。
また、同時に期限設定部106に人物IDへ出力する。なお、すべてのフレーム画像の各人物について人物IDが取得できるとは限らない。たとえば、人事管理システム登録シーケンスでプライバシ保護の有無を「希望無し」で登録した人物については、人物照合データベース113に登録されていないため、人物IDは取得されない。
S224において、保存部102は、人物認識部104から出力されたフレーム番号、および人物の領域情報を動画管理番号に対応付けて保存する。例えば、図4(c)に示すようなテーブルとして、動画管理番号、フレーム番号、及び人物の領域情報を関連付けて保存する。
S225において、期限設定部106は、人事管理システム112から人物IDに対応する契約満了日を取得し、契約満了日に基づいて保持期限を算出する。本実施形態では、契約満了日から1ヵ月後を保持期限として算出するものとする。算出された保持期限はS224で保存される動画管理番号と関連付けて保存される。例えば、図4(c)に示すようなテーブルに追記して保存する。図4(a)の人物ID「AA002」のように、プライバシ保護処理を希望しない人物の場合には期限は設定されない。また、契約満了日がない社員は、同様に期限は設定されない。一方、契約社員のように契約期間の決まっている社員については期限(人物ID「AA001」に対応する人物については契約満了日が2017年6月30日である場合には、2017年7月30日)が設定される。以上が図2(b)の一連の処理の流れである。
<プライバシ保護シーケンス>
次に、図2(c)は本実施形態に係るプライバシ保護シーケンスの一例である。プライバシ保護シーケンスでは、所定の人物のプライバシ保護すべき事象を検知した場合に、録画シーケンスで撮影された録画動画に対してプライバシ保護処理を行う。
S241において、事象検知部103は、録画サーバ(不図示)又は保存部102に保存されている動画の付属情報(例えば図4(c)に示すようなデータテーブル)を探索する。そして、期限設定部106により設定された期限と現在時刻とを比較し、期限が到来していることを検知する。本実施形態では、定期的にバッチ処理で探索を開始するものとする。
S242において、プライバシ処理部105は、各フレーム画像について、事象検知部103が検知した期限到来に対応する人物の領域(プライバシ保護対象者)にプライバシ保護処理を行う。より具体的には、プライバシ保護対象者の検出領域から背景画像を用いて背景差分を行うと共に二値化処理を行い、二値のシルエット情報を抽出し、背景画像にシルエット情報を重畳し、検出領域を元画像と置き換える。これにより対象人物をシルエットに変換した画像を作成する。背景画像は、例えばS224で保存された前後の動画を用いて、人物が存在しない画像フレームを背景画像として用いればよい。本実施形態では上述の方法でプライバシ保護処理を行う例を説明したが、人物を特定できない静止画または動画に変換する方法であればどのような方法であってもよい。
ここで、S242の処理前後のフレーム画像について図5を用いて説明する。図5(a)−図5(b)は、プライバシ処理部105が処理するフレーム画像の処理前後の画像である。図5(a)はプライバシ保護処理前のフレーム画像である。501はプライバシ保護対象者として認識された人物であり、502はプライバシ保護対象者と認識されなかった人物である。図5(b)は、図5(a)と同一フレームのプライバシ保護処理後のフレーム画像である。503はプライバシ保護処理後のプライバシ保護対象者であり、504は処理後の非プライバシ保護対象者である。図5(b)のように、プライバシ保護対象者はプライバシ保護された動画、つまり、個人を特定できない動画に変換されることにより個人情報が保護される。なお、ここでは、プライバシ保護対象者501のみにプライバシ保護処理を行う例を示したが、プライバシ保護対象者が写っている動画に映る人物について全てプライバシ保護処理を行うようにしてもよい。
S243において、プライバシ処理部105は、S242でプライバシ保護処理された画像を用いてH.264形式の動画を作成し、録画サーバ(不図示)又は保存部102に保存する。この際、プライバシ保護されていない元動画は削除する。また、S243では、図4に示すテーブルから処理を行ったフレーム、人物領域に対応する情報を削除する。なお、ここではプライバシ保護されていない元動画は削除する例を説明したが、例えば管理者に権限を付与し、管理者だけが閲覧可能な状態で保持してもよい。
S244において、事象検知部103は、動画と、当該動画に対応する期限情報の探索が終了したか否かを判定する。終了している場合には、プライバシ保護シーケンスを終了する。一方、終了していない場合には、S241に戻る。以上が図2(c)の一連の処理の流れである。
以上説明したように、本実施形態では、あらかじめプライバシ保護対象者に管理期限が設定されている場合に、動画の管理期限が到来していることを検知し、プライバシ保護処理を実施する。これにより、監視動画の管理者が個人情報を管理するコストを低減することが可能となる。従って、より柔軟で利便性の高いプライバシ保護を実現することが可能となる。
(実施形態2)
本実施形態では、ある特定の人物の録画動画にプライバシ保護処理を実施すべき事象を検出した場合に、録画動画の中から当該人物の動画を探し出し、当該人物の領域にプライバシ保護処理を行う例を説明する。本実施形態では、特に、録画された動画について、ある時点で所定の社員が退職した場合に、当該社員の録画動画に対してプライバシ保護処理を行う例を説明する。
<画像処理システムの構成>
図6は、本実施形態に係る画像処理システムの構成の一例を示す図である。画像処理システム6は、撮影装置611と、画像処理装置600とを含む。画像処理装置600は、図1において説明した画像処理装置100の構成要素のうち期限設定部106以外の構成要素を備えている。
本実施形態に係る事象検知部103は、プライバシ保護処理を行うべき事象が発生したことを検知する。本実施形態においては、画像処理システム6は外部の人事管理システム612と連携するものとし、人事管理者が人事管理システム612を通じて所定の社員の退職処理を実行した場合に、そのイベントトリガを受け取るものとする。なお、本実施形態においては退職処理のイベントトリガを受け取るものとするが、画像処理システム6が受け取るイベントトリガはどのようなものであってもよい。画像処理装置600のその他の構成要素の機能は図1で説明した画像処理装置100の各構成要素の機能と同様であるため、説明を省略する。
<処理>
続いて、図7及び図8を参照して、本実施形態に係る画像処理装置600が実施する処理の手順を説明する。
<録画シーケンス>
図7(a)は本実施形態に係る録画シーケンスの一例である。S701において、画像取得部101は、撮影装置611により撮影された動画を取得する。なお、動画の取得先は1つの監視カメラ(撮影装置611)に限られるものではなく、監視対象領域に設置された、全ての監視カメラの動画を取得してもよい。S702において、保存部102は、画像取得部101により取得された動画を保存する。動画は所定の時間間隔で分割されて保存されるものとする。以上が図7(a)の一連の処理の流れである。
<退職処理シーケンス>
次に、図7(b)は人事管理システム612の退職処理シーケンスの一例である。また、図8は人事管理システム612の退職処理のUIの一例である。
S721において、図8(a)に示すようなUI上で退職処理ボタンをユーザが選択すると、人事管理システム612は、図8(b)に示すような退職処理ウィンドウを表示する。S722において、人事管理システム612は、図8(b)に示すUI上で退職処理を受け付ける。
S723において、人事管理システム612は、退職者が監視カメラ映像にプライバシ保護処理を行うことを希望しているか否かの選択を受け付けるために、図8(c)に示すようなUIを表示する。S724において、人事管理システム612は、退職者がプライバシ保護処理を希望している場合には、処理をS725に進め、希望していない場合には、処理を終了する。
S725において、人事管理システム612は、図8(d)に示すようなUI上に、人事データと対応付けて保存されている写真データをプライバシ保護に用いることを提示する。また、提示した写真データを画像処理装置600の人物認識部104に送信する。なお、ここでは、保存されている写真データを用いるが、さらに新しく写真データを受け付けてもよい。
S726において、人物認識部104は、受信した写真データから特徴量を算出する。算出した特徴量は人物認識部104で保持しておく。S727において、人事管理システム612は、画像処理装置600に対して退職処理のイベントトリガを送信する。以上が図7(b)の一連の処理の流れである。
<プライバシ保護シーケンス>
次に、図7(c)は本実施形態に係るプライバシ保護シーケンスの一例である。S741において、事象検知部103は、プライバシ保護対象者のプライバシを保護すべき事象を検知する。本実施形態においては、事象検知部103は、外部の人事管理システム612により送信された退職処理のイベントトリガを検知し、人物認識部104に事象検知トリガを送信する。この際、プライバシ保護対象者となる当該人物の人物IDの情報を取得して、人物認識部104に送信する。
S742において、人物認識部104は、事象検知トリガを取得すると、録画サーバ(不図示)又は保存部102に保存される全ての動画ごとに、動画をフレーム画像に分割し、1以上の人物の検出を開始する。
S743において、人物認識部104は、検出した人物の認識を行う。より具体的には、すべてのフレーム画像について、検出した人物領域から顔領域を特定し、顔領域の特徴量を抽出する。そして、人物認識部104は、あらかじめS726で算出した特徴量と、抽出した特徴量との照合を行い、同一人物として照合できた場合に退職対象者であると認識する。すべてのフレーム画像について処理を行った後、人物認識部104は、動画、フレーム番号、および退職対象者と認識された人物の検出領域情報をプライバシ処理部105へ送信する。
S744において、プライバシ処理部105は、各フレーム画像について、プライバシ保護対象者にプライバシ保護処理を行う。プライバシ保護処理の詳細はS242の処理と同様であるため、説明を省略する。
S745において、プライバシ処理部105は、S744でプライバシ保護処理された画像を用いてH.264形式の動画を作成し、録画サーバ(不図示)又は保存部102に保存する。この際、プライバシ保護されていない元動画は録画サーバ(不図示)又は保存部102から削除する。
S746において、人物認識部104は、録画サーバ(不図示)又は保存部102に保存される動画中の人物の検出が終了したか否かを判定する。人物の検出が終了している場合、処理を終了する。一方、人物の検出が終了していない場合、S742に戻る。以上が図7(c)の一連の処理の流れである。
以上説明したように、本実施形態では、ある特定の人物の録画動画に対してプライバシ保護処理を実施すべき事象を検出した場合に、全ての監視カメラで録画された録画動画中から当該人物を探し出し、当該人物の領域にプライバシ保護処理を行う。これにより、監視動画の管理者が動画中の個人情報を管理するコストを低減することが可能となる。従って、より柔軟で利便性の高いプライバシ保護を実現することが可能となる。
(実施形態3)
実施形態2では、特定の人物についてプライバシ保護処理を実施すべき事象が発生した場合に、録画動画から当該人物を探し出し、プライバシ保護処理を行う例を説明した。これに対して、本実施形態では、監視カメラ(撮影装置)から動画を取得して保存する際に、あらかじめ動画に人物IDを付与しておく例を説明する。なお、本実施形態では、実施形態2と同様に、録画された動画について、ある時点で所定の社員が退職した場合に、動画付与されている人物IDを用いて、当該社員の録画動画にプライバシ保護処理を行う例を説明する。なお、本実施形態に係る画像処理システム(撮影装置、画像処理装置)の構成は実施形態2と同様であるため、説明を省略する。
図9は、本実施形態に係る画像処理装置600が実施する処理の手順を示すフローチャートである。また、図10は、本実施形態に係る人事管理システムおよび画像処理装置が保持するデータテーブルの一例である。
最初に図10を用いて、各装置が保持する各種データテーブルについて説明する。図10(a)は人事情報のデータテーブルであり、人物IDと氏名などが対応付けられて人事管理システム612内のデータベース(不図示)に保持される。本実施形態における人事情報のデータテーブルには、図4(a)で示したようなプライバシ保護処理の希望有無の情報は保持されない。図10(b)は人物IDと顔の特徴量とが対応付けられたデータテーブルであり、図4(b)のデータテーブルと同等である。図10(c)は動画と対応付けられる付属情報のデータテーブルであり、当該データテーブルは保存部102に保持される。本実施形態の付属情報では人物IDが付与され、図4(c)で示したような期限に関する情報は含まれない。
<処理>
続いて、図9を参照して、本実施形態に係る画像処理装置600が実施する処理の手順を説明する。
<録画シーケンス>
図9(a)は本実施形態に係る録画シーケンスの一例である。S901−S904の各処理は図2のS221−S224の各処理と同様である。但し、S904で保存部102が保存する情報は、図10(c)に示すデータテーブルとして、動画管理番号、フレーム番号、人物ID、人物の領域情報を関連付けて保存するものである。本実施形態では図4(c)に示したように動画の期限に関する情報は含まれない。
<退職処理シーケンス>
次に、図9(b)は人事管理システム612の退職処理シーケンスである。S921−S925の各処理はS721−S724、S727の各処理と同等である。ただし、S925の処理において、人事管理システム612は、退職処理イベントトリガを画像処理システム6に送信するとともに、退職対象者の人物IDを送信する。
<プライバシ保護シーケンス>
次に、図9(c)は本実施形態に係るプライバシ保護シーケンスの一例である。S941において、事象検知部103は、プライバシ保護対象者のプライバシを保護すべき事象を検知する。本実施形態においては、事象検知部103は、外部の人事管理システム612の退職イベント処理を検知し、人物認識部104に事象検知トリガを送信する。この際、プライバシ保護対象者となる人物の人物IDの情報をプライバシ処理部105に出力する。
S942において、プライバシ処理部105は、録画サーバ(不図示)又は保存部102に保存されている動画に付与された人物IDの情報を参照し、S941で取得されたプライバシ保護対象者となる退職者の人物IDを探索する。具体的には、図10(c)に示すデータテーブルからプライバシ保護対象者の人物IDを探索し、動画管理番号と関連付けられた動画と人物領域情報を取得する。
S943において、プライバシ処理部105は、各フレーム画像について、プライバシ保護対象者に対するプライバシ保護処理を行う。プライバシ保護処理の詳細はS242と同様であるため、説明を省略する。
S944において、プライバシ処理部105は、S943でプライバシ保護処理された画像を用いてH.264形式の動画を作成し、録画サーバ(不図示)又は保存部102に保存する。この際、プライバシ保護されていない元動画は削除する。また、S944では、図10(c)に示すテーブルからプライバシ保護対象者の人物IDに対応する情報を削除する。
S945において、プライバシ処理部105は、図10(c)に示すテーブル中の人物IDの探索が終了したか否かを判定する。探索が終了した場合、処理を終了する。一方、探索が終了していない場合、S942に戻る。以上が図9(c)の一連の処理の流れである。
以上説明したように、本実施形態では、監視カメラから動画を取得して保存する際に、あらかじめ動画に人物IDを付与しておき、そこからプライバシ保護対象者の人物IDを探索して、画像に対してプライバシ保護処理を行う。これにより、画像から該当人物を検出する手間が省けるため、プライバシ保護対象者の探索がより簡便になり、監視動画の管理者が動画中の個人情報を管理するコストをさらに低減することが可能となる。従って、より柔軟で利便性の高いプライバシ保護を実現することが可能となる。
(実施形態4)
実施形態4では、特定の領域からの退出を検知した場合に、該当する人物についてプライバシ保護処理を行う例を説明する。本実施形態は、人物が店舗内にいる場合にはプライバシ保護無しの元画像で保存し、店舗を出た場合にプライバシ保護処理を施す、といった場合に適用可能である。
なお、本実施形態に係る画像処理システム(撮影装置、画像処理装置)の構成は図6と同様であるが、人事管理システムは不要であり、また、事象検知部103の処理が異なっている。本実施形態に係る事象検知部103は、人物の特定の領域からの退出(例えば退店)を検知する。より具体的には、店舗の入り口に監視カメラ(撮影装置)を設置しておき、監視カメラが撮影する店舗内の特定の領域(例えば入口付近)について人物の退出を検出し、退出した人物の画像に対してプライバシ保護処理を実施する。
<処理>
続いて、図11を参照して、本実施形態に係る画像処理装置600が実施する処理の手順を説明する。
<録画シーケンス>
図11(a)は本実施形態に係る録画シーケンスの一例であるが、S1101、S1102の各処理は、実施形態2で図7を参照して説明したS701、S702の各処理と同様であるため、説明を省略する。
<プライバシ保護シーケンス>
続いて、図11(b)は本実施形態に係るプライバシ保護シーケンスの一例である。
S1121において、画像取得部101は、特定の領域について撮影された最新の映像を取得する。本実施形態においては、店舗の入り口に設置された監視カメラ(撮影装置611)の映像を取得する。
S1122において、事象検知部103は、画像取得部101により取得された映像から人物を検知し、特定の領域から人物が退出したかどうかを判定する。例えば、前述した人物検出の技術を用いて、人物領域の下端の中心点が特定の領域にあることを検知することにより退出の判定を行う。本実施形態では、特定の領域からの退出を検知する例を説明するが、通過線を設定して通過を検知する方法など、特定領域からの人物の退出を検知できれば、どのような方法を用いてもよい。退出が検知された場合には、S1123へ進む。検知されていない場合は、S1121に戻る。
S1123において、人物認識部104は、S1122で検知された人物領域の画像から特徴量(例えば顔領域の特徴量)を抽出する。その後のS1124−S1128の各処理は、処理対象が退職対象者ではなく退出者であること以外、図7のS742−S746の各処理と同様であるため、説明を省略する。以上が図11(b)の一連の処理の流れである。
以上説明したように、本実施形態では、特定の領域について人物の退出を検知した場合に、当該人物の特徴量を用いて、録画サーバ又は保存部に保存されている動画中の当該人物に対してプライバシ保護処理を行う。これにより、来店する顧客のプライバシを自動で保護することが可能となり、監視動画の管理者が動画中の個人情報を管理するコストを低減することが可能となる。従って、より柔軟で利便性の高いプライバシ保護を実現することが可能となる。
なお、本実施形態では特定の領域からの人物の退出を検知したことに応じてプライバシ保護処理を実施する例を説明したが、特定の領域への人物の侵入を検知したことに応じてプライバシ保護処理を実施するように構成してもよい。その場合、例えば店舗の入り口に設置された監視カメラ(撮影装置)は、店舗内外の領域を撮影し、画像中の店舗外領域に人物が侵入したことにより退店を検知すればよい。
(実施形態5)
実施形態5では、動画に映ってしまった人物からプライバシ保護処理依頼を受けた場合に、過去に撮影された動画中の当該人物についてプライバシ保護処理を行う例を説明する。
なお、本実施形態に係る画像処理システム(撮影装置、画像処理装置)の構成は実施形態4と同様であるが、事象検知部103の処理が異なっている。本実施形態に係る事象検知部103は、所定の人物のクエリ画像の入力を事象として検知する。本実施形態では、例えば動画に写ってしまった人物からプライバシ保護処理依頼を受けた場合に、画像処理装置に対して当該人物のクエリ画像が入力され、事象検知部103がクエリ画像の入力を検知したことに応じてプライバシ保護処理を行う。また、本実施形態における画像処理システムは録画データの管理を行う録画システム(不図示)の一部であるものとする。
<処理>
続いて、図12及び図13を参照して、本実施形態に係る画像処理装置、画像処理システム(録画システム)が実施する処理の手順を説明する。
<録画シーケンス>
まず、図12(a)は、本実施形態に係る録画シーケンスの一例である。S1201、S1202の各処理は、実施形態2で図7を参照して説明したS701、S702の各処理と同様であるため、説明を省略する。
<UIシーケンス>
図12(b)は、録画システムUIシーケンスの一例である。また、図13は録画システムにおけるUIの一例である。S1221において、録画システムは、プライバシ保護メニューを表示する。例えば、図13(a)に示すようなプライバシ保護処理メニューを表示する。
S1222において、録画システムは、プライバシ保護対象者の写真を受け付ける。例えば、図13(b)に示すようなプライバシ保護処理ウィンドウを表示し、プライバシ保護対象者の写真の入力を受け付ける。
S1223において、録画システムは、入力されたプライバシ保護対象者のクエリ画像を画像処理システムに送信する。例えば、図13(c)に示すような画面でユーザが「次へ」をクリックした時点で送信を実行する。その後、図13(d)に示すように、送信が完了したことを示す画面が表示される。以上が図12(b)の一連の処理の流れである。
<プライバシ保護シーケンス>
図12(c)は、本実施形態に係るプライバシ保護シーケンスの一例であるが、特にS1241の処理が異なっている。
S1241において、事象検知部103は、プライバシ保護対象者のクエリ画像が入力されたことを検知する。S1242の処理はS1123の処理と同様であるが、該当人物が映ったクエリ画像を用いてプライバシ保護対象者の特徴量が抽出される。
その後のS1243−S1247の各処理は、図11のS1124−S1128の各処理と同様であるため、説明を省略する。以上が図12(c)の一連の処理の流れである。
以上説明したように、本実施形態では、動画に映ってしまった人物からプライバシ保護処理依頼を受けた場合に、その人物が映った画像をクエリ画像として取得する。そして、その画像から特徴量を抽出して、過去に撮影された動画中の当該人物についてプライバシ保護処理を行う。これにより、監視動画の管理者が動画中の個人情報を管理するコストを低減することが可能となる。従って、より柔軟で利便性の高いプライバシ保護を実現することが可能となる。
[変形例]
上述の実施形態では、入室権限のある入室可能なエリアの映像のみプライバシ保護処理を行うようにしてもよい。例えば、実施形態3では、特定の人物についてプライバシ保護処理を実施すべき事象が発生した場合に、録画動画から当該人物を探し出し、プライバシ保護処理を行う例を説明した。一方、入室管理システムと連携し、当該カメラの設置されたエリアにおいて、カメラに映っていた人物IDに対応する人物に、設置エリアへの入室権限があるか否かを判定し、入室権限がある場合にのみ、プライバシ保護処理を行うようにしてもよい。これにより、入室権限の無いエリアでの不審行動として撮影された映像を残すことが可能となる。
また、実施形態4において、特定の領域からの退出を検知した場合に、該当する人物についてプライバシ保護処理を行う例を説明したが、要注意人物をリスト化したブラックリストに登録されている人物についてはプライバシ保護処理しないようにしてもよい。例えば、図11のS1123の処理を行った後に、退出者の顔特徴量とブラックリストに登録されている人物の特徴量とを比較する。ブラックリストに登録された人物と判定された場合には、プライバシ保護シーケンスを終了する。これにより、適切な人物にプライバシ保護処理を行いつつ、プライバシ保護処理の必要が無い要注意人物を容易に発見、監視することができる。
(その他の実施形態)本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:画像処理装置、101:画像取得部、102:保存部、103:事象検知部、104:人物認識部、105:プライバシ処理部、106:期限設定部、111:撮影装置

Claims (13)

  1. 撮影装置により撮影された画像を取得する取得手段と、
    前記取得手段により取得された画像から人物を認識する認識手段と、
    前記認識手段により認識される人物について期限を設定する設定手段と、
    前記設定手段により設定した期限を過ぎた人物が含まれる画像についてプライバシを保護するための処理を実行する処理手段と、
    を備えることを特徴とする画像処理装置。
  2. 撮影装置により撮影された画像を取得する取得手段と、
    前記取得手段により取得された画像から人物を認識する認識手段と、
    前記認識手段により認識される人物について所定の事象が発生した場合、当該人物が含まれる画像に対してプライバシを保護するための処理を実行する処理手段と、
    を備えることを特徴とする画像処理装置。
  3. 前記取得手段により取得された画像を保存する保存手段を更に備え、
    前記処理手段は、前記保存手段に保存されている画像のうち、前記人物が含まれる画像に対して前記プライバシを保護するための処理を実行することを特徴とする請求項2に記載の画像処理装置。
  4. 前記所定の事象は、外部の人事管理システムで行われた人物の退職処理であることを特徴とする請求項2又は3に記載の画像処理装置。
  5. 前記取得手段により取得されて人物が認識された画像と、当該人物の人物IDとを関連付ける関連付け手段を更に備え、
    前記処理手段は、前記退職処理された人物の人物IDと関連付けられた画像に対してプライバシを保護するための処理を実行することを特徴とする請求項4に記載の画像処理装置。
  6. 前記所定の事象は、画像中の人物の特定の領域からの退出または前記特定の領域への侵入であることを特徴とする請求項2又は3に記載の画像処理装置。
  7. 前記所定の事象は、前記プライバシを保護するための処理を依頼した人物のクエリ画像の入力であり、
    前記認識手段は、前記クエリ画像に基づいて、前記取得手段により取得された画像から前記人物を認識することを特徴とする請求項2又は3に記載の画像処理装置。
  8. 前記プライバシを保護するための処理は、画像中の前記人物に対するマスク処理であることを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。
  9. 前記処理手段は、外部の人事管理システムで管理される入室可能なエリアに基づいてプライバシを保護するための処理を実行することを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
  10. 前記認識手段により特定の人物が認識された場合、前記処理手段は、前記特定の人物が特定の領域から退出した事象または前記特定の領域へ侵入した事象が発生した場合であってもプライバシを保護するための処理を行わないことを特徴とする請求項6に記載の画像処理装置。
  11. 画像処理装置の制御方法であって、
    撮影装置により撮影された画像を取得する取得工程と、
    前記取得工程により取得された画像から人物を認識する認識工程と、
    前記認識工程により認識される人物について期限を設定する設定工程と、
    前記設定工程により設定した期限を過ぎた人物が含まれる画像についてプライバシを保護するための処理を実行する処理工程と、
    を有することを特徴とする画像処理装置の制御方法。
  12. 画像処理装置の制御方法であって、
    撮影装置により撮影された画像を取得する取得工程と、
    前記取得工程により取得された画像から人物を認識する認識工程と、
    前記認識工程により認識される人物について所定の事象が発生した場合、当該人物が含まれる画像に対してプライバシを保護するための処理を実行する処理工程と、
    を有することを特徴とする画像処理装置の制御方法。
  13. コンピュータを、請求項1乃至10の何れか1項に記載の画像処理装置の各手段として実行させるためのプログラム。
JP2017238918A 2017-03-21 2017-12-13 画像処理装置、画像処理装置の制御方法及びプログラム Active JP6572293B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP18159428.4A EP3379471A1 (en) 2017-03-21 2018-03-01 Image processing apparatus, method of controlling image processing apparatus, and storage medium
US15/923,091 US10750053B2 (en) 2017-03-21 2018-03-16 Image processing apparatus, method of controlling image processing apparatus, and storage medium
CN201810229593.7A CN108629275B (zh) 2017-03-21 2018-03-20 图像处理装置、图像处理装置的控制方法和存储介质

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017054873 2017-03-21
JP2017054873 2017-03-21

Publications (2)

Publication Number Publication Date
JP2018160884A true JP2018160884A (ja) 2018-10-11
JP6572293B2 JP6572293B2 (ja) 2019-09-04

Family

ID=63795840

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017238918A Active JP6572293B2 (ja) 2017-03-21 2017-12-13 画像処理装置、画像処理装置の制御方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6572293B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006054719A (ja) * 2004-08-12 2006-02-23 Hitachi Ltd 画像処理装置、画像処理システム
JP2009124618A (ja) * 2007-11-19 2009-06-04 Hitachi Ltd カメラ装置、画像処理装置
WO2012001947A1 (ja) * 2010-06-28 2012-01-05 株式会社ニコン 撮像装置、画像処理装置、画像処理プログラム記録媒体
US20140023248A1 (en) * 2012-07-20 2014-01-23 Electronics And Telecommunications Research Institute Apparatus and method for protecting privacy information based on face recognition
US9582709B2 (en) * 2014-10-09 2017-02-28 Hangzhou Closeli Technology Co., Ltd. Privacy for camera with people recognition

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006054719A (ja) * 2004-08-12 2006-02-23 Hitachi Ltd 画像処理装置、画像処理システム
JP2009124618A (ja) * 2007-11-19 2009-06-04 Hitachi Ltd カメラ装置、画像処理装置
WO2012001947A1 (ja) * 2010-06-28 2012-01-05 株式会社ニコン 撮像装置、画像処理装置、画像処理プログラム記録媒体
US20140023248A1 (en) * 2012-07-20 2014-01-23 Electronics And Telecommunications Research Institute Apparatus and method for protecting privacy information based on face recognition
US9582709B2 (en) * 2014-10-09 2017-02-28 Hangzhou Closeli Technology Co., Ltd. Privacy for camera with people recognition

Also Published As

Publication number Publication date
JP6572293B2 (ja) 2019-09-04

Similar Documents

Publication Publication Date Title
CN108629275B (zh) 图像处理装置、图像处理装置的控制方法和存储介质
TWI717146B (zh) 圖像處理方法及裝置、電子設備和儲存介質
JP5669082B2 (ja) 照合装置
US8314854B2 (en) Apparatus and method for image recognition of facial areas in photographic images from a digital camera
US11176679B2 (en) Person segmentations for background replacements
US20090174805A1 (en) Digital camera focusing using stored object recognition
US20040263621A1 (en) Customer service counter/checkpoint registration system with video/image capturing, indexing, retrieving and black list matching function
KR20110053820A (ko) 이미지 처리 방법 및 장치
JPWO2007142227A1 (ja) 画像方向判定装置、画像方向判定方法、および画像方向判定用プログラム
CN105659279B (zh) 信息处理设备和信息处理方法
CN112232186B (zh) 防疫监测方法与系统
CN113780079A (zh) 面部识别装置、识别方法及其程序和信息设备
CN105740379A (zh) 一种照片分类管理方法和装置
US9087237B2 (en) Information processing apparatus, control method thereof, and storage medium
JP7196932B2 (ja) 情報処理装置、情報処理方法、およびプログラム
JP5147670B2 (ja) 画像処理装置及び画像処理方法、撮像装置
JP6572293B2 (ja) 画像処理装置、画像処理装置の制御方法及びプログラム
JP5153669B2 (ja) 撮像制御装置、および撮像制御方法
JP6485978B2 (ja) 画像処理装置および画像処理システム
JP4773998B2 (ja) 監視カメラ・システム,動画検索装置および顔画像データベース更新装置ならびにそれらの動作制御方法
US11676439B2 (en) Face authentication system and face authentication method
US20220122377A1 (en) Information processing apparatus, information processing method, and program
JP6815667B1 (ja) 情報処理装置、情報処理方法、プログラム及びカメラシステム
JP6888840B2 (ja) 画像処理システム、画像処理方法、及び画像処理プログラム
US11341701B1 (en) Method and apparatus for producing a composite image of a suspect

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190809

R151 Written notification of patent or utility model registration

Ref document number: 6572293

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151