JP6910772B2 - 撮像装置、撮像装置の制御方法およびプログラム - Google Patents

撮像装置、撮像装置の制御方法およびプログラム Download PDF

Info

Publication number
JP6910772B2
JP6910772B2 JP2016175223A JP2016175223A JP6910772B2 JP 6910772 B2 JP6910772 B2 JP 6910772B2 JP 2016175223 A JP2016175223 A JP 2016175223A JP 2016175223 A JP2016175223 A JP 2016175223A JP 6910772 B2 JP6910772 B2 JP 6910772B2
Authority
JP
Japan
Prior art keywords
image
region
specific
image processing
captured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016175223A
Other languages
English (en)
Other versions
JP2018041293A5 (ja
JP2018041293A (ja
Inventor
安達 啓史
啓史 安達
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016175223A priority Critical patent/JP6910772B2/ja
Priority to US15/696,609 priority patent/US20180068423A1/en
Publication of JP2018041293A publication Critical patent/JP2018041293A/ja
Publication of JP2018041293A5 publication Critical patent/JP2018041293A5/ja
Application granted granted Critical
Publication of JP6910772B2 publication Critical patent/JP6910772B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、撮像装置、撮像装置の制御方法およびプログラムに関する。
近年、監視カメラの普及が進んでいる。これに伴い、公共の場で監視カメラによって撮像された画像(映像)に映っている個人の容姿を他人が容易に見ることができるようになり、プライバシーの観点から問題となっている。
そこで、カメラによって撮像された画像中の被写体のプライバシーを保護するための技術が提案されている。特許文献1には、撮像画像中における被写体の画像部分を抽出し、抽出した被写体の画像部分に対してプライバシー保護のための画像加工(ぼかし処理)を施した画像をモニタ等の画像表示装置に出力する点が開示されている。
特開2008−191884号公報
しかしながら、特許文献1に記載の技術にあっては、一度プライバシー保護のための画像加工が施された領域については、有事の際などに後から画像加工前の元画像を確認する需要がある。
そこで、本発明は、プライバシーを保護しつつ、プライバシー保護のための画像加工が施される前の画像を必要に応じて再現可能とすることを目的としている。
上記課題を解決するために、本発明に係る撮像装置の一態様は、撮像手段と、前記撮像手段により撮像された撮像画像における特定領域に対してプライバシー保護のための画像加工処理を施した第一の画像を生成する第一の生成手段と、前記撮像画像における部分領域の画像であって、前記特定領域の少なくとも一部を含む部分領域の画像である第二の画像を生成する第二の生成手段と、前記第一の生成手段により生成された第一の画像を、ネットワークを介して、外部装置に出力する出力手段と、前記第二の生成手段により生成された第二の画像を記憶する記憶手段と、を備える。
本発明によれば、プライバシーを保護しつつ、プライバシー保護のための画像加工が施される前の画像を必要に応じて再現可能とすることができる。
画像処理システムの一例を示すネットワーク接続構成図である。 撮像装置のハードウェア構成の一例を示す図である。 画像処理装置の機能ブロック図である。 画像処理装置が実施する画像処理の流れを説明する図である。 加工前画像および加工済画像の出力先を説明する図である。 画像処理装置の動作を説明するためのフローチャートである。
以下、添付図面を参照して、本発明を実施するための形態について詳細に説明する。
なお、以下に説明する実施の形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。
(第一の実施形態)
図1は、本実施形態における画像処理システムの動作環境の一例を示したネットワーク接続構成図である。本実施形態では、画像処理システムをネットワークカメラシステムに適用する。
ネットワークカメラシステム10は、少なくとも1台のネットワークカメラ(以下、単に「カメラ」ともいう)20と、少なくとも1台の情報処理装置30とを備える。カメラ20と情報処理装置30とは、ネットワーク回線であるLAN(Local Area Network)40によって接続されている。なお、ネットワーク回線はLANに限定されるものではなく、インターネットやWAN(Wide Area Network)などであってもよい。また、LAN40への物理的な接続形態は、有線であってもよいし、無線であってもよい。さらに、図1において、カメラ20および情報処理装置30は、それぞれ2台ずつLAN40に接続されているが、接続台数は図1に示す数に限定されない。
カメラ20は、光学ズーム機能を有し、所定の画角で被写体を撮像する監視カメラ等の撮像装置である。カメラ20は、撮像画像(以下、単に「画像」ともいう。)から所定の条件に合致した特定物体(例えば、人物の顔など)を検出し、検出した特定物体の画像上における領域を特定領域として抽出する画像解析処理を行う。ここで、画像解析処理は、動体検出、人体検出、顔検出等の処理の少なくとも1つを含む。
また、カメラ20は、上記画像解析処理の処理結果をもとに、画像中の特定領域に対して画像加工処理を実施する。カメラ20は、その画像加工処理の処理結果を、LAN40を介して情報処理装置30に送信することができる。さらに、カメラ20は、外部からの通信に応じてフォーカスなどのカメラ撮像設定やカメラ画角を変更する機能を有する。なお、カメラ20は、魚眼カメラや多眼カメラ等であってもよい。
情報処理装置30は、例えばパーソナルコンピューター(PC)により構成されており、ユーザ(例えば、監視員)が操作可能である。この情報処理装置30は、カメラ20から配信される画像や、画像加工処理の処理結果を表示部(ディスプレイ)に表示させるための表示制御機能を有する。また、情報処理装置30は、カメラ20で実行する画像解析処理や画像加工処理に関するパラメータ設定を行うための入力手段の機能を有していてもよい。
図2は、カメラ20のハードウェア構成の一例を示す図である。
カメラ20は、CPU21と、ROM22と、RAM23と、外部メモリ24と、撮像部25と、入力部26と、通信I/F27と、システムバス28とを備える。
CPU21は、カメラ20における動作を統括的に制御するものであり、システムバス28を介して、各構成部(22〜27)を制御する。ROM22は、CPU21が処理を実行するために必要な制御プログラム等を記憶する不揮発性メモリである。なお、当該プログラムは、外部メモリ24や着脱可能な記憶媒体(不図示)に記憶されていてもよい。RAM23は、CPU21の主メモリ、ワークエリア等として機能する。つまり、CPU21は、処理の実行に際してROM22から必要なプログラム等をRAM23にロードし、当該プログラム等を実行することで各種の機能動作を実現する。
外部メモリ24は、CPU21がプログラムを用いた処理を行う際に必要な各種データや各種情報を記憶することができる。また、外部メモリ24は、CPU21がプログラムを用いた処理を行うことにより得られる各種データや各種情報等を記憶することができる。
撮像部25は、被写体の撮像を行うための構成であり、CMOS(Complementary Metal Oxide Semiconductor)、CCD(Charge Coupled Device)等の撮像素子を含んで構成される。入力部26は電源ボタンや各種設定ボタンなどから構成され、カメラ20のユーザは、入力部26を介して当該カメラ20に指示を与えることができるようになっている。通信I/F27は、外部装置(本実施形態では、情報処理装置30)と通信するためのインタフェースである。通信I/F27は、例えばLANインタフェースである。システムバス28は、CPU21、ROM22、RAM23、外部メモリ24、撮像部25、入力部26および通信I/F27を通信可能に接続する。
なお、情報処理装置30の場合は、撮像部25に代えて、表示部や入力部のハードウェア構成を具備する。ここで、表示部は、液晶ディスプレイ(LCD)等のモニタにより構成される。また、入力部は、キーボードやマウス等のポインティングデバイスにより構成され、情報処理装置30のユーザが情報処理装置30に対して指示を与えることができるように構成される。
図3は、画像処理装置300の機能構成を示すブロック図である。画像処理装置300は、上記の画像解析処理および画像加工処理を行い、その処理結果を情報処理装置30の表示画面に表示させる機能を有する。なお、本実施形態では、カメラ20が画像処理装置300として動作する場合について説明するが、情報処理装置30とは異なる一般のPCが画像処理装置300として動作してもよいし、他の機器が画像処理装置300として動作してもよい。
画像処理装置300は、画像中のプライバシー保護すべき特定物体を検出し、検出した特定物体の領域を、プライバシー保護すべき特定領域として抽出する画像解析処理を行う。また、画像処理装置300は、抽出した特定領域に対してプライバシー保護するための画像加工を施した加工済画像(プライバシー保護処理済画像)を生成する画像加工処理を行う。そして、画像処理装置300は、生成した加工済画像を情報処理装置30へ出力する。また、画像処理装置300は、画像加工処理が施される前の特定領域の少なくとも一部の画像を含む加工前画像(保護画像)を、加工済画像の出力先とは異なる出力先に出力する。
なお、本実施形態においては画像処理装置としているが、映像を取得し、映像中の各フレーム(画像)を1枚ごとに処理しても処理内容は同一であるため、映像処理装置にも適用可能である。
画像処理装置300は、画像取得部301と、物体検出部302と、人体検出部303と、画像処理部304と、背景画像記憶部305と、出力制御部306と、保護画像処理部307と、復元情報処理部308と、を備える。本実施形態においては、図3に示す画像処理装置300の各部の機能は、カメラ20のCPU21がプログラムを実行することで実現され得る。ただし、図3で示す各要素のうち少なくとも一部が専用のハードウェアとして動作するようにしてもよい。この場合、専用のハードウェアは、カメラ20のCPU21の制御に基づいて動作する。
画像取得部301は、撮像部25によって撮像された画像(動画像もしくは静止画像)を取得する(図4(a))。そして、画像取得部301は、取得した画像を順次、物体検出部302へ送出する。なお、画像の供給元については特に限定するものではなく、画像取得部301は、画像をカメラ20の外部から取得してもよい。画像の供給元は、有線もしくは無線を介して画像を供給するサーバ装置や別の撮像装置であってもよい。
また、画像取得部301は、画像処理装置300内のメモリ(例えば、外部メモリ24)から画像を取得するようにしてもよい。以下の説明では、画像取得部301が動画像を取得した場合であっても静止画像を取得した場合であっても、画像取得部301は、物体検出部302へ1枚の画像を送出する場合について説明する。前者の場合は、上記1枚の画像が動画像を構成する各フレームに相当し、後者の場合は、上記1枚の画像が静止画像に相当する。
物体検出部302は、画像取得部301から取得した画像をもとに、背景差分法等により、画像中の物体(オブジェクト)を検出する(図4(b))。そして、物体検出部302は、検出した物体の情報を人体検出部303に出力する。ここで、検出された物体の情報は、物体の画像上での位置情報、物体の外接矩形の情報、および物体のサイズを含む。また、物体検出部302における物体検出処理を行う領域(物体検出処理領域)は、ROM22やRAM23、外部メモリ24、または通信I/F27により与えられるパラメータにより設定することができる。上記パラメータは、情報処理装置30のユーザインタフェースを用いて設定することもできる。
なお、本実施形態では、説明を簡略化するため、物体検出処理領域は、領域設定を行わず画像上の全領域とする。また、物体の検出方法は、背景差分法等の特定の方法に限定するものではなく、画像中の物体を検出可能な方法であれば適宜適用可能である。
人体検出部303は、予め記憶された照合パターン辞書等を用い、物体検出部302が物体を検出した画像上の領域に対し人体検出処理を実施することで、人体を検出する(図4(c))。なお、人体の検出方法は、パターン処理に限定するものではなく、画像から人体を検出可能な方法であれば適宜適用可能である。
さらに、人体検出部303により人体検出処理を行う領域(人体検出処理領域)は、必ずしも物体検出部302が物体を検出した領域である必要はない。人体検出部303は、前述したパラメータ設定により設定された人体検出処理領域に対してのみ人体検出処理を行うようにしてもよい。あるいは、パラメータ設定により、検出対象とする人体の最大サイズと最小サイズとを指定し、この範囲から外れた人体検出処理を行わないようにすることも可能である。このように、人体検出処理の対象に制限を設けることで、人体検出処理を高速化することができる。
また、本実施形態では、特定物体が人体である場合について説明するが、特定物体は人体に限定されるものではない。上記特定物体は、人物の顔、自動車、動物などであってもよい。特定物体が人物以外である場合、人体検出部303の代わりに、特定物体を検出する特定物体検出部を設ける。その際、複数種類の特定物体を検出する特定物体検出部を備えてもよく、同時に複数の検出が可能であるならば、複数の特定物体検出処理を実施してもよい。
さらに、特定物体が人物の顔である場合、人体検出部303は、人体検出処理後に顔検出処理を行うようにすればよい。この場合、人体検出部303は、人体検出処理により検出された人体領域に対して顔検出処理を行うことで顔を検出する。顔検出処理は、例えば、人体領域から、目、口等のエッジを検出して人物の顔の特徴部分を検出する処理とすることができる。つまり、顔検出処理では、顔位置や顔の大きさ、顔の確からしさ等から顔領域を検出する。また、顔検出処理では、検出した顔領域から個人認証に用いる特徴情報を抽出し、抽出した特徴情報と予め記憶した辞書データとをパターンマッチングにより比較して顔認証を行ってもよい。顔検出処理を行う領域は、画像上の全領域としてもよい。
なお、特定物体が人物以外である場合、上記顔検出処理は、特定物体の特徴量(例えば、自動車の場合、ナンバープレート等)を検出する特徴量検出処理とすることができる。
画像処理部304は、物体検出部302により検出された物体領域と、人体検出部303により検出された人体領域または顔領域とから、プライバシー保護すべき特定領域を抽出する。そして、画像処理装置304は、画像加工処理として、撮像画像中の特定領域を不鮮明化する不鮮明化処理を行う。ここで、特定領域は、人物を特定可能な物体(オブジェクト)の画像中の領域であり、例えば、人物の顔、服装および歩き方等が含まれる領域とすることができる。画像処理部304は、人体検出部303により検出された人体領域をそのまま特定領域として設定してもよいし、画像中の所定領域内に位置する物体領域や人体領域、顔領域を特定領域として設定してもよい。
また、どこまでを特定領域として設定するかについては、パラメータ設定により与えることが可能であり、特定物体が人体である場合、人体領域、顔領域、上半身、正面向きのみといった領域を特定領域として設定することができる。一方、特定物体が車両である場合、車両全領域やナンバープレートのみといった領域を特定領域として設定することができる。本実施形態では、特定領域は、人体検出部303により検出された人体領域である場合について説明する。
さらに、特定領域を不鮮明化する不鮮明化処理は、シルエット化処理やモザイク処理、ぼかし処理などの抽象化処理やマスク処理を含むことができる。シルエット化処理においては、特定領域を所定の同一色で塗りつぶす方法もあるが、予め取得しておいた背景となる画像(背景画像)を特定領域に所定の比率で合成し、特定領域を半透明化してもよい。本実施形態では、画像加工処理(不鮮明化処理)として、背景画像を用いて特定領域を半透明化する半透明化処理を採用する場合について説明する。
ここで、背景画像は、被写体の映っていない背景のみの画像であり、背景画像記憶部305が記憶しておくものとする(図4(d))。画像処理部304は、人体検出部303により検出された人体領域を特定領域として設定し、撮像画像中の特定領域に背景画像記憶部305に記憶された背景画像を所定の比率で合成することで、合成画像を生成する(図4(e))。次に、画像処理部304は、撮像画像と合成画像とを合成し、プライバシー保護処理済(画像加工済)の加工済画像を生成する。そして、画像処理部304は、生成した加工済画像を、出力制御部306に出力する。
出力制御部306は、画像処理部304から出力された加工済画像を、外部出力部である表示先のディスプレイや録画や表示のための通信先へ出力される。本実施形態では、出力制御部306は、加工済画像を情報処理装置30へ出力する。これにより、情報処理装置30は、加工済画像を表示画像としてディスプレイに表示することができる(図4(f))。
保護画像処理部307は、画像取得部301により取得された画像から、画像処理部304により特定領域とされた領域の画像加工前の画像(元画像)を取得する。そして、保護画像処理部307は、取得した特定領域の元画像をもとに、特定領域の少なくとも一部の元画像を含む保護画像を出力制御部306に出力する。本実施形態では、保護画像処理部307は、特定領域の元画像をそのまま保護画像として出力制御部306に出力する場合について説明する。
このとき、出力制御部306は、プライバシー保護のための制御が行える出力先へ保護画像を出力する。プライバシー保護制御が行える出力先は、カメラ20に着脱可能なSDカードなどの記憶媒体とすることができる。
また、プライバシー保護制御は、保護画像が不特定多数から見られることがないようにするための制御である。保護画像の出力先がカメラ20の着脱可能なSDカードである場合、プライバシー保護制御は、SDカードの外装に物理的な鍵をかけ、所定の管理者しかアクセスできないようにする制御とすることができる。このように、出力制御部308は、加工前画像である保護画像を加工済画像とは異なる出力先に出力する。
図5は、保護画像および加工済画像の出力先の一例を示す図である。本実施形態のように、カメラ20が画像処理装置300として動作する場合、保護画像の出力先は、カメラ20に内蔵されたSDカードなどの記憶媒体53とすることができる。また、加工済画像の出力先は、保護画像の出力先とは異なる情報処理装置30とすることができる。
例えば、カメラ20によって撮像された画像50に対して画像解析処理を行った結果、プライバシー保護対象とすべき特定領域51を検出したものとする。この場合、特定領域51に対してプライバシー保護のための画像加工処理を施す前の保護画像52は、カメラ20に内蔵されたSDカードなどの記憶媒体53に出力される。そして、画像50中の特定領域51に対してプライバシー保護のための画像加工処理が施された加工済画像54は、カメラ20の外部出力先である情報処理装置30に出力される。
また、SDカードなどの記憶媒体53には、プライバシー保護制御として物理的な鍵がかけられている。これにより、加工済画像(プライバシー保護処理済画像)の出力先である情報処理装置30やその他の装置からは、所定の管理者しかプライバシー保護処理前の画像にアクセスすることはできない。したがって、プライバシー保護処理の対象となった被写体のプライバシーを適切に保護することができる。
なお、プライバシー保護制御の方法は、保護画像が不特定多数から見られることがないようにすることができる方法であれば、任意の方法を採用することができる。また、保護画像の出力先は、プライバシー保護制御が可能なSDカードに限定されるものではない。例えば、特定の管理者のみがアクセスできるネットワーク上の記憶媒体を、保護画像の出力先としてもよい。
また、本実施形態では、保護画像処理部307は、特定領域の元画像をそのまま保護画像とする場合について説明したが、保護画像は、特定領域の元画像の少なくとも一部を含む画像であればよく、保護画像の領域は、任意の画像領域とすることができる。つまり、保護画像の領域は、人体領域の一部である顔領域のように特定領域の一部の領域であってもよい。また、保護画像の領域は、特定領域を包含する、特定領域よりも大きな領域であってもよい。さらに、保護画像は、画像サイズが撮像画像と同じで、特定領域のみを元画像とし他の領域は黒色などで埋めた画像であってもよい。また、保護画像は、少なくとも特定領域を含む領域を撮像画像と同じ元画像の圧縮率とし、それ以外の領域はそれよりも圧縮率を高くした画像であってもよい。
復元情報処理部308は、画像処理部304により出力された加工済画像と保護画像処理部307により出力された保護画像とから、画像加工処理前の元画像(撮像画像)を復元可能とするための復元情報を生成する。ここで、復元情報は、加工済画像と保護画像とを対応付けるための対応情報と、保護画像の撮像画像中の位置を示す位置情報とを少なくとも含む。上記対応情報は、対応する加工済画像と保護画像とのフレーム番号とすることができる。なお、対応情報は、フレーム番号に限定されるものではなく、加工済画像と保護画像との対応付けが可能であれば、時刻情報やその他の情報を用いることもできる。
復元情報処理部308は、生成した復元情報を出力制御部306に出力する。このとき、出力制御部306は、プライバシー保護制御が行える出力先へ復元情報を出力する。例えば、復元情報の出力先は、保護画像と同じ出力先とすることができる。
なお、復元情報は、保護画像を表示するための復号鍵を含んでいてもよい。この場合、保護画像処理部307において保護画像を暗号化し、暗号化した保護画像をSDカードなどの記憶媒体に記憶するようにする。これにより、復元情報に含まれる復号鍵を用いないと保護画像を再現できないようにすることができる。つまり、保護画像のプライバシー保護制御としては、復号鍵を用いた制御も可能である。
画像の復元処理を行う際には、復元情報に含まれる対応情報を用いることで、出力された加工済画像および保護画像を対応付けることが可能となる。また、復元情報に含まれる位置情報を用いることで、保護画像を加工済画像にはめ込む位置を決定することができる。したがって、復元情報をもとに、特定領域に画像加工処理が施されていない元画像を復元可能である。この復元処理は、必要に応じて画像処理装置300が実行してもよいし、復元後の元画像を表示する装置が実行してもよい。復元後の元画像を表示する装置は、情報処理装置30であってもよいし、他のPCや他の機器であってもよい。
なお、本実施形態では、保護画像と復元情報とを同一の出力先に出力する場合について説明したが、別々の出力先に出力するようにしてもよい。また、復元情報の出力先のプライバシー保護制御の方法は、保護画像の場合と同様に、復元情報が不特定多数から見られないようにすることができるものであれば、どのような方法であってもよい。復元情報の出力先も、プライバシー保護制御が可能なSDカードに限定されるものではなく、例えば、特定の管理者のみがアクセスできるネットワーク上の記憶媒体を、復元情報の出力先としてもよい。
さらに、復元情報の出力先は、プライバシー保護制御が行えない出力先であってもよい。また、プライバシー保護制御が行える出力先に対して復元情報を出力するだけでなく、加工済画像の出力先のような出力先にも別の復元情報を出力し、両方の復元情報が対応可能か否かを別のアクセス管理アプリケーション等で認証するようにしてもよい。
次に、画像処理装置300の動作について、図6を参照しながら説明する。
図6に示す処理は、例えば画像処理装置300が画像を取得したタイミングで開始され、ユーザからの処理の終了指示を受け付けるまで、画像を取得するたびに繰り返し実行される。ただし、図6の処理の開始タイミングおよび終了タイミングは、上記のタイミングに限らない。
画像処理装置300は、CPU21が必要なプログラムを読み出して実行することにより、図6に示す各処理を実現することができる。ただし、上述したように、図3に示す各要素のうち少なくとも一部が専用のハードウェアとして動作することで図6の処理が実現されるようにしてもよい。この場合、専用のハードウェアは、CPU31の制御に基づいて動作する。以降、アルファベットSはフローチャートにおけるステップを意味するものとする。
先ずS1において、画像取得部301は画像を取得し、S2に移行する。S2では、物体検出部302は、S1において取得された画像をもとに画像中の物体を検出し、検出された物体を含む物体領域を検出する。次にS3では、人体検出部303は、S2の物体検出処理において検出された物体領域に対して人体検出処理および顔検出処理を行う。
S4では、画像処理部304は、S3において検出された人体領域をプライバシー保護すべき領域である特定領域として抽出し、画像中の特定領域を不鮮明化する画像加工処理を行う。このS4では、画像処理部304では、S1において取得された画像と、当該画像中の特定領域に背景画像を合成して得た合成画像とを合成し、加工済画像を作成する。
S5では、保護画像処理部307は、S4における画像加工処理の対象となった画像のフレーム番号と、S4において抽出された特定領域の画像上の位置とを取得し、これらの情報をもとに、特定領域に対応する画像加工前の元画像を取得する。そして、保護画像処理部307は、取得した特定領域の元画像をもとに、特定領域の元画像の少なくとも一部を含む保護画像を生成する。また、保護画像処理部307は、このS5において、保護画像を暗号化し復号鍵を取得してもよい。
S6では、復元情報処理部307は、S4において生成された加工済画像と、S5において生成された保護画像とをもとに、画像加工前の元画像を復元可能とするための復元情報を生成する。ここで、復元情報は、S5において取得されたフレーム番号と特定領域の画像上の位置とに関する情報を含む。また、復元情報は、S5において取得された復号鍵を含んでもよい。
S7では、出力制御部306は、S4において生成された加工済画像と、S5において生成された保護画像と、S6において生成された復元情報とを各々所定の出力先に出力し、S8に移行する。このS7では、出力制御部306は、S4において生成された加工済画像を表示先のディスプレイや録画や表示のための通信先へ出力する。また、S7では、出力制御部306は、S5において生成された保護画像およびS6において生成された復元情報を、カメラ20に着脱可能であり物理的な外装に設置されているSDカードへ出力する。
S8では、画像処理装置300は、処理を継続するか否かを判定する。例えば、画像処理装置300は、処理の終了指示をユーザから受け付けたか否かに応じて処理を継続するか否かを判定することができる。そして、画像処理装置300は、処理を終了すると判定すると、本処理を終了する。一方、画像処理装置300は、処理を継続すると判定するとS1に戻る。
以上説明したとおり、画像処理装置300は、画像中(撮像画像中)の特定領域に対してプライバシー保護のための画像加工処理を施した加工済画像(第一の画像)を生成する。そして、画像処理装置300は、生成した加工済画像を情報処理装置30(第一の出力先)に出力する。一方で、画像処理装置300は、画像加工処理が施される前の特定領域の少なくとも一部の画像を含む加工前画像である保護画像(第二の画像)を、第一の出力先とは異なる第二の出力先に出力する。
ここで、画像加工処理は、画像中の特定領域を不鮮明化する不鮮明化処理とすることができる。不鮮明化処理は、撮像画像と背景画像とを所定の比率で合成するシルエット化処理やモザイク処理、ぼかし処理、マスク処理といった、プライバシー保護すべき特定物体を認識不可能にする処理を含む。画像加工処理に際し、画像処理装置300は、画像中のプライバシー保護すべき特定物体を検出し、検出された特定物体の領域を特定領域として抽出する。そして、画像処理装置300は、抽出された特定領域に対して不鮮明化処理を行う。上記特定物体は、画像中の人体や顔とすることができ、上記特定領域は、画像中の人体や顔を含む領域とすることができる。
これにより、加工済画像が出力された情報処理装置30は、プライバシー保護の対象となった被写体のプライバシーを保護するために特定領域に画像加工が施された画像を表示したり録画したりすることができる。また、画像処理装置300は、画像加工処理が施される前の特定領域の少なくとも一部の画像を含む保護画像を、加工済画像の出力先である情報処理装置30とは異なる出力先に出力する。したがって、プライバシー保護の対象となった被写体のプライバシーを保護しつつ、必要に応じて元画像を再現可能とすることができる。
つまり、特定の管理者は、有事の際などに、画像加工処理が施された特定領域の画像加工処理前の画像を適切に確認することができる。また、画像中の特定人物に対してのみプライバシー保護のための画像加工処理を施し、それ以外の人物を監視するような場合に、人物の誤検出により監視対象とすべき人物に対してプライバシー保護のための画像加工処理が施されてしまう場合がある。このような場合にも、元画像を復元可能とすることで、監視対象とすべき人物の画像加工処理前の画像を適切に表示し、監視することができる。
また、画像処理装置300は、第二の出力先に出力された保護画像を保護するプライバシー保護制御を行う。具体的には、画像処理装置300は、物理鍵、復号鍵、ライセンス、アクセス権などを用いて、保護画像が不特定多数から見られることのないように保護する。このように、画像処理装置300は、保護画像を保護された出力先に出力するので、プライバシー非保護画像の漏洩を防止することができる。
さらに、画像処理装置300は、保護画像と加工済画像とから画像加工処理前の元画像を復元可能とするための復元情報を出力する。ここで、復元情報は、保護画像と加工済画像とを対応付ける対応情報と、元画像上における特定領域の位置を示す位置情報とを少なくとも含む。したがって、復元情報をもとに、適切に元画像全体を復元することができる。
また、カメラ20が画像処理装置300として動作する場合、保護画像が出力される第二の出力先は、カメラ20に内蔵されたSDカードなどの記憶媒体とすることができる。このように、カメラ20内部において画像加工処理を行い、カメラ20内部に保護画像を保存することで、プライバシー非保護画像が不必要にカメラ20外部に出力されることを防止することができる。
また、保護画像は、元画像の一部の画像であってよい。つまり、保護画像の画像サイズは、撮像画像と比較して小さくすることもできる。したがって、その分、保護画像のデータサイズを小さくすることができる。また、それぞれ異なる出力先に出力された加工済画像と保護画像とを合成することで、元画像全体を復元可能な構成とすることができる。つまり、元画像全体を復元するためには、加工済画像と保護画像と両者を対応付けて合成するための復元情報とを必要とする構成とすることができる。
さらに、保護画像における少なくとも特定領域を含む領域の撮像画像に対する圧縮率は、保護画像におけるそれ以外の領域の圧縮率よりも低くすることもできる。これにより、保護画像のデータサイズを抑えつつ、プライバシー保護処理の対象となった特定領域の画像加工処理前の画像を高精度に再現することができる。
(変形例)
上記実施形態においては、画像処理の対象を物体および人体としているが、人体のみを画像処理の対象とする場合には、画像処理装置300は、図3の物体検出部302を備えていなくてもよい。
また、上記実施形態においては、カメラ20が監視カメラである場合について説明したが、公共の場での放送映像用のカメラであってもよい。この場合、特定領域内(例えば、画面中央)に位置するアナウンサーだけを表示し、他の物体(人体を含む)はぼかし処理などの画像加工処理を行ってもよい。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
さらに、近年のネットワークカメラは、機能を追加するためのアドオン機能を備えたものがあり、本アドオン機能を利用して上述の実施形態の機能を着脱可能とすることもできる。たとえば、本機能を利用して、通常のプライバシー保護機能を持たないネットワークカメラに上述の実施形態のプライバシー保護機能を追加した場合は、通常のネットワーク送出映像ストリームがプライバシー保護加工処理された映像に差し替えて送出される。
10…ネットワークカメラシステム、20…カメラ、30…情報処理装置、40…LAN、300…画像処理装置、301…画像取得部、302…物体検出部、303…人体検出部、304…画像処理部、305…背景画像記憶部、306…出力制御部、307…保護画像処理部、308…復元情報処理部

Claims (17)

  1. 撮像手段と、
    前記撮像手段により撮像された撮像画像における特定領域に対してプライバシー保護のための画像加工処理を施した第一の画像を生成する第一の生成手段と、
    前記撮像画像における部分領域の画像であって、前記特定領域の少なくとも一部を含む部分領域の画像である第二の画像を生成する第二の生成手段と、
    前記第一の生成手段により生成された第一の画像を、ネットワークを介して、外部装置に出力する出力手段と、
    前記第二の生成手段により生成された第二の画像を記憶する記憶手段と、を備えることを特徴とする撮像装置。
  2. 前記画像加工処理は、前記撮像画像中の特定領域を不鮮明化する不鮮明化処理であることを特徴とする請求項1に記載の撮像装置。
  3. 前記第一の画像と前記第二の画像とから前記画像加工処理が施される前の前記撮像画像を復元可能とするための復元情報を出力する復元情報出力手段を更に備えることを特徴とする請求項1または2記載の撮像装置。
  4. 前記復元情報は、前記第一の画像と前記第二の画像とを対応付ける対応情報と、前記撮像画像上における前記第二の画像の位置を示す位置情報とを少なくとも含むことを特徴とする請求項3に記載の撮像装置。
  5. 前記第二の生成手段により生成された第二の画像は、前記画像加工処理が施されていない前記撮像画像における前記特定領域の画像であることを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  6. 前記第二の画像における前記特定領域の圧縮率は、前記第二の画像における前記特定領域以外の領域の圧縮率よりも低いことを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  7. 前記撮像画像中の特定物体を検出する検出手段と、
    前記検出手段により検出された特定物体の領域を前記特定領域として抽出する抽出手段と、を更に備えることを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  8. 前記特定領域は、人体を含む領域であることを特徴とする請求項1からのいずれか1項に記載の撮像装置。
  9. 撮像画像を撮像する撮像ステップと、
    前記撮像ステップにより撮像された前記撮像画像における特定領域に対してプライバシー保護のための画像加工処理を施した第一の画像を生成するステップと、
    前記撮像画像における部分領域の画像であって、前記特定領域の少なくとも一部を含む部分領域の画像である第二の画像を生成するステップと、
    前記第一の画像を、ネットワークを介して、外部装置に出力するステップと、
    前記第二の画像を記憶するステップと、
    を含むことを特徴とする撮像装置の制御方法。
  10. 前記画像加工処理は、前記撮像画像中の特定領域を不鮮明化する不鮮明化処理であることを特徴とする請求項に記載の撮像装置の制御方法。
  11. 前記第一の画像と前記第二の画像とから前記画像加工処理が施される前の前記撮像画像を復元可能とするための復元情報を出力するステップを更に含むことを特徴とする請求項または1に記載の撮像装置の制御方法。
  12. 前記復元情報は、前記第一の画像と前記第二の画像とを対応付ける対応情報と、前記撮像画像上における前記第二の画像の位置を示す位置情報とを少なくとも含むことを特徴とする請求項1に記載の撮像装置の制御方法。
  13. 前記第二の画像は、前記画像加工処理が施されていない前記撮像画像における前記特定領域の画像であることを特徴とする請求項から1のいずれか1項に記載の撮像装置の制御方法。
  14. 前記第二の画像における前記特定領域の圧縮率は、前記第二の画像における前記特定領域以外の領域の圧縮率よりも低いことを特徴とする請求項から1のいずれか1項に記載の撮像装置の制御方法。
  15. 前記撮像画像中の特定物体を検出するステップと、
    検出された前記特定物体の領域を前記特定領域として抽出するステップと、を更に含むことを特徴とする請求項から1のいずれか1項に記載の撮像装置の制御方法。
  16. 前記特定領域は、人体を含む領域であることを特徴とする請求項から1のいずれか1項に記載の撮像装置の制御方法。
  17. コンピュータを、請求項1からのいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。
JP2016175223A 2016-09-08 2016-09-08 撮像装置、撮像装置の制御方法およびプログラム Active JP6910772B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016175223A JP6910772B2 (ja) 2016-09-08 2016-09-08 撮像装置、撮像装置の制御方法およびプログラム
US15/696,609 US20180068423A1 (en) 2016-09-08 2017-09-06 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016175223A JP6910772B2 (ja) 2016-09-08 2016-09-08 撮像装置、撮像装置の制御方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2018041293A JP2018041293A (ja) 2018-03-15
JP2018041293A5 JP2018041293A5 (ja) 2019-10-17
JP6910772B2 true JP6910772B2 (ja) 2021-07-28

Family

ID=61281410

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016175223A Active JP6910772B2 (ja) 2016-09-08 2016-09-08 撮像装置、撮像装置の制御方法およびプログラム

Country Status (2)

Country Link
US (1) US20180068423A1 (ja)
JP (1) JP6910772B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6587435B2 (ja) * 2015-06-29 2019-10-09 キヤノン株式会社 画像処理装置、情報処理方法及びプログラム
US10592570B2 (en) * 2017-07-10 2020-03-17 Facebook, Inc. Selecting content for presentation to a user of a social networking system based on a topic associated with a group of which the user is a member
JP7238887B2 (ja) * 2018-03-29 2023-03-14 ソニーグループ株式会社 情報処理装置、プログラム、及び、情報処理システム
CN111260537A (zh) * 2018-12-03 2020-06-09 珠海格力电器股份有限公司 一种图像隐私保护方法、装置、存储介质及摄像设备
CN110719402B (zh) * 2019-09-24 2021-07-06 维沃移动通信(杭州)有限公司 图像处理方法及终端设备
US11592997B2 (en) * 2020-01-30 2023-02-28 At&T Intellectual Property I, L.P. Systems, methods and computer readable media for software defined storage security protection
CN112836653A (zh) * 2021-02-05 2021-05-25 深圳瀚维智能医疗科技有限公司 人脸隐私化方法、设备、装置及计算机存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001145101A (ja) * 1999-11-12 2001-05-25 Mega Chips Corp 人物画像圧縮装置
JP4512763B2 (ja) * 2005-02-02 2010-07-28 株式会社国際電気通信基礎技術研究所 画像撮影システム
JP2015082685A (ja) * 2013-10-21 2015-04-27 株式会社ニコン カメラ、およびプログラム
JP6345961B2 (ja) * 2014-03-28 2018-06-20 株式会社メガチップス 画像復号化装置および画像復号化方法
JP6024999B2 (ja) * 2014-11-26 2016-11-16 パナソニックIpマネジメント株式会社 撮像装置、録画装置および映像出力制御装置
JPWO2017026356A1 (ja) * 2015-08-07 2018-06-21 日本電気株式会社 画像処理装置、画像処理方法およびプログラム
US20170083766A1 (en) * 2015-09-23 2017-03-23 Behavioral Recognition Systems, Inc. Detected object tracker for a video analytics system

Also Published As

Publication number Publication date
US20180068423A1 (en) 2018-03-08
JP2018041293A (ja) 2018-03-15

Similar Documents

Publication Publication Date Title
JP6910772B2 (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP6504364B2 (ja) モニタリング装置、モニタリングシステムおよびモニタリング方法
JP6866912B2 (ja) 個人情報に配慮した画像処理システム、画像処理方法及びプログラム
JP4970302B2 (ja) 画像処理装置,画像処理方法及び撮像装置
JP4410755B2 (ja) 画像処理装置および監視システム
JP6732522B2 (ja) 画像処理装置、画像処理方法およびプログラム
CN111225157B (zh) 追焦方法及相关设备
JP2018148368A (ja) 画像生成装置およびその制御方法
US10863113B2 (en) Image processing apparatus, image processing method, and storage medium
WO2017026356A1 (ja) 画像処理装置、画像復元装置、画像処理方法および画像復元方法
KR20210121025A (ko) 센서 장치, 암호화 방법
JP2008140319A (ja) 個人認証装置および個人認証システム
JP2016144049A (ja) 画像処理装置、画像処理方法、およびプログラム
JP6744237B2 (ja) 画像処理装置、画像処理システムおよびプログラム
JP2007110571A (ja) 映像変更装置、変更映像フレームのデータ構造、映像復元装置、映像変更方法、映像復元方法、映像変更プログラムおよび映像復元プログラム
KR20210119982A (ko) 센서 장치, 암호화 방법
KR102509624B1 (ko) 영상 정보 보호 시스템 및 방법
JP2016042661A (ja) 情報処理装置、システム、情報処理方法及びプログラム
JP2021005798A (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP5055462B2 (ja) 画像処理装置,画像処理方法及び撮像装置
JP7363455B2 (ja) 認証システム、認証装置及び認証方法
JP2009205198A (ja) 画像処理装置、方法、及び、プログラム
CN116156309A (zh) 图像处理方法、装置及电子设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190903

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210114

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210707

R151 Written notification of patent or utility model registration

Ref document number: 6910772

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151