JP7272626B2 - 照合システム、照合方法およびカメラ装置 - Google Patents

照合システム、照合方法およびカメラ装置 Download PDF

Info

Publication number
JP7272626B2
JP7272626B2 JP2019002005A JP2019002005A JP7272626B2 JP 7272626 B2 JP7272626 B2 JP 7272626B2 JP 2019002005 A JP2019002005 A JP 2019002005A JP 2019002005 A JP2019002005 A JP 2019002005A JP 7272626 B2 JP7272626 B2 JP 7272626B2
Authority
JP
Japan
Prior art keywords
image
sharpened
matching
server device
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019002005A
Other languages
English (en)
Other versions
JP2020113844A (ja
Inventor
弘理 外舘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
I Pro Co Ltd
Original Assignee
I Pro Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by I Pro Co Ltd filed Critical I Pro Co Ltd
Priority to JP2019002005A priority Critical patent/JP7272626B2/ja
Priority to US16/737,336 priority patent/US11113798B2/en
Publication of JP2020113844A publication Critical patent/JP2020113844A/ja
Application granted granted Critical
Publication of JP7272626B2 publication Critical patent/JP7272626B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/776Validation; Performance evaluation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)

Description

本開示は、監視カメラにより撮像された対象物と予め登録されている対象物とを照合する照合システムおよび照合方法と、対象物を撮像するカメラ装置とに関する。
特許文献1には、記録媒体から認証対象者の識別情報および顔画像を読み取る認証端末と、認証を行う認証装置と、認証装置の照合結果に基づいて扉の開閉を制御する扉制御装置とを備えた入退室管理システムが開示されている。この入退室管理システムでは、認証装置は、認証端末が識別情報を読み取った時点を含む所定期間において、監視カメラにより撮像された映像データから人物の顔を検出して顔周辺の画像を切り出し、認証対象者の顔画像と切り出された画像との合致度を算出する。認証装置は、識別情報が許可情報と一致し、かつ、合致度が所定の閾値以上の場合に扉制御装置を駆動させて扉を開く制御を行う。
特開2017-25621号公報
しかし、特許文献1では、屋内での認証対象者の顔を認証することが想定されており、屋外での認証対象者の顔を認証することは困難であるという課題があった。これは、例えば屋外で認証対象者の顔を監視カメラで撮像する際には、太陽光、雨、霧、雪等の天候条件、朝、昼、夜等の時間帯条件の影響をそれぞれ受け易く、顔認証の精度が撮像状況によっては劣化するためである。このため、監視業務の利便性が低下する可能性があった。
本開示は、上述した従来の状況に鑑みて案出され、対象物が屋外で撮像される環境下であっても、撮像された対象物の撮像画像と予めデータベースに登録された監視対象物とが一致するか否かの照合処理の精度を的確に向上し、監視業務の利便性の低下を抑制する照合システム、照合方法およびカメラ装置を提供することを目的とする。
本開示は、サーバ装置との間で通信可能に接続されたカメラ装置であって、屋外の監視対象エリアを撮像する撮像部と、前記撮像された前記監視対象エリアの撮像画像に映る対象物を検出し、前記対象物の切り出し画像を生成する検出部と、前記対象物の切り出し画像と画像補正モデルとを用いて、前記サーバ装置での前記対象物の照合処理に用いられる画質鮮明化画像を生成する画像補正部と、前記対象物の切り出し画像と前記画質鮮明化画像とを、前記対象物の識別情報と対応付けて前記サーバ装置に送る通信部と、を備える、カメラ装置を提供する。
また、本開示は、互いに通信可能に接続されたカメラ装置とサーバ装置とを含む照合システムであって、前記カメラ装置は、屋外の監視対象エリアの撮像に基づく撮像画像に映る対象物を検出し、前記対象物の切り出し画像を生成し、前記対象物の切り出し画像と画像補正モデルとを用いて、前記サーバ装置での前記対象物の照合処理に用いられる画質鮮明化画像を生成し、前記対象物の切り出し画像と前記画質鮮明化画像とを、前記対象物の識別情報と対応付けて前記サーバ装置に送り、前記サーバ装置は、特定の対象物に関する画像を格納する登録データベースと、不特定多数の対象物に関する画像を格納する第1画像セットと、前記画像補正モデルを用いた学習処理により得られ、かつ、前記不特定多数の対象物の屋外での撮像により生じる画質劣化要因に対応した1つ以上の画像鮮明化画像を格納する第2画像セットと、を保持し、前記カメラ装置から送られた前記対象物の切り出し画像と前記画質鮮明化画像とを受信すると、前記画質鮮明化画像と前記登録データベースと前記第1画像セットと前記第2画像セットとを用いて、前記画質鮮明化画像に対応する前記撮像画像に映る前記対象物の照合処理を実行し、前記撮像画像に映る前記対象物の識別情報を含む前記照合処理の実行結果を外部装置に送る、照合システムを提供する。
また、本開示は、互いに通信可能に接続されたカメラ装置とサーバ装置とを含む照合システムにより実行される照合方法であって、前記カメラ装置は、屋外の監視対象エリアの撮像に基づく撮像画像に映る対象物を検出し、前記対象物の切り出し画像を生成し、前記対象物の切り出し画像と画像補正モデルとを用いて、前記サーバ装置での前記対象物の照合処理に用いられる画質鮮明化画像を生成し、前記対象物の切り出し画像と前記画質鮮明化画像とを、前記対象物の識別情報と対応付けて前記サーバ装置に送り、前記サーバ装置は、特定の対象物に関する画像を格納する登録データベースと、不特定多数の対象物に関する画像を格納する第1画像セットと、前記画像補正モデルを用いた学習処理により得られ、かつ、前記不特定多数の対象物の屋外での撮像により生じる画質劣化要因に対応した1つ以上の画像鮮明化画像を格納する第2画像セットと、を保持し、前記カメラ装置から送られた前記対象物の切り出し画像と前記画質鮮明化画像とを受信すると、前記画質鮮明化画像と前記登録データベースと前記第1画像セットと前記第2画像セットとを用いて、前記画質鮮明化画像に対応する前記撮像画像に映る前記対象物の照合処理を実行し、前記撮像画像に映る前記対象物の識別情報を含む前記照合処理の実行結果を外部装置に送る、照合方法を提供する。
本開示によれば、対象物が屋外で撮像される環境下であっても、撮像された対象物の撮像画像と予めデータベースに登録された監視対象物とが一致するか否かの照合処理の精度を的確に向上でき、監視業務の利便性の低下を抑制できる。
実施の形態1に係る照合システムの構成例を示すブロック図 監視カメラのハードウェア構成例を示すブロック図 照合サーバのハードウェア構成例を示すブロック図 照合サーバが予め実行する学習処理の概要を模式的に描写する図 実施の形態1に係る照合システムの動作手順を時系列に示すシーケンス図 クライアントPCに表示される照合結果画面の一例を示す図
以下、適宜図面を参照しながら、本開示に係る照合システム、照合方法およびカメラ装置の構成および作用を具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
(実施の形態1の概要)
実施の形態1に係る照合システムは、互いに通信可能に接続されたカメラ装置とサーバ装置とを少なくとも含む構成である。カメラ装置は、屋外の監視対象エリアの撮像に基づく撮像画像に映る対象物を検出し、対象物の切り出し画像を生成し、対象物の切り出し画像と画像補正モデルとを用いて、サーバ装置での対象物の照合処理に用いられる画質鮮明化画像を生成し、対象物の切り出し画像と画質鮮明化画像とを、対象物の識別情報と対応付けてサーバ装置に送る。サーバ装置は、カメラ装置から送られた対象物の切り出し画像と画質鮮明化画像とを受信すると、画質鮮明化画像と画像補正モデルとを用いて、画質鮮明化画像に対応する対象物の照合処理を実行し、対象物の識別情報を含む照合処理の実行結果を外部装置に送る。
なお、以下の説明において、対象物はカメラ装置により撮像される撮像画像中に映る物体であり、サーバ装置における照合処理の対象となる物体でもある。分かり易く説明するために、対象物の一例として、人物の顔を例示する。ただし、対象物は人物の顔に限定されず、人物そのもの、車両等であってもよい。
(照合システムの構成)
図1は、実施の形態1に係る照合システム1の構成例を示すブロック図である。照合システム1は、少なくとも1台の監視カメラ10と、照合サーバ20と、クライアントPC(Personal Computer)30と、レコーダ40とを含む構成である。なお、レコーダ40は、照合システム1の構成に含まれなくてもよい。監視カメラ10と、照合サーバ20と、クライアントPC(Personal Computer)30と、レコーダ40とは、それぞれネットワーク網NW1を介して互いにデータあるいは情報の送受信が可能に接続される。
ネットワーク網NW1は、有線ネットワークあるいは無線ネットワークである。有線ネットワークは、例えば有線LAN(Local Area Network)等のイントラネットもしくはインターネットである。無線ネットワークは、例えば無線LAN、4G(第4世代移動通信方式)あるいは5G(第5世代移動通信方式)である。
監視カメラ10(カメラ装置の一例)は、屋外に設置され、例えば時間帯あるいは天候等の条件によって撮像環境が変動し易い屋外の監視対象エリアを、昼夜問わずに常時撮像している。なお、監視カメラ10は、屋外に設置されることに限定されず、例えばカジノネオン前等のように屋内であっても屋外と同様に撮像環境が変動し易い箇所を撮像対象の監視対象エリアとして撮像してもよい。監視カメラ10は、画角が固定の固定カメラでもよいし、パン回転およびはチルト回転のうち少なくとも一方によって姿勢(言い換えると、内蔵されるレンズの光軸方向)を変更可能であってかつズーム処理によってズーム倍率を変更可能なPTZ(Pan Tilt Zoom)カメラであってもよい。
監視カメラ10は、監視対象エリアの撮像により得られた撮像画像中に映る対象物(例えば人物の顔)を検出し、その検出された対象物を切り出した切り出し画像を生成する。また、監視カメラ10は、例えばディープラーニング等の機械学習を実現可能なニューラルネットワークにより構成される画像補正モデル(後述参照)を使用可能であり、画像補正モデルを用いて対象物の切り出し画像を補正したり推定したりした補正画像(画質鮮明化画像の一例)を生成する。監視カメラ10は、対象物の切り出し画像および補正画像のそれぞれを対象物の識別情報に対応付けて、ネットワーク網NW1を介して照合サーバ20およびレコーダ40にそれぞれ送信する。なお、対象物の識別情報には、対象物の種類を特定する情報の他に、その対象物が監視カメラ10により撮像された日時情報および監視カメラ10の場所情報が含まれてもよい。
ここで、本明細書において、屋外とは、例えば施設等の建物の屋外(外側)を意味する。監視対象エリアは、照合サーバ20に保持されている登録データベース(後述参照)に登録されている不審人物(例えば事件あるいは事故の被疑者、犯人あるいは前科者。以下同様。)が立ち寄り易い場所であり、例えば、店舗外側の出入口付近、駐車場、道路等であるがこれらに限定されない。図1に示す照合システム1において監視カメラ10は1台に限定されないが、説明を簡単にするために図1では1台だけ図示されている。監視カメラ10の内部構成は図2を参照して後述する。
照合サーバ20(サーバ装置の一例)は、照合システム1の運営者あるいは管理者が所属する会社等の建物内の監視室(図示略)に設置されるオンプレミス型のサーバ、あるいはクラウドサーバとして構成される。照合サーバ20は、監視カメラ10が使用可能な画像補正モデル(上述参照)と同一の画像補正モデルを使用可能であり、監視カメラ10から送られた2種類の画像(具体的には、対象物の切り出し画像および補正画像)を受信すると、画像補正モデルと対象物の補正画像とを用いて、対象物の照合処理を実行する。照合サーバ20は、その照合結果を、ネットワーク網NW1を介してクライアントPC30に送信して表示させる。照合サーバ20の内部構成は図3を参照して後述する。
クライアントPC30(外部装置の一例)は、PCの通常のハードウェア構成を有するコンピュータ装置により構成され、照合システム1のユーザ(例えば監視対象エリアの監視業務を実務的に行っている監視業者)により使用される。クライアントPC30は、照合サーバ20から送られた照合結果(例えば図6参照)を受信すると、その照合結果を、クライアントPC30に内蔵されるディスプレイ(図示略)に表示する。
レコーダ40は、データあるいは情報を記録可能なストレージを備える。レコーダ40は、監視カメラ10から送られた対象物の識別情報を含む撮像画像(例えば、監視カメラ10により撮像された生の撮像画像)を受信すると、その撮像画像を対象物の識別情報に対応付けてストレージに記録する。つまり、レコーダ40は、証拠性が認められる(つまり、証拠能力を有する)オリジナルの監視カメラ10の撮像画像のデータを記録できる。また、レコーダ40は、対象物の識別情報を含む撮像画像ともに対象物の切り出し画像も受信すると、対象物の識別情報と撮像画像とを対象物の識別情報と対応付けてストレージに記録してもよい。
図2は、監視カメラ10のハードウェア構成例を示すブロック図である。監視カメラ10は、撮像部11と、メモリ12と、信号処理部13と、検出処理部14と、補正推定部15と、照明制御部16と、通信インターフェース部17と、IR-LED18と、センサS1とを含む構成である。信号処理部13と検出処理部14と補正推定部15と照明制御部16とは、例えばCPU(Central Processing Unit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)あるいはGPU(Graphical Processing Unit)のいずれかあるいは2つ以上が組み合わされて構成されるプロセッサPRC1により実現される。
センサS1は、監視カメラ10の周囲の照度(明るさ)を検出するセンサ素子で構成され、照度の検出値を照明制御部16に出力する。センサS1は、例えば周囲の照度により現在時刻が昼間であるか夜間であるかを照明制御部16が判別するために照度を検出する。なお、プロセッサPRC1は、現在時刻を計時可能なタイマーを保持しており、タイマーにより計時された現在時刻に応じて夜間と判別した場合に、IR-LED18からIR光を照射するようにしてもよい。この場合には、センサS1は省略されても構わない。
撮像部11は、焦点距離を調節可能フォーカスレンズ、ズーム倍率を変更可能なズームレンズ、撮像素子としてのCCD(Charge Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)、撮像素子の感度を調整可能なゲイン調整部をそれぞれ有する。撮像部11は、監視対象エリアを撮像し、撮像により得られた画像信号を信号処理部13に出力する。
メモリ12は、例えばRAM(Random Access Memory)とROM(Read Only Memory)とを含み、監視カメラ10の動作の実行に必要なプログラム、動作中にプロセッサPRC1により生成されたデータあるいは情報を一時的に格納する。RAMは、例えばプロセッサPRC1の動作時に使用されるワークメモリである。ROMは、例えばプロセッサPRC1を制御するためのプログラムおよびデータを予め記憶する。
プロセッサPRC1は、監視カメラ10の各部の動作を制御する。プロセッサPRC1は、監視カメラ10の制御部として機能し、監視カメラ10の各部の動作を全体的に統括するための制御処理、監視カメラ10の各部との間のデータの入出力処理、データの演算(計算)処理およびデータの記憶処理を行う。プロセッサPRC1は、メモリ12内のROMに記憶されたプログラムの実行に従って動作する。
監視カメラ10がPTZカメラである場合、プロセッサPRC1は、メモリ12に記憶されたプリセット値を読み出して、監視カメラ10の姿勢をプリセット値に対応する位置に制御(例えばパン回転、チルト回転)したり、ズーム倍率を変更するように制御したりする。プリセット値は、パン回転角度、チルト回転角度およびズーム倍率が対応付けられたデータである。また、プロセッサPRC1は、検出処理部14により生成された対象物の切り出し画像(オリジナル画像の一例)と、補正推定部15により生成された対象物の補正画像(照合処理用画像の一例)とを対象物の識別情報に対応付けて、通信インターフェース部17を介して、照合サーバ20に送信する。また、上述したように、プロセッサPRC1は、検出処理部14により生成された対象物の切り出し画像(オリジナル画像の一例)を対象物の識別情報に対応付けて、通信インターフェース部17を介して、レコーダ40に送信してもよい。
信号処理部13は、撮像部11により撮像された撮像画像の画像信号に対し、各種の信号処理(例えば、アナログデジタル変換、解像度変換、アパーチャ―変換、ガンマ補正、雑音除去、輪郭強調)を行って監視対象エリアの撮像画像のデータを生成する。信号処理部13は、監視対象エリアの撮像画像のデータを検出処理部14に出力する。
検出処理部14(検出部の一例)は、信号処理部13から出力された撮像画像のデータを受け取ると、その撮像画像に映る対象物(例えば人物の顔)を検出し、撮像画像から検出された対象物の部分を切り出した切り出し画像(オリジナル画像)を生成して補正推定部15および通信インターフェース部17のそれぞれに出力する。
補正推定部15(画像補正部の一例)は、画像補正モデルを使用可能であり、検出処理部14から出力された対象物の切り出し画像を用いて対象物の補正画像を生成する。画像補正モデルは、例えばディープラーニング等の機械学習を実現可能なニューラルネットワーク(以下「補正推定ネットワーク」という)により構成される。ネットワークは必要に応じて「NN」と略記する場合がある。補正推定部15は、対象物の切り出し画像と画像補正モデルとを用いて、対象物の屋外での撮像により生じる撮像画像の画質劣化要因に対応した高画質な画質鮮明化画像を生成する。画像補正モデルは、照合システム1の実運用前に照合サーバ20により予め学習されて構成されており、照合サーバ20から送られて監視カメラ10において使用可能となっている。
画質劣化要因の第1例は、太陽光による対象物の一部の領域に生じるムラ(例えば顔の凹凸の差により生じるムラ)である。補正推定部15は、画像補正モデルを用いて、屋外での撮像時に対象物の一部の領域にムラが生じることを加味して対象物の全体あるいは一部の画質を高画質化(鮮明化)した(つまり、ムラが発生し易い部分である画質劣化部分を推定して補正した高画質を有する)画質鮮明化画像(補正画像の一例)を生成する。ここでいう高画質とは、例えば対象物の一部の領域にムラが生じても対象物が照合サーバ20での照合処理に使用可能な程度に高い画質を有することを意味する。
画質劣化要因の第2例は、太陽光による対象物の一部の領域に生じる影(例えば帽子を被ったことで生じる影)である。補正推定部15は、画像補正モデルを用いて、屋外での撮像時に対象物の一部の領域に影が生じることを加味して対象物の全体あるいは一部の画質を高画質化(鮮明化)した(つまり、影が発生し易い部分である画質劣化部分を推定して補正した高画質を有する)画質鮮明化画像(補正画像の一例)を生成する。ここでいう高画質とは、例えば対象物の一部の領域に影が生じても対象物が照合サーバ20での照合処理に使用可能な程度に高い画質を有することを意味する。
画質劣化要因の第3例は、夜間の撮像による対象物に生じる低照度ノイズである。補正推定部15は、画像補正モデルを用いて、屋外での撮像時に対象物に低照度ノイズが生じることを加味して対象物の全体の画質を高画質化(鮮明化)した(つまり、低照度ノイズの発生する部分である画質劣化部分を推定して補正した高画質を有する)画質鮮明化画像(補正画像の一例)を生成する。ここでいう高画質とは、例えば対象物に低照度ノイズが生じても対象物が照合サーバ20での照合処理に使用可能な程度に高い画質を有することを意味する。
画質劣化要因の第4例は、夜間によるIR-LED18から照射されたIR光による対象物に生じる白飽和(いわゆる白飛び)である。なお、この白飽和は、例えば夜間に車両等のヘッドライトの照射によって生じることも考えられる。補正推定部15は、画像補正モデルを用いて、屋外での撮像時に対象物に白飽和が生じることを加味して対象物の全体の画質を高画質化(鮮明化)した(つまり、白飽和が発生する部分である画質劣化部分を推定して補正した高画質を有する)画質鮮明化画像(補正画像の一例)を生成する。ここでいう高画質とは、例えば対象物に白飽和が生じても対象物が照合サーバ20での照合処理に使用可能な程度に高い画質を有することを意味する。
なお、画質劣化要因は、上述した第1例~第4例に限定されず、他の例であっても同様に、補正推定部15は、その画質劣化要因に対応した画質鮮明化画像を生成することが可能である。
照明制御部16は、センサS1からの輝度の検出値を受け取ると、現在時刻が昼間であるか夜間であるかを判別する。照明制御部16は、現在時刻が夜間であると判別した場合に、IR-LED18からIR光を照射するようにIR-LED18の照射を制御する。照明制御部16は、現在時刻が夜間ではない(例えば現在時刻が朝方である)と判別した場合に、IR-LED18からのIR光の照射を実行しない(言い換えると、中断する)ようにIR-LED18の照射を制御する。
通信インターフェース部17は、ネットワーク網NW1に接続され、ネットワーク網NW1に接続される外部装置との間でデータあるいは情報の送受信を行う。通信インターフェース部17は、検出処理部14から出力された対象物の切り出し画像(オリジナル画像)と補正推定部15から出力された対象物の補正画像とを受け取ると、対象物の切り出し画像および補正画像からなる撮像画像セットを対象物の識別情報とともに照合サーバ20およびレコーダ40のそれぞれに送信する。なお、図2では図示を簡略化するために、「インターフェース」を「IF」と略記している。
IR-LED(Light Emitting Diode)18(IR照明部の一例)は、照明制御部16の制御の下で、撮像部11の画角内の監視対象エリアに近赤外光(いわゆるIR(infrared radiation )光)を照射する。これにより、夜間においても、撮像部11は、監視対象エリアを撮像可能である。なお、照明制御部16およびIR-LED18は、監視カメラ10の内部に設けられずに、監視カメラ10とは別体の外部照明装置として設けられてもよい。ただし、この場合でも、照明制御部16およびIR-LED18は、例えば通信IF17を介して監視カメラ10のプロセッサPRC1からの制御により、IR光の照射が制御される。さらに、照明制御部16およびIR-LED18は、単に監視カメラ10の構成から省略されてもよい。
図3は、照合サーバ20のハードウェア構成例を示すブロック図である。照合サーバ20は、通信インターフェース部21と、メモリ22と、登録データベース23と、学習データベース24と、照合処理部25と、照合結果出力処理部26とを含む構成である。照合処理部25と照合結果出力処理部26とは、例えばCPU、DSP、FPGAあるいはGPUのいずれかあるいは2つ以上が組み合わされて構成されるプロセッサPRC2により実現される。
通信インターフェース部21は、ネットワーク網NW1に接続され、ネットワーク網NW1に接続される外部装置との間でデータあるいは情報の送受信を行う。通信インターフェース部21は、監視カメラ10から送られた撮像画像セット(対象物の識別情報を含む)を受信すると、その撮像画像セットのデータを対象物の切り出し画像(オリジナル画像)と対象物の補正画像とに分離する。通信インターフェース部21は、対象物の切り出し画像(オリジナル画像)を照合結果出力処理部26に出力し、対象物の補正画像を照合処理部25に出力する。なお、図3では図示を簡略化するために、「インターフェース」を「IF」と略記している。
メモリ22は、例えばRAMとROMとを含み、照合サーバ20の動作の実行に必要なプログラム、動作中にプロセッサPRC2により生成されたデータあるいは情報を一時的に格納する。RAMは、例えばプロセッサPRC2の動作時に使用されるワークメモリである。ROMは、例えばプロセッサPRC2を制御するためのプログラムおよびデータを予め記憶する。
登録データベース23は、監視対象エリアに出現する可能性の高い複数の異なる不審人物の顔画像とその不審人物に関する個人識別情報(例えば氏名、年齢、住所、職業)とを対応付けて登録して格納するデータベースである。登録データベース23に蓄積される不審人物の顔画像とその不審人物に関する個人識別情報とは対応付けて適宜、追加あるいは削除等の更新がなされる。
学習データベース24は、照合システム1の実運用前に照合サーバ20において実行される学習処理(図4参照)の結果として登録された既存学習セットSET1、追加学習セットSET2および補正推定ネットワークMDL1(画像補正モデルの一例)を格納するデータベースである。なお、後述するように、照合サーバ20における学習処理は照合システム1の実運用中に実行されてもよく、この場合には実運用中でも学習データベース24の内容は適宜更新(追加、変更等)がなされる。
既存学習セットSET1(第1画像セットの一例)は、照合サーバ20における学習処理に用いられる、不特定多数の異なる人物のそれぞれの顔画像が登録された画像データ記憶装置である。異なる人物のそれぞれの顔画像には、例えばそれぞれの人物の顔画像として、その人物の正面顔、側面視の顔、下を向いた顔、上を向いた顔、屋外の様々な条件の下で予め撮像された顔あるいは屋外で撮像されたように擬似的に複数種類の画像処理が施された顔(例えば太陽光によるムラが生じた顔、太陽光により顔の一部に影が生じた顔、夜間の撮像により低照度ノイズが生じた顔、IR-LED18の照射により白飛びした顔)の各画像が含まれる。このような擬似的な画像処理は、例えば照合サーバ20のプロセッサPRC2により実行される。
追加学習セットSET2(第2画像セットの一例)は、照合サーバ20による学習処理中に、既存学習セットSET1に格納されている人物の顔画像の生成時に用いた画質劣化要因とは異なる(つまり新たな)画質劣化要因に対応可能に生成された画質鮮明化画像が登録された画像データ記憶装置である。追加学習セットSET2に登録されている画質鮮明化画像のデータは、プロセッサPRC2による学習処理により生成された画像データである。
補正推定ネットワークMDL1(画像補正モデルの一例)は、例えばディープラーニング等の機械学習を実現可能なニューラルネットワークにより構成される。補正推定ネットワークMDL1は、入力画像(例えば対象物の切り出し画像に相当する画像)に対し、自身を構成するニューラルネットワークにより、その入力画像と高い確率で一致しかつ屋外での撮像により生じる撮像画像の画質劣化要因に対応可能な高画質な画質鮮明化画像を生成する。ここで、補正推定ネットワークMDL1を構成するニューラルネットワークは、例えば入力層、中間層、出力層をそれぞれ構成する1つ以上のニューロンにより構成されたネットワーク(画像補正モデル)である。それぞれのニューロンには、屋外での撮像により生じる撮像画像の画質劣化要因に対応可能な高画質な画質鮮明化画像の生成用の演算を行うための学習済みパラメータがそれぞれ設定されている。
プロセッサPRC2は、照合サーバ20の各部の動作を制御する。プロセッサPRC2は、照合サーバ20の制御部として機能し、照合サーバ20の各部の動作を全体的に統括するための制御処理、照合サーバ20の各部との間のデータの入出力処理、データの演算(計算)処理およびデータの記憶処理を行う。プロセッサPRC2は、メモリ22内のROMに記憶されたプログラムの実行に従って動作する。
照合処理部25は、通信インターフェース部21から対象物の補正画像を受け取ると、登録データベース23と学習データベース24とを用いて、その補正画像と略一致(一致も含む)する人物の顔画像が登録データベース23内に存在するか否かを照合する処理(つまり照合処理)を実行する。照合処理部25は、照合処理の結果(照合結果)を照合結果出力処理部26に出力する。
照合結果出力処理部26は、照合処理部25から出力された照合結果を受け取るとともに、通信インターフェース部21から出力された対象物の切り出し画像(オリジナル画像)を受け取る。照合結果出力処理部26は、照合処理に用いられた補正画像と略一致(上述参照)する人物の顔画像が存在した旨の照合結果を得た場合には、その人物に対応する対象物の切り出し画像と登録データベース23内の一致した人物の顔画像とを対象物の識別情報に対応付けた照合結果画面(図6参照、照合結果の一例)を生成する。照合結果出力処理部26は、照合結果画面を通信インターフェース部21に出力する。
ここで、図6を参照して照合結果画面RST1を説明する。図6は、クライアントPC30に表示される照合結果画面RST1の一例を示す図である。照合結果画面RST1は、照合サーバ20による照合処理(Face Matching)の結果として照合サーバ20により生成される表示用画面である。照合結果画面RST1は、照合処理の対象物に関する書誌情報BIB1と、監視カメラ10により撮像されたオリジナル画像である対象物の切り出し画像DTF1と、その切り出し画像DTF1と略一致すると判断された登録データベース23に登録されている顔画像(登録顔画像RGF1)とを対応付けて示す。
書誌情報BIB1は、例えば、照合処理の対象物となる人物が監視カメラ10により撮像された日時(例:2018年2月7日、14時25分24秒)および監視カメラ10の設置場所(例:エントランス)を示す。この書誌情報BIB1が示す情報は、例えば監視カメラ10から照合サーバ20に送信される撮像画像セットのデータに対象物の識別情報として含まれている。これにより、クライアントPC30のユーザは、照合サーバ20による照合処理の結果を照合結果画面RST1により簡易に把握できる。
次に、照合サーバ20による学習処理の概要について、図4を参照して説明する。図4は、照合サーバ20が予め実行する学習処理の概要を模式的に描写する図である。なお、照合サーバ20は、ハイスペックな仕様を有するプロセッサPRC2が実装されれば、図4に示される学習処理を実運用中に照合処理と同時並行的に実行してよい。
図4において、既存学習セットSET1には、不特定多数の異なる人物のそれぞれの顔画像が登録されている。なお、上述したように、異なる人物のそれぞれの顔画像には、例えばそれぞれの人物の顔画像として、その人物の正面顔、側面視の顔、下を向いた顔、上を向いた顔、屋外の様々な条件の下で撮像された顔(上述参照)の各画像が含まれてよい。
既存学習セットSET1に対応するグラフには、例えば人物Aさんそのものの顔画像Rsa2と、Aさんが屋外の様々な条件の下で撮像された顔画像あるいは屋外で撮像されたように擬似的に複数種類の画像処理が施された顔画像Rsa1とが、人物(例えばAさん)を区別可能にマッピングされている。なお、図4に示すように、顔画像Rsa1は、屋外の様々な条件の下で撮像された顔の分だけ複数設けられてよく、顔画像Rsa2は、Aさんが正面、側面、下、上等に向いた方向の数だけ複数設けられてよい。
同様に、例えば人物であるBさんそのものの顔画像Rsb2と、Bさんが屋外の様々な条件の下で撮像された顔画像あるいは屋外で撮像されたように擬似的に複数種類の画像処理が施された顔画像Rsb1とが、人物(例えばBさん)を区別可能にマッピングされている。同様に、図4に示すように、顔画像Rsb1は、屋外の様々な条件の下で撮像された顔の分だけ複数設けられてよく、顔画像Rsb2は、Bさんが正面、側面、下、上等に向いた方向の数だけ複数設けられてよい。図4に示すように、分類線CL1(Classification)により、AさんとBさんとを区別可能である。
既存学習セットSET1には、不特定多数の異なる人物のそれぞれの顔画像が登録されている。異なる人物のそれぞれの顔画像には、例えばそれぞれの人物の顔画像として、その人物の正面顔、側面視の顔、下を向いた顔、上を向いた顔、屋外の様々な条件の下で予め撮像された顔(以下、「屋外撮像顔」という)あるいは屋外で撮像されたように擬似的に複数種類の画像処理が施された顔の各画像である。
照合サーバ20は、既存学習セットSET1に格納された不特定多数の異なる人物のそれぞれの顔画像に対し、既存学習セットSET1に格納された屋外撮像顔とは異なる新たな屋外での撮像時の画質劣化要因を適用した画像を擬似的に生成する。そして、照合サーバ20は、その擬似的に生成された画像に対応する画質鮮明化画像(つまり、屋外での撮像による画質劣化を補償する画質鮮明化画像)を学習して追加した上で蓄積する。新たな屋外での撮像時の画質劣化要因は、例えば、冬場にマフラーあるいはニット帽を装着したことで対象物の一部の領域が隠れてしまう部分的消失である。
具体的には、照合サーバ20は、その新たな屋外での撮像時の画質劣化要因に基づいて既存学習セットSET1に格納された人物(例えばAさんそのもの)の顔画像Rsa2の画質を屋外での撮像時に適合するように擬似的に劣化させた画質劣化画像Rsam2をプロセッサPRC2において生成する。更に、照合サーバ20は、補正推定ネットワークMDL1を用いて、顔画像Rsa2から画質劣化画像Rsam2に画質を劣化させる原因となった画質劣化要因に対応した高画質な画質鮮明化画像Rsam2cをプロセッサPRC2において生成する。照合サーバ20は、この画質鮮明化画像Rsam2cを追加学習セットSET2に追加して格納する。
既存学習セットSET1および追加学習セットSET2に対応するグラフには、例えば人物であるAさんそのものの顔画像Rsa2と、Aさんが屋外の様々な条件の下で撮像された顔画像Rsa1(上述参照)と、学習処理中に新たな画質劣化要因に対応するように生成された画質鮮明化画像Rsam2c,Rsam1cとが、人物(例えばAさん)を区別可能にマッピングされている。
同様に、例えば人物であるBさんそのものの顔画像Rsb2と、Bさんが屋外の様々な条件の下で撮像された顔画像Rsb1(上述参照)と、学習処理中に新たな画質劣化要因に対応するように生成された画質鮮明化画像Rsbm2c,Rsbm1cとが、人物(例えばBさん)を区別可能にマッピングされている。図4に示すように、分類線CL1u(Classification)により、AさんとBさんとを区別可能である。
このように、照合サーバ20は、既存学習セットSET1に格納された顔画像に対して屋外での撮像時の各種条件(例えば図4参照)に適合するように新たな画質劣化要因に対応した補正画像(画質鮮明化画像)を生成して追加学習セットSET2に格納する。これにより、照合サーバ20は、事前の学習処理によって、登録データベース23との照合処理を行う際に、不審人物が誰であるかを区別可能に分類するための分類線(Classification Line)を学習処理の状況に応じて適応的に更新できる。つまり、照合サーバ20は、屋外での撮像時に画質を劣化させるための要因に対応可能な画質鮮明化画像を充実化して照合処理時に使用できるので、照合精度の向上を図ることが可能となる。なお、上述したように、照合サーバ20は、照合システム1の実運用中においても同様な学習処理を実行して追加学習セットSET2の内容および蓄積量を充実化することが可能であり、照合処理の精度をより一層向上できる。
(照合システムの動作)
次に、実施の形態1に係る照合システム1の動作手順について、図5を参照して説明する。図5は、実施の形態1に係る照合システム1の動作手順を時系列に示すシーケンス図である。なお、図5の説明を簡単にするために、照合サーバ20による学習処理は照合システム1の実運用開始前に事前に実行されるとして説明するが、上述したように学習処理は実運用中にも実行されて構わない。
図5において、照合システム1の実運用の開始前の時点で、照合サーバ20は、図4を参照して説明した学習処理を実行する。具体的には、照合サーバ20は、既存学習セットSET1に格納された顔画像に対して屋外での撮像時の各種条件(例えば図4参照)に適合するように新たな画質劣化要因に対応した補正画像(画質鮮明化画像)をプロセッサPRC2において生成する(St0-1)。照合サーバ20は、ステップSt0-1の処理結果として生成された補正画像(画質鮮明化画像)を追加学習セットSET2に登録して蓄積する(St0-1)。
照合サーバ20は、ステップSt0-1の学習処理により、画像補正モデル(例えばニューラルネットワークにより構成される補正推定ネットワークMDL1)を構成して学習データベース24内に格納する(St0-2)。なお図5では、照合サーバ20は、ステップSt0-1,St0-2からなる学習処理を実運用の開始前に実行しているが、学習処理の実行タイミングは実運用の開始前の時点に限定されなくてもよい。例えば、実運用中に照合システム1を構成する各装置の動作が一時的に中断され、照合サーバ20はステップSt0-1,St0-2からなる学習処理を実行して追加学習セットSET2の内容や補正推定ネットワークMDL1のパラメータを更新(アップデート)してもよい。その学習後に、照合システム1を構成する各装置の動作が再開されればよい。
なお、ステップSt0-2の後、照合サーバ20の学習データベース24に格納された補正推定ネットワークMDL1は、ネットワーク網NW1を介して監視カメラ10に送信され、監視カメラ10において実行可能に設定されてよい(St0-3)。なお、このステップSt0-3の処理は、人為的な作業によって実行されても構わない。
照合システム1の設置された環境下における実運用が開始されると、監視カメラ10は、監視対象エリアを撮像部11において撮像し(St1)、各種の信号処理を信号処理部13において実行する(St2)。監視カメラ10は、信号処理部13による信号処理が施された監視対象エリアの撮像画像に映る対象物(例えば人物の顔)を検出処理部14において検出し(St3)、検出された対象物の切り出し画像を生成する。監視カメラ10は、検出処理部14により生成された対象物の切り出し画像を用いて、対象物の補正画像(画質鮮明化画像)を補正推定部15において生成する(St4)。
監視カメラ10は、ステップSt3において生成された対象物の切り出し画像とステップSt4において生成された対象物の補正画像(画質鮮明化画像)とを対象物の識別情報と対応付けた撮像画像セットのデータを照合サーバ20に送信するとともに(St5)、同様にレコーダ40にも送信する(St6)。レコーダ40は、監視カメラ10から送られた撮像画像セットのデータを受信すると、内蔵されるストレージに保存する(St7)。
照合サーバ20は、監視カメラ10から送られた撮像画像セットのデータを受信すると、対象物の切り出し画像(オリジナル画像)と対象物の補正画像とに分離する(St8)。照合サーバ20は、対象物の補正画像と登録データベース23と学習データベース24とを用いて、その対象物の補正画像に映る顔が登録データベース23に登録されている人物の顔と一致するか否かを照合処理部25において照合する(St9、照合処理)。
照合サーバ20は、対象物の補正画像に映る顔が登録データベース23に登録されている人物の顔と一致すると判定した場合(St10、YES)、対象物の切り出し画像と登録データベース23内の一致した人物の顔画像とを対象物の識別情報に対応付けた照合結果画面(図6参照、照合結果の一例)を照合結果出力処理部26において生成する(St11)。なお、対象物の補正画像に映る顔が登録データベース23に登録されている人物の顔と一致しないと判定された場合には(St10、NO)、照合サーバ20は、ステップSt11の処理を省略し、ステップSt9の照合処理の判定結果を照合結果として生成する。ステップSt9の照合処理の判定結果は、例えば、対象物の補正画像に映る顔が登録データベース23に登録されている人物の顔と一致しない旨のメッセージである。照合サーバ20は、生成された照合結果をクライアントPC30に送信する(St12)。
クライアントPC30は、照合サーバ20から送られた照合結果を受信すると、その照合結果を、例えばクライアントPC30に内蔵されるディスプレイに表示する(St13)。
以上により、実施の形態1に係る監視カメラ10は、照合サーバ20との間で通信可能に接続され、屋外の監視対象エリアを撮像し、撮像された監視対象エリアの撮像画像に映る対象物(例えば人物の顔)を検出し、対象物の切り出し画像を生成する。監視カメラ10は、対象物の切り出し画像と画像補正モデル(例えば補正推定ネットワークMDL1)とを用いて、照合サーバ20での対象物の照合処理に用いられる画質鮮明化画像を生成し、同一の対象物の切り出し画像および画質鮮明化画像を、その対象物の識別情報と対応付けて照合サーバ20に送る。
これにより、監視カメラ10は、対象物(例えば人物の顔)を屋外で撮像する環境下であっても、屋外での撮像時に撮像画像の画質を劣化させる各種の要因に対応した画質鮮明化画像を照合サーバ20に送る前に予め生成できる。従って、監視カメラ10は、撮像された対象物の画質鮮明化画像と予め登録データベース23に登録された監視対象物(例えば不審人物の顔)とが一致するか否かの照合サーバ20での照合処理の照合精度を的確に向上させることができる。つまり、監視カメラ10は、監視業務の利便性の低下を抑制できる。
また、実施の形態1に係る照合システム1では、監視カメラ10は、屋外の監視対象エリアの撮像に基づく撮像画像に映る対象物(例えば人物の顔)を検出して対象物の切り出し画像を生成する。監視カメラ10は、対象物の切り出し画像と画像補正モデル(例えば補正推定ネットワークMDL1)とを用いて、照合サーバ20での対象物の照合処理に用いられる画質鮮明化画像を生成し、同一の対象物に対応する切り出し画像および画質鮮明化画像を、対象物の識別情報と対応付けて照合サーバ20に送る。照合サーバ20は、監視カメラ10から送られた対象物の切り出し画像と画質鮮明化画像とを受信すると、その画質鮮明化画像と画像補正モデルとを用いて、画質鮮明化画像に対応する対象物の照合処理を実行する。照合サーバ20は、対象物の識別情報を含む照合処理の実行結果をクライアントPC30に送る。
これにより、監視カメラ10は、対象物(例えば人物の顔)を屋外で撮像する環境下であっても、屋外での撮像時に撮像画像の画質を劣化させる各種の要因に対応した画質鮮明化画像を照合サーバ20に送る前に予め生成できる。従って、監視カメラ10は、撮像された対象物の画質鮮明化画像と予め登録データベース23に登録された監視対象物(例えば不審人物の顔)とが一致するか否かの照合サーバ20での照合処理の照合精度を的確に向上させることができる。つまり、監視カメラ10は、監視業務の利便性の低下を抑制できる。また、監視カメラ10は、照合サーバ20で使用される補正推定ネットワークMDL1により構成される画像補正モデルと同一の画像補正モデルを用いて、対象物の照合処理に用いられる画質鮮明化画像を生成する。これにより、照合サーバ20は、例えば監視カメラ10から対象物の補正画像を受信しない場合に比べて、照合処理時に対象物の画質鮮明化画像を生成する処理を省くことができる点で迅速に照合処理を実行できる。
また、照合サーバ20は、対象物に関する画像を格納する既存学習セットSET1を有し、対象物に関する画像と画像補正モデルとを用いて、対象物の屋外での撮像により生じる画質劣化要因に対応した画質鮮明化画像を生成し、生成された画質鮮明化画像を追加学習セットSET2に格納する。これにより、照合サーバ20は、照合処理時に既存学習セットSET1だけでなく、既存学習セットSET1に格納された画質鮮明化画像の生成時に参照された画質劣化要因に対応した画質鮮明化画像を別に生成して格納した追加学習セットSET2も併せて使用できる。従って、照合サーバ20は、既存学習セットSET1と追加学習セットSET2との両方を用いること照合処理を迅速に実行できる。
また、照合サーバ20は、既存学習セットSET1と追加学習セットSET2と画像補正モデルとを用いて、照合処理を実行する。これにより、照合サーバ20は、照合処理の際に、屋外での撮像時の画質劣化要因に対応するように監視カメラ10により生成された画質鮮明化画像を基に、登録データベース23に登録されている人物の顔画像との照合処理に用いる顔画像を早期かつ高精度に特定でき、照合処理の信頼性を向上できる。
また、既存学習セットSET1は、k(k:2以上の整数)個の異なる対象物に関する画像を格納する。追加学習セットSET2は、既存学習セットSET1に格納されたそれぞれの対象物に関する画像に対応した、k個の異なる画質鮮明化画像を格納する。これにより、照合サーバ20は、照合処理の際に既存学習セットSET1だけを使用する場合に比べて、2倍(つまり2k個)の画質鮮明化画像を使用可能となるので、照合処理をより迅速に実行できる。なお、追加学習セットSET2に格納される画質鮮明化画像の個数は、k個に限定されないことは言うまでもない。
また、画質劣化要因は、太陽光による対象物の一部の領域に生じるムラである。照合サーバ20は、既存学習セットSET1から読み出した対象物に関する画像中の一部の領域にムラを擬似的に生成し、画像補正モデルを用いて、生成された擬似画像に対応する画質鮮明化画像を生成して追加学習セットSET2に格納する。これにより、照合サーバ20は、屋外で太陽光が強く照射されている環境下において対象物(例えば人物の顔)の窪み等によって生じるムラが生じる場合でも、画像補正モデルによってそのムラによる画質劣化を補償する画質鮮明化画像(例えばムラの生じる画質劣化部分の明るさや輝度値を他の部分よりも所定割合ほど増加した画像)を生成して追加学習セットSET2にて保持できる。従って、監視カメラ10から送られた補正画像が追加学習セットSET2に格納された画質鮮明化画像と同一或いは同様である場合に、照合サーバ20での照合処理の照合精度が向上可能となる。
また、画質劣化要因は、太陽光による対象物の一部の領域に生じる影である。照合サーバ20は、既存学習セットSET1から読み出した対象物に関する画像中の一部の領域に影を擬似的に生成し、画像補正モデルを用いて、生成された擬似画像に対応する画質鮮明化画像を生成して追加学習セットSET2に格納する。これにより、照合サーバ20は、屋外で太陽光が強く照射されている環境下において帽子等の装着によって対象物(例えば人物の顔)の一部の領域に影が生じる場合でも、画像補正モデルによってその影による画質劣化を補償する画質鮮明化画像(例えば影で消失した部分を周囲の画像領域から公知技術によって推定あるいは補間した画像)を生成して追加学習セットSET2にて保持できる。従って、監視カメラ10から送られた補正画像が追加学習セットSET2に格納された画質鮮明化画像と同一或いは同様である場合に、照合サーバ20での照合処理の照合精度が向上可能となる。
また、画質劣化要因は、夜間の撮像による対象物に生じる低照度ノイズである。照合サーバ20は、既存学習セットSET1から読み出した対象物に関する画像全体に低照度ノイズを擬似的に生成し、画像補正モデルを用いて、生成された擬似画像に対応する画質鮮明化画像を生成して追加学習セットSET2に格納する。これにより、照合サーバ20は、屋外で夜間の薄暗いあるいは暗い環境下において対象物全体に低照度ノイズが生じる場合でも、画像補正モデルによってその低照度ノイズによる画質劣化を補償する画質鮮明化画像(例えば低照度ノイズの部分をノイズリダクション処理等の公知技術によって抑圧した画像)を生成して追加学習セットSET2にて保持できる。従って、監視カメラ10から送られた補正画像が追加学習セットSET2に格納された画質鮮明化画像と同一或いは同様である場合に、照合サーバ20での照合処理の照合精度が向上可能となる。
また、画質劣化要因は、夜間に監視カメラ10が備えるIR-LED18から照射されたIR光による対象物に生じる白飽和である。照合サーバ20は、既存学習セットSET1から読み出した対象物に関する画像全体に白飽和を擬似的に生成し、画像補正モデルを用いて、生成された擬似画像に対応する画質鮮明化画像を生成して追加学習セットSET2に格納する。これにより、照合サーバ20は、屋外で監視カメラ10が備えるIR-LED18から高強度のIR光が照射される環境下において対象物全体に白飽和(白飛び)が生じる場合でも、画像補正モデルによってその白飽和による画質劣化を補償する画質鮮明化画像(例えば対象物を構成するエッジや輪郭部分を強調処理した画像)を生成して追加学習セットSET2にて保持できる。従って、監視カメラ10から送られた補正画像が追加学習セットSET2に格納された画質鮮明化画像と同一或いは同様である場合に、照合サーバ20での照合処理の照合精度が向上可能となる。
また、照合サーバ20は、複数の不審人物のそれぞれの顔画像が予め登録された登録データベース23を有し、照合処理に用いられた画質鮮明化画像と一致する顔画像を抽出した場合に、抽出された顔画像と対象物の切り出し画像とを対象物の識別情報に対応付けた照合処理をクライアントPC30に送る。これにより、クライアントPC30のユーザ(例えば照合システム1の運営者あるいは管理者)は、照合サーバ20による照合処理の結果を照合結果画面RST1により簡易に把握できる。
また、照合サーバ20は、既存学習セットSET1に格納されたそれぞれの対象物に関する画像に対応した、例えばk個の異なる画質鮮明化画像を生成するための学習処理を、照合システム1の実運用開始前に実行する。これにより、照合システム1の実運用開始前に、照合サーバ20における照合処理の精度を高めるための学習結果を事前に照合サーバ20に蓄積できる。
また、照合サーバ20は、既存学習セットSET1に格納されたそれぞれの前記対象物に関する画像に対応した、例えばk個の異なる画質鮮明化画像を生成するための学習処理を、照合システム1の実運用中に実行する。これにより、照合サーバ20は、照合システム1の実運用中においても同様な学習処理を実行して追加学習セットSET2の内容および蓄積量を充実化することが可能であり、照合処理の精度をより一層向上できる。
また、監視カメラ10は、対象物の切り出し画像と補正画像(画質鮮明化画像)と撮像画像の生成時に実行した画像処理に関するパラメータとを対象物の識別情報と対応付けて照合サーバ20に送る。ここで、画像処理に関するパラメータは、例えば監視カメラ10により実行される画像処理の種類およびその画像処理において使用された各種の数値等のパラメータである。画像処理の種類には、例えば、アナログデジタル変換、解像度変換、アパーチャ変換、ガンマ補正、雑音除去、輪郭(エッジ)強調が含まれる。照合サーバ20は、監視カメラ10から送られたパラメータを対象物の画質鮮明化画像と対応付けて学習処理用に記録するとともに、そのパラメータを用いて学習処理を実行する。これにより、照合サーバ20は、学習処理において追加学習セットSET2に追加するべき画像として監視カメラ10で実行された画像処理の種類および数値等のパラメータを参照でき、どのような画像(画質鮮明化画像)を追加するべきか効率的に判断した上で学習処理を実行できる。
以上、図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
また、本開示は、上記実施形態のPC30の機能を実現するプログラムを、ネットワークあるいは各種記憶媒体を介して装置に供給し、この装置内のコンピュータが読み出して実行するプログラムも適用範囲である。
本開示は、対象物が屋外で撮像される環境下であっても、撮像された対象物の撮像画像と予めデータベースに登録された監視対象物とが一致するか否かの照合処理の精度を的確に向上し、監視業務の利便性の低下を抑制する照合システム、照合方法およびカメラ装置として有用である。
1 照合システム
10 監視カメラ
11 撮像部
12、22 メモリ
13 信号処理部
14 検出処理部
15 補正推定部
16 照明制御部
17、21 通信インターフェース部
20 照合サーバ
23 登録データベース
24 学習データベース
25 照合処理部
26 照合結果出力処理部
30 クライアントPC
40 レコーダ
MDL1 補正推定ネットワーク
PRC1、PRC2 プロセッサ
SET1 既存学習セット
SET2 追加学習セット

Claims (13)

  1. サーバ装置との間で通信可能に接続されたカメラ装置であって、
    屋外の監視対象エリアを撮像する撮像部と、
    前記撮像された前記監視対象エリアの撮像画像に映る対象物を検出し、前記対象物の切り出し画像を生成する検出部と、
    前記対象物の切り出し画像と画像補正モデルとを用いて、前記サーバ装置での前記対象物の照合処理に用いられる画質鮮明化画像を生成する画像補正部と、
    前記対象物の切り出し画像と前記画質鮮明化画像とを、前記対象物の識別情報と対応付けて前記サーバ装置に送る通信部と、を備える、
    カメラ装置。
  2. 互いに通信可能に接続されたカメラ装置とサーバ装置とを含む照合システムであって、
    前記カメラ装置は、
    屋外の監視対象エリアの撮像に基づく撮像画像に映る対象物を検出し、前記対象物の切り出し画像を生成し、
    前記対象物の切り出し画像と画像補正モデルとを用いて、前記サーバ装置での前記対象物の照合処理に用いられる画質鮮明化画像を生成し、
    前記対象物の切り出し画像と前記画質鮮明化画像とを、前記対象物の識別情報と対応付けて前記サーバ装置に送り、
    前記サーバ装置は、
    特定の対象物に関する画像を格納する登録データベースと、不特定多数の対象物に関する画像を格納する第1画像セットと、前記画像補正モデルを用いた学習処理により得られ、かつ、前記不特定多数の対象物の屋外での撮像により生じる画質劣化要因に対応した1つ以上の画像鮮明化画像を格納する第2画像セットと、を保持し、
    前記カメラ装置から送られた前記対象物の切り出し画像と前記画質鮮明化画像とを受信すると、前記画質鮮明化画像と前記登録データベースと前記第1画像セットと前記第2画像セットとを用いて、前記画質鮮明化画像に対応する前記撮像画像に映る前記対象物の照合処理を実行し、
    前記撮像画像に映る前記対象物の識別情報を含む前記照合処理の実行結果を外部装置に送る、
    照合システム。
  3. 前記サーバ装置は、
    前記第1画像セットと前記画像補正モデルとを用いて、前記画質鮮明化画像を生成し、前記生成された前記画質鮮明化画像を前記第2画像セットに格納する、
    請求項2に記載の照合システム。
  4. 前記第1画像セットは、k(k:2以上の整数)個の異なる前記不特定多数の対象物に関する画像を格納し、
    前記第2画像セットは、前記第1画像セットに格納されたそれぞれの前記不特定多数の対象物に関する画像に対応した、k個の異なる前記画質鮮明化画像を格納する、
    請求項3に記載の照合システム。
  5. 前記画質劣化要因は、太陽光による前記対象物の一部の領域に生じるムラであり、
    前記サーバ装置は、
    前記第1画像セットから読み出した前記不特定多数の対象物に関する画像中の一部の領域に前記ムラを擬似的に生成し、前記画像補正モデルを用いて、前記生成された擬似画像に対応する前記画質鮮明化画像を生成して前記第2画像セットに格納する、
    請求項3に記載の照合システム。
  6. 前記画質劣化要因は、太陽光による前記対象物の一部の領域に生じる影であり、
    前記サーバ装置は、
    前記第1画像セットから読み出した前記不特定多数の対象物に関する画像中の一部の領域に前記影を擬似的に生成し、前記画像補正モデルを用いて、前記生成された擬似画像に対応する前記画質鮮明化画像を生成して前記第2画像セットに格納する、
    請求項3に記載の照合システム。
  7. 前記画質劣化要因は、夜間の撮像による前記対象物に生じる低照度ノイズであり、
    前記サーバ装置は、
    前記第1画像セットから読み出した前記不特定多数の対象物に関する画像全体に前記低照度ノイズを擬似的に生成し、前記画像補正モデルを用いて、前記生成された擬似画像に対応する前記画質鮮明化画像を生成して前記第2画像セットに格納する、
    請求項3に記載の照合システム。
  8. 前記画質劣化要因は、夜間に前記カメラ装置が備えるIR照明部から照射されたIR光による前記対象物に生じる白飽和であり、
    前記サーバ装置は、
    前記第1画像セットから読み出した前記不特定多数の対象物に関する画像全体に前記白飽和を擬似的に生成し、前記画像補正モデルを用いて、前記生成された擬似画像に対応する前記画質鮮明化画像を生成して前記第2画像セットに格納する、
    請求項3に記載の照合システム。
  9. 前記登録データベースは、複数の不審人物のそれぞれの顔画像を予め登録し、
    前記サーバ装置は、前記照合処理に用いられた前記画質鮮明化画像と一致する顔画像を前記登録データベースから抽出した場合に、前記抽出された前記顔画像と前記撮像画像に映る前記対象物の切り出し画像とを前記撮像画像に映る前記対象物の識別情報に対応付けた前記照合処理を前記外部装置に送る、
    請求項2に記載の照合システム。
  10. 前記サーバ装置は、
    前記第1画像セットに格納されたそれぞれの前記不特定多数の対象物に関する画像に対応した、k個の異なる前記画質鮮明化画像を生成するための学習処理を、前記照合システムの実運用開始前に実行する、
    請求項に記載の照合システム。
  11. 前記サーバ装置は、
    前記第1画像セットに格納されたそれぞれの前記不特定多数の対象物に関する画像に対応した、k個の異なる前記画質鮮明化画像を生成するための学習処理を、前記照合システムの実運用中に実行する、
    請求項に記載の照合システム。
  12. 前記カメラ装置は、
    前記撮像画像に映る前記対象物の切り出し画像と前記画質鮮明化画像と前記撮像画像の生成時に実行した画像処理に関するパラメータとを前記撮像画像に映る前記対象物の識別情報と対応付けて前記サーバ装置に送り、
    前記サーバ装置は、
    前記カメラ装置から送られた前記パラメータを前記画質鮮明化画像と対応付けて記録するとともに、前記パラメータを用いて前記学習処理を実行する、
    請求項11に記載の照合システム。
  13. 互いに通信可能に接続されたカメラ装置とサーバ装置とを含む照合システムにより実行される照合方法であって、
    前記カメラ装置は、
    屋外の監視対象エリアの撮像に基づく撮像画像に映る対象物を検出し、前記対象物の切り出し画像を生成し、
    前記対象物の切り出し画像と画像補正モデルとを用いて、前記サーバ装置での前記対象物の照合処理に用いられる画質鮮明化画像を生成し、
    前記対象物の切り出し画像と前記画質鮮明化画像とを、前記対象物の識別情報と対応付けて前記サーバ装置に送り、
    前記サーバ装置は、
    特定の対象物に関する画像を格納する登録データベースと、不特定多数の対象物に関する画像を格納する第1画像セットと、前記画像補正モデルを用いた学習処理により得られ、かつ、前記不特定多数の対象物の屋外での撮像により生じる画質劣化要因に対応した1つ以上の画像鮮明化画像を格納する第2画像セットと、を保持し、
    前記カメラ装置から送られた前記対象物の切り出し画像と前記画質鮮明化画像とを受信すると、前記画質鮮明化画像と前記登録データベースと前記第1画像セットと前記第2画像セットとを用いて、前記画質鮮明化画像に対応する前記撮像画像に映る前記対象物の照合処理を実行し、
    前記撮像画像に映る前記対象物の識別情報を含む前記照合処理の実行結果を外部装置に送る、
    照合方法。
JP2019002005A 2019-01-09 2019-01-09 照合システム、照合方法およびカメラ装置 Active JP7272626B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019002005A JP7272626B2 (ja) 2019-01-09 2019-01-09 照合システム、照合方法およびカメラ装置
US16/737,336 US11113798B2 (en) 2019-01-09 2020-01-08 Collating system, collating method, and camera device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019002005A JP7272626B2 (ja) 2019-01-09 2019-01-09 照合システム、照合方法およびカメラ装置

Publications (2)

Publication Number Publication Date
JP2020113844A JP2020113844A (ja) 2020-07-27
JP7272626B2 true JP7272626B2 (ja) 2023-05-12

Family

ID=71404458

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019002005A Active JP7272626B2 (ja) 2019-01-09 2019-01-09 照合システム、照合方法およびカメラ装置

Country Status (2)

Country Link
US (1) US11113798B2 (ja)
JP (1) JP7272626B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11023712B2 (en) * 2017-01-05 2021-06-01 Nec Corporation Suspiciousness degree estimation model generation device
US10950104B2 (en) 2019-01-16 2021-03-16 PANASONIC l-PRO SENSING SOLUTIONS CO., LTD. Monitoring camera and detection method
JPWO2022249485A1 (ja) * 2021-05-28 2022-12-01

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016219935A (ja) 2015-05-18 2016-12-22 シャープ株式会社 画像処理装置、画像処理方法、及びプログラム
JP2017060158A (ja) 2015-09-14 2017-03-23 パナソニックIpマネジメント株式会社 ウェアラブルカメラシステム及び人物報知方法
WO2018225061A1 (en) 2017-06-04 2018-12-13 De-Identification Ltd. System and method for image de-identification

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4283704B2 (ja) * 2004-02-25 2009-06-24 富士フイルム株式会社 撮影装置
JP4290681B2 (ja) * 2005-06-30 2009-07-08 シャープ株式会社 画像処理装置、画像処理方法、画像処理プログラム、画像処理プログラムを記録した機械読取可能な記録媒体および印刷物
WO2012176317A1 (ja) * 2011-06-23 2012-12-27 サイバーアイ・エンタテインメント株式会社 画像認識システムを組込んだ関連性検索によるインタレスト・グラフ収集システム
WO2015151449A1 (ja) * 2014-03-31 2015-10-08 日本電気株式会社 画像処理システム、画像処理装置、画像処理方法および記録媒体
US10115185B2 (en) * 2014-12-05 2018-10-30 At&T Intellectual Property I, L.P. Dynamic image recognition model updates
JP2017025621A (ja) 2015-07-24 2017-02-02 パナソニックIpマネジメント株式会社 入退室管理システム
WO2017073348A1 (ja) * 2015-10-27 2017-05-04 富士フイルム株式会社 赤外線撮像装置及びその制御方法、並びに車両
WO2018088794A2 (ko) * 2016-11-08 2018-05-17 삼성전자 주식회사 디바이스가 이미지를 보정하는 방법 및 그 디바이스

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016219935A (ja) 2015-05-18 2016-12-22 シャープ株式会社 画像処理装置、画像処理方法、及びプログラム
JP2017060158A (ja) 2015-09-14 2017-03-23 パナソニックIpマネジメント株式会社 ウェアラブルカメラシステム及び人物報知方法
WO2018225061A1 (en) 2017-06-04 2018-12-13 De-Identification Ltd. System and method for image de-identification

Also Published As

Publication number Publication date
JP2020113844A (ja) 2020-07-27
US11113798B2 (en) 2021-09-07
US20200219234A1 (en) 2020-07-09

Similar Documents

Publication Publication Date Title
JP7272626B2 (ja) 照合システム、照合方法およびカメラ装置
RU2628745C2 (ru) Система защитного наблюдения и соответствующий способ инициирования тревожной сигнализации
US10277805B2 (en) Monitoring system and camera device
US9224278B2 (en) Automated method and system for detecting the presence of a lit cigarette
JP6732902B2 (ja) 撮像装置および撮像システム
JP5177147B2 (ja) 撮像装置、撮像方法および撮像プログラム
WO2021042816A1 (zh) 一种检测监控设备故障的方法、装置
US11657606B2 (en) Dynamic image capture and processing
WO2021073140A1 (zh) 单目摄像机、图像处理系统以及图像处理方法
CN111294526B (zh) 一种摄像机防太阳灼伤处理方法及装置
RU2015156315A (ru) Система, способ и устройство для контроля влияния света и звука на человека
KR101625538B1 (ko) 도시방범이 가능한 다차선 자동차 번호판 인식시스템
US20210243338A1 (en) Techniques for correcting oversaturated pixels in shutterless fir cameras
US20220122360A1 (en) Identification of suspicious individuals during night in public areas using a video brightening network system
WO2018099247A1 (zh) 一种投影控制方法和装置
US20130162834A1 (en) Integrated video quantization
JP2004219277A (ja) 人体検知方法およびシステム、プログラム、記録媒体
KR101375186B1 (ko) 감시 카메라 교란 검출 방법
JP7002009B2 (ja) 監視パラメータ更新システム、監視パラメータ更新方法およびプログラム
JP2009044526A (ja) 撮影装置、撮影方法、人物認識装置および人物認識方法
CN114565993B (zh) 基于人脸识别和猫眼的智能锁系统
JP2017092876A (ja) 撮像装置、撮像システム、及び撮像方法
JP2019215661A (ja) 画質調整システムおよび画質調整方法
KR101546917B1 (ko) 야간 영상 보정 제어 시스템 및 그 방법
JP6584103B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190731

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191205

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20201224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230420

R150 Certificate of patent or registration of utility model

Ref document number: 7272626

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150