JP7246029B2 - 撮像制御装置、撮像制御方法、及びプログラム - Google Patents

撮像制御装置、撮像制御方法、及びプログラム Download PDF

Info

Publication number
JP7246029B2
JP7246029B2 JP2020525330A JP2020525330A JP7246029B2 JP 7246029 B2 JP7246029 B2 JP 7246029B2 JP 2020525330 A JP2020525330 A JP 2020525330A JP 2020525330 A JP2020525330 A JP 2020525330A JP 7246029 B2 JP7246029 B2 JP 7246029B2
Authority
JP
Japan
Prior art keywords
camera
image quality
parameter group
quality evaluation
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020525330A
Other languages
English (en)
Other versions
JPWO2019239744A5 (ja
JPWO2019239744A1 (ja
Inventor
一樹 前野
康伸 小倉
智之 加賀屋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2019239744A1 publication Critical patent/JPWO2019239744A1/ja
Publication of JPWO2019239744A5 publication Critical patent/JPWO2019239744A5/ja
Application granted granted Critical
Publication of JP7246029B2 publication Critical patent/JP7246029B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/617Upgrading or updating of programs or applications for camera control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Vascular Medicine (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Exposure Control For Cameras (AREA)

Description

本開示は、カメラの撮影動作に関するパラメタを決定する撮像制御装置、撮像制御方法、及びプログラムに関する。
特許文献1は、コントラスト方式で合焦する撮像装置を開示している。この撮像装置は、同一人物の被写体画像領域と部分画像領域とを組みで検索する場合と、被写体画像領域と部分画像領域との組みが検出された後に検出された領域について検索対象の画像を含むか否かを再度判定する場合とで、それぞれの検索に適した異なる検索条件を用いる。被写体画像領域と部分画像領域とを組みで検索することによって人物の検出漏れを抑制しながら、組みで検索するときに誤検出された領域を再判定により除外して、人物や顔の検出率を向上させている。検出率の向上が焦点探索領域の安定化に繋がる。これにより、コントラスト方式で合焦する場合におけるフォーカス制御の安定性を向上させている。
特許文献2は、監視対象を撮像する撮像装置を開示している。この撮像装置は、絞り値と少なくともシャッター速度およびゲイン値のいずれか一方を含む動作パラメタの値を変更することによって、撮像素子の出力信号の輝度レベルを目標値に近づける自動露出制御手段を有する。自動露出制御手段は、絞り値を小絞り端寄りの所定値にした状態で監視対象の明るさが暗くなった場合に、通常監視モードよりも異常監視モードが設定されているときのほうが、絞り値を優先して変更する。これにより、異常状態を高画質で撮影すると共に耐久性を向上させている。
特許第5829679号公報 特許第4921204号公報
本開示は、カメラの設置状況に応じたパラメタを決定する撮像制御装置、撮像制御方法、及びプログラムを提供する。
本開示の撮像制御装置は、カメラの撮影動作に関するパラメタ群を決定する撮像制御装置であって、カメラが生成した撮像データを入力する入力部と、撮像データに基づいて、パラメタ群の複数の候補の中からカメラに設定するパラメタ群を選択する制御部と、を備え、制御部は、各候補のパラメタ群に設定されたカメラが生成した撮像データを入力部を介して取得し、候補毎に撮像データから抽出対象をそれぞれ含む複数の抽出対象画像を抽出し、候補毎に複数の抽出対象画像に基づいて画質評価値を算出し、画質評価値に基づいて、パラメタ群の複数の候補の中からいずれか一つのパラメタ群を選択する。
これらの概括的かつ特定の態様は、システム、方法、及びコンピュータプログラム、並びに、それらの組み合わせにより、実現されてもよい。
本開示の撮像制御装置、撮像制御方法、及びプログラムによれば、カメラの撮像データに基づいて算出した画質評価値に基づいて、カメラに設定するパラメタ群を決定している。よって、カメラの設置状況に応じたパラメタを決定することができる。
第1及び第2実施形態の撮像制御装置の構成を示すブロック図 第1実施形態におけるパラメタの決定を示すフローチャート 画質評価値の算出を示すフローチャート 特徴ベクトルを説明するための図 第2実施形態におけるパラメタの決定を示すフローチャート 遺伝的アルゴリズムによるパラメタベクトルの生成を示すフローチャート 次世代のパラメタベクトルの生成を示すフローチャート 交叉を説明するためのフローチャート 突然変異を説明するためのフローチャート コピーを説明するためのフローチャート
(本開示の基礎となった知見)
監視カメラなどのカメラを新たに設置するとき又はレイアウト変更によって設置位置を変更するときは、カメラの撮影動作に関するパラメタ群をカメラの設置状況に応じた適当な値に設定する必要がある。例えば、カメラの設置状況として、カメラの設置位置及び周辺環境の照明条件等がある。
カメラの撮影動作に関するパラメタ群には、露光時間、フォーカス、圧縮品質等を設定するための複数種類のパラメタが含まれる。しかし、複数種類のパラメタの最適値を、カメラの設置位置及び周辺環境の照明条件等を考慮して、人間が決定することは難しい。例えば、画像のノイズを減らすために、露光時間を長くすると、動きによるボケが生じやすくなる。また、画像のノイズを減らすために、絞りを大きく開口すると、被写界深度が浅くなり、距離によるボケが生じやすくなる。また、カメラの明るさとボケやすさの間にもトレードオフの関係がある。よって、どのパラメタをどの値にすべきかを人間が決定することは難しかった。
さらに、空港及びショッピングセンタのような施設又は街中に、数百台の監視カメラが設置されることがある。このような多数の監視カメラに対して、1台ずつカメラのパラメタ群を、カメラの設置位置及び周辺環境の照明条件等に応じて手動で決定すると、時間がかかる。また、一度設置したカメラをレイアウト変更に伴って位置を変更したときに、カメラの台数が多いとパラメタ群を手動で再設定することが容易ではない。
本開示は、(I)カメラの撮影動作に関する複数種類のパラメタを、カメラの設置位置及び周辺環境の照明条件等に応じた適当な値に決定する撮像制御装置を提供する。
複数の監視カメラを使用して、特定の人物を探索することがある。このような監視カメラ等において、近年、深層学習等の機械学習を利用した自動顔認識が行われている。この自動顔認識に最適なパラメタ値を人間の主観による評価に基づいて決定することは難しい。例えば、人間は高周波領域の特徴が残っていると画質が良いと判断する。しかし、自動顔認識においては、一定以上の周波数領域はノイズに対してセンシティブなため利用されない。さらに、パラメタの良し悪しは、利用する自動顔認識のアルゴリズムにも依存する。しかし、人間には、例えば、ボケているが明るい画像と、シャープだが暗い画像のどちらが、自動顔認識に適しているかを判断することは困難である。
特許文献1は、撮像画像において合焦したい領域のコントラストに基づいてフォーカス制御を行っている。しかし、シャッタースピードを速くすることによってコントラストを向上させると、輝度レベルが低下する。一方、シャッタースピードを遅くして輝度レベルを向上させると、動きぼけによるコントラストの低下が生じる。よって、コントラストだけを指標とした場合、輝度レベルが考慮されず、顔認識に悪影響を及ぼす可能性がある。そのため、コントラストが顔認識に適した指標とは限らない。
特許文献2は、撮像画像の明るさ調整を、輝度レベルを目標値に近づけるという方法で実現している。しかし、輝度レベルが顔認識にとって適切な指標であるとは限らない。また、目標値をどのように設定するかが明確に定められていない。すなわち、顔認識に適した目標値が設定されていない。
よって、従来は、カメラの撮影動作に関する複数種類のパラメタを顔認識に適した値に決定することが難しかった。
本開示は、(II)顔認識に適したパラメタ群を決定する撮像制御装置を提供する。
下記実施形態では、(I)カメラの設置位置及び周辺環境の照明条件等に応じた適当な値であって、且つ、(II)顔認識に適した値のパラメタを決定する撮像制御装置について説明する。具体的には、本開示の撮像制御装置は、監視カメラなどのカメラが撮影した動画から顔画像の特徴量に基づく画質評価値を算出し、画質評価値に基づいてカメラに設定するパラメタ群を決定する。これにより、カメラの設置位置及び周辺環境の照明条件等に応じた、顔認識に適したパラメタ群をカメラに設定することができる。よって、顔認識の性能が向上する。
(第1実施形態)
以下、第1実施形態について、図面を参照しながら説明する。本実施形態では、深層学習を用いて顔認識するのに適したカメラのパラメタ群の設定について説明する。
1. 構成
図1は、本開示の撮像制御装置の電気的構成を示している。例えば、撮像制御装置1はサーバであり、カメラ2は監視カメラであり、カメラ制御装置3はパソコンである。撮像制御装置1は、例えば、クラウドサーバであり、インターネット経由により、1つ以上のカメラ制御装置3と接続される。図1の例では、1つのカメラ制御装置3に対して1台のカメラ2が接続される。撮像制御装置1は、例えば、複数のカメラ2が空港などに新たに設置されるときに、複数のカメラ2のそれぞれのパラメタ群を決定する。
撮像制御装置1は、通信部10、制御部20、記憶部30、及びバス40を備える。
通信部10は、所定の通信規格に準拠して外部機器との通信を行う回路を含む。所定の通信規格は、例えば、LAN、Wi-Fi(登録商標)、Bluetooth(登録商標)、USB、HDMI(登録商標)を含む。
制御部20は、撮像制御装置1の動作を制御する。制御部20は、半導体素子などで実現可能である。制御部20は、例えば、マイコン、CPU、MPU、DSP、FPGA、ASICで構成することができる。制御部20の機能は、ハードウェアのみで構成してもよいし、ハードウェアとソフトウェアとを組み合わせることにより実現してもよい。制御部20は、記憶部30に格納されたデータやプログラムを読み出して種々の演算処理を行い、所定の機能を実現する。制御部20によって実行されるプログラムは、通信部10等から提供されてもよいし、可搬性を有する記録媒体に格納されていてもよい。
制御部20は、カメラ2が生成した撮像データに基づいて、カメラ2の撮影動作に関するパラメタ群を決定する。カメラ2のパラメタ群は、画質に影響する複数種類のパラメタを含む。例えば、パラメタ群は、絞り値、ゲイン、ホワイトバランス、シャッタースピード、及び焦点距離のうちの1つ以上を含む。
記憶部30は、例えば、ハードディスク(HDD)、SSD、RAM、DRAM、強誘電体メモリ、フラッシュメモリ、磁気ディスク、又はこれらの組み合わせによって実現できる。
バス40は、通信部10、制御部20、及び記憶部30を電気的に接続する信号線である。
撮像制御装置1は、さらに、ユーザによる種々の操作を入力するユーザインタフェースを含んでもよい。例えば、撮像制御装置1は、キーボード、ボタン、スイッチ、及びこれらの組み合わせを含んでもよい。
カメラ2は、CCDイメージセンサ、CMOSイメージセンサ、又はNMOSイメージセンサなどの撮像素子を含む。
カメラ制御装置3は、撮像制御装置1が決定したパラメタ群に基づいてカメラ2を設定する。
2. 動作
2.1 パラメタベクトルの決定
図2は、撮像制御装置1の制御部20によるパラメタベクトルの決定の動作を示すフローチャートである。
制御部20は、T個のパラメタベクトルp(i=1,2,・・・,T)、すなわち、パラメタベクトルp,p,p,・・・,pを生成する(S1)。パラメタベクトルpは、複数のパラメタを含むパラメタ群である。例えば、各パラメタベクトルpには、M個の要素であるパラメタpi,1,pi,2,pi,3・・・pi,Mが含まれる。各パラメタpi,1,pi,2,i,3・・・pi,Mは、絞り値、ゲイン、ホワイトバランス、シャッタースピード、及び焦点距離などに対応する。T個のパラメタベクトルpは、Tパターンのパラメタベクトルpを構成する。すなわち、パラメタベクトルpに含まれる要素のうちの1つ以上が、他のパラメタベクトルpに含まれる同一種類の要素と異なる値を持つ。例えば、絞り値、ゲイン、ホワイトバランス、シャッタースピード、及び焦点距離のうちの少なくともいずれか一つが異なる。T個のパラメタベクトルpの生成方法は任意である。例えば、設定可能な値の全ての組み合わせによって、T個のパラメタベクトルpを生成してもよい。ステップS1で生成されるT個のパラメタベクトルpは、最終的にカメラ2に設定されるパラメタ群の候補となる。
制御部20は、パラメタベクトルpについて画質評価値aを算出する(S2)。本実施形態における画質評価値aは画像認識に関連し、具体的には顔認識に対する適合度に対応する。
制御部20は、算出した画質評価値aが既に算出した画質評価値の中で最大か否かを判断する(S3)。画質評価値aが最大であれば、そのパラメタベクトルpを最適なパラメタベクトルpoptに決定する(S4)。画質評価値aが最大でなければ、ステップS4をスキップする。
制御部20は、T個のパラメタベクトルpの全てについて、画質評価値aに基づく評価が完了したか否かを判断する(S5)。評価していないパラメタベクトルpがあれば、ステップS2に戻る。
T個のパラメタベクトルpについての評価が完了すれば、パラメタベクトルpoptを最適なカメラパラメタとしてカメラ制御装置3に出力する(S6)。
2.2 画質評価値の算出
図3は、画質評価値の算出(S2)の詳細を示している。制御部20は、パラメタベクトルpをカメラ制御装置3に出力することによって、カメラ2の各種パラメタを設定する(S201)。
制御部20は、パラメタベクトルpで示される値に設定されたカメラ2が撮影して生成した撮像データを取得する(S202)。撮像データは、例えば、1枚以上の画像を含む動画である。制御部20は、撮像データからN個の顔画像を抽出する(S203)。顔画像の抽出方法は任意である。
制御部20は、N個の顔画像を用いて画質評価値aを算出する(S204)。例えば、N個の顔画像の特徴量に基づいて画質評価値aを算出する。制御部20は、パラメタベクトルpと画質評価値aを対応付けて記憶部30に記録する。
図4を参照して、画質評価値aの算出(S204)の具体例について説明する。図4は、顔画像の特徴量の一例である特徴ベクトルvi,jの算出例を示している。本実施形態では、顔画像を学習したニューラルネットワークを使用して、特徴ベクトルvi,j(j=1,2,・・・,N)を生成する。ニューラルネットワークは、例えば、多数の顔画像を示す学習データと、その顔画像が誰であるかを示すラベルとを対応付けて、事前に学習したものである。学習済みのニューラルネットワークは、記憶部30に格納されている。ニューラルネットワークは、深層学習に用いられる多層構造を持つ。例えば、ニューラルネットワークは、入力層L1、中間層L2,L3,L4、及び出力層L5を含む。中間層の数は3層に限らない。中間層は、1つ以上の層を含む。ニューラルネットワークは、例えば、入力層L1に入力された顔画像が誰かを示すベクトルを出力層L5から出力する。
制御部20は、ステップS203で抽出した1番目からN番目までの顔画像を順にニューラルネットワークの入力層L1に入力する。本実施形態では、例えば、j番目(j=1,2,・・・,N)の顔画像について、出力層L5に最も近い中間層L4のノード値vi,j,1,vi,j,2,vi,j,3,・・・,vi,j,Dから、特徴ベクトルvi,j=(vi,j,1,vi,j,2,vi,j,3,・・・,vi,j,D)を生成する。
制御部20は、N個の顔画像のそれぞれの特徴ベクトルvi,j(j=1,2,・・・,N)から、各顔画像に対する画質評価値ai,jを算出する。具体的には、制御部20は、N個のそれぞれの画質評価値ai,jとして、特徴ベクトルvi,jのL2ノルムの値li,jを式(1)により算出する。L2ノルムと画像の品質には関係性がある(例えば、著者Rajeev Ranjan, Carlos D. Castillo,Rama Chellappaの「L2-constrained Softmax Loss for Discriminative Face Verification」を参照)。よって、本実施形態では、L2ノルムの値li,jを各顔画像の画質評価値ai,jとして利用する。
Figure 0007246029000001
制御部20は、式(2)に示すようにN個の顔画像の画質評価値ai,jの平均値をパラメタベクトルpの画質評価値aとして算出する。
Figure 0007246029000002
3. 効果及び補足
撮像制御装置1は、カメラ2の撮影動作に関するパラメタ群を決定する。撮像制御装置1は、カメラ2が生成した撮像データを入力する通信部10と、撮像データに基づいて、パラメタ群の複数の候補の中からカメラに設定するパラメタ群を選択する制御部20と、を備える。制御部20は、各候補のパラメタ群に設定されたカメラが生成した撮像データを入力部を介して取得し、候補毎に撮像データから複数の顔画像を抽出し、候補毎に複数の顔画像に基づいて画質評価値を算出し、画質評価値に基づいて、パラメタ群の複数の候補の中からいずれか一つのパラメタ群を選択する。
このように、カメラ2の撮像データに基づいてパラメタ群を決定することによって、カメラ2の設置位置及び周辺環境の照明条件に応じたパラメタ値を選択することができる。よって、例えば、空港及びショッピングセンタのような施設などに、数百台の監視カメラを設置するようなときに、各カメラのパラメタ値をカメラ2の設置位置及び周辺環境の照明条件に応じて人が決定する必要がなくなるため、パラメタ調整による作業コストを軽減することができる。
さらに、本実施形態によれば、カメラ2の撮像データから算出した顔認識に対する適合度を示す画質評価値に基づいて、カメラ2に設定するパラメタ群を決定している。よって、顔認識の性能が向上する。
制御部20は、候補毎の画質評価値の中で最大となる画質評価値のパラメタ群を選択する。これにより、カメラ2の設置位置及び周辺環境の照明条件に応じて最適なパラメタ群が選択されうる。また、顔認識に最適なパラメタ群が選択されうる。例えば、顔が誤検出された場合、画質評価値は低くなる。よって、顔が誤検出されるようなパラメタ群が選択されることを防ぐことができる。
制御部20は、複数の顔画像の特徴量のL2ノルムを算出することによって、画質評価値を算出する。顔画像の特徴量のL2ノルムと、画像の品質には関係性がある。よって、顔画像の特徴量のL2ノルムにより算出した画質評価値に基づいてパラメタ群を選択することによって、カメラ2の設置位置及び周辺環境の照明条件に応じた且つ顔認識に適したパラメタ群を選択することができる。
(第2実施形態)
第1実施形態では、T個のパラメタベクトルの生成(S1)の方法は任意であった。本実施形態では、遺伝的アルゴリズム(GA)を使用して、T個のパラメタベクトルを生成する。
図5は、第2実施形態における、撮像制御装置1の制御部20によるパラメタベクトルの決定の動作を示すフローチャートである。制御部20は、遺伝的アルゴリズムによって、T個のパラメタベクトルp(i=1,2,3,・・・,T)を生成する(S11)。図5において、パラメタベクトルpを遺伝的アルゴリズムによって生成すること以外は、第1実施形態の図2と同一である。すなわち、図5のステップS12~S16は、図2のステップS2~S6と同一である。
図6は、遺伝的アルゴリズムを使用したT個のパラメタベクトルp(i=1,2,3,・・・,T)の生成(S11)の詳細を示している。制御部20は、現世代の一世代目である初期世代のT個のパラメタベクトルp1_i(i=1,2,3,・・・,T)、すなわち、パラメタベクトルp1_1,p1_2,p1_3,・・・,p1_Tを生成する(S111)。
制御部20は、現世代のT個のパラメタベクトルpg_iについて画質評価値ag_iを算出する(S112)。ステップS111の直後は、初期世代のT個のパラメタベクトルp1_i(g=1)について画質評価値a1_iを算出する(S112)。ステップS112における画質評価値の算出は、図2のステップS2と同一の方法で行う。すなわち、ステップS112は、第1実施形態の図3に示すステップS201~S204に対応する。
制御部20は、現世代のT個のパラメタベクトルpg_iについて、画質評価値ag_iの算出が完了したか否かを判断する(S113)。現世代のT個のパラメタベクトルpg_iについての画質評価値ag_iの算出が完了していなければ、ステップS112に戻る。
現世代のT個のパラメタベクトルpg_iについての画質評価値ag_iの算出が完了すれば、制御部20は、現世代のT個の画質評価値ag_iに基づいて、次世代のT個のパラメタベクトルpg+1_i(i=1,2,・・・,T)を生成する(S114)。制御部20は、次世代のT個のパラメタベクトルpg+1_iの生成が完了したか否かを判断する(S115)。次世代のパラメタベクトルpg+1_iがT個に達するまで、ステップS114を繰り返す。
次世代のT個のパラメタベクトルpg+1_iの生成が完了すれば、次世代のT個のパラメタベクトルpg+1_iの各要素の値を現世代のT個のパラメタベクトルpg_iに移す(S116)。
制御部20は、現世代が最終世代に達したか否かを判断する(S117)。最終世代に達するまで、ステップS112~S117を繰り返す。
制御部20は、現世代が最終世代に達すると、ステップS116によって得られる最終世代のT個のパラメタベクトルpg_iを記憶部30に格納する(S118)。これにより、最終的に現世代の中で最も画質評価値の高いT個のパラメタベクトルが、遺伝的アルゴリズムの解として得られることになる。
図7は、次世代のT個のパラメタベクトルpg+1_iの生成(S114)の詳細を示している。制御部20は、ある確率でパラメタベクトルpg+1_iの生成方法を交叉、突然変異、及びコピーの中から決定する(S1141)。
決定した生成方法が交叉、突然変異、及びコピーのいずれであるかを判断し(S1142)、制御部20は、判断結果の交叉(S1143)、突然変異(S1144)、及びコピー(S1145)のいずれかによって、1つのパラメタベクトルpg+1_iを生成する。
図8は、交叉(S1143)の詳細を示すフローチャートである。制御部20は、ステップS112で算出したT個の画質評価値ag_iに基づいて、パラメタベクトルpg_iを2つ選択する(S431)。
パラメタベクトルpg_iの選択は、例えば、ルーレット選択によって行う。具体的には、画質評価値ag_iに基づいて、パラメタベクトルpg_iを選ぶ確率rを式(3)により算出する。確率rに基づいて、パラメタベクトルpg_iを選択する。
Figure 0007246029000003
パラメタベクトルpg_iの選択は、ランキング選択によって行ってもよい。例えば、ランクの確率を、一位なら確率r、二位なら確率r、三位なら確率rなどのように予め決めておく。T個の画質評価値ag_iに基づいて、T個のパラメタベクトルpg_iをランク付けし、ランク付けに対応する確率に基づいて、パラメタベクトルpg_iを選択する。
制御部20は、2つのパラメタベクトルpg_iをもとに1つの新たなパラメタベクトルpg+1_iを生成する(S432)。例えば、2つのパラメタベクトルpg_iの各要素を独立に1/2の確率で入れ替えて、パラメタベクトルpg+1_iを生成する。
図9は、突然変異(S1144)の詳細を示すフローチャートである。制御部20は、ステップS112で算出したT個の画質評価値ag_iに基づいて、パラメタベクトルpg_iを1つ選択する(S441)。パラメタベクトルpg_iの選択は、例えば、上述したルーレット選択又はランキング選択によって行う。制御部20は、選択したパラメタベクトルpg_iの各要素に変化を加えて1つの新たなパラメタベクトルpg+1_iを生成する(S442)。例えば、パラメタベクトルpg_iの各要素をランダムに変更する。具体的には、例えば、パラメタベクトルpg_iの各要素を独立に0.1%の確率で乱数又は事前に用意した値に入れ替えることによって、パラメタベクトルpg+1_iを生成する。
図10は、コピー(S1145)の詳細を示すフローチャートである。制御部20は、ステップS112で算出したT個の画質評価値ag_iに基づいて、パラメタベクトルpg_iを1つ選択する(S451)。パラメタベクトルpg_iの選択は、例えば、上述したルーレット選択又はランキング選択によって行う。制御部20は、選択したパラメタベクトルpg_iと同一の新たなパラメタベクトルpg+1_iを生成する(S452)。
これにより、ステップS11において生成されるT個のパラメタベクトルp,p,p,・・・,pは、画質評価値が高いパラメタベクトルとなる。よって、この中からステップS12~S15において、パラメタベクトルを1つ選択することによって、画質評価値がより高いパラメタベクトルを選択することができる。
(他の実施形態)
以上のように、本出願において開示する技術の例示として、上記第1及び第2実施形態を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施形態にも適用可能である。そこで、以下、他の実施形態を例示する。
上記実施形態は、画質評価値の算出(S204)において、深層学習を利用した顔認識に適したパラメタを決定する例として、特徴ベクトルのL2ノルムを使用した。しかし、画質評価値の算出方法は、上記実施形態に限らない。例えば、画質評価値は、特徴ベクトルを入力値とする関数によって、算出されてもよい。例えば、画質評価値の算出方法は、顔認識の手法に応じて変えてもよい。顔認識の手法として、Gaborフィルタを使用するものがある(「顔検出・顔認識のための統計的手法」、栗田多喜夫、産業技術総合研究所脳神経情報研究部門を参照)。この場合、Gabor特徴量に基づいて画質評価値を算出してもよい。Gabor特徴量は、Gaborフィルタを用いて算出することができる、特定の方向の特定の周波数成分に基づく特徴量である。このGabor特徴量は、ノイズの影響を受けることが知られている(例えば、第22回ファジィシステムシンポジウム、札幌、2006年9月6~8日、「ガボールフィルタを用いたコンクリート構造物上のひび割れ抽出に関する研究」を参照)。また、Gabor特徴量は、ボケの影響を受けることが知られている(第21回画像センシングシンポジウム、横浜、2015年6月、「ガボールフィルタを用いたぼけ領域検出に関する研究」を参照)。よって、顔画像のGabor特徴量に基づく画質評価値と顔認識性能には相関があると考えられる。Gabor特徴量に基づく画質評価値を算出する場合、ステップS204において、j番目(1,2,・・・,N)の顔画像の特徴ベクトルvi,j=(vi,j,1,vi,j,2,vi,j,3,・・・,vi,j,D)のうち、特定の周波数に該当する要素の総和を、j番目の顔画像の画質評価値ai,jとする。N個の顔画像の画質評価値ai,jに基づいて、式(2)により、パラメタベクトルpの画質評価値aを算出する。
上記実施形態では、1台のカメラ2に対して1つのカメラ制御装置3が接続されたが、1つのカメラ制御装置3に複数のカメラ2が接続されてもよい。撮像制御装置1に接続されるカメラ制御装置3の数は1つ以上であってもよい。
上記実施形態では、パラメタの決定はサーバなどの撮像制御装置1が行い、カメラ2へのパラメタの設定はパソコンなどのカメラ制御装置3が行う例について説明したが、撮像制御装置1とカメラ制御装置3の機能は一つの装置によって実行されてもよい。
上記実施形態では、撮像制御装置1がT個のパラメタベクトルpを生成したが(S1及びS11)、人がT個のパラメタベクトルpを生成してもよい。
上記実施形態では、カメラ制御装置3が、撮像制御装置1から受信したパラメタベクトルpにより、カメラ2を設定した。しかし、カメラ2の一部又は全部のパラメタの設定を、人が行ってもよい。
上記実施形態では、顔認識に適したパラメタ群を決定する例について説明したが、決定するパラメタ群は顔認識に適したものでなくてもよい。カメラ2の設置位置又は撮像データの使用用途等に応じたパラメタ群を決定してもよい。この場合、ステップS203で抽出する画像は顔画像に限定しない。また、特徴ベクトルは顔画像の特徴量を示すものに限定しない。自動認識しようとする対象に応じて、抽出する画像及び特徴量を変えてもよい。例えば、車の自動認識に適したパラメタ群を決定する場合、抽出する画像は車の画像であって、車の画像を学習したニューラルネットワークを使用して、車の特徴量を示す特徴ベクトルを生成してもよい。
(実施形態の概要)
(1)本開示の撮像制御装置は、カメラの撮影動作に関するパラメタ群を決定する撮像制御装置であって、カメラが生成した撮像データを入力する入力部と、撮像データに基づいて、パラメタ群の複数の候補の中からカメラに設定するパラメタ群を選択する制御部と、を備え、制御部は、各候補のパラメタ群に設定されたカメラが生成した撮像データを入力部を介して取得し、候補毎に撮像データから抽出対象をそれぞれ含む複数の抽出対象画像を抽出し、候補毎に複数の抽出対象画像に基づいて画質評価値を算出し、画質評価値に基づいて、パラメタ群の複数の候補の中からいずれか一つのパラメタ群を選択する。
このように、カメラ2の撮像データに基づいてパラメタ群を決定することによって、カメラ2の設置位置及び周辺環境の照明条件に応じたパラメタ値を選択することができる。また、人がパラメタ値を調整する必要がなくなるため、作業コストを軽減することができる。
(2)(1)の撮像制御装置において、制御部は、候補毎の画質評価値の中で最大となる画質評価値のパラメタ群を選択してもよい。
これにより、カメラ2の設置位置及び周辺環境の照明条件により適したパラメタ群を選択することができる。
(3)(1)又は(2)の撮像制御装置において、抽出対象は人の顔であり、画質評価値は顔認識に対する適合度に対応してもよい。
これにより、顔認識に適したパラメタ群が選択されるため、顔認識の性能が向上する。
(4)(1)から(3)の撮像制御装置において、制御部は、パラメタ群の複数の候補を、遺伝的アルゴリズムを使用して生成してもよい。
これにより、画質評価値が高いパラメタ群の候補の中から、よりよいパラメタ群が選択されうる。
(5)(1)から(4)の撮像制御装置において、制御部は、複数の抽出対象画像の特徴量のL2ノルムを算出することによって、画質評価値を算出してもよい。
(6)(1)から(4)の撮像制御装置において、制御部は、複数の抽出対象画像のGabor特徴量を算出することによって、画質評価値を算出してもよい。
(7)(1)から(6)の撮像制御装置において、パラメタ群は、絞り値、ゲイン、ホワイトバランス、シャッタースピード、及び焦点距離のうちの少なくとも2つを含んでもよい。
(8)本開示の撮像制御方法は、演算部により、カメラの撮影動作に関するパラメタ群を決定する撮像制御方法であって、パラメタ群の複数の候補の各々に設定されたカメラが生成した撮像データを入力部を介して取得し、候補毎に撮像データから抽出対象をそれぞれ含む複数の抽出対象画像を抽出し、候補毎に複数の抽出対象画像に基づいて画質評価値を算出し、画質評価値に基づいて、パラメタ群の複数の候補の中から、カメラに設定するパラメタ群を選択する。
本開示の全請求項に記載の撮像制御装置及び撮像制御方法は、ハードウェア資源、例えば、プロセッサ、メモリ、及びプログラムとの協働などによって、実現される。
本開示の撮像制御装置は、例えば、監視カメラのパラメタの設定に有用である。
1 撮像制御装置
2 カメラ
3 カメラ制御装置
10 通信部
20 制御部
30 記憶部

Claims (8)

  1. カメラの撮影動作に関し、自動顔認識に適したパラメタ群を決定する撮像制御装置であって、
    前記カメラが生成した撮像データを入力する入力部と、
    前記撮像データに基づいて、前記パラメタ群の複数の候補の中から前記カメラに設定するパラメタ群を選択する制御部と、
    を備え、
    前記制御部は、
    前記パラメタ群の前記複数の候補の各々に設定されたカメラが生成した撮像データを前記入力部を介して取得し、
    前記候補毎に前記撮像データから人の顔をそれぞれ含む複数の顔画像を抽出し、
    前記候補毎に前記複数の顔画像に基づいて、自動顔認識に対する適合度に対応する画質評価値を算出し、
    前記画質評価値に基づいて、前記パラメタ群の複数の候補の中からいずれか一つのパラメタ群を選択する、
    撮像制御装置。
  2. 前記制御部は、前記候補毎の画質評価値の中で最大となる画質評価値のパラメタ群を選択する、
    請求項1に記載の撮像制御装置。
  3. 前記制御部は、前記パラメタ群の複数の候補を、遺伝的アルゴリズムを使用して生成する、
    請求項1または請求項2に記載の撮像制御装置。
  4. 前記制御部は、前記複数の顔画像のそれぞれの特徴量のL2ノルムを算出し、前記L2ノルムに基づいて前記画質評価値を算出する、請求項1から請求項3のいずれかに記載の撮像制御装置。
  5. 前記制御部は、前記複数の顔画像のそれぞれのGabor特徴量を算出し、前記Gabor特徴量に基づいて前記画質評価値を算出する、請求項1から請求項3のいずれかに記載の撮像制御装置。
  6. 前記パラメタ群は、絞り値、ゲイン、ホワイトバランス、シャッタースピード、及び焦点距離のうちの少なくとも2つを含む、請求項1から請求項5のいずれかに記載の撮像制御装置。
  7. 演算部により、カメラの撮影動作に関し、自動顔認識に適したパラメタ群を決定する撮像制御方法であって、
    前記パラメタ群の複数の候補の各々に設定されたカメラが生成した撮像データを入力部を介して取得し、
    前記候補毎に前記撮像データから人の顔をそれぞれ含む複数の顔画像を抽出し、
    前記候補毎に前記複数の顔画像に基づいて、自動顔認識に対する適合度に対応する画質評価値を算出し、
    前記画質評価値に基づいて、前記パラメタ群の複数の候補の中から、前記カメラに設定するパラメタ群を選択する、
    撮像制御方法。
  8. コンピュータに請求項7に記載の撮像制御方法を実行させるためのプログラム。
JP2020525330A 2018-06-11 2019-05-07 撮像制御装置、撮像制御方法、及びプログラム Active JP7246029B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018111389 2018-06-11
JP2018111389 2018-06-11
PCT/JP2019/018270 WO2019239744A1 (ja) 2018-06-11 2019-05-07 撮像制御装置、撮像制御方法、及びプログラム

Publications (3)

Publication Number Publication Date
JPWO2019239744A1 JPWO2019239744A1 (ja) 2021-08-26
JPWO2019239744A5 JPWO2019239744A5 (ja) 2022-05-06
JP7246029B2 true JP7246029B2 (ja) 2023-03-27

Family

ID=68843180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020525330A Active JP7246029B2 (ja) 2018-06-11 2019-05-07 撮像制御装置、撮像制御方法、及びプログラム

Country Status (5)

Country Link
US (1) US20210112191A1 (ja)
EP (1) EP3806447A4 (ja)
JP (1) JP7246029B2 (ja)
CN (1) CN112272945A (ja)
WO (1) WO2019239744A1 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007119355A1 (ja) 2006-03-15 2007-10-25 Omron Corporation 追尾装置、追尾方法、追尾装置の制御プログラム、およびコンピュータ読み取り可能な記録媒体
JP2008191816A (ja) 2007-02-02 2008-08-21 Sony Corp 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
US20090196509A1 (en) 2008-02-06 2009-08-06 O2Micro, Inc. System and method for optimizing camera settings
JP2011100229A (ja) 2009-11-04 2011-05-19 Canon Inc 画像処理装置、画像処理方法
WO2013114862A1 (ja) 2012-01-30 2013-08-08 パナソニック株式会社 最適カメラ設定装置及び最適カメラ設定方法
US20140148690A1 (en) 2012-11-26 2014-05-29 Samsung Electronics Co., Ltd. Method and apparatus for medical image registration
JP2016537912A (ja) 2013-10-30 2016-12-01 インテル コーポレイション 画像キャプチャフィードバック
JP2017224025A (ja) 2016-06-13 2017-12-21 株式会社キーエンス 画像処理センサ及び画像処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS4921204B1 (ja) 1970-12-22 1974-05-30
JPS5829679B2 (ja) 1977-03-01 1983-06-24 日本電気株式会社 時分割通話路制御方式
US7616233B2 (en) * 2003-06-26 2009-11-10 Fotonation Vision Limited Perfecting of digital image capture parameters within acquisition devices using face detection
JP2007094535A (ja) * 2005-09-27 2007-04-12 Konica Minolta Photo Imaging Inc 認証システム及び認証方法
JP6347589B2 (ja) * 2013-10-30 2018-06-27 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
CN104270566B (zh) * 2014-09-01 2018-09-07 深圳市思谋科技有限公司 摄像直读抄表装置、系统、提高读数识别率的方法和装置
JP6789698B2 (ja) * 2016-07-01 2020-11-25 キヤノン株式会社 画像処理装置、画像処理装置の制御方法およびプログラム
JP6972797B2 (ja) * 2016-11-24 2021-11-24 株式会社リコー 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及びプログラム
CN107977674B (zh) * 2017-11-21 2020-02-18 Oppo广东移动通信有限公司 图像处理方法、装置、移动终端及计算机可读存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007119355A1 (ja) 2006-03-15 2007-10-25 Omron Corporation 追尾装置、追尾方法、追尾装置の制御プログラム、およびコンピュータ読み取り可能な記録媒体
JP2008191816A (ja) 2007-02-02 2008-08-21 Sony Corp 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
US20090196509A1 (en) 2008-02-06 2009-08-06 O2Micro, Inc. System and method for optimizing camera settings
JP2011100229A (ja) 2009-11-04 2011-05-19 Canon Inc 画像処理装置、画像処理方法
WO2013114862A1 (ja) 2012-01-30 2013-08-08 パナソニック株式会社 最適カメラ設定装置及び最適カメラ設定方法
US20140148690A1 (en) 2012-11-26 2014-05-29 Samsung Electronics Co., Ltd. Method and apparatus for medical image registration
JP2016537912A (ja) 2013-10-30 2016-12-01 インテル コーポレイション 画像キャプチャフィードバック
JP2017224025A (ja) 2016-06-13 2017-12-21 株式会社キーエンス 画像処理センサ及び画像処理方法

Also Published As

Publication number Publication date
EP3806447A1 (en) 2021-04-14
CN112272945A (zh) 2021-01-26
US20210112191A1 (en) 2021-04-15
EP3806447A4 (en) 2021-07-14
WO2019239744A1 (ja) 2019-12-19
JPWO2019239744A1 (ja) 2021-08-26

Similar Documents

Publication Publication Date Title
US10949952B2 (en) Performing detail enhancement on a target in a denoised image
US10070053B2 (en) Method and camera for determining an image adjustment parameter
CN107258077B (zh) 用于连续自动聚焦(caf)的系统和方法
CN111107276B (zh) 信息处理设备及其控制方法、存储介质以及摄像系统
JP2009271577A (ja) 類似画像検索の結果表示装置及び類似画像検索の結果表示方法
US9152839B2 (en) Method and apparatus for optical fingerprint recognition using multiple exposure
KR102476022B1 (ko) 얼굴검출 방법 및 그 장치
EP2309454A2 (en) Apparatus and method for detecting motion
WO2021061341A1 (en) Method and system for facilitating improved training of a supervised machine learning process
CN107787463A (zh) 优化对焦堆栈的捕获
CN113313626A (zh) 图像处理方法、装置、电子设备及存储介质
KR20190120106A (ko) 동영상의 대표 이미지를 결정하는 방법 및 그 방법을 처리하는 전자 장치
CN115760912A (zh) 运动目标跟踪方法、装置、设备及计算机可读存储介质
CN108259769B (zh) 图像处理方法、装置、存储介质及电子设备
JP7074174B2 (ja) 識別器学習装置、識別器学習方法およびコンピュータプログラム
JP2018084861A (ja) 情報処理装置、情報処理方法、及び情報処理プログラム
CN110933304B (zh) 待虚化区域的确定方法、装置、存储介质与终端设备
JP7246029B2 (ja) 撮像制御装置、撮像制御方法、及びプログラム
CN109218620B (zh) 基于环境亮度的拍照方法、装置、存储介质及移动终端
JP2018018500A (ja) 顔識別方法
CN105323460B (zh) 图像处理设备及其控制方法
JP6071714B2 (ja) 画像処理装置、およびその制御方法
JP2011040860A (ja) 画像処理装置及び画像処理プログラム
JP7250433B2 (ja) 撮像装置、制御方法及びプログラム
US20230064329A1 (en) Identification model generation apparatus, identification apparatus, identification model generation method, identification method, and storage medium

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20201109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220422

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230303

R151 Written notification of patent or utility model registration

Ref document number: 7246029

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151