JP7173056B2 - 認識装置と認識方法およびプログラム - Google Patents

認識装置と認識方法およびプログラム Download PDF

Info

Publication number
JP7173056B2
JP7173056B2 JP2019570304A JP2019570304A JP7173056B2 JP 7173056 B2 JP7173056 B2 JP 7173056B2 JP 2019570304 A JP2019570304 A JP 2019570304A JP 2019570304 A JP2019570304 A JP 2019570304A JP 7173056 B2 JP7173056 B2 JP 7173056B2
Authority
JP
Japan
Prior art keywords
recognition
imaging
unit
signal
recognizer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019570304A
Other languages
English (en)
Other versions
JPWO2019155718A1 (ja
Inventor
卓 青木
竜太 佐藤
啓太郎 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2019155718A1 publication Critical patent/JPWO2019155718A1/ja
Application granted granted Critical
Publication of JP7173056B2 publication Critical patent/JP7173056B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/285Selection of pattern recognition techniques, e.g. of classifiers in a multi-classifier system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/87Arrangements for image or video recognition or understanding using pattern recognition or machine learning using selection of the recognition techniques, e.g. of a classifier in a multiple classifier system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

この技術は、認識装置と認識方法およびプログラムに関し、撮像画に含まれる被写体を精度よく認識できるようにする。
従来、夜間に被写体を精度よく検出するため、撮像時の露光量を自動的に切り替えることが行われている。例えば特許文献1では点灯された灯火類の輪郭部分を撮像可能な第1撮像モードと、灯火類を有しない対象を検出可能な第2撮像モードで撮像モードの切り替えが行われている。
特開2009-234344号公報
ところで、認識器を用いて撮像画に含まれる被写体の認識を行う場合、例えばノイズが多い撮像画で認識精度の低下を招くおそれがある。また、ノイズの少ない撮像画を取得するために、露光時間を長くして光量を増やすと、動きを生じた被写体の画像はボケを生じてしまい、絞りを広げて光量を増やすと、被写界深度が浅くなってしまい、ボケの少ない撮像画を取得できない。
そこで、この技術では撮像画に含まれる被写体を容易に精度よく認識できる認識装置と認識方法およびプログラムを提供することを目的とする。
この技術の第1の側面は、
撮像領域の光量検出結果に基づき選択判別情報を生成する認識制御部と、
前記撮像領域を示す撮像画についての被写体認識処理を、前記認識制御部で生成された前記選択判別情報に基づいて選択した認識器を用いて行う認識処理部と
を備える認識装置。
この技術においては、撮像領域の光量検出結果に基づき選択判別情報が生成される。撮像領域の光量は、撮像画を取得する撮像部の動作を制御する制御信号と撮像部で生成された画像信号に基づいて検出する。制御信号は、絞り,シャッター速度,アナログゲイン調整および階調変換の少なくとも何れかを制御する信号であり、例えば絞りとシャッター速度とアナログゲイン調整および階調変換の制御信号と、アナログゲイン調整と階調変換が行われた画像信号に基づいて検出する。また、例えば絞りとシャッター速度とアナログゲイン調整の制御信号とアナログゲイン調整が行われた画像信号に基づいて検出してもよい。また、絞りとシャッター速度の制御信号とアナログゲイン調整が行われる前の画像信号に基づいて検出してもよい。さらに、撮像部で生成された画像信号と撮像環境照度を検出する照度検出部で検出された照度に基づいて光量を検出してもよい。
認識制御部は、光量検出結果に基づきノイズ推定を行い、ノイズ推定結果を選択判別情報とする。認識処理部は、選択判別情報に基づき認識器を選択する。例えば、認識処理部は、選択判別情報で示されたノイズが閾値以下である場合に第1の認識器を選択して、選択判別情報で示されたノイズが閾値よりも多い場合に第1の認識器よりもノイズに強い第2の認識器を選択する。なお、認識処理部は、選択判別情報に基づいて撮像画の領域分割を行い、分割された領域毎に認識器を選択する。また、認識制御部は、撮像画を取得する撮像部の動作を制御する制御信号によって示された階調変換の変換関数情報に基づいて撮像画の領域分割を行い、分割された領域毎に選択判別情報を生成してもよい。
この技術の第2の側面は、
撮像領域の光量検出結果に基づき選択判別情報を認識制御部で生成することと、
前記撮像領域を示す撮像画についての被写体認識処理を、前記認識制御部で生成された選択判別情報に基づいて選択した認識器を用いて認識処理部で行うことと
を含む認識方法にある。
この技術の第3の側面は、
認識処理をコンピュータで実行させるプログラムであって、
撮像領域の光量検出結果に基づき選択判別情報を生成する手順と、
前記撮像領域を示す撮像画についての被写体認識処理を、前記選択判別情報に基づいて選択した認識器を用いて行う手順と
を前記コンピュータで実行させるプログラムにある。
なお、本技術のプログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ上でプログラムに応じた処理が実現される。
この技術によれば、撮像領域の光量検出結果に基づき選択判別情報が生成されて、選択判別情報に基づいて選択した認識器を用いて、撮像領域を示す撮像画について被写体認識処理が行われる。したがって、撮像画に含まれる被写体を容易に精度よく認識できるようになる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
認識装置の構成を例示した図である。 第1の実施の形態の構成を例示した図である。 第1の実施の形態の動作を示すフローチャートである。 光量とS/N比の関係を例示した図である。 領域区分を説明するための図である。 階調変換の変換関数を例示した図である。 第1の実施の形態の動作例を示した図である。 第2の実施の形態の構成を例示した図である。 第3の実施の形態の構成を例示した図である。 第4の実施の形態の構成を例示した図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.認識装置の構成
2.第1の実施の形態
3.第2の実施の形態
4.第3の実施の形態
5.第4の実施の形態
6.応用例
<1.認識装置の構成>
図1は、認識装置の構成を例示している。認識装置10は、カメラ部20、カメラ制御部30、認識制御部40、認識処理部50を有している。なお、カメラ部20やカメラ制御部30は、認識装置10と別個に設けられていてもよい。
カメラ部20は、所望の撮像領域を示す撮像画の画像信号を生成して認識処理部50へ出力する。カメラ制御部30は、制御信号をカメラ部20に出力して、カメラ部20のシャッタースピードや絞り,アナログゲイン、階調変換等を制御する。また、カメラ制御部30は、制御信号を認識制御部40へ出力する。
認識制御部40は、カメラ制御部30からの制御信号やカメラ部20で生成した画像信号に基づき、撮像領域の光量を検出する。また、認識装置10に照度検出部60を設けて、認識制御部40は、照度検出部60からの照度検出信号に基づき撮像領域の光量を検出してもよい。認識制御部40は、検出した光量に基づき選択判別情報を生成して認識処理部50へ出力する。例えば、認識制御部40は、光量検出結果に基づきノイズ推定を行い、ノイズ推定結果を選択判別情報とする。
認識処理部50は、選択判別情報に基づき選択した認識器を用いて、カメラ部20で取得された撮像画について被写体認識処理を行う。
<2.第1の実施の形態>
次に、認識装置の第1の実施の形態について説明する。図2は、認識装置の第1の実施の形態の構成を例示している。
カメラ部20は、光学系ブロック21、撮像部22、ゲイン調整部23、A/D(アナログ/ディジタル)変換部24、階調変換部25を有している。
光学系ブロック21は光学レンズ211と絞り機構212を有している。光学レンズ211は、被写体光学像を撮像部22の撮像素子の撮像面に結像させる。また、絞り機構212は、撮像面に結像される被写体光学像の光量を調整する。光学系ブロック21は、カメラ制御部30から供給された制御信号に基づき光学レンズ211を移動して、フォーカス動作やズーム動作を行う。また、光学系ブロック21では、制御信号に基づき絞り機構212を駆動して、被写体光学像の光量を調整する。
撮像部22は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)等の撮像素子を用いて構成されている。撮像部22は、光電変換を行い、被写体光学像に応じた画像信号を生成してゲイン調整部23へ出力する。また、撮像部22は、カメラ制御部30から供給された制御信号に基づき撮像素子の露光期間を制御して、所望のシャッター速度で撮像を行う。なお、撮像動作における露光期間は、光学系ブロック21にシャッター機構を設けて、カメラ制御部30からの制御信号に基づきシャッター機構を駆動することで変更可能とされてもよい。
ゲイン調整部23は、撮像部22で生成されたアナログ画像信号のゲイン調整(アナログゲイン調整ともいう)を行って、A/D変換部24へ出力する。A/D変換部24は、アナログゲイン調整後の画像信号をアナログ信号からディジタル信号に変換して階調変換部25へ出力する。
階調変換部25は、A/D変換部24から供給された画像信号に対して、制御信号に基づいた変換関数を用いて輝度の階調を圧縮する。階調変換部25は、階調変換後の画像信号を認識制御部40と認識処理部50へ出力する。
カメラ制御部30は、制御信号を生成してカメラ部20に供給して、カメラ部20における各部の動作を制御する。また、カメラ制御部30は、制御信号を認識制御部40へ出力する。
認識制御部40は、光量検出部41とノイズ推定部42を有している。光量検出部41は、カメラ部20から供給された画像信号とカメラ制御部30から供給された制御信号に基づき、撮像領域の光量を検出する。ノイズ推定部42は、光量検出部41の光量検出結果に基づきノイズを推定して、推定結果を示すノイズ情報を生成する。ノイズ推定部42は、生成したノイズ情報を選択判別情報として認識処理部50へ出力する。
認識処理部50は、認識器選択部51と複数の認識器52-1~52-nを有している。例えば認識処理部50は、ノイズの少ない学習画像を用いて機械学習等を行うことで、ノイズの少ない撮像画から高精度に被写体を認識できる認識器と、ノイズの多い学習画像を用いて機械学習等を行うことで、ノイズの多い撮像画から高精度に被写体を認識できる認識器を有している。認識器選択部51は、認識制御部40からの選択判別情報に基づき撮像領域の領域区分処理を行い、区分された領域毎に認識器を選択して、選択した認識器52-1(52-n)を用いて、カメラ部20から供給された画像信号に基づき被写体認識を行う。
次に、認識装置の第1の実施の形態の動作について説明する。図3は、第1の実施の形態の動作を示すフローチャートである。ステップST1で認識装置は撮像画を取得する。カメラ部20では、撮像素子で生成された画像信号のアナログゲイン調整、アナログゲイン調整後の画像信号をアナログ信号からディジタル信号へのA/D変換、A/D変換後の画像信号の階調変換等を行い、画像信号を生成する。認識装置10の認識処理部50は、カメラ部20で生成された撮像画の画像信号を取得してステップST2に進む。
ステップST2で認識装置は、光量関連情報を取得する。光量関連情報は、撮像領域の光量に応じた変化を生じるパラメータに関する情報である。例えば絞り値、シャッター速度、アナログゲイン調整値、階調変換の変換関数f(u,v,I(u,v))は、撮像領域の光量に応じて調整されるパラメータであり、これらのパラメータに関する制御信号は光量関連情報として用いることができる。なお、変換関数f(u,v,I(u,v))において、パラメータu,vは撮像画における位置、パラメータI(u,v)は位置(u,v)の輝度を示している。カメラ部20で生成される画像信号は、光量に応じて信号レベルが変化することから、光量関連情報として用いることができる。したがって、認識装置10の認識制御部40は、カメラ制御部30から出力される制御信号やカメラ部20で生成された画像信号を光量関連情報として取得してステップST3に進む。
ステップST3で認識装置は、光量を検出する。認識制御部40は、ステップST2で出力した光量関連情報に基づき、撮像領域の光量を検出する。
ここで、光量の検出処理について説明する。撮像画における位置(u,v)の階調変換前(A/D変換後)の画像信号の信号値I(u,v)は、撮像画における位置(u,v)の被写体の光量L(u,v)、絞り状態に関する絞り情報F、露光時間に関するシャッター速度情報S、アナログゲイン調整に関するゲイン情報Gに基づき、式(1)の関係が成り立つ。
I(u,v)=L(u,v)*S*F*G ・・・(1)
また、階調変換の変換関数に撮像画における位置(u,v)の階調変換前の画像信号の信号値I(u,v)を入力することで、式(2)に示すように、階調変換後の位置(u,v)の画像信号を信号値J(u,v)が得られる。
J(u,v)=f(u,v,I(u,v)) ・・・(2)
したがって、式(3)に基づき算出される光量L’(u,v)は、位置(u,v)の被写体の光量を示すことになる。
L’(u,v)=f-1(u,v,J(u,v))/(S*F*G) ・・・(3)
このようにして、認識制御部40は撮像領域の光量を検出してステップST4に進む。
ステップST4で認識装置は、光量の検出結果に基づき選択判別情報を生成する。認識装置10の認識制御部40には、例えば光量とS/Nの関係を示す特性情報が予め記憶されており、光量関連情報に基づき検出された光量におけるノイズを推定する。図4は、特性情報で示されている光量とS/N比の関係を例示している。認識制御部40は、ノイズ情報すなわち光量関連情報に基づき検出された光量に対応するS/N比を、選択判別情報としてステップST5に進む。
ステップST5で認識装置は領域区分処理を行う。認識装置10の認識処理部50は、ステップST4で生成された選択判別情報に基づいて撮像領域を例えばノイズの多い領域とノイズの少ない領域に区分する。図5は、領域区分を説明するための図である。認識処理部50は、選択判別情報(S/N比)を閾値THsnと比較して、選択判別情報(S/N比)が閾値THsn以下である場合はノイズの多い領域、選択判別情報(S/N比)が閾値THsnより大きい場合はノイズの少ない領域としてステップST6に進む。
ステップST6で認識装置は領域毎に認識器を選択する。認識装置10の認識処理部50は、ステップST5で区分された領域毎に、認識処理で用いる認識器を選択する。認識処理部50は、ノイズの少ない領域では、ノイズの少ない撮像画から高精度に被写体を認識できる認識器を選択して、ノイズの多い領域では、ノイズの多い撮像画から高精度に被写体を認識できる認識器を選択してステップST7に進む。
ステップST7で認識装置は認識処理を行う。認識装置10の認識処理部50は、ステップST6で選択した認識器を用いて、領域毎に被写体認識を行って処理を終了する。
また、ステップST2で取得した光量関連情報に、領域区分に関する情報が含まれる場合、ステップST3とステップST4では、領域毎に光量の検出やノイズの推定を行ってもよい。例えば、画面全体で一律に階調変換を行うと白飛びや黒潰れが生じるため、領域毎に階調変換関数を切り替える場合がある。図6は、階調変換の変換関数を例示している。図6の(a)は、黒潰れが生じる場合に用いられる階調変換特性を示しており、変換前の信号レベルが小さい場合は、信号レベル変化が大きくなるように階調変換が行われる。また、図6の(b)は、白飛びや黒潰れが生じない場合に用いられる階調変換特性を例示している。このように階調変換で変換関数の切り替えが行われる場合、認識制御部40は、撮像画を取得する撮像部の階調変換切替動作に応じて撮像領域の領域分割を行い、分割された領域毎に選択判別情報を生成してもよい。
図7は第1の実施の形態の動作例を示している。認識制御部40は、光量関連情報に基づき撮像領域の光量を検出して、光量検出結果に基づき選択判別情報を生成する。ここで、選択判別情報によって、領域ARaがノイズの多い領域、領域ARbがノイズの少ない領域であることが示されている場合、認識処理部50は、領域ARaではノイズの多い撮像画から高精度に被写体を認識できる認識器を選択する。また、認識処理部50は、領域ARbではノイズの少ない撮像画から高精度に被写体を認識できる認識器を選択する。さらに、認識処理部50は、選択した認識器を用いて被写体認識を行う。したがって、認識領域を示す認識枠TAを矢印方向に順次移動させて被写体認識を行った場合、例えば光量の少ない領域ARaの被写体と光量の多い領域ARbの被写体を容易に精度よく認識できるようになる。
このように、第1の実施の形態によれば、光量関連情報に基づき撮像領域の光量が検出されて、検出された光量に基づき生成された選択判別情報に基づき認識器を選択して、撮像領域の撮像画について被写体認識処理が行われる。例えば撮像画におけるノイズの多い領域では、ノイズの多い撮像画から高精度に被写体を認識できる認識器を用いて被写体認識が行われる。また、撮像画におけるノイズの少ない領域では、ノイズの少ない撮像画から高精度に被写体を認識できる認識器を用いて被写体認識が行われる。すなわち、ノイズの少ない撮像画を取得するために、露光時間を長くしてあるいは絞りを広げて光量を増やす処理を行わなくとも、最適な認識器が自動的に選択されて認識処理を行うことができる。また、ノイズを推定するために画像信号をメモリに記憶してノイズ推定のための処理を行う必要がないので、必要とされるメモリ容量や処理量の増加を招くことがない。したがって、撮像画に含まれる被写体を容易に精度よく認識できるようになる。
<3.第2の実施の形態>
次に、第2の実施の形態について説明する。第2の実施の形態では、階調変換よりも前段階の制御信号と階調変換が行われる前の画像信号を光量関連情報として用いて、階調変換の影響を受けることなく光量の検出を行う。
図8は、認識装置の第2の実施の形態の構成を例示している。カメラ部20は、光学系ブロック21、撮像部22、ゲイン調整部23、A/D(アナログ/ディジタル)変換部24、階調変換部25を有している。
光学系ブロック21は光学レンズ211と絞り機構212を有している。光学系ブロック21は、カメラ制御部30から供給された制御信号に基づき光学レンズ211を移動して、フォーカス動作やズーム動作を行う。また、光学系ブロック21は、制御信号に基づき絞り機構212を駆動して、被写体光学像の光量を調整する。
撮像部22は、被写体光学像に応じた画像信号を生成してゲイン調整部23へ出力する。また、撮像部22は、カメラ制御部30から供給された制御信号に基づき撮像素子の露光期間を制御して、所望のシャッター速度で撮像を行う。なお、撮像動作における露光期間は、光学系ブロック21に設けたシャッター機構を駆動することで変更可能とされてもよい。
ゲイン調整部23は、撮像部22で生成された画像信号のアナログゲイン調整を行って、A/D変換部24へ出力する。A/D変換部24は、アナログゲイン調整後の画像信号をアナログ信号からディジタル信号に変換して階調変換部25と認識制御部40へ出力する。
階調変換部25は、A/D変換部24から供給された画像信号に対して、制御信号に基づく変換関数を用いて輝度の階調を圧縮する。階調変換部25は、階調変換後の画像信号を認識処理部50へ出力する。
カメラ制御部30は、制御信号を生成してカメラ部20に供給して、カメラ部20における各部の動作を制御する。また、カメラ制御部30は、制御信号を認識制御部40へ出力する。
認識制御部40は、光量検出部41とノイズ推定部42を有している。光量検出部41は、カメラ部20から供給された階調変換前の画像信号とカメラ制御部30から供給された階調変換よりも前段階の処理に関する制御信号に基づき、撮像領域の光量を検出する。
ノイズ推定部42は、光量検出部41の光量検出結果に基づきノイズを推定して、推定結果を示すノイズ情報を生成する。ノイズ推定部42は、生成したノイズ情報を選択判別情報として認識処理部50へ出力する。
認識処理部50は、認識器選択部51と複数の認識器52-1~52-nを有している。例えば認識処理部50は、ノイズの少ない撮像画から高精度に被写体を認識できる認識器と、ノイズの多い撮像画から高精度に被写体を認識できる認識器を有している。認識器選択部51は、認識制御部40からの選択判別情報に基づき撮像領域の領域区分処理を行い、区分された領域毎に認識器を選択して、選択した認識器52-1(52-n)を用いて、カメラ部20から供給された画像信号に基づき被写体認識を行う。
認識装置の第2の実施の形態の動作では、図3に示す第1の実施の形態の動作と同様な処理を行い、ステップST2とステップST3の処理内容が第1の実施の形態と相違する。
ステップST2で認識装置は、光量関連情報を取得する。光量関連情報としては、例えば絞り値情報F、シャッター速度情報S、ゲイン情報Gを用いる。また、撮像領域の光量に応じて信号レベルが変化しており、階調変換による情報の劣化を生じていない階調変換前の画像信号を、光量関連情報として用いる。認識装置10の認識制御部40は、このように光量関連情報を取得してステップST3に進む。
ステップST3で認識装置は、光量を検出する。認識制御部40は、ステップST2で出力した光量関連情報に基づき、撮像領域の光量を検出する。
ここで、光量の検出処理について説明する。撮像画のおける位置(u,v)の被写体を光量L(u,v)、位置(u,v)の階調変換前の画像信号を信号値I(u,v)とすると、上述の式(1)の関係が成り立つ。
したがって、式(4)に基づき算出される光量L’(u,v)は、位置(u,v)の被写体の光量を示す。
L’(u,v)=I(u,v))/(S*F*G) ・・・(4)
このようにして、認識制御部40は撮像領域の光量を検出する。その後、第1の実施の形態と同様に、光量の検出結果に基づきノイズ推定を行い、推定結果を示すノイズ情報を選択判別情報とする。さらに、認識処理部50は、選択判別情報に基づき領域区分処理を行い、領域毎に認識器を選択して被写体認識を行う。
このように、第2の実施の形態によれば、階調変換によって情報量の劣化が生じても、この情報量の劣化の影響を受けることなく被写体認識を行うことができるようになる。また、第2の実施の形態では、第1の実施の形態と同様に、撮像画に含まれる被写体を容易に精度よく認識できる。
<4.第3の実施の形態>
次に、第3の実施の形態について説明する。第3の実施の形態では、アナログゲイン調整よりも前段階の制御信号とアナログゲイン調整が行われる前の画像信号を光量関連情報として用いて光量の検出を行う。
図9は、認識装置の第3の実施の形態の構成を例示している。カメラ部20は、光学系ブロック21、撮像部22、ゲイン調整部23、A/D(アナログ/ディジタル)変換部24、階調変換部25を有している。
光学系ブロック21は光学レンズ211と絞り機構212を有している。光学系ブロック21は、カメラ制御部30から供給された制御信号に基づき光学レンズ211を移動して、フォーカス動作やズーム動作を行う。また、光学系ブロック21は、制御信号に基づき絞り機構212を駆動して、被写体光学像の光量を調整する。
撮像部22は、被写体光学像に応じた画像信号を生成してゲイン調整部23と認識制御部40へ出力する。また、撮像部22は、カメラ制御部30から供給された制御信号に基づき撮像素子の露光期間を制御して、所望のシャッター速度で撮像を行う。なお、撮像動作における露光期間は、光学系ブロック21に設けたシャッター機構を駆動することで変更可能とされてもよい。
ゲイン調整部23は、撮像部22で生成された画像信号のアナログゲイン調整を行って、A/D変換部24へ出力する。A/D変換部24は、アナログゲイン調整後の画像信号をアナログ信号からディジタル信号に変換して階調変換部25へ出力する。
階調変換部25は、A/D変換部24から供給された画像信号に対して、制御信号に基づく変換関数を用いて輝度の階調を圧縮する。階調変換部25は、階調変換後の画像信号を認識処理部50へ出力する。
カメラ制御部30は、制御信号を生成してカメラ部20に供給して、カメラ部20における各部の動作を制御する。また、カメラ制御部30は、制御信号を認識制御部40へ出力する。
認識制御部40は、光量検出部41とノイズ推定部42を有している。光量検出部41は、カメラ部20から供給されたアナログゲイン調整前の画像信号とカメラ制御部30から供給されたアナログゲイン調整よりも前段階の処理に関する制御信号に基づき、撮像領域の光量を検出する。
ノイズ推定部42は、光量検出部41の光量検出結果に基づきノイズを推定して、推定結果を示すノイズ情報を生成する。ノイズ推定部42は、生成したノイズ情報を選択判別情報として認識処理部50へ出力する。
認識処理部50は、認識器選択部51と複数の認識器52-1~52-nを有している。例えば認識処理部50は、ノイズの少ない撮像画から高精度に被写体を認識できる認識器と、ノイズの多い撮像画から高精度に被写体を認識できる認識器を有している。認識器選択部51は、認識制御部40からの選択判別情報に基づき撮像領域の領域区分処理を行い、区分された領域毎に認識器を選択して、選択した認識器52-1(52-n)を用いて、カメラ部20から供給された画像信号に基づき被写体認識を行う。
認識装置の第3の実施の形態の動作では、図3に示す第1の実施の形態の動作と同様な処理を行い、ステップST2とステップST3の処理内容が第1の実施の形態と相違する。
ステップST2で認識装置は、光量関連情報を取得する。ここで、光量関連情報としては、例えば絞り値情報F、シャッター速度情報Sを光量関連情報として用いる。また、撮像領域の光量に応じて信号レベルが変化するアナログゲイン調整前の画像信号を光量関連情報として用いる。認識装置10の認識制御部40は、このように光量関連情報を取得してステップST3に進む。
ステップST3で認識装置は、光量を検出する。認識制御部40は、ステップST2で出力した光量関連情報に基づき、撮像領域の光量を検出する。
ここで、光量の検出処理について説明する。撮像画のおける位置(u,v)の被写体を光量L(u,v)、位置(u,v)のアナログゲイン調整前の画像信号を信号値A(u,v)とすると、式(5)の関係が成り立つ。
A(u,v)=L(u,v)*S*F ・・・(5)
したがって、式(6)に基づき算出される光量L’(u,v)は、位置(u,v)の被写体の光量を示す。
L’(u,v)=A(u,v))/(S*F) ・・・(6)
このようにして、認識制御部40は撮像領域の光量を検出する。その後、第1の実施の形態と同様に、光量の検出結果に基づきノイズ推定を行い、推定結果を示すノイズ情報を選択判別情報とする。さらに、認識処理部50は、選択判別情報に基づき領域区分処理を行い、領域毎に認識器を選択して被写体認識を行う。
このように、第3の実施の形態によれば、階調変換やアナログゲイン調整で情報量の劣化が生じても、この情報量の劣化の影響を受けることなく被写体認識を行うことができるようになる。また、第3の実施の形態では、第1の実施の形態と同様に、撮像画に含まれる被写体を容易に精度よく認識できる。
<5.第4の実施の形態>
上述の第1乃至第3の実施の形態では、カメラ制御部30で生成された制御信号を用いて光量を検出する場合を例示したが、認識装置の構成によっては制御信号を取得できない場合がある。例えばカメラ部20とカメラ制御部30が認識装置と別個に設けられており、カメラ制御部30と認識制御部40と間で制御信号の通信を行うことができない場合、制御信号を光量関連情報として利用することができない。そこで、第4の実施の形態では、制御信号を用いることなく撮像領域の光量を検出する場合について説明する。
図10は、認識装置の第4の実施の形態の構成を例示している。カメラ部20は、光学系ブロック21、撮像部22、ゲイン調整部23、A/D(アナログ/ディジタル)変換部24、階調変換部25を有している。
光学系ブロック21は光学レンズ211と絞り機構212を有している。光学系ブロック21は、カメラ制御部30から供給された制御信号に基づき光学レンズ211を移動して、フォーカス動作やズーム動作を行う。また、光学系ブロック21は、制御信号に基づき絞り機構212を駆動して、被写体光学像の光量を調整する。
撮像部22は、被写体光学像に応じた画像信号を生成してゲイン調整部23へ出力する。また、撮像部22は、カメラ制御部30から供給された制御信号に基づき撮像素子の露光期間を制御して、所望のシャッター速度で撮像を行う。なお、撮像動作における露光期間は、光学系ブロック21に設けたシャッター機構を駆動することで変更可能とされてもよい。
ゲイン調整部23は、撮像部22で生成された画像信号のアナログゲイン調整を行って、A/D変換部24へ出力する。A/D変換部24は、アナログゲイン調整後の画像信号をアナログ信号からディジタル信号に変換して階調変換部25へ出力する。
階調変換部25は、A/D変換部24から供給された画像信号に対して、制御信号に基づく変換関数を用いて輝度の階調を圧縮する。階調変換部25は、階調変換後の画像信号を認識制御部40と認識処理部50へ出力する。
カメラ制御部30は、制御信号を生成してカメラ部20に供給して、カメラ部20における各部の動作を制御する。
照度検出部60は、撮像領域の明るさを示す撮像環境照度情報を生成して認識制御部40へ出力する。
認識制御部40は、光量検出部41とノイズ推定部42を有している。光量検出部41は、カメラ部20から供給された階調変換後の画像信号と照度検出部60から供給された撮像環境照度情報に基づき、撮像領域の光量を検出する。
ノイズ推定部42は、光量検出部41の光量検出結果に基づきノイズを推定して、推定結果を示すノイズ情報を生成する。ノイズ推定部42は、生成したノイズ情報を選択判別情報として認識処理部50へ出力する。
認識処理部50は、認識器選択部51と複数の認識器52-1~52-nを有している。例えば認識処理部50は、ノイズの少ない撮像画から高精度に被写体を認識できる認識器と、ノイズの多い撮像画から高精度に被写体を認識できる認識器を有している。認識器選択部51は、認識制御部40からの選択判別情報に基づき撮像領域の領域区分処理を行い、区分された領域毎に認識器を選択して、選択した認識器52-1(52-n)を用いて、カメラ部20から供給された画像信号に基づき被写体認識を行う。
認識装置の第4の実施の形態の動作では、図3に示す第1の実施の形態の動作と同様な処理を行い、ステップST2とステップST3の処理内容が第1の実施の形態と相違する。
ステップST2で認識装置は、光量関連情報を取得する。ここで、光量関連情報としては、例えば撮像環境照度βを光量関連情報として用いる。また、撮像領域の光量に応じて信号レベルが変化する階調変換後の画像信号を光量関連情報として用いる。認識装置10の認識制御部40は、このように光量関連情報を取得してステップST3に進む。
ステップST3で認識装置は、光量を検出する。認識制御部40は、ステップST2で出力した光量関連情報に基づき、撮像領域の光量を検出する。
ここで、光量の検出処理について説明する。撮像画のおける位置(u,v)の階調変換後の画像信号を信号値J(u,v)として、撮像環境照度を画像平均照度と近似すると、式(7)に基づき算出される光量L’(u,v)は、位置(u,v)の被写体の光量を示す。
L’(u,v)=J(u,v))*β ・・・(7)
このようにして、認識制御部40は撮像領域の光量を検出する。その後、第1の実施の形態と同様に、光量の検出結果に基づきノイズ推定を行い、推定結果を示すノイズ情報を選択判別情報とする。さらに、認識処理部50は、選択判別情報に基づき領域区分処理を行い、領域毎に認識器を選択して被写体認識を行う。
このように、第4の実施の形態によれば、カメラ制御部30から制御信号を取得できない場合でも、照度検出部60で検出された撮像環境照度とカメラ部20から出力される画像信号に基づき撮像領域の光量を検出できる。さらに、上述の第1の実施の形態等と同様に、検出された光量に基づき生成された選択判別情報に基づき認識器を選択して、撮像領域の撮像画について被写体認識処理を行うことができる。また、第4の実施の形態では、第1の実施の形態と同様に、撮像画に含まれる被写体を容易に精度よく認識できる。
<6.応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図11は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図11に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図11では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図12は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図12には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920~7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図11に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(登録商標)(Global System of Mobile communications)、WiMAX(登録商標)、LTE(登録商標)(Long Term Evolution)若しくはLTE-A(LTE-Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi-Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図11の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図11に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
以上説明した車両制御システム7000において、本技術は、図11に示す車外情報検出ユニット7400に適用することができる。このように、車外情報検出ユニット7400に本技術を適用すれば、被写体の明るさによる影響を少なくして、例えば車外の被写体の視認が容易となりドライバの疲労等を軽減できる。また、自動運転等に必要な情報を高精度で取得することが可能となる。
また、本開示に係る技術を監視システムに適用すれば、被写体の明るさによらず精度よく認識処理を行うことが可能となり、例えば明るい場所の人物や暗い場所の人物を精度よく監視できるようになる。
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
また、本技術の認識装置は以下のような構成も取ることができる。
(1) 撮像領域の光量検出結果に基づき選択判別情報を生成する認識制御部と、
前記撮像領域を示す撮像画についての被写体認識処理を、前記認識制御部で生成された前記選択判別情報に基づいて選択した認識器を用いて行う認識処理部と
を備える認識装置。
(2) 前記認識制御部は、前記光量検出結果に基づきノイズ推定を行い、ノイズ推定結果を前記選択判別情報とする(1)に記載の認識装置。
(3) 前記認識処理部は、前記選択判別情報に基づきノイズが閾値以下であると判別した場合に第1の認識器を選択して、前記選択判別情報に基づきノイズが閾値よりも多いと判別した場合に第1の認識器よりもノイズに強い第2の認識器を選択する(2)に記載の認識装置。
(4) 前記認識処理部は、前記選択判別情報に基づいて前記撮像画の領域分割を行い、分割された領域毎に前記認識器を選択する(1)乃至(3)の何れかに記載の認識装置。
(5) 前記認識制御部は、前記撮像画を取得する撮像部の階調変換切替動作に応じて前記撮像画の領域分割を行い、分割された領域毎に前記選択判別情報を生成する(1)乃至(3)の何れかに記載の認識装置。
(6) 前記認識制御部は、前記撮像画を取得する撮像部の動作を制御する制御信号と前記撮像部で生成された画像信号に基づいて前記撮像領域の光量を検出する(1)乃至(5)の何れかに記載の認識装置。
(7) 前記制御信号は、絞り,シャッター速度,アナログゲイン調整および階調変換の少なくとも何れかを制御する信号である(6)に記載の認識装置。
(8) 前記制御信号は、前記絞りと前記シャッター速度と前記アナログゲイン調整および前記階調変換を制御する信号であり、
前記画像信号は前記アナログゲイン調整と前記階調変換とが行われた信号である(7)に記載の認識装置。
(9) 前記制御信号は、前記絞りと前記シャッター速度と前記アナログゲイン調整を制御する信号であり、
前記画像信号は前記アナログゲイン調整が行われた信号である(7)に記載の認識装置。
(10) 前記制御信号は、前記絞りと前記シャッター速度を制御する信号であり、
前記画像信号は前記アナログゲイン調整が行われる前の信号である(7)に記載の認識装置。
(11) 前記認識制御部は、前記撮像部で生成された画像信号と撮像環境照度を検出する照度検出部で検出された照度に基づいて前記光量を検出する(1)に記載の認識装置。
この技術の認識装置と認識方法およびプログラムによれば、撮像領域の光量検出結果に基づき選択判別情報が生成されて、選択判別情報に基づいて選択した認識器を用いて、撮像領域を示す撮像画について被写体認識処理が行われる。このため、撮像画に含まれる被写体を容易に精度よく認識できるようになる。したがって、周辺状況を監視する監視装置や、周辺状況を判別して移動制御を行う移動体装置等に適している。
10・・・認識装置
20・・・カメラ部
21・・・光学系ブロック
22・・・撮像部
23・・・ゲイン調整部
24・・・A/D変換部
25・・・階調変換部
30・・・カメラ制御部
40・・・認識制御部
41・・・光量検出部
42・・・ノイズ推定部
50・・・認識処理部
51・・・認識器選択部
52-1~52-n・・・認識器
60・・・照度検出部
211・・・光学レンズ
212・・・絞り機構

Claims (12)

  1. 撮像領域の光量検出結果に基づき選択判別情報を生成する認識制御部と、
    前記撮像領域を示す撮像画についての被写体認識処理を、前記認識制御部で生成された前記選択判別情報に基づいて選択した認識器を用いて行う認識処理部を備え
    前記認識処理部は、前記選択判別情報に基づいて前記撮像画の領域分割を行い、分割された領域毎に前記認識器を選択す
    認識装置。
  2. 前記認識制御部は、前記光量検出結果に基づきノイズ推定を行い、ノイズ推定結果を前記選択判別情報とする
    請求項1に記載の認識装置。
  3. 前記認識処理部は、前記選択判別情報に基づきノイズが閾値以下であると判別した場合に第1の認識器を選択して、前記選択判別情報に基づきノイズが閾値よりも多いと判別した場合に第1の認識器よりもノイズに強い第2の認識器を選択する
    請求項2に記載の認識装置。
  4. 前記認識制御部は、前記撮像画を取得する撮像部の階調変換切替動作に応じて前記撮像画の領域分割を行い、分割された領域毎に前記選択判別情報を生成する
    請求項1に記載の認識装置。
  5. 前記認識制御部は、前記撮像画を取得する撮像部の動作を制御する制御信号と前記撮像部で生成された画像信号に基づいて前記撮像領域の光量を検出する
    請求項1に記載の認識装置。
  6. 前記制御信号は、絞り,シャッター速度,アナログゲイン調整および階調変換の少なくとも何れかを制御する信号である
    請求項に記載の認識装置。
  7. 前記制御信号は、前記絞りと前記シャッター速度と前記アナログゲイン調整および前記階調変換を制御する信号であり、
    前記画像信号は前記アナログゲイン調整と前記階調変換とが行われた信号である
    請求項に記載の認識装置。
  8. 前記制御信号は、前記絞りと前記シャッター速度と前記アナログゲイン調整を制御する信号であり、
    前記画像信号は前記アナログゲイン調整が行われた信号である
    請求項に記載の認識装置。
  9. 前記制御信号は、前記絞りと前記シャッター速度を制御する信号であり、
    前記画像信号は前記アナログゲイン調整が行われる前の信号である
    請求項に記載の認識装置。
  10. 前記認識制御部は、撮像部で生成された画像信号と撮像環境照度を検出する照度検出部で検出された照度に基づいて前記光量を検出する
    請求項1に記載の認識装置。
  11. 撮像領域の光量検出結果に基づき選択判別情報を認識制御部で生成することと、
    前記撮像領域を示す撮像画についての被写体認識処理を、前記認識制御部で生成された選択判別情報に基づいて選択した認識器を用いて認識処理部で行うことを含み、
    前記認識処理部は、前記選択判別情報に基づいて前記撮像画の領域分割を行い、分割された領域毎に前記認識器を選択する
    認識方法。
  12. 認識処理をコンピュータで実行させるプログラムであって、
    撮像領域の光量検出結果に基づき選択判別情報を生成する第1の手順と、
    前記撮像領域を示す撮像画についての被写体認識処理を、前記選択判別情報に基づいて選択した認識器を用いて行う第2の順を前記コンピュータで実行させ、
    前記第2の手順では、前記選択判別情報に基づいて前記撮像画の領域分割を行い、分割された領域毎に前記認識器を選択す
    プログラム。
JP2019570304A 2018-02-09 2018-11-16 認識装置と認識方法およびプログラム Active JP7173056B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018021493 2018-02-09
JP2018021493 2018-02-09
PCT/JP2018/042447 WO2019155718A1 (ja) 2018-02-09 2018-11-16 認識装置と認識方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2019155718A1 JPWO2019155718A1 (ja) 2021-01-28
JP7173056B2 true JP7173056B2 (ja) 2022-11-16

Family

ID=67548849

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019570304A Active JP7173056B2 (ja) 2018-02-09 2018-11-16 認識装置と認識方法およびプログラム

Country Status (6)

Country Link
US (1) US11438517B2 (ja)
EP (1) EP3751512A4 (ja)
JP (1) JP7173056B2 (ja)
KR (1) KR20200119790A (ja)
CN (1) CN111684455A (ja)
WO (1) WO2019155718A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015014819A (ja) 2013-07-03 2015-01-22 クラリオン株式会社 接近物検出システム、及び車両
JP2015035704A (ja) 2013-08-08 2015-02-19 株式会社東芝 検出装置、検出方法および検出プログラム
JP2017027220A (ja) 2015-07-17 2017-02-02 日立オートモティブシステムズ株式会社 車載環境認識装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3550874B2 (ja) 1996-04-12 2004-08-04 オムロン株式会社 監視装置
JP4980970B2 (ja) 2008-03-26 2012-07-18 富士重工業株式会社 撮像手段の調整装置および物体検出装置
JP5320331B2 (ja) * 2010-03-17 2013-10-23 日立オートモティブシステムズ株式会社 車載用環境認識装置及び車載用環境認識システム
JP5761601B2 (ja) * 2010-07-01 2015-08-12 株式会社リコー 物体識別装置
WO2015045829A1 (ja) * 2013-09-27 2015-04-02 富士フイルム株式会社 撮像装置及び撮像方法
US9298993B2 (en) * 2014-02-27 2016-03-29 Xerox Corporation On-street vehicle parking occupancy estimation via curb detection
KR20160020132A (ko) * 2014-08-13 2016-02-23 현대모비스 주식회사 차량의 인식 시스템
JP6650691B2 (ja) * 2015-07-02 2020-02-19 キヤノン株式会社 撮像装置
KR20180025591A (ko) * 2016-09-01 2018-03-09 삼성전자주식회사 자율 주행 차량을 위한 비전 센서의 제어 방법 및 장치

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015014819A (ja) 2013-07-03 2015-01-22 クラリオン株式会社 接近物検出システム、及び車両
JP2015035704A (ja) 2013-08-08 2015-02-19 株式会社東芝 検出装置、検出方法および検出プログラム
JP2017027220A (ja) 2015-07-17 2017-02-02 日立オートモティブシステムズ株式会社 車載環境認識装置

Also Published As

Publication number Publication date
JPWO2019155718A1 (ja) 2021-01-28
KR20200119790A (ko) 2020-10-20
US11438517B2 (en) 2022-09-06
US20200366825A1 (en) 2020-11-19
EP3751512A4 (en) 2021-04-07
CN111684455A (zh) 2020-09-18
WO2019155718A1 (ja) 2019-08-15
EP3751512A1 (en) 2020-12-16

Similar Documents

Publication Publication Date Title
US10957029B2 (en) Image processing device and image processing method
JP6834964B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6764573B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US10704957B2 (en) Imaging device and imaging method
JP7226440B2 (ja) 情報処理装置、情報処理方法、撮影装置、照明装置、及び、移動体
WO2019155719A1 (ja) キャリブレーション装置とキャリブレーション方法およびプログラム
US11585898B2 (en) Signal processing device, signal processing method, and program
CN111587572A (zh) 图像处理装置、图像处理方法和程序
WO2020085101A1 (ja) 画像処理装置と画像処理方法およびプログラム
WO2020195965A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP7173056B2 (ja) 認識装置と認識方法およびプログラム
JP7160085B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7059185B2 (ja) 画像処理装置、画像処理方法、および撮像装置
WO2019215979A1 (ja) 画像処理装置、車載装置、画像処理方法及びプログラム
WO2020195969A1 (ja) 情報処理装置、情報処理方法及びプログラム
US20230412923A1 (en) Signal processing device, imaging device, and signal processing method
WO2021125076A1 (ja) 情報処理装置、情報処理方法、プログラム、撮像装置及び撮像システム
WO2020255589A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP2021180459A (ja) 撮像装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221017

R151 Written notification of patent or utility model registration

Ref document number: 7173056

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151