WO2019003996A1 - プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラム - Google Patents

プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラム Download PDF

Info

Publication number
WO2019003996A1
WO2019003996A1 PCT/JP2018/023213 JP2018023213W WO2019003996A1 WO 2019003996 A1 WO2019003996 A1 WO 2019003996A1 JP 2018023213 W JP2018023213 W JP 2018023213W WO 2019003996 A1 WO2019003996 A1 WO 2019003996A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
resolution
image processing
processing unit
recognized
Prior art date
Application number
PCT/JP2018/023213
Other languages
English (en)
French (fr)
Inventor
泰章 平野
Original Assignee
京セラ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 京セラ株式会社 filed Critical 京セラ株式会社
Priority to US16/624,699 priority Critical patent/US20200125864A1/en
Priority to JP2019526819A priority patent/JPWO2019003996A1/ja
Priority to EP18823121.1A priority patent/EP3648457A4/en
Publication of WO2019003996A1 publication Critical patent/WO2019003996A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/207Analysis of motion for motion estimation over a hierarchy of resolutions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

プロセッサは、カメラから撮像画像を取得する取得部と、撮像画像に基づく認識画像から物体を認識する画像処理部とを備える。画像処理部は、認識した物体の特徴に基づいて、認識画像の解像度に対応する解像度レベルを決定する。

Description

プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラム 関連出願へのクロスリファレンス
 本出願は、日本国特許出願2017-126643号(2017年6月28日出願)の優先権を主張するものであり、当該出願の開示全体を、ここに参照のために取り込む。
 本開示は、プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラムに関する。
 画像認識による物体検知において、画像認識の結果に応じて撮像の周期を長くすることで、画像認識の処理量を低減する構成が知られている(例えば、特許文献1参照)。
特開2007-172035号公報
 本開示の一実施形態に係るプロセッサは、カメラから撮像画像を取得する取得部と、前記撮像画像に基づく認識画像から物体を認識する画像処理部とを備える。前記画像処理部は、認識した前記物体の特徴に基づいて、前記認識画像の解像度に対応する解像度レベルを決定する。
 本開示の一実施形態に係る画像処理装置は、カメラと、前記カメラから撮像画像を取得する取得部と、前記撮像画像に基づく認識画像から物体を認識する画像処理部とを有するプロセッサとを備える。前記画像処理部は、認識した前記物体の特徴に基づいて、前記撮像画像の解像度に対応する解像度レベルを決定する。
 本開示の一実施形態に係る移動体は、画像処理装置を搭載する。前記画像処理装置は、カメラと、前記カメラから撮像画像を取得する取得部と、前記撮像画像に基づく認識画像から物体を認識する画像処理部とを有するプロセッサとを備える。前記画像処理部は、認識した前記物体の特徴に基づいて、前記撮像画像の解像度に対応する解像度レベルを決定する。
 本開示の一実施形態に係る画像処理方法は、カメラから撮像画像を取得するステップを含む。前記画像処理方法は、前記撮像画像に基づく認識画像から物体を認識するステップを含む。前記画像処理方法は、認識した前記物体の特徴に基づいて、前記認識画像の解像度に対応する解像度レベルを決定するステップを含む。
 本開示の一実施形態に係るプログラムは、カメラから撮像画像を取得するステップをプロセッサに実行させる。前記画像処理方法は、前記撮像画像に基づく認識画像から物体を認識するステップをプロセッサに実行させる。前記画像処理方法は、認識した前記物体の特徴に基づいて、前記認識画像の解像度に対応する解像度レベルを決定するステップをプロセッサに実行させる。
一実施形態に係る撮像装置及びプロセッサの構成例を示すブロック図である。 カメラの構成例を示すブロック図である。 プロセッサの構成の一例を示すブロック図である。 撮像装置が移動体に搭載される構成例を示す図である。 解像度レベルと、物体の特徴及び移動体の挙動とを対応づけるテーブルの例を示す図である。 一実施形態に係る画像処理方法の手順の一例を示すフローチャートである。
 画像認識による物体検知において、撮像の周期が長い場合、撮像の対象の急な移動又は変化等を捉えるタイミングが遅れることがある。撮像の周期の変更によらずに、画像認識の処理量が低減されることが求められる。
 図1に示されるように、一実施形態に係る画像処理装置1は、プロセッサ10と、カメラ20と、記憶部30とを備える。
 プロセッサ10は、取得部11と、画像処理部12とを備える。取得部11は、カメラ20から、カメラ20で撮像した画像を取得する。カメラ20が撮像してプロセッサ10に出力する画像は、撮像画像ともいう。画像処理部12は、認識対象の画像から物体を認識する。認識対象の画像は、認識画像ともいう。認識画像は、カメラ20から取得した撮像画像に基づく画像である。認識画像は、撮像画像を加工した画像であってよい。認識画像は、例えば、撮像画像の解像度を異なる解像度に変更した画像であってよい。認識画像が撮像画像を小さい解像度の画像に変更した画像である場合、認識画像のデータ量は、撮像画像のデータ量よりも小さくなりうる。
 プロセッサ10は、プログラムに応じた汎用の処理を実行するものであってよいし、特定の処理を実行するものであってよい。プロセッサ10は、特定用途向けIC(Integrated Circuit)を含んでよい。特定用途向けICは、ASIC(Application Specific Integrated Circuit)ともいう。プロセッサ10は、プログラマブルロジックデバイスを含んでよい。プログラマブルロジックデバイスは、PLD(Programmable Logic Device)ともいう。PLDは、FPGA(Field-Programmable Gate Array)を含んでよい。プロセッサ10は、1つ又は複数のプロセッサが協働するSoC(System-on-a-Chip)、及びSiP(System In a Package)のいずれかであってよい。
 図2に示されるように、カメラ20は、カメラ制御部22と、撮像部24とを備える。撮像部24は、撮像素子26と撮像レンズ28とを有する。撮像部24は、撮像レンズ28によって結像される被写体像を撮像素子26で撮像する。撮像部24で撮像された画像は、撮像画像ともいう。カメラ制御部22は、撮像部24に対して撮像の制御指示を出力し、撮像部24から撮像画像を取得する。撮像素子26は、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)等で構成されてよい。
 記憶部30は、画像処理装置1の動作に係る各種情報又はパラメータを格納する。記憶部30は、例えば半導体メモリ等で構成されてよい。記憶部30は、プロセッサ10のワークメモリとして機能してよい。記憶部30は、撮像画像を格納してよい。記憶部30は、プロセッサ10に含まれてよい。
 画像処理部12は、認識した物体の特徴に基づいて、認識画像の解像度を決定する。画像処理部12は、認識画像の解像度を、それに対応する解像度レベルで表現してよい。言い換えれば、解像度レベルは、認識画像の解像度に対応してよい。本実施形態において、解像度レベルは、A、B、Cの3つのレベルで表現されるものとする。解像度レベルは、A、B、Cの順に高いものとする。例えば、解像度レベルがAである場合の解像度は、撮像素子26が撮像しうる最大の解像度であるものとする。例えば、解像度レベルがCである場合の解像度は、画像処理部12で物体を認識するために最低限必要とされる解像度であるものとする。解像度レベルは、3段階に限られず、2段階で表現されてもよいし、4段階以上で表現されてもよい。解像度レベルの高さの表現は、A、B、C等の文字に限られない。解像度レベルは、数値で表現されてもよい。
 画像処理部12は、解像度レベルを取得部11に出力してよい。取得部11は、カメラ20から取得した撮像画像を、解像度レベルに対応する解像度の画像に変換し、その画像を認識画像として画像処理部12に出力してよい。取得部11は、撮像画像を、その画素を間引くことによって異なる解像度の画像に変換してよいし、他の種々の方法で異なる解像度の画像に変換してよい。
 図3に示されるように、プロセッサ10は、処理解像度変更部13をさらに備えてよい。処理解像度変更部13は、画像処理部12から取得する解像度レベルに基づいて、取得部11で取得した撮像画像を、解像度レベルに対応する解像度に変更し、その画像を認識画像として画像処理部12に出力してよい。処理解像度変更部13は、撮像画像の画素を間引くことによって、画像処理部12に出力する画像の解像度を変更してよいし、他の種々の方法で、画像処理部12に出力する画像の解像度を変更してもよい。
 取得部11又は処理解像度変更部13が撮像画像の解像度を低くした画像を出力することによって、画像処理部12が取得する画像のデータ量が低減されうる。このようにすることで、画像処理部12が物体を認識する際に必要な演算が低減されうる。結果として、プロセッサ10の消費電力及び発熱量が低減されうる。
 図3に示されるように、プロセッサ10は、レベル出力部14をさらに備えてよい。画像処理部12は、レベル出力部14を介して、解像度レベルをカメラ20に出力してよい。カメラ20は、出力する撮像画像の解像度を、撮像素子26で撮像された画像の解像度から、解像度レベルに対応する解像度に変更してよい。カメラ20は、被写体像を撮像する際に、撮像素子26の読み出しライン数を変更することによって、撮像画像の解像度を変更してよい。撮像素子26の読み出しライン数が減らされる場合、撮像画像のフレームレートが大きくされうる。カメラ20は、撮像素子26が出力する画像の解像度をカメラ制御部22で変更した画像を撮像画像として出力してよい。カメラ20は、他の種々の方法で、撮像画像の解像度を変更してよい。
 カメラ20が出力する撮像画像の解像度が低くされる場合、プロセッサ10が取得する画像のデータ量が低減されうる。このようにすることで、プロセッサ10で処理されるデータ量が低減されうる。結果として、プロセッサ10の消費電力及び発熱量が低減されうる。
 図3に示されるように、プロセッサ10は、画像出力部15をさらに備えてよい。プロセッサ10は、画像出力部15を介して、表示装置110に画像を出力し、その画像を表示させてよい。表示装置110は、例えば液晶、有機EL(Electro-Luminescence)、無機EL又はLED(Light Emission Diode)等の表示デバイスで構成されてよい。
 画像出力部15は、取得部11で取得した撮像画像をそのまま表示装置110に表示させてよい。画像出力部15は、物体の認識結果に係る情報を撮像画像に重畳し、その画像を表示装置110に表示させてよい。このようにすることで、物体の認識結果がユーザに伝わりやすくなる。
 物体の認識結果に係る情報は、認識した物体を強調する表示に対応する情報であってよい。物体を強調する表示は、例えば、円若しくは楕円、又は、多角形等で物体を囲む表示であってよいし、物体を指す矢印等であってよい。物体の認識結果に係る情報は、物体の動きを表現する矢印等であってよい。物体の認識結果に係る情報は、認識した物体を説明する文字等のデータであってよい。
 図3に示されるように、プロセッサ10は、表示解像度変更部16をさらに備えてよい。表示解像度変更部16は、取得部11で取得した撮像画像の解像度を変更し、その画像を表示画像として画像出力部15に出力してよい。表示解像度変更部16は、撮像画像を表示装置110で表示可能な解像度に合わせた画像に変換してよい。表示解像度変更部16は、撮像画像を、解像度レベルに対応する解像度の画像に変換してよい。画像出力部15は、表示解像度変更部16から取得した表示画像を、表示装置110に表示させてよい。画像出力部15は、物体の認識結果に係る情報を表示画像に重畳した画像を、表示装置110に表示させてよい。処理解像度変更部13とは別の構成として表示解像度変更部16が設けられることによって、認識画像の解像度と、表示画像の解像度とが別々に設定されうる。
 図4に示されるように、画像処理装置1は、移動体100に搭載されてよい。画像処理装置1が搭載される移動体100は、自車ともいう。移動体100の前方及び後方はそれぞれ、X軸の負の方向及び正の方向であるものとする。カメラ20は、移動体100の前方及び後方それぞれで、移動体100の周囲を撮像するものとする。カメラ20は、移動体100の前方又は後方に限られず、側方又は上方等の種々の方向で移動体100の周囲を撮像できるように、移動体100の種々の箇所に搭載されてよい。
 プロセッサ10、カメラ20、及び表示装置110は、互いに通信するための通信デバイスを備えてよい。通信デバイスは、例えば、LAN(Local Area Network)又はCAN(Control Area Network)等の通信インターフェースであってよい。通信デバイスは、有線又は無線で通信してよい。プロセッサ10は、カメラ20と通信可能な外部のサーバ装置等に含まれてよい。この場合、プロセッサ10は、移動体100に搭載されなくてもよい。
 画像処理部12は、認識画像から物体を認識してよい。認識画像は、自車の周囲を撮像した撮像画像そのものであってよいし、撮像画像を、解像度レベルに対応する解像度の画像に変換した画像であってよい。
 画像処理部12は、物体として、自動車、バイク若しくは自転車等の自車以外の移動体、又は、歩行者若しくは動物等を認識してよい。画像処理部12は、ガードレール又は白線等で規定される走行路を認識してよい。画像処理部12は、信号又は標識等を認識してよい。画像処理部12は、建造物又は樹木等の構造物を認識してよい。画像処理部12は、これらに限られず、他の種々の物体を認識してよい。画像処理部12は、認識した物体の特徴として、その物体の種類を上述のような分類で検出してよい。
 画像処理部12は、認識した物体の特徴として、その物体までの距離、又は、その物体の像の大きさを検出してよい。物体の像の大きさは、物体の画像上の大きさともいう。画像処理部12は、認識した物体の特徴として、その物体が静止しているか、又は、動いているかを検出してよい。画像処理部12は、認識した物体が動いている場合、その物体の速度を検出してよい。物体の速度は、速さと進行方向とを含む。画像処理部12は、例えば、自車からの距離を示す特徴点を認識画像から検出することによって、自車から認識した物体までの距離を検出しうる。画像処理部12は、認識画像のフレームレートと、各フレームにおける物体の動きとに基づいて、認識した物体の速度を検出しうる。
 画像処理部12は、例えば、認識した物体が所定距離よりも近くに位置する場合、又は、その物体の像の大きさが所定の大きさ以上である場合、比較的低い解像度でもその物体を認識できるので、解像度レベルをCとしてよい。画像処理部12は、例えば、認識した物体が所定距離よりも遠くに位置する場合、又は、その物体の像の大きさが所定の大きさ未満である場合、その物体を認識するために比較的高い解像度を必要とするので、解像度レベルをAとしてよい。
 プロセッサ10は、移動体100の挙動に関する情報を取得してよい。移動体100の挙動に関する情報は、自車が停止しているか動いているかを示す情報を含んでよい。移動体100の挙動に関する情報は、自車が動いている場合、自車の速さ及び進行方向を示す情報を含んでよい。移動体100の挙動に関する情報は、これらに限られず、他の種々の情報を含んでよい。移動体100の挙動に関する情報は、これらの情報のうち少なくとも1つを含んでよい。
 プロセッサ10は、移動体100から直接又は間接的に、移動体100の挙動に関する情報を取得してよい。プロセッサ10は、画像処理部12による、移動体100の周囲の物体の認識結果に基づいて、移動体100の挙動に関する情報を算出してよい。
 画像処理部12は、移動体100の挙動に関する情報に基づいて、解像度レベルを決定してよい。画像処理部12は、例えば、移動体100が停止している場合、比較的低い解像度でも移動体100の周囲にある物体を認識できるので、解像度レベルをCとしてよい。画像処理部12は、例えば、移動体100の速さが所定の速さ以上である場合、移動体100の周囲にある物体を認識しやすくするために、解像度レベルをAとしてよい。
 画像処理部12は、認識した物体の特徴と、移動体100の挙動に関する情報とに基づいて、解像度レベルを決定してよい。画像処理部12は、例えば図5に示される、解像度レベルと、認識した物体の特徴及び移動体100の挙動に関する情報とを対応づけたテーブルに基づいて、解像度レベルを決定してよい。「高速」及び「低速」はそれぞれ、自車が所定の速さ以上で動いている場合、及び、自車が所定の速さ未満で動いている場合を表現する。「遠い」及び「近い」はそれぞれ、自車から認識した物体までの距離が所定距離以上である場合、及び、所定距離未満である場合を表現する。例えば、自車が停止しており、且つ、認識した物体も停止している場合、自車と物体との距離にかかわらず、解像度レベルがCとされてよい。例えば、自車が高速で動いている場合、解像度レベルは、自車と物体との距離が遠い場合にAとされ、自車と物体との距離が近い場合にBとされてよい。
 テーブルにおいて解像度レベルに対応づけられる情報は、自車の速度、認識した物体の動き、及び、その物体までの距離に限られない。例えば、認識した物体の種類、又は、その物体の像の大きさ等が解像度レベルに対応づけられてよい。例えば、認識した物体が歩行者である場合は、比較的高い解像度レベルに対応づけられてよい。
 画像処理部12は、認識した物体の特徴と、移動体100の挙動に関する情報とに基づくスコアを算出し、スコアに基づいて解像度レベルを決定してよい。スコアが高いほど解像度レベルが高く決定される場合、画像処理部12は、例えば、移動体100が速いほど高いスコアを算出してよいし、認識した物体が遠くに位置するほど高いスコアを算出してよい。
 画像処理部12が物体の認識結果から検出したその物体の速度は、自車とその物体との間の相対速度である。画像処理部12は、自車の速度に関する情報に基づいて、物体の認識結果から検出したその物体の相対速度を、絶対速度に変換してよい。
 画像処理部12は、例えば以下のような場合に、解像度レベルを高い段階から低い段階にしてよい。画像処理部12は、自車が停止した場合、又は、自車の速度が所定速度よりも小さくなった場合に、解像度レベルを下げてよい。画像処理部12は、認識した物体が自車から所定距離未満に位置する場合、又は、認識した物体の像の大きさが所定の大きさよりも大きい場合に、解像度レベルを下げてよい。画像処理部12は、これらの例に限られず、種々の条件に基づいて解像度レベルを下げてよい。
 画像処理部12は、例えば以下のような場合に、解像度レベルを低い段階から高い段階に上げてよい。画像処理部12は、物体と自車との相対速度が所定速度よりも大きいと認識した場合、物体の認識を続けやすいように、解像度レベルを上げてよい。画像処理部12は、同一とみなされる物体を連続でなく断続的に認識する場合、物体をより確実に認識するために、解像度レベルを上げてよい。画像処理部12は、物体の認識結果の確からしさを示す値が所定値より低い場合、物体の認識結果の確からしさを上げるために、解像度レベルを上げてよい。物体の認識結果の確からしさは、例えば、パターンマッチングにおける一致度であってよい。画像処理部12は、自車の状態の変化に基づいて、解像度レベルを上げてよい。画像処理部12は、例えば、自車の速度が所定速度よりも大きくなった場合、自車が高速道路に進入した場合、又は、自車がスクールゾーンに進入した場合等に、解像度レベルを上げてよい。画像処理部12は、自車から所定距離未満に位置する物体が通過又は消失した場合に、解像度レベルを下げた要因がなくなったものとみなして、解像度レベルを上げてよい。画像処理部12は、これらの例に限られず、種々の条件に基づいて解像度レベルを上げてよい。
 画像処理部12は、解像度レベルをできるだけ高くしつつ、条件を満たした場合に解像度レベルを下げるように動作してよい。このようにすることで、認識画像からの物体の認識が継続されつつ、認識画像のデータ量が全体として低減されうる。結果として、物体の認識と、プロセッサ10の消費電力及び発熱量の低減とが両立されうる。
 画像処理部12は、解像度レベルをできるだけ低くしつつ、条件を満たした場合に解像度レベルを上げるように動作してよい。このようにすることで、認識画像のデータ量が通常で低減されつつ、認識画像からの物体の認識が継続されうる。結果として、プロセッサ10の消費電力及び発熱量の低減と、物体の認識とが両立されうる。
 プロセッサ10は、図6に示されるフローチャートの手順に沿った画像処理方法を実行しうる。
 プロセッサ10は、画像処理部12で、解像度レベルを初期値に決定する(ステップS1)。解像度レベルの初期値は、Aとされてよいし、B又はCであってもよい。解像度レベルの初期値は、解像度レベルの表現に基づく他のレベルであってよい。プロセッサ10は、解像度レベルの初期値をレベル出力部14でカメラ20に出力してよい。この場合、カメラ20は、解像度レベルの初期値に対応する解像度の撮像画像を出力してよい。カメラ20は、画像処理装置1の初期状態において、解像度レベルの初期値に対応する解像度の撮像画像を出力するように構成されてよい。
 プロセッサ10は、取得部11で、カメラ20から撮像画像を取得する(ステップS2)。
 プロセッサ10は、撮像画像の解像度を変更する(ステップS3)。プロセッサ10は、取得部11又は処理解像度変更部13で、撮像画像を、解像度レベルに対応する解像度の画像に変換し、認識画像として画像処理部12に出力してよい。カメラ20が解像度レベルに対応する解像度の撮像画像を出力する場合、プロセッサ10は、撮像画像の解像度を変更しなくてもよい。
 プロセッサ10は、画像処理部12で、取得部11又は処理解像度変更部13から認識画像を取得する。画像処理部12は、認識画像から物体を認識する(ステップS4)。画像処理部12は、認識した物体の特徴として、その物体の種類を検出してよい。画像処理部12は、認識した物体の特徴として、その物体までの距離又はその物体の速度を検出してよい。画像処理部12は、認識した物体の特徴として、その物体に関する種々の情報を検出してよい。
 プロセッサ10は、画像処理部12で、認識した物体の特徴に基づいて、解像度レベルを決定する(ステップS5)。画像処理部12は、移動体100から、移動体100の挙動に関する情報を取得してよい。画像処理部12は、認識画像から、移動体100の挙動に関する情報を算出してよい。画像処理部12は、移動体100の挙動に関する情報にさらに基づいて、解像度レベルを決定してよい。画像処理部12は、例えば図5に示されるテーブルに基づいて解像度レベルを決定してよいし、他の方法によって解像度レベルを決定してよい。
 プロセッサ10は、画像処理部12で決定した解像度レベルを出力する(ステップS6)。画像処理部12は、解像度レベルを取得部11、又は、処理解像度変更部13若しくは表示解像度変更部16に出力してよい。画像処理部12は、レベル出力部14を介して、解像度レベルをカメラ20に出力してよい。ステップS6の後、プロセッサ10は、ステップS2の手順に戻る。
 本実施形態に係る画像処理装置1及びプロセッサ10によれば、解像度レベルが決定されることによって、画像処理部12で処理する認識画像のデータ量が低減されうる。結果として、プロセッサ10の消費電力及び発熱量が低減されうる。
 取得部11、処理解像度変更部13、又は表示解像度変更部16は、解像度レベルに基づいて、撮像画像を、解像度レベルに対応する解像度の画像に変換しうる。解像度を変更する機能は、各解像度レベルに対応するプログラムを汎用の演算回路で実行することで実現されてよい。つまり、解像度を変更する機能は、ソフトウェアで実現されてよい。解像度を変更する機能は、各解像度レベルに対応する専用の演算回路で実行することで実現されてよい。この場合、プロセッサ10は、各解像度レベルに対応する専用の演算回路を含んでよい。つまり、解像度を変更する機能は、ハードウェアで実現されてよい。解像度を変更する機能が解像度レベルに対応する専用の演算回路で実現されることで、撮像画像は、速く、又は、容易に、解像度を変更した画像に変換されうる。
 本開示における移動体100は、車両、船舶及び航空機等を含んでよい。本開示における車両は、自動車および産業車両を含むが、これに限られず、鉄道車両および生活車両、滑走路を走行する飛行機を含んでよい。自動車は、乗用車、トラック、バス、二輪車、およびトロリーバス等を含むがこれに限られず、道路上を走行する他の車両を含んでよい。産業車両は、農業および建設向けの産業車両を含む。産業車両は、フォークリフト、およびゴルフカートを含むがこれに限られない。農業向けの産業車両は、トラクター、耕耘機、移植機、バインダー、コンバイン、および芝刈り機を含むが、これに限られない。建設向けの産業車両は、ブルドーザー、スクレーバー、ショベルカー、クレーン車、ダンプカー、およびロードローラを含むが、これに限られない。車両は、人力で走行するものを含む。車両の分類は、上述に限られない。例えば、自動車は、道路を走行可能な産業車両を含んでよい。複数の分類に同じ車両が含まれてよい。本開示における船舶は、マリンジェット、ボート、タンカーを含む。本開示における航空機は、固定翼機、回転翼機を含む。
 本開示に係る画像処理装置1は、移動端末又は携帯端末等に搭載されてよい。本開示に係る画像処理装置1は、据え置き型の装置に搭載されてよい。本開示に係る画像処理装置1は、据え置き型装置又は移動型装置等として単独で使用されてよい。画像処理装置1を搭載する端末又は装置は、自機ともいう。画像処理装置1が端末又は装置に搭載される場合、移動体100の挙動に関する情報は、自機の挙動に関する情報に置き換えられうる。
 本開示に係る実施形態について、諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形又は修正を行うことが容易であることに注意されたい。従って、これらの変形又は修正は本開示の範囲に含まれることに留意されたい。例えば、各構成部又は各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の構成部又はステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。本開示に係る実施形態について装置を中心に説明してきたが、本開示に係る実施形態は装置の各構成部が実行するステップを含む方法としても実現し得るものである。本開示に係る実施形態は装置が備えるプロセッサにより実行される方法、プログラム、又はプログラムを記録した記憶媒体としても実現し得るものである。本開示の範囲にはこれらも包含されるものと理解されたい。
 1 画像処理装置
 10 プロセッサ
 11 取得部
 12 画像処理部
 13 処理解像度変更部
 14 レベル出力部
 15 画像出力部
 16 表示解像度変更部
 20 カメラ
 22 カメラ制御部
 24 撮像部
 26 撮像素子
 28 撮像レンズ
 30 記憶部
 100 移動体
 110 表示装置

Claims (12)

  1.  カメラから撮像画像を取得する取得部と、
     前記撮像画像に基づく認識画像から物体を認識する画像処理部と
    を備え、
     前記画像処理部は、認識した前記物体の特徴に基づいて、前記認識画像の解像度に対応する解像度レベルを決定する、プロセッサ。
  2.  前記解像度レベルを前記カメラに出力するレベル出力部をさらに備える、請求項1に記載のプロセッサ。
  3.  前記撮像画像を、前記解像度レベルに対応する解像度を有する前記認識画像に変換し、前記認識画像を前記画像処理部に出力する処理解像度変更部をさらに備える、請求項1又は2に記載のプロセッサ。
  4.  前記カメラは、移動体に搭載され、
     前記画像処理部は、前記移動体の挙動に関する情報にさらに基づいて、前記解像度レベルを決定する、請求項1乃至3のいずれか一項に記載のプロセッサ。
  5.  前記移動体の挙動に関する情報は、前記移動体が停止しているか、前記移動体の速さ、及び前記移動体の進行方向のうち少なくとも1つを含む、請求項4に記載のプロセッサ。
  6.  前記物体の特徴は、前記物体の種類、前記物体が静止しているか、前記物体の速さ、及び前記物体の進行方向のうち少なくとも1つを含む、請求項1乃至5のいずれか一項に記載のプロセッサ。
  7.  前記撮像画像に基づく表示画像を表示装置に出力する画像出力部をさらに備え、
     前記画像処理部は、前記撮像画像から物体を認識した結果に基づく表示を前記画像出力部に出力し、
     前記画像出力部は、前記表示画像に前記表示を重畳した画像を前記表示装置に出力する、請求項1乃至6のいずれか一項に記載のプロセッサ。
  8.  前記撮像画像を、前記撮像画像の解像度と異なる解像度を有する画像に変換し、前記表示画像として前記画像出力部に出力する表示解像度変更部をさらに備える、請求項7に記載のプロセッサ。
  9.  カメラと、
     前記カメラから撮像画像を取得する取得部と、前記撮像画像に基づく認識画像から物体を認識する画像処理部とを有するプロセッサと
    を備え、
     前記画像処理部は、認識した前記物体の特徴に基づいて、前記撮像画像の解像度に対応する解像度レベルを決定する、画像処理装置。
  10.  カメラと、
     前記カメラから撮像画像を取得する取得部と、前記撮像画像に基づく認識画像から物体を認識する画像処理部とを有するプロセッサと
    を備え、
     前記画像処理部は、認識した前記物体の特徴に基づいて、前記撮像画像の解像度に対応する解像度レベルを決定する、画像処理装置
    を搭載する移動体。
  11.  カメラから撮像画像を取得するステップと、
     前記撮像画像に基づく認識画像から物体を認識するステップと、
     認識した前記物体の特徴に基づいて、前記認識画像の解像度に対応する解像度レベルを決定するステップと
    を含む画像処理方法。
  12.  カメラから撮像画像を取得するステップと、
     前記撮像画像に基づく認識画像から物体を認識するステップと、
     認識した前記物体の特徴に基づいて、前記認識画像の解像度に対応する解像度レベルを決定するステップと
    をプロセッサに実行させるプログラム。
PCT/JP2018/023213 2017-06-28 2018-06-19 プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラム WO2019003996A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US16/624,699 US20200125864A1 (en) 2017-06-28 2018-06-19 Processor, image processing apparatus, mobile body, image processing method, and non-transitory computer-readable medium
JP2019526819A JPWO2019003996A1 (ja) 2017-06-28 2018-06-19 プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラム
EP18823121.1A EP3648457A4 (en) 2017-06-28 2018-06-19 PROCESSOR, IMAGE PROCESSING DEVICE, MOBILE ENTITY, IMAGE PROCESSING PROCESS AND PROGRAM

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-126643 2017-06-28
JP2017126643 2017-06-28

Publications (1)

Publication Number Publication Date
WO2019003996A1 true WO2019003996A1 (ja) 2019-01-03

Family

ID=64740649

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/023213 WO2019003996A1 (ja) 2017-06-28 2018-06-19 プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラム

Country Status (4)

Country Link
US (1) US20200125864A1 (ja)
EP (1) EP3648457A4 (ja)
JP (1) JPWO2019003996A1 (ja)
WO (1) WO2019003996A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022036726A (ja) * 2020-08-24 2022-03-08 トヨタ自動車株式会社 物体検出装置、物体検出方法及び物体検出用コンピュータプログラム
WO2022097602A1 (ja) * 2020-11-04 2022-05-12 住友電気工業株式会社 画像データ伝送装置、画像データ伝送方法、コンピュータプログラム、及び記憶媒体

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007172035A (ja) 2005-12-19 2007-07-05 Fujitsu Ten Ltd 車載画像認識装置、車載撮像装置、車載撮像制御装置、警告処理装置、画像認識方法、撮像方法および撮像制御方法
WO2015159407A1 (ja) * 2014-04-17 2015-10-22 三菱電機株式会社 車載表示装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4678110B2 (ja) * 2001-09-12 2011-04-27 株式会社豊田中央研究所 環境危険度演算装置
JP4631026B2 (ja) * 2005-03-22 2011-02-16 株式会社メガチップス 車載画像記録システム
JP5110356B2 (ja) * 2007-07-10 2012-12-26 オムロン株式会社 検出装置および方法、並びに、プログラム
JP5172314B2 (ja) * 2007-12-14 2013-03-27 日立オートモティブシステムズ株式会社 ステレオカメラ装置
US9058746B2 (en) * 2008-10-02 2015-06-16 Hitachi Automotive Systems, Ltd. Information processing device associated with vehicle traveling
JP6447886B2 (ja) * 2014-09-24 2019-01-09 パナソニックIpマネジメント株式会社 車載用電子ミラー

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007172035A (ja) 2005-12-19 2007-07-05 Fujitsu Ten Ltd 車載画像認識装置、車載撮像装置、車載撮像制御装置、警告処理装置、画像認識方法、撮像方法および撮像制御方法
WO2015159407A1 (ja) * 2014-04-17 2015-10-22 三菱電機株式会社 車載表示装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3648457A4

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022036726A (ja) * 2020-08-24 2022-03-08 トヨタ自動車株式会社 物体検出装置、物体検出方法及び物体検出用コンピュータプログラム
JP7276282B2 (ja) 2020-08-24 2023-05-18 トヨタ自動車株式会社 物体検出装置、物体検出方法及び物体検出用コンピュータプログラム
WO2022097602A1 (ja) * 2020-11-04 2022-05-12 住友電気工業株式会社 画像データ伝送装置、画像データ伝送方法、コンピュータプログラム、及び記憶媒体

Also Published As

Publication number Publication date
EP3648457A4 (en) 2020-11-11
US20200125864A1 (en) 2020-04-23
JPWO2019003996A1 (ja) 2020-07-09
EP3648457A1 (en) 2020-05-06

Similar Documents

Publication Publication Date Title
US11606516B2 (en) Image processing device, image processing method, and image processing system
JP7210589B2 (ja) ダイナミックレンジを拡大するための複数の動作モード
US11455793B2 (en) Robust object detection and classification using static-based cameras and events-based cameras
JP5143235B2 (ja) 制御装置および車両周囲監視装置
US10210400B2 (en) External-environment-recognizing apparatus
US11527077B2 (en) Advanced driver assist system, method of calibrating the same, and method of detecting object in the same
CN107273788B (zh) 在车辆中执行车道检测的成像系统与车辆成像系统
JP2008027309A (ja) 衝突判定システム、及び衝突判定方法
WO2021096629A1 (en) Geometry-aware instance segmentation in stereo image capture processes
JP6496585B2 (ja) 物体認識装置
CN113170065A (zh) 固态成像元件和成像装置
TWI531499B (zh) Anti-collision warning method and device for tracking moving object
JP2020052647A (ja) 物体検出装置、物体検出方法、物体検出用コンピュータプログラム及び車両制御システム
WO2019003996A1 (ja) プロセッサ、画像処理装置、移動体、画像処理方法、及びプログラム
EP3703359A1 (en) Image processing device, image capturing device, driving support device, moving body, and image processing method
JP2023547791A (ja) フレーム及びイベントカメラ処理に基づくオブジェクト分類及び関連する応用
EP3691242A1 (en) Image capture device and moving body
Farooq et al. Decisive Data using Multi-Modality Optical Sensors for Advanced Vehicular Systems
KR102583256B1 (ko) 깊이 맵에 신뢰도 추정치를 제공하는 방법 및 시스템
US20220196841A1 (en) Object recognition abnormality detection apparatus, object recognition abnormality detection program product, and object recognition abnormality detection method
JP4590654B2 (ja) 車両周辺監視装置、車両、車両周辺監視プログラム
CN104192065A (zh) 一种可辨监控对象的汽车四周监控装置
JP2018201169A (ja) 撮像装置、撮像方法、プログラム、車載カメラ、及び車両

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18823121

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2019526819

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 2018823121

Country of ref document: EP

Effective date: 20200128