JP2021092967A - 画像処理システム、画像処理装置及びプログラム - Google Patents

画像処理システム、画像処理装置及びプログラム Download PDF

Info

Publication number
JP2021092967A
JP2021092967A JP2019223168A JP2019223168A JP2021092967A JP 2021092967 A JP2021092967 A JP 2021092967A JP 2019223168 A JP2019223168 A JP 2019223168A JP 2019223168 A JP2019223168 A JP 2019223168A JP 2021092967 A JP2021092967 A JP 2021092967A
Authority
JP
Japan
Prior art keywords
image
obstacle
information
vehicle
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019223168A
Other languages
English (en)
Inventor
亮太 尾首
Ryota Oshu
亮太 尾首
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2019223168A priority Critical patent/JP2021092967A/ja
Priority to DE102020130111.1A priority patent/DE102020130111A1/de
Priority to CN202011283840.5A priority patent/CN113052791A/zh
Priority to US16/953,835 priority patent/US11373414B2/en
Publication of JP2021092967A publication Critical patent/JP2021092967A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Abstract

【課題】車両における撮像画像を基に障害物に係る情報を収集する場合に、画像処理を行う装置の処理負荷を低減する。【解決手段】画像処理システム10は、複数の制御装置20及びセンタサーバ30を備えている。制御装置20はカメラで撮像された撮像画像に障害物が含まれている可能性の有無を判定し、障害物があると判定された撮像画像に係る画像情報をセンタサーバ30に送信する。センタサーバ30は受信した画像情報に係る撮像画像に対して画像処理を行い、当該撮像画像に含まれる障害物を特定する。また、センタサーバ30は受信された他の画像情報に係る他の撮像画像に、特定された障害物が含まれるか否かを判定し、特定された障害物が含まれていないと判定された前記他の撮像画像に対して画像処理を実行する。【選択図】図1

Description

本発明は、画像の処理を行う画像処理システム、画像処理装置及びプログラムに関する。
特許文献1には、外界認識手段による認識結果に基づいて制御されるコネクティッドカーである車両に対し、適切な情報を提供することを目的とする情報処理装置が開示されている。
特開2017−174244号公報
ここで、路上障害物を特定すべく、特許文献1の情報処理装置において車両で撮像された撮像画像に対する画像処理が実行される場合、当該情報処理装置において車両側から送信された全ての撮像画像を画像処理すると、情報処理装置側の負荷が高くなる。
本発明は、車両における撮像画像を基に障害物に係る情報を収集する場合に、画像処理を行う装置の処理負荷を低減可能な画像処理システム、画像処理装置及びプログラムを提供することを目的とする。
請求項1に記載の画像処理システムは、車両に設けられた撮像装置で撮像された撮像画像に障害物が含まれている可能性の有無を判定する可能性判定部と、前記可能性判定部により障害物があると判定された前記撮像画像に係る画像情報を送信する送信部と、複数の前記車両から前記画像情報を受信する受信部と、前記画像情報に係る撮像画像に含まれる障害物を特定する画像処理を行う処理部と、前記受信部において受信された他の画像情報に係る他の撮像画像に、特定された障害物が含まれるか否かを判定する重複判定部と、を備え、前記処理部は、前記重複判定部により、特定された障害物が含まれていないと判定された前記他の撮像画像に対して前記画像処理を実行する。
請求項1に記載の画像処理システムは、送信側の装置において、可能性判定部が撮像画像に障害物が含まれている可能性の有無を判定し、受信側の装置において、処理部が撮像画像に含まれる障害物を特定する画像処理を行う。さらに、受信側の装置においては重複判定部が、受信された新たな撮像画像に特定された障害物が含まれるか否かを判定し、特定された障害物が含まれていないと判定された新たな撮像画像に対して処理部が画像処理を実行する。
送信側の装置から受信側の装置に向けては、障害物があると判定された撮像画像に係る画像情報、及び当該撮像画像に付与された位置情報が送信される。そのため、当該画像処理システムによれば、画像処理を行う受信側の装置に対する画像情報の送信量を低減でき、当該装置における処理負荷を低減することができる。また、当該画像処理システムによれば、障害物が特定されているにも係らず、同じ障害物を対象とした画像処理が繰り返し実行されることが抑制されるため、画像処理を行う受信側の装置における処理負荷を低減することができる。
請求項2に記載の画像処理システムは、請求項1に記載の画像処理システムにおいて、前記受信部は画像情報と共に、撮像画像に付与された位置情報を受信し、前記重複判定部は、少なくとも前記撮像画像と同じ位置における前記他の撮像画像に、前記特定された障害物が含まれるか否かを判定する。
請求項2に記載の画像処理システムでは、受信側の装置において重複判定部が、撮像画像に付与された位置情報を加味して特定された障害物が含まれるかの判定を実行する。当該画像処理システムによれば、障害物を特定する精度を向上させることができるため、受信側の装置における処理負荷を低減することができる。
請求項3に記載の画像処理システムは、請求項1又は2に記載の画像処理システムにおいて、前記受信部が他の車両の他の位置情報を受信し、前記他の位置情報を有する前記他の車両が前記位置情報に対応する前記特定された障害物に近づいたかを判定する接近判定部と、前記接近判定部が前記特定された障害物に近づいたと判定した場合に前記他の車両に向けて危険情報を通知する通知部と、を備えている。
請求項3に記載の画像処理システムでは、受信部が撮像画像の位置情報及び他の車両の他の位置情報を受信し、接近判定部は他の車両が障害物に近づいたかを判定する。そして、他の車両が障害物に近づいたと判定した場合、通知部は他の車両に向けて危険情報を通知する。当該画像処理システムによれば、障害物の位置情報に基づいて他の車両に対して路上の障害物に対する注意を喚起することができる。
請求項4に記載の画像処理装置は、複数の車両から障害物があると判定された前記車両の撮像画像に係る画像情報を受信する受信部と、前記画像情報に係る撮像画像に含まれる障害物を特定する画像処理を行う処理部と、前記受信部において受信された他の画像情報に係る他の撮像画像に特定された障害物が含まれるか否かを判定する重複判定部と、を備え、前記処理部は、前記重複判定部により、特定された障害物が含まれていないと判定された前記他の撮像画像に対して前記画像処理を実行する。
請求項4に記載の画像処理装置では、受信部が複数の車両から障害物があると判定された車両の撮像画像に係る画像情報を受信する。また、当該画像処理装置では、重複判定部が、受信された新たな撮像画像に特定された障害物が含まれるか否かを判定し、特定された障害物が含まれていないと判定された新たな撮像画像に対して処理部が画像処理を実行して障害物を特定する。そのため、当該画像処理装置によれば、障害物が特定されているにも係らず、同じ障害物を対象とした画像処理が繰り返し実行されることが抑制されるため、当該装置における処理負荷を低減することができる。
請求項5に記載のプログラムは、複数の車両から障害物があると判定された前記車両の撮像画像に係る画像情報を受信する受信ステップと、前記画像情報に係る撮像画像に含まれる障害物を特定する画像処理を行う処理ステップと、前記受信ステップにおいて受信された他の画像情報に係る他の撮像画像に特定された障害物が含まれるか否かを判定する重複判定ステップと、を備え、前記処理ステップでは、前記重複判定ステップにより、特定された障害物が含まれていないと判定された前記他の撮像画像に対して前記画像処理を実行する処理をコンピュータに実行させる。
請求項5に記載のプログラムでは、次のステップの処理が実行される。すなわち、受信ステップにおいて複数の車両から障害物があると判定された車両の撮像画像に係る画像情報が受信される。また、重複判定ステップにおいて受信された新たな撮像画像に特定された障害物が含まれるか否かが判定され、処理ステップにおいて特定された障害物が含まれていないと判定された新たな撮像画像に対して画像処理が実行されて障害物が特定される。そのため、当該プログラムによれば、画像処理を行う装置において、障害物が特定されているにも係らず、同じ障害物を対象とした画像処理が繰り返し実行されることが抑制されるため、当該装置における処理負荷を低減することができる。
本発明によれば、車両における撮像画像を基に障害物に係る情報を収集する場合に、画像処理を行う装置の処理負荷を低減することができる。
実施形態に係る画像処理システムの概略構成を示す図である。 障害物を通過する通過車両を説明する図である。 実施形態の車両のハードウェア構成を示すブロック図である。 実施形態の制御装置におけるCPUの機能構成の例を示すブロック図である。 実施形態のセンタサーバのハードウェア構成を示すブロック図である。 実施形態のセンタサーバであって、(A)はストレージに記憶されたデータの例を示すブロック図であり、(B)はCPUの機能構成の例を示すブロック図である。 実施形態の制御装置において実行される推定処理の流れを示すフローチャートである。 実施形態のセンタサーバにおいて実行される情報化処理の流れを示すフローチャートである。 実施形態のセンタサーバにおいて実行される通知処理の流れを示すフローチャートである。 通知処理が実行される状態を説明する図である。
図1に示されるように、本実施形態の画像処理システム10は、複数の車両12と、画像処理装置としてのセンタサーバ30と、を含んで構成されている。各車両12には制御装置20が搭載されている。
図2に示されるように、車両12は、走行路Tを走行する通過車両12Aと、通過車両12Aの周辺を走行する周辺車両12B(図10参照)とを有している。ここで、通過車両12Aは障害物Oが何かが特定される前に障害物Oを通過する車両12とし、周辺車両12Bは障害物Oが特定された後に障害物Oに接近した車両12とする。
本実施形態では、通過車両12Aが本発明の「車両」に相当し、周辺車両12Bが本発明の「他の車両」に相当する。なお、周辺車両12Bは、走行路Tにおいて通過車両12Aと同じ車線を走行する後続車両に限らず、対向車線を走行する対向車両や、走行路Tに接続される他の走行路を走行する車両を含む。また、障害物Oは本発明の「特定された障害物」に相当する。
各車両12の制御装置20とセンタサーバ30とは、ネットワークN1を介して相互に接続されている。
なお、図1の画像処理システム10では、一台のセンタサーバ30に対して5台の車両12が接続されているが、この限りではない。すなわち、一台のセンタサーバ30に対しては、一又は複数台の車両12(詳しくは、制御装置20)が接続可能である。
(車両)
図3に示されるように、本実施形態に係る車両12は、制御装置20と、撮像装置としてのカメラ22と、GPS(Global Positioning System)受信機24と、報知装置26とを含んで構成されている。
制御装置20は、CPU(Central Processing Unit)20A、ROM(Read Only Memory)20B、RAM(Random Access Memory)20C、通信I/F(Inter Face)20E及び入出力I/F(Inter Face)20Fを含んで構成されている。CPU20A、ROM20B、RAM20C、通信I/F20E及び入出力I/F20Fは、バス20Gを介して相互に通信可能に接続されている。
CPU20Aは、中央演算処理ユニットであり、各種プログラムを実行したり、各部を制御したりする。すなわち、CPU20Aは、ROM20Bからプログラムを読み出し、RAM20Cを作業領域としてプログラムを実行する。
ROM20Bは、各種プログラム及び各種データを記憶している。本実施形態のROM20Bには、制御プログラム200及び基準画像データ210が記憶されている。制御プログラム200は、後述する推定処理を行うためのプログラムである。基準画像データ210には、既知の障害物に係る複数の画像情報が記憶されている。なお、基準画像データ210は、制御装置20に接続されたSD(Secure Digital)カードやUSB(Universal Serial Bus)メモリ等に記憶されていてもよい。
RAM20Cは、作業領域として一時的にプログラム又はデータを記憶する。
通信I/F20Eは、センタサーバ30と通信するためにネットワークN1に接続するためのインタフェースである。センタサーバ30との通信には、例えば、5G、LTE、Wi−Fi(登録商標)等の通信規格が用いられる。
入出力I/F20Fは、車両12に搭載されるカメラ22、GPS受信機24、及び報知装置26と通信するためのインタフェースである。
カメラ22は、例えば、車両12のフロントウインドウの上部に固定され、車両12の前方を撮像する。なお、カメラ22は、車両12の前方を撮像するだけでなく、車両12の後方や車室内を撮像してもよい。
GPS受信機24は、複数のGPS衛星からGPS信号を受信して車両12の現在位置を測位する。
報知装置26は、車両12の車室内に設けられ、運転者に対して障害物Oに係る情報を報知する装置である。報知装置26は、メータユニット又はカーナビケーションシステムであってもよいし、独立した装置であってもよい。
図4は、制御装置20の機能構成の例を示すブロック図である。各機能構成は、CPU20AがROM20Bに記憶された制御プログラム200を読み出し、これを実行することによって実現される。本実施形態のCPU20Aは、制御プログラム200の実行により取得部250、可能性判定部255、送信部260、通知受付部270及び報知部280として機能する。
取得部250は、カメラ22において撮像された撮像画像に係る画像情報、GPS受信機24が検知した車両12の位置情報、及び現在時刻等を取得する機能を有している。取得部250は、カメラ22が走行路T上の障害物を撮像した場合、又は運転者による撮像指示(例えば、撮像用のスイッチの操作)を契機に画像情報、位置情報、及び現在時刻等の情報を取得する。なお、本実施形態では、通過車両12Aの位置情報が本発明の「位置情報」に相当し、周辺車両12Bの位置情報が本発明の「他の位置情報」に相当する。また、本実施形態において取得される撮像画像は動画でも静止画でもよい。
可能性判定部255は、車両12に設けられたカメラ22で撮像された撮像画像に障害物が含まれている可能性の有無を判定する機能を有している。可能性判定部255は、基準画像データ210に記憶されている既知の障害物毎に、カメラ22で撮像された撮像画像の類似度を算出する。ここで、類似度の算出は、公知の方法が用いられる。例えば、撮像画像の特徴点及び既知の障害物の特徴点をそれぞれ抽出し、両者の特徴点の合致度合いから類似度を算出することができる。そして、可能性判定部255は、類似度が所定の閾値を超えた場合に撮像画像に障害物が含まれている可能性があると判定する。
送信部260は、取得部250において取得された画像情報をセンタサーバ30に送信する機能を有している。具体的に、可能性判定部255は、撮像画像に障害物が含まれている可能性があると判定された撮像画像に係る画像情報をセンタサーバ30に送信する。ここで、送信部260において送信される画像情報には、画像情報に対応する付属情報が付与されている。この付属情報には、撮像画像が撮像されたときの車両12の位置情報、走行する走行路Tの情報、走行方向、走行時刻が含まれている。
通知受付部270は、センタサーバ30から送信された後述する危険情報を受け付ける機能を有している。危険情報は、車両12が周辺車両12Bである場合に、通過車両12Aにおいて撮像された撮像画像に基づいて特定された障害物Oに接近した場合にセンタサーバ30から通知される。
報知部280は、センタサーバ30から受け付けた危険情報を基に、障害物Oに接近している旨を運転者に対して報知する機能を有している。報知部280は、危険情報を受け付けたタイミングで報知装置26を作動させる。
(センタサーバ)
図5に示されるようにセンタサーバ30は、CPU30A、ROM30B、RAM30C、ストレージ30D、及び通信I/F30Eを含んで構成されている。CPU30A、ROM30B、RAM30C、ストレージ30D及び通信I/F30Eは、バス30Gを介して相互に通信可能に接続されている。CPU30A、ROM30B、RAM30C及び通信I/F30Eの機能は、上述した制御装置20のCPU20A、ROM20B、RAM20C及び通信I/F20Eと同じである。
ストレージ30Dは、HDD(Hard Disk Drive)又はSSD(Solid State Drive)により構成され、各種プログラム及び各種データを記憶している。
CPU30Aは、ストレージ30Dからプログラムを読み出し、RAM30Cを作業領域としてプログラムを実行する。
本実施形態のセンタサーバ30には、図6(A)に示されるように、ストレージ30Dに処理プログラム320、学習済みモデル330及び障害物データベース340が記憶されている。処理プログラム320は、後述する情報化処理及び通知処理を行うためのプログラムである。CPU30Aは、処理プログラム320を実行することで、図6(B)に示す受信部360、画像処理部362、重複判定部363、接近判定部364及び通知部366として機能する。
受信部360は、一又は複数の制御装置20から送信された、付属情報が付与された画像情報を受信する機能を有している。
処理部としての画像処理部362は、撮像画像に対して障害物を特定する画像処理を行う機能を有している。画像処理では、予め既知の障害物を教師データとして機械学習を行った学習済みモデル330に対して、画像情報を入力することで実行される。画像処理の結果、障害物Oが何であるかが特定できた場合、障害物情報として障害物Oの形状や大きさの情報、及び位置情報等が障害物データベース340に記憶される。
重複判定部363は、受信部360において受信された画像情報に係る撮像画像に特定された障害物Oが含まれるか否かを判定する機能を有している。具体的に重複判定部363は、受信された新たな画像情報から付属情報を抽出し、当該新たな画像情報に係る新たな撮像画像に障害物Oと同じ位置情報、同じ走行路T、近似する走行時刻の情報が含まれていないかの検索を行う。なお、新たな画像情報は、本発明の「他の画像情報」に相当し、新たな撮像画像は、本発明の「他の撮像画像」に相当する。
そして検索の結果、重複判定部363は、障害物Oと同じ位置、同じ走行路T、同じ時間帯に存在する障害物を撮像した撮像画像を、障害物Oを含む重複画像と判定する。この重複画像に対しては画像処理部362における画像処理は実行されない。また、重複判定部363は、重複画像に対応する画像情報をストレージ30Dに記憶することなく、RAM30Bから消去する。なお、上記判定の条件となる「時間帯」としては、朝方夕方等の数時間単位の幅を設定してもよいし、数十分程度の時間の幅を設定してもよい。設定された時間帯を経過した場合、同じ位置情報を有する撮像画像であっても、再度の画像処理が実行される。
接近判定部364は、周辺車両12Bが障害物Oに近づいたかを判定する機能を有している。接近判定部364は、障害物Oに付与された位置情報から所定距離(例えば、距離Rの範囲内、図10参照)に周辺車両12Bが存在する場合に障害物Oに近づいたと判定する。
通知部366は、周辺車両12Bに向けて危険情報を通知する機能を有している。本実施形態の通知部366は、接近判定部364により障害物Oに近づいたと判定された場合に、周辺車両12Bに向けて危険情報を通知する。つまり、センタサーバ30は、周辺車両12Bの制御装置20に危険情報を送信する。
(制御の流れ)
本実施形態の画像処理システム10において実行される処理の流れの例を図7〜図9のフローチャートを用いて説明する。
まず、走行路Tに障害物Oが落下している場合に障害物Oを回避する等して通過した通過車両12A(図2参照)の制御装置20において実行される推定処理の流れは以下のとおりである。
図7のステップS100において、CPU20Aはカメラ22から撮像画像を取得する。
ステップS101において、CPU20Aは撮像画像に障害物が含まれているか否かの可能性を判定する。具体的に、CPU20Aは、基準画像データ210に記憶されている既知の障害物毎に、カメラ22で撮像された撮像画像の類似度を算出する。そして、CPU20Aは、類似度が所定の閾値を超えた場合に撮像画像に障害物が含まれている可能性があると判定する。なお、この時点において可能性があるとされた障害物が何であるかは必ずしも特定されている必要はない。
ステップS102において、CPU20Aは撮像画像に障害物が含まれている可能性があるか否かの判定を行う。CPU20Aは撮像画像に障害物が含まれている可能性があると判定した場合、ステップS103に進む。一方、CPU20Aは撮像画像に障害物が含まれている可能性がない判定した場合、推定処理を終了させる。
ステップS103において、CPU20Aは、付属情報として車両12(通過車両12A)の位置情報、走行する走行路Tの情報、走行方向、走行時刻を撮像画像に対して付与する。
ステップS104において、CPU20Aは付属情報が付与された画像情報をセンタサーバ30に向けて送信する。そして、推定処理は終了する。
次に、センタサーバ30において実行される情報化処理の流れは以下のとおりである。
図8のステップS200において、CPU30Aは制御装置20から画像情報を受信したか否かの判定を行う。CPU30Aは画像情報を受信したと判定した場合、ステップS201に進む。一方、CPU30Aは画像情報を受信していないと判定した場合、情報化処理を終了させる。
ステップS201において、CPU30Aは既に特定された障害物Oと同一の障害物の情報があるか否かの判定を行う。具体的に、CPU30Aは既に特定された障害物Oと同じ位置、同じ走行路T、同じ時間帯に存在する障害物を撮像した重複画像が含まれているか否かの判定を行う。CPU30Aは障害物Oと同一の障害物の情報があると判定した場合、情報化処理を終了させる。一方、CPU30Aは障害物Oと同一の障害物の情報がないと判定した場合、ステップS202に進む。
ステップS202において、CPU30Aは画像処理を実行する。すなわち、CPU30Aは学習済みモデル330に画像情報を入力し、障害物Oの特定を試みる。
ステップS203において、CPU30Aは障害物Oを特定したか否かの判定を行う。CPU30Aは障害物Oを特定したと判定した場合、ステップS204に進む。一方、CPU30Aは障害物Oを特定していない判定した場合、情報化処理を終了させる。
ステップS204において、CPU30Aは障害物情報を保存する。具体的にCPU30Aは障害物情報として、特定された障害物Oの種類や大きさに係る情報、及び位置情報を障害物データベース340に記憶する。そして、情報化処理は終了する。
なお、情報化処理では、障害物Oと同一の障害物の情報を一定時間受信しない場合に当該障害物Oは既に走行路T上から撤去されたとして、障害物Oに係る情報を障害物データベース340から消去してもよい。
一方、障害物Oが特定された後、センタサーバ30において実行される通知処理の流れは以下のとおりである。
図9のステップS310において、CPU30Aは周辺車両12Bの位置情報を取得する。
ステップS311において、CPU30Aは周辺車両12Bが障害物Oに接近したか否かの判定を行う。例えば、図10に示されるように、走行路T上に角材、段ボール箱、コンテナボックス等、車両12の走行に支障が生じる可能性がある障害物Oがある場合、当該障害物Oから距離Rの範囲内に入った周辺車両12Bがあるか否かの判定が行われる。CPU30Aは周辺車両12Bが障害物Oに接近したと判定した場合、図9のステップS312に進む。一方、CPU30Aは周辺車両12Bが障害物Oに接近していないと判定した場合、通知処理を終了させる。
ステップS312において、CPU30Aは障害物Oに接近した周辺車両12Bに対して、危険情報として障害物情報を通知する。そして、通知処理は終了する。
以上の通知処理により、障害物情報を受信した周辺車両12Bでは、運転者に向けて障害物Oに対する注意喚起が行われる。
なお、周辺車両12Bの制御装置20が、障害物情報を受信したにもかかわらず、走行路T上の障害物Oを検知できなかった場合、障害物Oが存在しない旨をセンタサーバ30に対して通知してもよい。これにより、センタサーバ30では、撤去等された障害物Oに係る情報を障害物データベース340から消去することができる。
(まとめ)
本実施形態の画像処理システム10は、車両12に搭載された制御装置20と、センタサーバ30との組み合わせにより構成されている。制御装置20では、可能性判定部255が撮像画像に障害物が含まれている可能性の有無を判定し、障害物があると判定された撮像画像に係る画像情報がセンタサーバ30に向けて送信される。一方、センタサーバ30では、画像処理部362が画像処理を実行して撮像画像に含まれる障害物を特定する。
以上のように、本実施形態の画像処理システム10によれば、画像処理を行うセンタサーバ30に対して障害物がないと判定された撮像画像に係る画像情報は送信されない。すなわち、全ての通過車両12Aから全ての撮像画像に係る画像情報がセンタサーバ30に対して送信されることがないため、センタサーバ30において、処理の遅延が抑制でき、処理負荷を低減することができる。
また、本実施形態では、センタサーバ30において重複判定部363が、受信された新たな撮像画像に特定された障害物Oが含まれるか否かを判定し、特定された障害物Oが含まれていないと判定された撮像画像に対して画像処理部362が画像処理を実行する。したがって、本実施形態によれば、障害物Oが特定されているにも係らず、同じ障害物を対象とした画像処理が繰り返し実行されることが抑制されるため、センタサーバ30における処理負荷を低減することができる。
また、本実施形態では、センタサーバ30において重複判定部363が、撮像画像に付与された付属情報を加味して特定された障害物Oが含まれるかの判定を実行する。本実施形態によれば、障害物を特定する精度を向上させることができるため、センタサーバ30における処理負荷を低減することができる。
なお、センタサーバ30における画像処理により最初に特定された障害物Oの特定の精度が悪い場合、重複判定部363は受信された新たな撮像画像に既に特定された障害物Oが含まれているにもかかわらず、含まれていないと判定する可能性がある。この場合、画像処理が再度実行されて障害物Oが再度特定される。したがって、解像度の高い撮像画像により改めて画像処理が実行されることにより、障害物Oの位置、形状、大きさ等に係る特定の精度を高めることができる。
また、本実施形態の画像処理システム10では、センタサーバ30において受信部360が周辺車両12Bの位置情報を受信し、接近判定部364は周辺車両12Bが障害物Oに近づいたかを判定する。そして、周辺車両12Bが障害物Oに近づいたと判定した場合、通知部366は周辺車両12Bに向けて危険情報を通知する。本実施形態によれば、障害物Oの位置情報に基づいて周辺車両12Bに対して走行路T上の障害物Oに対する注意を喚起することができる。
[備考]
本実施形態の画像処理システム10は、車両12に搭載された制御装置20と、センタサーバ30との組み合わせにより構成されているが、この限りではない。例えば、制御装置20とセンタサーバ30との通信を中継するエッジサーバを両者の間に設けてもよい。この場合、エッジサーバは車両12が走行する複数のエリア毎に設置される。
またエッジサーバを設けた場合、車両12に搭載された制御装置20において撮像画像に障害物が含まれている可能性の有無を判定し、エッジサーバにおいて受信された新たな撮像画像に特定された障害物Oが含まれるか否かを判定してもよい。つまり、エッジサーバに重複判定部363の機能を与えることができる。
また、本実施形態では、各車両12に搭載された制御装置20において、撮像画像に障害物が含まれている可能性の有無が判定されている。これに対し、上記のようにエッジサーバを設置した場合、制御装置20からエッジサーバに向けて付属情報が付与された画像情報が送信され、エッジサーバにおいて撮像画像に障害物が含まれている可能性の有無を判定してもよい。この場合はセンタサーバ30のみならず、制御装置20における処理負担が軽減される。
なお、上記実施形態でCPU20A、30Aがソフトウェア(プログラム)を読み込んで実行した各種処理を、CPU以外の各種のプロセッサが実行してもよい。この場合のプロセッサとしては、FPGA(Field−Programmable Gate Array)等の製造後に回路構成を変更可能なPLD(Programmable Logic Device)、及びASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が例示される。また、上述した受付処理を、これらの各種のプロセッサのうちの1つで実行してもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGA、及びCPUとFPGAとの組み合わせ等)で実行してもよい。また、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
また、上記実施形態において、各プログラムはコンピュータが読み取り可能な非一時的記録媒体に予め記憶(インストール)されている態様で説明した。例えば、制御装置20において制御プログラム200は、ROM20Bに予め記憶されている。また例えば、センタサーバ30における処理プログラム320は、ストレージ30Dに予め記憶されている。しかしこれに限らず、各プログラムは、CD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の非一時的記録媒体に記録された形態で提供されてもよい。また、プログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
上記実施形態で説明した処理の流れも、一例であり、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよい。
10 画像処理システム
12A 通過車両(車両)
12B 周辺車両(他の車両)
20 制御装置
22 カメラ(撮像装置)
30 センタサーバ(画像処理装置)
255 可能性判定部
260 送信部
320 処理プログラム(プログラム)
360 受信部
362 処理部(画像処理部)
363 重複判定部
364 接近判定部
366 通知部
O 障害物(特定された障害物)

Claims (5)

  1. 車両に設けられた撮像装置で撮像された撮像画像に障害物が含まれている可能性の有無を判定する可能性判定部と、
    前記可能性判定部により障害物があると判定された前記撮像画像に係る画像情報を送信する送信部と、
    複数の前記車両から前記画像情報を受信する受信部と、
    前記画像情報に係る撮像画像に含まれる障害物を特定する画像処理を行う処理部と、
    前記受信部において受信された他の画像情報に係る他の撮像画像に、特定された障害物が含まれるか否かを判定する重複判定部と、を備え、
    前記処理部は、前記重複判定部により、特定された障害物が含まれていないと判定された前記他の撮像画像に対して前記画像処理を実行する画像処理システム。
  2. 前記受信部は画像情報と共に、撮像画像に付与された位置情報を受信し、
    前記重複判定部は、少なくとも前記撮像画像と同じ位置における前記他の撮像画像に、前記特定された障害物が含まれるか否かを判定する請求項1に記載の画像処理システム。
  3. 前記受信部が他の車両の他の位置情報を受信し、
    前記他の位置情報を有する前記他の車両が前記位置情報に対応する前記特定された障害物に近づいたかを判定する接近判定部と、
    前記接近判定部が前記特定された障害物に近づいたと判定した場合に前記他の車両に向けて危険情報を通知する通知部と、
    を備える請求項1又は2に記載の画像処理システム。
  4. 複数の車両から障害物があると判定された前記車両の撮像画像に係る画像情報を受信する受信部と、
    前記画像情報に係る撮像画像に含まれる障害物を特定する画像処理を行う処理部と、
    前記受信部において受信された他の画像情報に係る他の撮像画像に特定された障害物が含まれるか否かを判定する重複判定部と、を備え、
    前記処理部は、前記重複判定部により、特定された障害物が含まれていないと判定された前記他の撮像画像に対して前記画像処理を実行する画像処理装置。
  5. 複数の車両から障害物があると判定された前記車両の撮像画像に係る画像情報を受信する受信ステップと、
    前記画像情報に係る撮像画像に含まれる障害物を特定する画像処理を行う処理ステップと、
    前記受信ステップにおいて受信された他の画像情報に係る他の撮像画像に特定された障害物が含まれるか否かを判定する重複判定ステップと、を備え、
    前記処理ステップでは、前記重複判定ステップにより、特定された障害物が含まれていないと判定された前記他の撮像画像に対して前記画像処理を実行する
    処理をコンピュータに実行させるためのプログラム。
JP2019223168A 2019-12-10 2019-12-10 画像処理システム、画像処理装置及びプログラム Pending JP2021092967A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019223168A JP2021092967A (ja) 2019-12-10 2019-12-10 画像処理システム、画像処理装置及びプログラム
DE102020130111.1A DE102020130111A1 (de) 2019-12-10 2020-11-16 Bildverarbeitungssystem, Bildverarbeitungseinrichtung, Bildverarbeitungsverfahren und Programmspeichermedium
CN202011283840.5A CN113052791A (zh) 2019-12-10 2020-11-17 图像处理系统、装置、方法以及非暂时性存储介质
US16/953,835 US11373414B2 (en) 2019-12-10 2020-11-20 Image processing system, image processing device, image processing method and program storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019223168A JP2021092967A (ja) 2019-12-10 2019-12-10 画像処理システム、画像処理装置及びプログラム

Publications (1)

Publication Number Publication Date
JP2021092967A true JP2021092967A (ja) 2021-06-17

Family

ID=75962693

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019223168A Pending JP2021092967A (ja) 2019-12-10 2019-12-10 画像処理システム、画像処理装置及びプログラム

Country Status (4)

Country Link
US (1) US11373414B2 (ja)
JP (1) JP2021092967A (ja)
CN (1) CN113052791A (ja)
DE (1) DE102020130111A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115273552B (zh) * 2022-09-19 2022-12-20 南通立信自动化有限公司 一种汽车仪表的hmi控制系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007323117A (ja) * 2006-05-30 2007-12-13 Kenwood Corp 道路通信システム、移動体装置、および、移動体装置の情報処理方法
JP2019164626A (ja) * 2018-03-20 2019-09-26 日本電気株式会社 障害物認識支援装置、障害物認識支援方法、プログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE2212175A1 (de) * 1972-03-14 1973-09-20 Pmd Entwicklungswerk Abfallentfern- und transportvorrichtung fuer geblasene und gefuellte kunststoffbehaelter in einer blas- und fuellmaschine
JP4197209B2 (ja) * 1999-05-21 2008-12-17 株式会社小松製作所 車両の無人走行システム
KR101395089B1 (ko) * 2010-10-01 2014-05-16 안동대학교 산학협력단 장애물 감지 시스템 및 방법
JP5949955B2 (ja) * 2013-01-25 2016-07-13 トヨタ自動車株式会社 道路環境認識システム
JP6290009B2 (ja) * 2014-06-06 2018-03-07 日立オートモティブシステムズ株式会社 障害物情報管理装置
US20160217333A1 (en) * 2015-01-26 2016-07-28 Ricoh Company, Ltd. Information processing apparatus and information processing system
KR101728326B1 (ko) * 2015-03-19 2017-05-02 현대자동차주식회사 차량, 서버 및 이를 포함하는 차량 모니터링 시스템
JP2017174244A (ja) 2016-03-25 2017-09-28 株式会社日立製作所 情報提供装置
WO2019003263A1 (ja) * 2017-06-26 2019-01-03 三菱電機株式会社 運転支援装置、及びその運転支援装置を用いた運転支援システム
JP2019172166A (ja) * 2018-03-29 2019-10-10 アイシン・エィ・ダブリュ株式会社 自動運転システムおよび自動運転プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007323117A (ja) * 2006-05-30 2007-12-13 Kenwood Corp 道路通信システム、移動体装置、および、移動体装置の情報処理方法
JP2019164626A (ja) * 2018-03-20 2019-09-26 日本電気株式会社 障害物認識支援装置、障害物認識支援方法、プログラム

Also Published As

Publication number Publication date
US20210174099A1 (en) 2021-06-10
CN113052791A (zh) 2021-06-29
DE102020130111A1 (de) 2021-06-10
US11373414B2 (en) 2022-06-28

Similar Documents

Publication Publication Date Title
CN107727106B (zh) 动态地图构成方法、动态地图构成系统以及移动终端
US10520949B2 (en) Method and device for localizing a vehicle in its surroundings
US20200192351A1 (en) Vehicle path updates via remote vehicle control
JP7009834B2 (ja) 収集システム及びセンタ
US10518784B2 (en) Information processing apparatus, information processing method, and computer program product
JP7276093B2 (ja) 情報収集システム、中継装置、及びプログラム
JP6841263B2 (ja) 走行計画生成装置、走行計画生成方法、及び制御プログラム
JPWO2018061425A1 (ja) センサ故障検出装置およびそのための制御方法
JP6828719B2 (ja) 車載装置および制御方法
US20170186318A1 (en) Driving support system, driving support method and program
JP2021140470A (ja) 情報処理装置、車両、プログラム、及び情報処理方法
JP6903598B2 (ja) 情報処理装置、情報処理方法、情報処理プログラム、および移動体
JP7035204B2 (ja) 車両制御装置、自動運転車開発システム、車両制御方法、およびプログラム
JP2021092967A (ja) 画像処理システム、画像処理装置及びプログラム
CN116433988A (zh) 一种多源异构的图像数据分类治理方法
US20230256994A1 (en) Assessing relative autonomous vehicle performance via evaluation of other road users
JP2020149323A (ja) 情報処理装置及び情報処理装置を備える自動走行制御システム
JP2021028735A (ja) 車両走行システム
US11687155B2 (en) Method for vehicle eye tracking system
JP7238738B2 (ja) 画像処理システム、処理装置、中継装置及びプログラム
CN115512568A (zh) 控制装置、移动体、控制方法和计算机可读存储介质
CN112829757A (zh) 自动驾驶控制系统、服务器装置以及存储程序的存储介质
JP6933069B2 (ja) 経路探索装置
JPWO2019188429A1 (ja) 動体管理装置、動体管理システム、動体管理方法、及びコンピュータプログラム
JP7250070B2 (ja) 警告制御装置、移動体、警告制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220125

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230210

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230411