JP2020201583A - 半導体装置、移動体装置および移動体装置の制御方法 - Google Patents

半導体装置、移動体装置および移動体装置の制御方法 Download PDF

Info

Publication number
JP2020201583A
JP2020201583A JP2019106284A JP2019106284A JP2020201583A JP 2020201583 A JP2020201583 A JP 2020201583A JP 2019106284 A JP2019106284 A JP 2019106284A JP 2019106284 A JP2019106284 A JP 2019106284A JP 2020201583 A JP2020201583 A JP 2020201583A
Authority
JP
Japan
Prior art keywords
image
recognition
unit
captured
captured image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019106284A
Other languages
English (en)
Inventor
玲実 宮本
Remi Miyamoto
玲実 宮本
啓佑 松本
Keisuke Matsumoto
啓佑 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2019106284A priority Critical patent/JP2020201583A/ja
Priority to US16/848,667 priority patent/US11210530B2/en
Priority to CN202010409306.8A priority patent/CN112130553A/zh
Publication of JP2020201583A publication Critical patent/JP2020201583A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0253Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting relative motion information from a plurality of images taken successively, e.g. visual odometry, optical flow
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L9/00Details or accessories of suction cleaners, e.g. mechanical means for controlling the suction or for effecting pulsating action; Storing devices specially adapted to suction cleaners or parts thereof; Carrying-vehicles specially adapted for suction cleaners
    • A47L9/28Installation of the electric equipment, e.g. adaptation or attachment to the suction cleaner; Controlling suction cleaners by electric means
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L9/00Details or accessories of suction cleaners, e.g. mechanical means for controlling the suction or for effecting pulsating action; Storing devices specially adapted to suction cleaners or parts thereof; Carrying-vehicles specially adapted for suction cleaners
    • A47L9/28Installation of the electric equipment, e.g. adaptation or attachment to the suction cleaner; Controlling suction cleaners by electric means
    • A47L9/2805Parameters or conditions being sensed
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0223Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving speed control of the vehicle
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/17Terrestrial scenes taken from planes or by drones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L2201/00Robotic cleaning machines, i.e. with automatic control of the travelling movement or the cleaning operation
    • A47L2201/06Control of the cleaning action for autonomous devices; Automatic detection of the surface condition before, during or after cleaning

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Remote Sensing (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Mechanical Engineering (AREA)
  • Electromagnetism (AREA)
  • Studio Devices (AREA)
  • Electric Vacuum Cleaner (AREA)
  • Image Analysis (AREA)

Abstract

【課題】撮像画像を過剰に増加させることなく画像認識精度を向上させる。【解決手段】半導体装置は、撮像画像に認識対象物が含まれているかを検出し、撮像画像に認識対象物が含まれている場合に、撮像画像から当該認識対象物が存在する画像領域を認識対象物検出領域画像として切り出す画像検出部と、認識対象物検出領域画像に対して画像認識処理を行い、認識対象物に対する認識確率を出力する画像認識部と、認識確率に基づいて移動速度および撮像間隔の少なくともいずれか一方を設定する制御部と、を備える。【選択図】図1

Description

本開示は、半導体装置に関し、例えば画像処理を行う半導体装置、および当該半導体装置を備えた移動体装置に好適に利用できるものである。
近年、自走式の電気掃除機や監視用ドローンのようなカメラを搭載した移動体装置が普及している。カメラを搭載した移動体装置は、その制御のために、撮像した画像から物体や人物等の検出または認識を行うことがある。
例えば、特許文献1(特許第5771885号明細書)には、カメラを備えた電気掃除装置が記載されている。この特許文献1に記載の電気掃除装置は、カメラによって撮像された撮像画像と、記憶部に記憶されている登録済みの異物の画像とを比較することで画像認識を行い、異物を認識する。また、電気掃除装置は、異物を認識したときには、電気掃除装置に備えられている表示画面に、認識された異物が何であるかを特定する表示を行う。
特許第5771885号明細書
画像認識にあたり、画像認識精度を高めるためには、解像度が高いカメラで撮影した撮像画像を用いて画像認識処理を行ったり、画像認識処理対象となる撮像画像を増やしたりすることが考えられる。しかしながら、高い解像度の撮像画像や撮像画像枚数の増加によって、画像認識処理が増大する。その結果、画像認識処理の実行処理部、例えば、CPU(Central Processor Unit)の処理負荷が増大し、消費電力が増大する可能性がある。
本開示の課題は、画像認識処理負荷を過剰に増やすことなく、画像認識精度を向上することである。その他の課題および新規な特徴は、本明細書および図面の記載から明らかになるであろう。
一実施の形態に係る半導体装置は、撮像画像に物体が含まれているかを検出する検出処理を行い、撮像画像に物体が含まれている場合に撮像画像から当該物体が存在する画像領域を物体検出領域画像として切り出す画像検出部と、物体検出領域画像に対して画像認識処理を行い物体に対する認識確率を出力する画像認識部と、移動速度および撮像間隔の少なくともいずれか一方を認識確率に基づいて設定する制御部と、を備える。
他の実施の形態に係る移動体装置は、画像を撮影する撮像部と、移動体装置を移動させるための移動駆動部と、撮像部からの撮像画像に物体が含まれているかを識別し当該物体が存在する物体検出領域画像を切り出す画像検出部と、物体検出領域画像に対して画像認識処理を行い物体に対する認識確率を出力する画像認識部と、移動駆動部および撮像部の少なくとも一方を認識確率に基づいて制御する制御部と、を有する。
また、他の実施の形態に係る移動体装置の制御方法は、撮像部から得られる撮像画像を取得するステップと、撮像画像に物体が含まれているかを識別し撮像画像に物体が含まれている場合に当該物体が存在する物体検出領域画像を切り出すステップと、物体検出領域画像に対して画像認識処理を実行し、物体に対する認識確率を出力するステップと、認識確率に応じて移動体装置の移動速度および撮像間隔の少なくともいずれか一方を制御するステップと、を含む。
前記一実施の形態によれば、撮像画像を過剰に増やすことなく画像認識精度を向上することができる。
図1は、実施の形態1に係る移動体装置の構成を示すブロック図である。 図2は、実施の形態1に係る移動体装置の動作の一例を示すフローチャートである。 図3は、実施の形態1に係る移動体装置の動作手順の一例を示す説明図である。 図4は、実施の形態1の変形例1に係る移動体装置の動作手順の一例を示す説明図である。 図5は、実施の形態1の変形例2に係る移動体装置の物体検出処理の一例を示すフローチャートである。 図6は、移動体装置の筐体制御動作の一例を示すフローチャートである。 図7は、移動体装置の筐体制御動作の別の一例を示すフローチャートである。 図8は、移動体装置の筐体制御動作の別の一例を示すフローチャートである。 図9は、実施の形態2に係る移動体装置の構成を示すブロック図である。 図10Aは、実施の形態2に係る移動体装置の輪郭座標の演算処理の一例を示す図である。 図10Bは、実施の形態2に係る移動体装置の輪郭座標の演算処理の一例を示す図である。 図11は、実施の形態2に係る移動体装置の動作の一例を示すフローチャートの一部である。 図12は、実施の形態2に係る移動体装置の動作の一例を示すフローチャートの一部である。 図13は、実施の形態2に係る移動体装置の動作手順の一例を示す説明図である。 図14は、実施の形態3に係る移動体装置の構成を示すブロック図である。 図15は、実施の形態3に係る移動体装置の動作の一例を示すフローチャートである。 図16は、実施の形態3に係る移動体装置の動作手順の一例を示す説明図である。
以下、一実施の形態に係る半導体装置について、図面を参照して詳細に説明する。なお、明細書および図面において、同一の構成要素または対応する構成要素には、同一の符号を付し、重複する説明は省略する。また、図面では、説明の便宜上、構成を省略または簡略化している場合もある。また、実施の形態と各変形例との少なくとも一部は、互いに任意に組み合わされてもよい。
[実施の形態1]
図1は、実施の形態1に係る移動体装置の構成を示すブロック図である。図1に示されるように、移動体装置1は、半導体装置10、撮像部20および移動駆動部30を有する。
撮像部20は、例えばCCD(Charge Coupled Device)撮像素子や、CMOS(Complementary Metal Oxide Semiconductor)撮像素子と撮像レンズを含んで構成され、移動体装置1の筐体の進行方向前側に配置されている。そして、撮像部20は、移動体装置の周辺(例えば、進行方向前方の走行面)を撮影する。
移動駆動部30は、不図示の移動モータや駆動輪などを備え、移動体装置1の筐体を前後方向への直進および左右方向へ移動させる。
半導体装置10は、撮像インターフェース(I/F)101、撮像制御部102、記憶部103、画像検出部104、画像認識部105、移動制御部106および制御部107を有し、システムバス108を介して各部が接続されている。
撮像インターフェース101には、撮像部20が接続されており、撮像部20で撮影された撮像画像を受け、記憶部103に一時格納する。例えば、撮像画像の画像サイズは640×480ピクセルである。
撮像制御部102は、撮像インターフェース101を介して、撮像部20へ撮像制御信号を送信する。撮像制御信号は、制御部107からの撮像間隔指示に基づき生成される。撮像部20は、撮像制御信号によって撮影間隔が制御され、指定された撮像間隔で撮影した撮像画像を順次送信する。撮像間隔は、撮像画像の取得間隔として定義される。
記憶部103は、撮像インターフェース101を介して撮像部20から送られてくる撮像画像を一時格納し、その一時格納した撮像画像を読み出し、画像検出用として画像検出部104に送信する。また、記憶部103は、後述するように、画像検出部によって物体が検出されたときに切り出された物体検出領域の画像を記憶保持する。
この実施の形態において、記憶部103に一時記憶される撮像画像は、画像検出部104での画像検出処理、および、画像認識部105での画像認識処理に用いられる。
画像検出部104は、記憶部103に一時格納された撮像画像を読み出し、撮像画像から物体が映っている領域を探す。物体が映っている領域が存在した場合には、画像検出部104はその物体が映っている領域を切り出し、物体検出領域画像として記憶部103に格納する。例えば、物体検出領域画像の画像サイズは、64×64ピクセルである。
なお、画像検出部104は、対象の撮像画像に対して、所定の大きさの判定領域で走査し、判定領域内に物体が存在するか否かの判定を行い、物体が存在すると判定された判定領域を物体検出領域画像として記憶部103に格納する。なお、判定領域内に物体が存在するか否かの判定は、周知のパターン認識技術を適用してもよい。
画像認識部105は、記憶部103に一時格納された物体検出領域画像を読み出し、当該物体検出領域画像に含まれる物体に対する認識確率を算出する。すなわち、画像認識部105は、物体に対する複数の認識候補の認識確率をそれぞれ算出する。そして、算出された認識確率に基づいて、その物体が何であるかが特定される。例えば、最も高い認識確率が得られた認識候補を物体の認識結果とする。また、その認識確率算出方法としては、畳み込みニューラルネットワーク手法等のニューラルネットワークが適用される。
移動制御部106は、移動駆動部30の移動動作を制御する。例えば、移動制御部106はモータドライバ等を備え、制御部107からの制御信号に基づき移動方向および移動速度を決定して移動駆動部30に指示する。
制御部107は、撮像制御部102に対して撮像画像の取得間隔である撮像間隔を指示する。また、移動制御部106に対しては移動方向および移動速度を指示する。さらに、制御部107は、画像認識部105から出力される認識確率に基づき撮像制御部102および移動制御部106の少なくとも一方を制御する。具体的には、画像認識部105から出力された認識確率が所定値以上の場合には、制御部107は、撮像制御部102および移動制御部106にそれぞれ撮像間隔および移動速度の初期値を設定する。一方、認識確率が所定値未満の場合には、制御部107は、撮影間隔および移動速度の少なくとも一方を変更するように撮像制御部102および移動制御部106を制御する。例えば、認識確率が所定値未満の場合には、制御部107は、移動体装置1の移動速度を低速に、または、撮像間隔が短くなるように制御する。
図2は、実施の形態1にかかる移動体装置1の制御方法の一例を示すフローチャートである。図3は、移動体装置1の制御に係る動作を示す説明図である。図3の(B)、(C)において、図3の(A)と共通部分の符号は省略する。
まず、移動体装置1に電源が投入され(ステップS1)、撮像制御部102および移動制御部106にそれぞれ撮像間隔初期値および移動速度初期値が設定される。これら撮像間隔初期値および移動速度初期値は、設計者によって予め定められる。例えば、撮像間隔における移動体装置1の移動距離が、進行方向の画像視野長(撮像画像の垂直方向の長さ)と同等程度になるように、撮像間隔初期値および移動速度初期値が設定される。移動体装置1は、移動速度初期値に従い移動を開始し(ステップS2)、撮像間隔初期値に従い撮影を開始する(ステップS3)。
次に、画像検出部104が、撮像部20によって撮影された撮像画像内に物体が映っているか否かの判定をするために、画像検出部104によって撮像部20で撮影された撮像画像に対して物体検出処理が実行される(ステップS4)。図3の(A)に示すように、撮像画像202_1に物体が映っていない場合には物体検出領域画像が出力されないことによって撮像画像内に物体が映っていないと判定され(ステップS5のNo)、ステップS3に戻る。一方、図3の(B)に示すように、撮像画像202_2に物体が映っている場合には物体検出領域画像が出力されるため撮像画像内に物体が映っていると判定され(ステップS5のYes)、出力された物体検出領域画像が記憶部103に格納される。
画像認識部105は、記憶部103から物体検出領域画像を読み出し、読み出した物体検出領域画像に対して画像認識処理を行い、複数の認識候補にそれぞれ対応する複数の認識確率を出力する(ステップS6)。
複数の認識確率の中に所定値以上の認識確率(例えば、80%以上)があった場合は(ステップS7のYes)、制御部107は移動速度および撮像間隔をそれぞれ初期値に維持または再設定する(ステップS8)。その後、制御部107は、認識確率から得られる物体の認識結果に応じて筐体の制御を行う(ステップS9)。例えば、後述するように、移動体装置1が認識した物体を避けるように移動方向が制御されてもよい。つまり、制御部107は、認識確率が所定値以上の場合には、移動体装置1である自装置の移動方向を変更するように、移動駆動部106を制御してもよい。または、不図示の通知部により物体の認識結果を通知するようにしてもよい。その後、移動体装置1は、ステップS3に戻り、ステップS8において設定された移動速度および撮像間隔に基づき、画像撮影、画像検出および画像認識処理を繰り返す。
一方、複数の認識候補の認識確率のいずれもが所定値未満(例えば80%未満)である場合は(ステップS7のNo)、制御部107は移動速度および撮像間隔の少なくとも一方を変更する(ステップS10)。つまり、制御部107は、認識確率が所定値以下の場合には、移動体装置1である自装置の移動速度を変更するように、移動駆動部106を制御してもよい。また、制御部107は、認識確率が所定値以下の場合には、移動体装置1である自装置の撮像間隔を変更するように、撮像制御部102を制御してもよい。認識確率が所定値未満になる理由としては、図3の(B)に示すように、物体200が撮像画像範囲201_2に含まれているものの撮像画像202_2に物体の一部しか映っていない場合、または、撮像画像に映っている物体が小さく必要な特徴量が得られない場合が考えられる。したがって、移動速度または撮像間隔を制御することで、撮像画像に物体全体が映るようにする。
例えば、ステップS10において、制御部107は、移動速度を移動速度初期値より低速に設定する。その後、ステップS3に戻り、移動体装置1は、移動速度初期値が設定されていた場合に比べて低速で移動しながら画像撮影を行う。すなわち、移動体装置1が検出対象の物体に対して速度を落として撮影を行うことで、検出対象の物体が撮影範囲外に出てしまうことを防ぎつつ、物体の全体を映すことができる。このようにして、図3の(B)のように物体の一部しか映っておらず所定値未満の認識確率しか得られなかった場合は、次の撮影によって、図3の(C)に示されるような物体の全体が映る撮像画像を取得できる。
このようにして得られた物体の全体が映る撮像画像に対して物体検出処理が行われ、物体検出領域画像が出力される(ステップS4、ステップS5のYes)。そして、この物体検出領域画像に対して画像認識処理が行われる(ステップS6)。物体検出領域画像には物体の全体が含まれているため、図3の(B)の撮像画像での認識確率よりも高い認識確率が期待できる。
所定値以上の認識確率が得られた場合には、制御部107は、移動速度を移動速度初期値に戻し(ステップS8)、その認識結果に基づき移動体装置1の制御が行われる(ステップS9)。
なお、ステップS10において、撮像間隔を撮像間隔初期値よりも短くしてもよい。この場合も、移動速度を移動速度初期値よりも低速に設定する場合と同様の効果が得られる。すなわち、物体に少しずつ近づいた撮影画像を得ることができ、結果、物体の全体が映る撮像画像を得ることができる。
図3の(A)〜(C)を参照して、移動体装置1の動作について説明する。
図3の(A)に示されるように、物体200が撮像画像範囲外にある場合は、当然、撮像画像201_1には物体が映らない。したがって、物体は検出されず(ステップS4のNo)、移動を続けながら再度画像取得を行う(ステップS3)。図3の(B)に示されるように、次の撮影タイミングで、物体200の一部が撮像画像範囲201_2に入ると、物体の一部が映った撮像画像が得られ、物体が検出される(ステップS5のYes)。そして、画像認識処理が実行される(ステップS6)。しかしながら、撮像画像には物体の一部しか映っていないため認識確率が下がり、所定値未満となった場合(ステップS7のNo)、制御部107は移動速度を初期値より低速になるように変更する(ステップS10)。つまり、図3の(A)に示される移動体装置1の位置から、次の撮影タイミング(図3の(B))までに移動体装置1が移動した距離をLとすると、図3の(B)に示される移動体装置1の位置から図3の(C)に示される移動体装置1の位置までの移動距離L’は移動距離Lよりも小さい。したがって、移動体装置1は、次の撮影タイミングでの撮像画像範囲201_3が物体の位置を超えてしまうことのないように移動することができ、結果、物体の全体を含む撮像画像202_3を得ることができる。その後、物体の全体を含む撮像画像202_3で画像認識処理が実行され、例えば、指輪であるとする認識確率が所定値以上となった場合には(ステップS7のYes)、当該物体は指輪であると認識される。物体が認識されると、移動体装置1の移動速度は初期値に戻され(ステップS8)、その後、例えば、物体を避けるように方向を変更される(ステップS9)。
上述のように、本実施の形態に係る移動体装置1は、画像認識処理後の認識確率に基づいて移動速度または撮像間隔を制御する。認識確率が低い場合には、移動体装置1の移動速度をより低速に、または、撮像間隔をより短くすることにより、物体に近づきつつ撮像画像枚数を増やして画像認識処理を行う。画像認識処理の対象となる撮像画像が増えることにより画像認識精度の向上を図ることができる。言い換えれば、所定値未満の画像認識率を得た位置よりも物体に近い範囲における撮像画像枚数を増やし、物体の画像認識精度を向上させている。一方、所定値以上の認識確率が得られたときは、移動体装置1の移動速度および撮像間隔を初期値にすることで、移動領域に対する撮像画像枚数を抑えている。
また、画像認識処理は物体検出領域画像に対してのみ実行されるため、物体が映っていない撮像画像には画像認識処理が実行されない。さらに、物体が検出された撮像画像のうち物体が検出された領域の画像を切り出し、切り出された画像に対してのみ画像認識処理の対象とすることで、画像認識処理の増大を抑制できる。その結果、画像認識処理時間が短縮され、低消費で処理を行うことができる。
[実施の形態1の変形例1]
実施の形態1の変形例について、図4を参照しながら説明する。図4は、実施の形態1の変形例1に係る移動体装置1の制御方法の一例を示している。実施の形態1の説明では、撮像画像に物体が映っているか否か(ステップS4、S5)で物体検出の判断を行っていたが、加えて、物体検出領域のサイズに応じて物体が検出されたか否かの判定(ステップS11、S12)を行ってもよい。
画像検出部104は、物体が検出され、物体が映っている領域が出力された後、物体検出領域画像のサイズが第1の所定サイズ(Size_1)よりも大きいか否かを判定する(ステップS11)。物体検出領域画像のサイズが第1の所定サイズ以上である場合(ステップS11のYes)には、ステップS12に進む。一方、物体検出領域画像のサイズが第1の所定サイズ(Size_1)の大きさを超えない場合(ステップS11のNo)には、ステップS3に戻る。すなわち、物体検出領域画像のサイズが第1の所定サイズよりも小さい場合には、当該物体検出領域画像が記憶部103に格納されず、その物体検出領域画像に対する画像認識処理が行われない。
物体検出領域画像のサイズが第1の所定サイズ以上だった場合には、さらに物体検出領域画像のサイズが第2の所定サイズ(Size_2)よりも大きいか否かを判定する(ステップS12)。物体検出領域画像のサイズが第2の所定サイズ(Size_2)以下の場合は(ステップS12のYes)、当該領域の画像データを記憶部103に格納し、画像認識処理が実行される(ステップS5)。一方、物体検出領域画像のサイズが第2の所定サイズよりも大きい場合は(ステップS12のNo)、検出された物体に衝突しないように画像認識処理を行うことなく筐体の制御を行う(ステップS8)。
このように、変形例1によれば、物体検出領域画像のサイズが所定の範囲内にある場合に、当該物体検出領域画像に対して画像認識処理を実行する。
物体検出領域画像のサイズが小さい場合には、認識に必要な特徴量が得られず、画像認識処理を行っても低い認識確率しか得られない可能性がある。したがって、低い認識確率に基づいた認識結果しか得られないと予想される撮像画像に対しては画像認識処理を実行しない。また、物体検出領域画像のサイズが大きい場合には、筐体が衝突する可能性がある。したがって、画像認識処理を行うことなく衝突を避けるような筐体制御を優先する。このように、物体検出領域画像のサイズに応じて画像認識処理の実行を決定することで、より消費電力を低減することができる。
なお、物体検出領域画像のサイズが所定のサイズ以上、または、所定のサイズ以下の場合に、物体検出領域画像に対して画像認識処理を実行してもよい。
[実施の形態1の変形例2]
実施の形態1のほかの変形例について、図5を参照しながら説明する。図5は、実施の形態1の変形例2に係る移動体装置の物体検出処理の一例を示すフローチャートである。
まず、本変形例2に係る物体検出処理では、物体の検出精度向上およびノイズによる物体誤検出防止のために、撮像画像の画質を変換してから物体検出を行う。
物体検出部104は、撮像部20で撮影された撮像画像の輝度(明るさ)を算出する(ステップS41)。算出された輝度を基に、撮像部20の露出(シャッター時間、カメラゲイン)を補正する。具体的な補正値の算出および撮像部20への制御は制御部107によって実行される。なお、ステップS41は、撮像部20の露出を補正するための工程であって、撮像画像そのものに対する処理ではない。
次に、画像検出部104は、撮像画像に対して輝度正規化処理を行う(ステップS42)。ステップS41によって撮像部20の露出が補正され、得られる撮像画像の明るさばらつきはある程度抑えることができる。そのように撮影された撮像画像に対して輝度正規化処理を実行することで、撮影画像間の明るさを統一することができる。
次に、輝度正規化処理された撮像画像をグレースケール画像に変換し、変換後のグレースケール画像に対して縮小を行う(ステップS43)。例えば、縮小グレースケール画像のサイズは320×240ピクセルである。
次に、縮小グレースケール画像に対して、ノイズ除去フィルタを用いてノイズ除去を行う(ステップS44)。
さらに、ノイズ除去された縮小グレースケール画像に対して、エッジ検出フィルタを用いたエッジ検出処理を行う(ステップS45)。これによって、撮像画像に映っている物体の輪郭画像(エッジ検出処理後画像)が得られる。なお、エッジ検出処理後画像に対して、エッジ膨張処理を行うことで、切れかかっている輪郭を補完することができるが、本変形例2において、このエッジ膨張処理は行わない。
次に、物体検出領域抽出処理を行う(ステップS46)。物体検出領域抽出処理では、まず、エッジ検出処理後画像に対して輪郭検出を行い、検出した輪郭の外接矩形情報(位置、サイズを含む)を算出する。そして、画像検出部104は、算出された外接矩形情報を用いて、撮像画像における外接矩形に対応する領域の画像を切り出し、物体検出領域画像として出力する。
このように、縮小画像を基に外接矩形情報を算出し、算出した外接矩形情報を基に縮小前の撮像画像から物体検出領域画像を切り出す。
上述のとおり、画像検出部104は、エッジ膨張処理を行っていないエッジ検出処理後画像に対して輪郭検出を行う。エッジ膨張処理を行わないことによって、認識対象とする必要のないような小さな物体の輪郭が連結して一つの大きな輪郭として誤検出されるのを防ぐことができる。複数の物体の輪郭が連結されることを防ぐ一方で、大小さまざまな物体の輪郭が多数検出される可能性がある。小さい輪郭は認識対象とする必要のないような物体である可能性が高いため、外接矩形のサイズが所定サイズ以下(例えば、32×32ピクセル以下)の場合は、この外接矩形情報は撮像画像の切り出しに使用しなくてもよい。
また、エッジ膨張処理を行わない場合、一つの物体の輪郭が分断される可能性がある。しかしながら、分断された複数の輪郭に基づく外接矩形は重なる可能性が高い。したがって、複数の外接矩形の一部が重なっている場合は、当該複数の外接矩形のそれぞれに含まれる輪郭は一つの物体の輪郭であるとして、これら複数の外接矩形を含む連結外接矩形の外接矩形情報を生成し、撮像画像の連結矩形部分に対応する領域を物体検出領域画像として出力してもよい。この連結矩形のサイズが所定サイズ以上(例えば、64×64ピクセル以上)の場合には、複数の外接矩形を連結しなくてもよい。
さらに、物体検出領域抽出処理において、複数の外接矩形が得られた場合には、それぞれの外接矩形に対して優先度を算出し、優先度の高い外接矩形の外接矩形情報を選択し、選択された外絶矩形情報に基づいて物体検出領域画像を出力してもよい。例えば、外接矩形内の画像データを構成する総ピクセルに対する輪郭を示すピクセルの割合に応じて優先度を算出してもよい。画像認識すべき物体(例えば、指輪など)の輪郭は直線や滑らかな曲線であることが多いが、ノイズ同士が連結して輪郭を構成している場合には、その輪郭が直線や滑らかな曲線であることは少ない。したがって、外接矩形内の総ピクセル数に対する輪郭を示すピクセルの割合は、画像認識すべき物体の輪郭外接矩形よりも、ノイズ同士が連結した輪郭外接矩形よりも小さい。このようにして算出された割合を優先度として用いることで、外接矩形を選別し、優先度の高い外接矩形の外接矩形情報に基づいて撮像画像から物体検出領域画像を切り出してもよい。
変形例2の物体検出処理によれば、撮像画像の輝度に基づく撮像部20の露出補正および撮像画像に対する輝度正規化処理によって、撮像画像毎に検出精度が変化することを防ぐことができる。また、撮像画像を縮小することで各画素のデータが平均化されノイズが低減するため、誤検出を減らすことができる。また、低解像度の画像である縮小画像を用いて物体検出処理を行い、その結果に基づいて高解像度である撮像画像から物体検出領域画像を切り出すことで、物体検出処理時間の短縮を図りつつ画像認識精度を高めることができる。さらに、輪郭の膨張処理を行うことなく輪郭の外接矩形情報を取得し、外接矩形のサイズ、外接矩形の連結、および、外接矩形の優先度に基づいて適切な外接矩形を選択することで、画像認識処理を実行すべき対象を絞り込むことができ、結果、画像認識処理の増大を抑制することができる。
[ステップS8における筐体制御の具体例]
移動体装置1は、自走式掃除機、監視用無人航空機、カメラを搭載した各種ロボット機器などに応用可能である。それぞれの機器の場合に、ステップS8における筐体制御の具体例について説明する。
図6は、移動体装置1が自走式掃除機である場合の筐体制御動作を示す図である。まず、移動体装置1は、認識結果が掃除対象物か否かを判定する(ステップS81)。認識された物体が掃除対象物である場合には、そのまま吸引動作を続ける(ステップS82)。一方、認識された物体が掃除対象物外の場合には、自走式掃除機が、本来、吸い込むべきでない異物を吸い込んでしまうことによる故障や破損を避ける観点から、吸引動作を停止し物体を避けて移動する(ステップS83)。または、不図示の通知部により物体の存在を知らせてもよい。
移動体装置1が、見守り用無人航空機である場合には、図7に示すように、認識結果が通知対象(例えば、倒れている人物)であるか否かを判定し(ステップS84)、通知対象物である場合には、不図示の通知部により通知を行う(ステップS85)。
さらに、移動体装置1が、カメラを搭載したロボットアームである場合には、図8に示すように、認識された物体が異物であるか否かを判定し(ステップS86)、異物である場合には不図示の通知部により通知を行うと共にその動作を停止する(ステップS87)。
[実施の形態2]
次に、実施の形態2に係る移動体装置1の別の形態となる移動体装置2を説明する。図9は、移動体装置2の一例を示す図であり、半導体装置11以外の構成は図1に示されるものと同様でよい。そのため、ここではそれらの説明を省略する。また、図1と同一の機能を有する構成については、同一の符号を付し、その説明を省略する。
図9は、本実施の形態に係る半導体装置11の構成を示すブロック図である。本実施の形態に係る半導体装置11の構成は、画像検出部114、制御部117および画像演算部119を除き、実施の形態1に係る半導体装置10と同じであるため、それらの説明を省略する。
図9に示すように、画像検出部114、制御部117および画像演算部119は、システムバス108を介して半導体装置11を構成する各要素と接続される。
画像検出部114は、実施の形態1と同様に、記憶部103に一時格納された第1の撮像画像を読み出し、第1の撮像画像から物体が映っている領域を探す。第1の物体が映っている領域が存在した場合には、画像検出部114は第1の物体が映っている領域を第1の物体検出領域として切り出し、第1の物体検出領域画像として記憶部103に格納する。また、物体が映っている領域が存在した場合には、画像検出部114は、撮像画像領域に対する物体の輪郭のローカル座標を算出し、記憶部103に格納する。
画像演算部119は、記憶部103から第1の物体の輪郭座標を読み出し、移動体装置2に設定されている移動方向、移動速度および撮像間隔を用いて、次の撮像画像で検出される物体の輪郭座標を推定する。記憶部103に推定輪郭座標として保持する。例えば、図10Aに示す撮像画像における物体の輪郭A点の座標を(X0,Y0)、移動体装置2の移動方向θ、移動速度νおよび撮像間隔Δtとすると、図10Bに示す次の撮像画像における物体の輪郭A点の座標(X1,Y1)は以下のように推定できる。
X1=X0−νΔt×cosθ ・・・(1)
Y1=Y0−νΔt×sinθ ・・・(2)
このように推定された輪郭座標(X1,Y1)は、記憶部103に格納される。
制御部117は、今回撮影された第2の撮像画像内において検出された第2の物体の輪郭座標と、先に撮影された第1の撮像画像内の第1の物体の輪郭座標から推定した推定輪郭座標とを比較し、第2の撮像画像内の第2の物体と前回撮影された第1の撮像画像内の第1の物体とが同一物体か否かを判定する。具体的には、第2の撮像画像内において検出された第2の物体の輪郭座標に、当該推定輪郭座標が含まれているか否かを判定し、含まれている場合には第1の物体と第2の物体が同一物体であると判定する。そして、本実施の形態では、制御部117は、連続して撮影された撮像画像内に映っている物体が同一物体であると判定したときに、第1の物体に対する第1の認識確率から得られる第1の認識結果と、第2の物体に対する第2の認識確率から得られる第2の認識結果とを比較する。
また、制御部117は、これら連続して撮影された第1および第2の撮像画像に対する画像認識結果の比較結果に基づいて、撮像制御部102および移動制御部106の少なくとも一方を制御する。具体的には、制御部117は、同一物体を含む連続撮像画像に対する画像認識結果が一致しているとき、一致した認識結果を最終認識結果として出力するとともに、撮像間隔および移動速度を初期値に戻すように撮像制御部102および移動制御部106に指示する。一方、同一物体を含む連続撮像画像に対する画像認識結果が一致していなかった場合には、物体の認識ができなかったとみなし、実施の形態1と同様に、撮像制御部102および移動制御部106の少なくとも一方を制御する。
このように、同一物体か否かを判定し、同一物体に対する複数の画像認識結果を用いて物体を認識することで、物体の認識精度を向上させることができる。
図11および図12は、実施の形態2に係る移動体装置2の制御方法の一例を示すフローチャートである。以下、フローチャートに沿って移動体装置2の制御方法に係る動作について説明する。なお、実施の形態1に係る移動体装置1の動作と同じステップには同じ符号を付す。また、図13は、移動体装置2の処理手順を示す説明図である。図13の(B)、(C)において、図13の(A)との共通部分の符号は省略する。
移動体装置2に電源が投入され(ステップS1)、撮像間隔初期値および移動速度初期値が設定される。移動体装置2は、移動速度初期値に従い移動を開始する(ステップS2)とともに、撮像間隔初期値に従い撮影を行う(ステップS3)。ここで、移動速度初期値および画像間隔初期値は、例えば、撮像間隔における移動体装置2の移動距離が、進行方向の画像視野長(撮像画像の垂直方向の長さ)の半分以下になるように、撮像間隔初期値および移動速度初期値が設定される。
次に、画像検出部114は、撮影された撮像画像に物体が映っているかを判定する物体検出処理を実行する(ステップS4)。図13の(A)に示すように、撮影範囲211_1に物体が入らず、撮像画像212_1に物体が映っていない場合には(ステップS20のNo)、ステップS3に戻り、移動および撮影が続行される。一方、図13の(B)に示すように、撮影範囲211_2に物体が入り、撮像画像212_2に物体が映っている場合には(ステップS20のYes)、撮像画像212_2から物体が映っている領域が切り出されるとともに、撮像画像における物体の輪郭座標が割り出される。さらに、画像演算部119によって、輪郭座標から、次の撮像画像で検出される物体の輪郭座標が推定される。
次に、制御部117は、今回の撮像画像から抽出した輪郭座標と、推定輪郭座標を用いて、撮像画像に映っている物体が先に撮影された撮像画像に映っている物体と同じ物体か否かを判定する(ステップS21)。ここで、図13の(C)に示される撮像画像212_3が、図13の(B)に示される撮像画像212_2に続いて得られた撮像画像であった場合、撮像画像212_2に基づき算出された物体の推定輪郭座標と、撮像画像212_3に基づき算出された物体の輪郭座標とが比較され、同一物体か否かが判定される。
同じ物体でないと判断された場合には(ステップS21のNo)、物体検出部114で切り出された物体検出領域画像に対する画像認識処理が行われ、複数の認識候補に対する認識確率がそれぞれ出力される(ステップS22)。出力された認識確率は記憶部103に格納される。その認識確率に閾値P0以上のものがある場合には(ステップS23のYes)、ステップS3に戻り、移動体装置2は移動しながら撮影を続ける。認識確率がいずれも閾値P0未満の場合には(ステップS23のNo)、移動体装置2は、移動速度および撮像間隔の少なくともいずれか一方が変更され(ステップS24)、変更後の移動速度および撮像間隔の少なくともいずれか一方にしたがって移動および撮影を続ける。
ステップS21にて同じ物体であると判断された場合には(ステップS21のYes)、物体検出部114で切り出された物体検出領域画像に対する画像認識処理が行われ、複数の認識候補に対する認識確率がそれぞれ出力される(ステップS25)。その認識確率に閾値P1以上のものがある場合には(ステップS26のYes)、記憶部103に格納されている先に撮影された撮像画像に基づく認識確率から得られる認識結果と、今回の認識確率から得られる認識結果とが同じ結果を示しているか否かを判定する(ステップS27)。例えば、図13の(B)に示された撮像画像から得られた画像認識結果と、図13の(C)に示された撮像画像から得られた画像認識結果とが同じ結果を示しているかが判断される。
複数の連続した撮像画像から得られる認識結果が一致する場合には(ステップS27のYes)、制御部117は移動速度および撮像間隔を初期値に戻し(ステップS7)、物体の認識結果に基づき筐体が制御された後(ステップS8)、ステップS3に戻り移動および撮影を続ける。なお、ステップS8における移動体装置2の制御は、実施の形態1と同様でもよいため、その説明を省略する。
認識確率がいずれも閾値P1未満の場合(ステップS26のNo)、または、ステップS27にて複数の認識結果が不一致の場合には(ステップS27のNo)、ステップS24に戻り、制御部117は、移動速度および撮像間隔の少なくともいずれか一方を変更する。そして、ステップS3に戻り、移動体装置2は、移動および撮影を続ける。
なお、認識確率閾値P0と認識確率閾値P1は、同じ値であっても異なる値であってもよい。一般的に、移動体装置1と物体との距離が離れている場合、物体の特徴量を十分に得ることができず認識確率が低い傾向にある。したがって、認識確率閾値P0よりも認識確率閾値P1を大きくすることで、より認識精度の高い結果を得ることが可能になる。
画像認識処理で得られるのは、あくまでも対象物体の認識確率であり、認識を誤る可能性もある。しかしながら、本実施の形態にかかる移動体装置2は、複数の撮像画像に映っている物体が同一か否かを判定し、同一物体に対する複数の認識処理結果から最終認識結果を得る。すなわち、同一物体を複数回認識させることで高確度での認識結果を得ることができる。
なお、本実施の形態では、2枚の撮像画像からの画像認識結果を用いて物体を認識しているが、後に認識した結果を優先して最終認識結果を決定してもよい。また、移動速度初期値および撮像間隔初期値を適宜設定し、3枚以上の撮像画像からの画像認識結果を用いて物体を認識してもよい。3枚以上の撮像画像から画像認識結果を得る場合には、認識結果の多数決で最終認識結果を決定してもよい。
さらに、本実施の形態においては、輪郭座標を算出しているため、撮像画像に複数の物体が映っているときにも、それぞれの物体に対する認識処理を行うことができる。例えば、第1の撮像画像と、それに続く第2の撮像画像とでそれぞれ個別に物体を認識させることもできる。
なお、本実施の形態において、輪郭座標を算出しているが、物体検出領域画像の左上の座標を用いて同一物体判定を行ってもよい。輪郭座標を用いて同一物体か否かの判断を行う場合に比べて、物体検出領域の左上の座標のみを用いるほうが、座標算出処理および保持情報が少ないため、より処理を高速化することができる。
[実施の形態3]
次に、実施の形態3について説明する。
図14は、本実施の形態3に係る移動体装置3を示す図であり、半導体装置12以外の構成は図1に示されるものと同様でよい。そのため、ここではそれらの説明を省略する。また、図14に示される本実施の形態3に係る半導体装置12の構成は、画像合成部120および制御部127を除き、実施の形態2に係る半導体装置11と同じであるため、それらの説明を省略する。
図14に示すように、画像合成部120はシステムバスを介して半導体装置12を構成する各要素と接続される。画像合成部120は、制御部127によって、連続して撮影された第1および第2の撮像画像にそれぞれ映っている第1および第2の物体が同一物体であると判定された場合に、記憶部103からこれら撮像画像の物体検出領域画像である第1および第2の物体検出領域画像を読み出し画像合成する。合成された画像は、合成画像として記憶部103に格納される。画像合成部120は、画像合成を行うにあたって各物体検出領域画像の大きさを調整するために画像補正を行ってもよい。
制御部127は、記憶部103より合成画像を読み出し、合成画像に対して画像認識処理を行うように画像認識部105に指示する。
図15は、本実施の形態3に係る移動体装置3の制御方法の一例を示すフローチャートである。図16は、本実施の形態3に係る移動体装置3の制御方法に係る動作を示す説明図である。図16の(B)において図16の(A)との共通部分の符号は省略する。
本実施の形態3において、移動体装置3は、画像取得後、以下の手順にしたがって処理を実行する。
図15のステップS20において、画像検出部114による撮像画像の画像検出処理を実行し、物体を検出したか否かを判定する。物体が検出された場合は(ステップS20のYes)、画像検出部114は、撮像画像から物体が映っている領域を切り出すとともに、撮像画像における物体の輪郭座標を割り出す。さらに、画像演算部119が、輪郭座標に基づき、次の撮像画像で検出される物体の輪郭座標を推定する。物体が検出されなかった場合は(ステップS20のNo)ステップS3に戻り、画像取得を行う。
続くステップS30において、制御部127は、撮像画像における物体の輪郭座標と、画像演算部119で推定した推定輪郭座標とを比較し、撮像画像に映っている物体が先に撮影された撮像画像に映っている物体と同じ物体か否かを判定する(ステップS30)。
同じ物体ではないと判断された場合には(ステップS30のNo)、画像認識部105は、今回抽出された物体検出領域画像に対する画像認識処理を行い、認識確率を出力する(ステップS5)。一方、同じ物体であると判断された場合には(ステップS30のYes)、画像合成部120は、先に抽出された物体検出領域画像と今回抽出された物体検出領域画像とを合成する(ステップS31)。画像認識部105は、合成された画像に対して画像認識処理を行い、認識確率を出力する(ステップS5)。
図16の(B)に示される撮像画像222_2に映っている物体が、先に撮影された撮像画像222_1に映っている物体200と同一物体であるときには、物体検出領域画像223_1、223_2が合成処理され、合成画像224を得る。そして、画像認識部105は、この合成画像224に対して画像認識処理を行う。
続いて、制御部127は、認識確率が所定値以上か否かを判定する(ステップS6)。認識確率が所定値以上の場合には(ステップS6のYes)、制御部127は、移動速度および撮像間隔を初期値に維持または再設定し(ステップS7)、認識結果に基づいて移動体装置2を制御する(ステップS8)。一方、認識確率が所定値未満の場合には(ステップS6のNo)、制御部127は、移動速度および撮像間隔の少なくとも一方を変更して(ステップS10)、ステップS3に戻る。
本実施の形態3におけるステップS8の移動体装置3の制御は、実施の形態1と同様でもよいため、その説明を省略する。
本実施の形態によれば、図16の(A)および(B)に示すように、撮像画像に物体の一部しか映っていない場合でも、画像合成によって物体の全体像を得ることができる。したがって、合成画像に対する画像認識処理結果のほうが、物体の一部しか映っていない撮像画像に対する画像認識処理結果よりも高くなる。したがって、認識精度を高めることができる。
上述の実施の形態において、移動体装置の画像検出部、画像認識部および制御部は、集積回路(ICチップ)上に形成された論理回路によってハードウェアとして構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
ソフトウェアによって実現される場合は、移動体装置は、各機能を実現する制御プログラムの命令を実行するCPU、上記プログラムを格納したROM(Read Only Memory)、上記プログラムを展開するRAM(Random Access Memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置などを備えている。そして、上述した機能を実現するソフトウェアである移動体装置1の制御プログラムのプログラムコードをコンピュータで読み取り可能に記憶した記憶媒体を、移動体装置に供給し、そのコンピュータ(またはCPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、実現可能である。
以上、本発明者によってなされた発明をその実施の形態に基づき説明したが、本発明は上記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることは言うまでもない。
1、2、3 移動体装置
10、11、12 半導体装置
20 撮像部
30 移動駆動部
101 撮像インターフェース
102 撮像制御部
103 記憶部
104、114 画像検出部
105 画像認識部
106 移動制御部
107、117、127 制御部
108 システムバス
119 画像演算部
120 画像合成部
200 物体

Claims (18)

  1. 撮像画像に物体が含まれているかを検出し、前記撮像画像に前記物体が含まれている場合に、前記撮像画像から当該物体が存在する画像領域を物体検出領域画像として切り出す画像検出部と、
    前記物体検出領域画像に対して画像認識処理を行い、前記物体に対する認識確率を出力する画像認識部と、
    移動速度および前記撮像画像の取得間隔である撮像間隔を設定する制御部と、
    を備え、
    前記制御部は、前記認識確率に基づいて前記移動速度および前記撮像間隔の少なくともいずれか一方を設定する、
    半導体装置。
  2. 前記制御部は、移動速度初期値を有し、
    前記認識確率が所定値以上のとき、前記移動速度を前記移動速度初期値に設定し、
    前記認識確率が所定値未満のとき、前記移動速度を前記移動速度初期値よりも小さい値に設定する、
    請求項1に記載の半導体装置。
  3. 前記制御部は、撮像間隔初期値を有し、
    前記認識確率が所定値以上のとき、前記撮像間隔を前記撮像間隔初期値に設定し、
    前記認識確率が所定値未満のとき、前記撮像間隔を前記撮像間隔初期値よりも短くなるように設定する、
    請求項1に記載の半導体装置。
  4. 前記画像認識部は、前記物体検出領域画像のサイズが所定サイズよりも大きい場合に、当該物体検出領域画像に対する画像認識処理を行う、
    請求項1に記載の半導体装置。
  5. 前記画像検出部は、前記撮像画像をグレースケール画像に変換し、前記グレースケール画像を縮小した画像に対してノイズ除去を行い、ノイズ除去後の縮小グレースケール画像から前記物体の輪郭を検出し、検出された輪郭の外接矩形情報に基づいて前記撮像画像から前記物体検出領域画像を切り出す、
    請求項1に記載の半導体装置。
  6. 前記画像検出部は、前記縮小グレースケール画像から複数の輪郭が検出される場合には、前記複数の輪郭の外接矩形情報に基づいて、当該複数の輪郭の外接矩形を連結した連結外接矩形を生成し、前記連結外接矩形の情報に基づいて、前記撮像画像から前記物体検出領域画像を切り出す、
    請求項5に記載の半導体装置。
  7. 前記画像検出部は、前記縮小グレースケール画像から複数の輪郭が検出される場合には、前記複数の輪郭の外接矩形に対する優先度をそれぞれ算出し、前記優先度に応じて外接矩形を選択し、選択された前記外接矩形に対応する外接矩形情報に基づいて前記撮像画像から前記物体検出領域画像を切り出す、
    請求項5に記載の半導体装置。
  8. 前記画像認識部は、ニューラルネットワークを用いて画像認識を行う、
    請求項1に記載の半導体装置。
  9. 前記制御部は、第1の撮像画像に含まれる第1の物体に対する第1の認識確率から得られる第1の認識結果と、前記第1の撮像画像に続いて撮影された第2の撮像画像に含まれる第2の物体に対する第2の認識確率から得られる第2の認識結果とに基づいて、前記物体の認識結果を出力する、
    請求項1に記載の半導体装置。
  10. 前記画像検出部は、前記撮像画像に含まれる前記物体の輪郭座標を出力し、
    前記制御部は、前記第1の撮像画像に含まれる前記第1の物体の輪郭座標と、前記第2の撮像画像に含まれる前記第2の物体の輪郭座標とを比較して、前記第1の物体と前記第2の物体が同一物体であると判定した場合に、前記第1および前記第2の認識結果に基づいて認識結果を出力する、
    請求項9に記載の半導体装置。
  11. 前記半導体装置は、画像合成部をさらに有し、
    前記画像検出部は、前記撮像画像に含まれる前記物体の輪郭座標を出力し、
    前記画像合成部は、第3の撮像画像に含まれる第3の物体と第4の撮像画像に含まれる第4の物体とが同一物体であると判定されたとき、前記第3の撮像画像から切り出された第3の物体検出領域画像と前記第4の撮像画像から切り出された第4の物体検出領域画像とを合成して合成画像を生成し、
    前記画像認識部は、前記合成画像に対して画像認識処理を行う、
    請求項1に記載の半導体装置。
  12. 画像を撮影する撮像部と、
    移動体装置を移動させるための移動駆動部と、
    前記撮像部からの撮像画像に物体が含まれているかを検出し、当該物体が存在する物体検出領域画像を切り出す画像検出部と、
    前記物体検出領域画像に対して画像認識処理を行い、前記物体に対する認識確率を出力する画像認識部と、
    前記認識確率に基づいて、前記移動駆動部および前記撮像部の少なくとも一方を制御する制御部と、を有する、
    移動体装置。
  13. 前記制御部は、
    前記認識確率が所定値以上の場合には、自装置の移動方向を変更するように前記移動駆動部を制御し、
    前記認識確率が所定値未満の場合には、前記自装置の移動速度を変更するように前記移動駆動部を制御する、
    請求項12に記載の移動体装置。
  14. 前記移動体装置は、通知部をさらに有し、
    前記通知部は、前記認識確率が所定値以上の場合には、前記物体の存在を示す通知を行う、
    請求項12に記載の移動体装置。
  15. 撮像部から得られる撮像画像を取得するステップと、
    前記撮像画像に物体が含まれているかを検出し、前記撮像画像に物体が含まれている場合に、当該物体が存在する物体検出領域画像を切り出すステップと、
    前記物体検出領域画像に対して画像認識処理を実行し、前記物体に対する認識確率を出力するステップと、
    前記認識確率に応じて自装置の移動速度および前記撮像画像の撮像間隔の少なくともいずれか一方を制御するステップと、を含む、
    移動体装置の制御方法。
  16. 前記物体検出領域画像のサイズが所定のサイズよりも大きいか否かを判定するステップを含む、
    請求項15に記載の移動体装置の制御方法。
  17. 複数の撮像画像のそれぞれに含まれる物体が同一か否かを判定するステップと、
    前記複数の撮像画像のそれぞれに含まれる物体が同一であると判定された場合に、前記複数の撮像画像に対する認識確率に基づいて前記物体の認識結果を出力するステップと、をさらに含む、
    請求項15に記載の移動体装置の制御方法。
  18. 複数の撮像画像のそれぞれに含まれる物体が同一か否かを判定するステップと、
    前記複数の撮像画像のそれぞれに含まれる物体が同一であると判定された場合に、前記複数の撮像画像に対応する物体検出領域画像を合成し、合成画像を生成するステップと、
    前記合成画像に対して画像認識処理を実行し、前記物体に対する認識確率を出力するステップと、を含む、
    請求項15に記載の移動体装置の制御方法。
JP2019106284A 2019-06-06 2019-06-06 半導体装置、移動体装置および移動体装置の制御方法 Pending JP2020201583A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019106284A JP2020201583A (ja) 2019-06-06 2019-06-06 半導体装置、移動体装置および移動体装置の制御方法
US16/848,667 US11210530B2 (en) 2019-06-06 2020-04-14 Semiconductor device, mobile apparatus, and method of controlling mobile apparatus
CN202010409306.8A CN112130553A (zh) 2019-06-06 2020-05-14 半导体装置、可移动设备和控制可移动设备的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019106284A JP2020201583A (ja) 2019-06-06 2019-06-06 半導体装置、移動体装置および移動体装置の制御方法

Publications (1)

Publication Number Publication Date
JP2020201583A true JP2020201583A (ja) 2020-12-17

Family

ID=73651612

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019106284A Pending JP2020201583A (ja) 2019-06-06 2019-06-06 半導体装置、移動体装置および移動体装置の制御方法

Country Status (3)

Country Link
US (1) US11210530B2 (ja)
JP (1) JP2020201583A (ja)
CN (1) CN112130553A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11493914B2 (en) * 2020-06-26 2022-11-08 Intel Corporation Technology to handle ambiguity in automated control systems
KR20220084842A (ko) * 2020-12-14 2022-06-21 삼성전자주식회사 증강 현실 콘텐츠를 디스플레이하는 전자 장치 및 방법

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003123197A (ja) * 2001-10-16 2003-04-25 Alpine Electronics Inc 道路標示等認識装置
JP2005302056A (ja) * 1998-02-06 2005-10-27 Fujitsu Ltd パターン抽出装置
JP2008129899A (ja) * 2006-11-22 2008-06-05 Sharp Corp 自走式移動体
JP2008293446A (ja) * 2007-05-28 2008-12-04 Chubu Electric Power Co Inc 移動体識別装置、移動体識別プログラム
JP2009107468A (ja) * 2007-10-30 2009-05-21 Ihi Corp 走行車
JP2011063131A (ja) * 2009-09-17 2011-03-31 Hitachi Automotive Systems Ltd 車両制御装置
JP2014149678A (ja) * 2013-02-01 2014-08-21 Panasonic Corp 美容支援装置、美容支援システム、美容支援方法、並びに美容支援プログラム
JP2018072893A (ja) * 2016-10-24 2018-05-10 株式会社日立製作所 画像処理装置、警告装置、画像処理システム、画像処理方法
JP2019030738A (ja) * 2018-11-08 2019-02-28 將洋 鈴木 自走式電気掃除装置及び自走式電気掃除装置用プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4709101B2 (ja) * 2006-09-01 2011-06-22 キヤノン株式会社 自動追尾カメラ装置
JP5768381B2 (ja) * 2011-01-20 2015-08-26 カシオ計算機株式会社 動画像処理装置、動画像処理方法及びプログラム
WO2014196272A1 (ja) 2013-06-03 2014-12-11 Sako Yoichiro 電気掃除装置
JP6299651B2 (ja) * 2015-04-02 2018-03-28 株式会社デンソー 画像処理装置
JP6656987B2 (ja) * 2016-03-30 2020-03-04 株式会社エクォス・リサーチ 画像認識装置、移動体装置、及び画像認識プログラム
CN110210276A (zh) * 2018-05-15 2019-09-06 腾讯科技(深圳)有限公司 一种移动轨迹获取方法及其设备、存储介质、终端

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005302056A (ja) * 1998-02-06 2005-10-27 Fujitsu Ltd パターン抽出装置
JP2003123197A (ja) * 2001-10-16 2003-04-25 Alpine Electronics Inc 道路標示等認識装置
JP2008129899A (ja) * 2006-11-22 2008-06-05 Sharp Corp 自走式移動体
JP2008293446A (ja) * 2007-05-28 2008-12-04 Chubu Electric Power Co Inc 移動体識別装置、移動体識別プログラム
JP2009107468A (ja) * 2007-10-30 2009-05-21 Ihi Corp 走行車
JP2011063131A (ja) * 2009-09-17 2011-03-31 Hitachi Automotive Systems Ltd 車両制御装置
JP2014149678A (ja) * 2013-02-01 2014-08-21 Panasonic Corp 美容支援装置、美容支援システム、美容支援方法、並びに美容支援プログラム
JP2018072893A (ja) * 2016-10-24 2018-05-10 株式会社日立製作所 画像処理装置、警告装置、画像処理システム、画像処理方法
JP2019030738A (ja) * 2018-11-08 2019-02-28 將洋 鈴木 自走式電気掃除装置及び自走式電気掃除装置用プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
山内 仁: "連続フレームからの抽出画像の重ね合わせによる障害物遮蔽を考慮した道路標識認識", 電子情報通信学会技術研究報告 VOL.105 NO.420, vol. ITS2005-32 (2005-11), JPN6022044285, 11 November 2005 (2005-11-11), JP, pages 1 - 6, ISSN: 0005038251 *

Also Published As

Publication number Publication date
CN112130553A (zh) 2020-12-25
US20200387717A1 (en) 2020-12-10
US11210530B2 (en) 2021-12-28

Similar Documents

Publication Publication Date Title
WO2011078264A1 (ja) 画像処理装置、画像処理方法、コンピュータプログラム及び移動体
JP5964108B2 (ja) 物体検出装置
JP6384082B2 (ja) 移動物体検出装置、移動物体検出方法、及びプログラム
US6055323A (en) Face image processing system
JP2009288867A (ja) 道路区画線検出装置および道路区画線検出方法
CN107950023B (zh) 车辆用显示装置以及车辆用显示方法
CN107016348B (zh) 结合深度信息的人脸检测方法、检测装置和电子装置
US8774550B2 (en) Picture processing device, picture processing method, integrated circuit, and program
US10474884B2 (en) Action determination device
US11210530B2 (en) Semiconductor device, mobile apparatus, and method of controlling mobile apparatus
JP6617150B2 (ja) 物体検出方法及び物体検出装置
JP2009083632A (ja) 移動物体検出装置
US20230283898A1 (en) Image processing device, image processing method and non-transitory computer-readable recording medium
JP2016173795A (ja) 画像処理装置、画像処理方法およびプログラム
JP5041170B2 (ja) 画像処理装置
JP2002230477A (ja) 撮像装置
US20210089818A1 (en) Deposit detection device and deposit detection method
JP2018074411A (ja) 物体検出装置及び物体検出方法
JP2018085087A (ja) 動作判定装置
US11354795B2 (en) Deposit detection device and deposit detection method
US11288882B2 (en) Deposit detection device and deposit detection method
JP2008243111A (ja) 画像処理装置および画像処理方法
US10304205B2 (en) Image processing apparatus, method of controlling the same, and storage medium
JP2001357396A (ja) 画像処理装置および画像認識装置
US11308709B2 (en) Deposit detection device and deposit detection method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221013

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221025

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230418