JP5874141B2 - 物体識別装置 - Google Patents

物体識別装置 Download PDF

Info

Publication number
JP5874141B2
JP5874141B2 JP2012005112A JP2012005112A JP5874141B2 JP 5874141 B2 JP5874141 B2 JP 5874141B2 JP 2012005112 A JP2012005112 A JP 2012005112A JP 2012005112 A JP2012005112 A JP 2012005112A JP 5874141 B2 JP5874141 B2 JP 5874141B2
Authority
JP
Japan
Prior art keywords
image
background
region
color
tray
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012005112A
Other languages
English (en)
Other versions
JP2013145441A (ja
Inventor
護仁 中道
護仁 中道
泰 志方
泰 志方
Original Assignee
株式会社ブレイン
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ブレイン filed Critical 株式会社ブレイン
Priority to JP2012005112A priority Critical patent/JP5874141B2/ja
Priority to US13/717,717 priority patent/US9219891B2/en
Publication of JP2013145441A publication Critical patent/JP2013145441A/ja
Application granted granted Critical
Publication of JP5874141B2 publication Critical patent/JP5874141B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、撮像された例えばパンや食品等の物体を識別するための物体識別装置に関し、特に識別対象である1以上の物体が撮像された画像に基づいて、個々の物体を識別するための前提処理として、トレー等の背景から物体を自動的に分離して切り出すための技術に係る。
従来、例えば特許文献1では、画像情報に含まれる物体を識別するために、その物体の輪郭線を得る技術が提案されている。
又、特許文献2では、画像情報に含まれる輪郭等の形状特徴を抽出して、これに類似するモデルとの対比により識別する技術が提案されている。
さらに、特許文献3では、例えば半透明又は透明な部分を含む物体を識別するために、白と黒というように均一色でかつ互いに異なる2種類の背景にて撮影し、2枚の画像において変化の少ない又は変化の無い領域を物体として識別する技術が提案されている。
特開平7−22089号公報 特開2000−215315号公報 特開2004−531822号公報
ところで、近年、自家製のパンを販売するパン屋が増加傾向にあり、そのようなパン屋で製造・販売されるパンの種類も増加傾向にある。このようなパン屋では顧客が自己の欲するパンを陳列台からトレーに移し、トレーに載せた状態で代金計算が行われており、それに手間と時間を要している。すなわち、パンの種類は多種・多様であり、同一種類であっても外観が完全に同一とは限らない。従って、販売員は、トレー上のパンの種類を正確に見分け、それに基づいて例えばPOSレジスタに正確に入力する必要があり、これらに熟練作業が要求されることになる。このため、出願人において、トレー上のパンについてCCDカメラにより撮像し、この画像情報からトレー上のパンの種類と数を自動的に認識して、代金計算を自動化し得る技術の開発を進めている。
このようなパンの識別において、パンは一般的に茶色系統の色を有するものが多いため、例えば白色のトレー上に載った茶色系統のパンであれば、色の差によって背景であるトレーから容易に分離することは容易に可能と考えられるものの、白色のパンが白色のトレー上に載っている場合には境界の抽出が困難となるため背景であるトレーからの分離は困難になると考えられる。
室内の環境光だけではなくて、積極的に照明を当てて影を有する画像を取得することも考えられるが、影の部分はパンとトレーとの双方の特徴を併せ持つことになり、影の部分が背景のトレーに属するのか、パンに属するのかの境界を判別することは困難なものとなると考えられる。
さらに、パンにかけられた白い粉砂糖や、表面の光沢の存在により、画像内のパンの一部分にトレーと同じ白く写る場合には、その部分はパンであり背景の一部ではないと判別する必要がある反面、例えばドーナッツ状のパンの場合には穴の内部に影が写り込んでいても、その部分はパンではなくて背景の一部であると判別する必要がある。後者の場合、ドーナッツ状のパンではなくても、例えば3つのパンが互いに接触してトレー上に載せられている場合に真ん中の空間が影として画像に写り込むと、同様の状況になると考えられる。
本発明は、このような事情に鑑みてなされたものであり、その目的とするところは、撮像された画像に基づいて各物体を識別するにあたり、その物体と背景とを自動的に分離処理して識別対象の物体を確実に切り出し得る物体識別装置を提供することにある。
上記目的を達成するために、本発明では、トレーに載置された物体について撮像手段により撮像されたカラーデジタル画像を取り込み、このカラーデジタル画像を画像認識することにより前記物体の種類を識別する画像処理手段を備えた物体識別装置を対象にして、次の特定事項を備えたものとする。すなわち、前記撮像手段により撮像される際に前記トレーの背後からバックライトを照射するためのバックライト光源を備えることとし、前記トレーとして前記バックライトを前記撮像手段の側に透過させるよう少なくとも半透明に形成することとする。前記画像処理手段として、前記バックライト光源からバックライトが照射された状態で前記トレーの少なくとも一部を背景に含んで前記物体の全体を撮像し、撮像したカラーデジタル画像に含まれる物体に属する領域を背景領域から切り出して分離する背景分離処理部を備えるものとし、この背景分離処理部により分離された前記物体が属する領域毎に前記物体の種類についての識別処理を実行する構成とする。そして、前記背景分離処理部として、前記カラーデジタル画像をLab色空間を用いたLab画像に変換し、この変換画像の内の色の明度成分を表すL画像からエッジ検出を行うことで前記物体と背景との境界線である輪郭線を抽出する一方、前記変換画像の内のL画像、a画像及びb画像における分割領域毎に色空間の座標値により定義される色の分散の大小如何に基づいて、前記背景領域であるか、前記物体の属する領域であるかを判別し、この判別結果及び前記輪郭線に基づいて背景領域から前記物体が属する領域を切り出す構成とする(請求項1)。
本発明の場合、背景分離処理部により背景分離する対象であるカラーデジタル画像が、バックライト光源からバックライトが照射された状態で撮像されたものであるため、バックライトを用いない場合と比べ、次のような作用を得ることができる。すなわち、物体がトレーと同色系であったり、物体の一部にトレーと同色系の部分が存在していたりしても、バックライト照射の背景とすることで、そのような物体が属する領域をバックライトの明度が支配する背景領域から切り出してそれらの物体が属する領域の抽出を確実に行うことが可能となる。又、物体がある程度の高さを有していたり、複数個の物体がトレー上に載って影の影響を受けたり、あるいは、物体の内部に貫通穴を有しその貫通穴の内部に影が生じたりするような場合であっても、バックライト照射の背景とすることで、影の影響等を排除して物体が属する領域を的確に区別し得ることになる。しかも、その物体が属する領域の抽出を周囲の環境光の影響を受けることなく安定的に行うことが可能となる。これにより、物体の識別処理も、より的確に行うことができるようになる。加えて、バックライトが照射された状態で撮像されたカラーデジタル画像をLab色空間を用いたLab画像に変換し、この変換画像に内のL画像を用いて得たエッジに基づく輪郭線と、前記変換画像のL画像、a画像及びb画像における分割領域毎に色空間の座標値により定義される色の分散の大小如何に基づいて、前記背景領域であるか、前記物体の属する領域であるかを判別した判別結果とを用いて背景領域から前記物体が属する領域を切り出すようにしているため、物体の内部に貫通穴を有する場合であっても、その貫通穴の内部が背景領域と同様に色の分散状況が小となるため、かかる貫通穴の領域を確実に背景領域と判別することが可能となって、物体が属する領域をより的確に判別し得ることになる。なお、前記の識別処理としては個々の物体に属するものとして領域分けされた画像領域に対応するカラー画像部分の形状に関する特徴量に基づき各物体の種類を識別するようにすればよい。
又、前記発明の物体識別装置における背景分離処理部として、色空間における該当する色の座標値間の距離の大小如何に基づいて、前記背景領域であるか、前記物体の属する領域であるかを判別し、この判別結果を加えて、前記背景領域から前記物体が属する領域を切り出す構成とすることができる(請求項)。このようにすることにより、前記の如く物体がトレーと同色系であったり、物体の一部にトレーと同色系の部分が存在していたりしても、これを背景領域と誤識別することなく、物体が属する領域をより的確に判別し得ることになる。
さらに、前記発明の物体識別装置におけるトレーに載置される物体として、任意数のパンとすることができる(請求項)。
以上、説明したように、本発明の物体識別装置によれば、バックライト光源からバックライトが照射された状態で撮像されたカラーデジタル画像に基づき背景分離処理部により背景分離するようにしているため、バックライトを用いない場合と比べ、次のような格別な効果を得ることができる。すなわち、物体がトレーと同色系であったり、物体の一部にトレーと同色系の部分が存在していたりしても、バックライト照射の背景とすることで、そのような物体が属する領域をバックライトの明度が支配する背景領域から切り出してそれらの物体が属する領域の抽出を確実に行うことができる。又、物体がある程度の高さを有していたり、複数個の物体がトレー上に載って影の影響を受けたり、あるいは、物体の内部に貫通穴を有しその貫通穴の内部に影が生じたりするような場合であっても、バックライト照射の背景とすることで、影の影響等を排除して物体が属する領域を的確に区別することができる。しかも、その物体が属する領域の抽出を周囲の環境光の影響を受けることなく安定的に行うことができる。これにより、以後の物体の識別処理を、より的確に行うことができるようになる。加えて、バックライトが照射された状態で撮像されたカラーデジタル画像をLab色空間を用いたLab画像に変換し、この変換画像に内のL画像を用いて得たエッジに基づく輪郭線と、前記変換画像のL画像、a画像及びb画像における分割領域毎に色空間の座標値により定義される色の分散の大小如何に基づいて、前記背景領域であるか、前記物体の属する領域であるかを判別した判別結果とを用いて背景領域から前記物体が属する領域を切り出すようにしているため、物体の内部に貫通穴を有する場合であっても、その貫通穴の内部が背景領域と同様に色の分散状況が小となるため、かかる貫通穴の領域を確実に背景領域と判別することができ、物体が属する領域をより的確に判別することができるようになる。
特に、請求項によれば、背景分離処理部において、色空間における該当する色の座標値間の距離の大小如何に基づいて、背景領域であるか、物体の属する領域であるかを判別し、この判別結果を加えて、前記背景領域から前記物体が属する領域を切り出す構成とすることで、物体がトレーと同色系であったり、物体の一部にトレーと同色系の部分が存在していたりしても、これを背景領域と誤識別することなく、物体が属する領域をより的確に判別することができるようになる。
本発明の物体識別装置の実施形態を示す斜視図である。 図1の物体識別装置を側面から見た模式図である。 図1の物体識別装置の一部を構成する画像処理装置を示すブロック図である。 画像処理の例を示すフローチャートである。 図4の画像処理に含まれる背景分離処理の例を示すフローチャートである。 L画像の例を示す図である。 a画像の例を示す図である。 b画像の例を示す図である。 Cannyアルゴリズムを用いて得たエッジ画像に膨張処理を施した後の画像例を示す図である。 図9の画像に基づいて輪郭を抽出した画像の例を示す図である。 図10の画像に基づいて作成されたマスク画像の例を示す図である。 図11の画像に基づいて作成された輪郭抽出画像の例を示す図である。 パンの領域を分離するために最終的に得られるマスク画像の例を示す図である。 バックライト光源の例を示す平面説明図である。 図15(a)は赤色LEDのみを点灯させた状態の図14対応図であり、図15(b)は青色LEDのみを点灯させた状態の図14対応図である。 図16(a)は赤色LEDのみを点灯させて得られる画像例を示す図であり、図16(b)は青色LEDのみを点灯させて得られる画像例を示す図である。
以下、本発明の実施形態を図面に基づいて説明する。
図1は、本発明の実施形態に係る物体識別装置を示す。符号2は撮像手段であり、例えばCCDカメラにより構成され、トレー3上に載せられた物体4を真上から撮像するようになっており(図2も併せて参照)、その際、トレー3上のパン4には通常の室内環境の環境光があたる一方、トレー3の下からはバックライト光源5からのバックライトが上向きに照射されるようになっている。又、符号6は画像処理装置であり、7は画像処理装置6と通信接続された例えばPOSレジスタである。前記の画像処理装置6は、例えば、CPU,ROM,RAM,ハードディスク,通信インターフェースや、適宜の入力部・表示部を備えたパーソナルコンピュータにより構成されている。そして、前記ハードディスクには、オペレーティングシステムと、本実施形態による画像処理を実行するためのプログラムがインストールされており、以下説明する画像処理が実行可能となっている。前記の入力部としては例えばマウスやキーボード等、前記の表示部としては例えば液晶パネル等のディスプレイでもよいが、前記ディスプレイと、タッチパッド等の位置入力装置とを組み合わせたタッチパネル61を採用するようにしてもよい。POSレジスタ7は画像処理装置6からパン4a,4bの種類と個数との識別情報を受けて、合計代金等の表示や、販売管理・売上実績管理等の演算・入出力を実行するようになっている。POSとは、販売時点情報管理(Point of sale system)の略称である。
前記のトレー3は、透明ではないものの、上下方向に光を透過するよう半透明で、かつ、模様等のない単一色に形成されたものである。加えて、上面(表面)には例えば環境光等を反射させないように微細な凹凸を付す(例えばマット加工)ことが望ましく、又、着色するにしても淡色とすることが望ましい。好ましい具体構成としては、白色でかつ半透明に形成すればよい。又、物体4としては例えば任意数のパンであり、図例では2個のパン4a,4bがトレー3上に載せられているものとして、以下説明する。なお、物体4としては、パン以外に、キャベツやにんじん等の野菜、リンゴや梨等の果物をはじめとする食品等が本発明の適用対象とし得る。つまり、形態として同一物ではなくて、ほぼ同じ似通った形態を有するものの、完全な同一形態にはならないような製造物・生産品を識別対象の物体として、本発明を適用し得るものである。
さらに、バックライト光源5は、図例では上面に透明盤51を備えた扁平なケース52内に収容され、透明盤51の上にパン購入の顧客が購入対象のパンを載置した状態でトレー3を置くことで、撮像の実行で始まる後述の物体識別処理が開始されるようになっている。バックライト光源5の光源としてはLEDを用いて構成しているが、これに限らず他の光源を利用することも可能である。そして、トレー3に載った状態のパン4をCCDカメラ2により撮像する際には、そのトレー3の背後(裏面側)にバックライト光源5からバックライトが照射された状態になるようになっている。これにより、パン4(4a,4b)の周囲に形成されることのある影を可及的に排除し得るようになる。CCDカメラ2により撮像する際にバックライト光源5からバックライトが照射された状態にするには、バックライト光源5の点灯作動をCCDカメラ2の撮像作動に同期させたり、非同期にしてCCDカメラ2やバックライト光源5を共に後述の画像処理装置6により作動制御したり、あるいは、バックライト光源5を常時点灯状態にしておくようにしたり、というように種々の手法があり、これらの内からいずれかを選択し又は切り換え可能に組み合わせて適用すればよい。
画像処理装置6は、図3に示すように、撮像されてCCDカメラ2から取り込まれた画像(カラーデジタル画像)を記憶する画像記憶部62と、撮像された画像からパン4をトレー3等の背景から分離する、すなわち識別対象のパン4だけを切り出して分離する背景分離処理部63と、個々のパン4(4a,4b)毎の種類を切り出されたパン4a,4bの画像に基づいて識別する識別処理部64とを備えている。さらに、前記画像処理装置6は、前記識別処理部64による識別のために、パンの種類毎にモデル化された特徴量を組み合わせたテンプレート情報等が予め記憶登録されたマスタデータ記憶部65と、このマスタデータ記憶部65の登録情報を参照して識別処理部64により識別処理を実行する際に取得される新たな特徴量等について学習処理し、マスタデータ記憶部65の登録内容を更新する学習処理部66とを備えている。そして、識別処理部64による識別結果(パンの種類と個数)をPOSレジスタ7に出力するようになっている。以上の画像記憶部62、背景分離処理部63、識別処理部64及び学習処理部66等の各処理は前記の如く所定のプログラムにより実行されるようになっており、画像処理装置6はかかる各処理を実行する機能を備えたものとして構成されている。
前記の画像処理装置6により実行される処理について図4を参照しつつ簡単に説明すると、次のようになる。なお、以下では、2種類のパン4a,4bがトレー3に載っているものとして説明する。すなわち、まず、例えばタッチパネル61から画像取り込み指令を入力操作することで、バックライト光源5からのバックライトが照射された状態でトレー3に載ったパン4a,4bをCCDカメラ2により撮像し、撮像されたカラーデジタル画像を取り込んで画像記憶部62に記録する(ステップS1)。次に、記録されたカラーデジタル画像を用いてパン4a,4bの各輪郭線を抽出・確定して各パン4a,4bに属する領域の画像を区画分離する背景分離処理を実行した上で(ステップS2)、その画像に基づいて各パン4a,4bの種類を識別処理し(ステップS3)、識別結果をタッチパネル61及び/又はPOSレジスタ7等に出力する(ステップS4)。
次に、前記の背景分離処理(ステップS2)について、図5を参照しつつ詳細に説明する。この背景分離処理は、目的とする識別処理(ステップS3)の前段階に行うべき前提の処理である。すなわち、画像記憶部62に記録された画像(初期画像;カラーデジタル画像)はトレー3上にパン4a,4bが載置された状態で撮像されて背景にトレー3が写り込んだものであり、以下の背景分離処理(ステップS2)の実行により、背景であるトレー3の部分を分離してパン4a,4bの部分のみを切り出すことで、マスタデータ記憶部65に記録・更新されたパンの種類毎にモデル化された特徴量との照合等に基づく識別処理が可能となるのである。
まず、画像記憶部62に取り込まれたカラーデジタル画像をLab画像に変換する(ステップS11)。Lab画像とは、Lab色空間(Lab color space;CIELAB;L*a*b*表色系;均等色空間)を構成するL軸,a軸,b軸をそれぞれ基準として変換したL画像,a画像及びb画像からなるものである。すなわち、前記のLab色空間とは、色の明度成分を表すL軸と、赤と緑との間の色位置を示すa軸と、黄と青との間の色位置を示すb軸との三次元空間にて表色するようにしたものであり、例えば、ある色と比較する他の色との色差は、前記三次元空間におけるそれぞれの色の座標値の距離により表すことができる。前記のLab画像への変換は、取り込まれたカラーデジタル画像を、L軸の明度成分のみで表わされたL画像G−1(例えば図6参照)、a軸の色位置で表わされたa画像G−2(例えば図7参照)、及び、b軸の色位置で表わされたb画像G−3(例えば図8参照)にそれぞれ変換するものである。
次に、エッジ画像の作成を行う(ステップS12)。エッジとは、画素値が急激に変化する点又はこれらの点を結んだ線分であり、このエッジを検出することで、パン4a,4bの輪郭線の他に各パン4a,4bの特徴的な形状線等が得られることになる。エッジ検出には種々の手法の採用が可能であるが、本実施形態では前記の明度のみによって表されたL画像G−1からCannyアルゴリズムに基づきエッジ検出を行い、検出されたエッジをより強調するために膨張処理を施してエッジ画像(例えば図9の画像G−4参照)を得るようにしている。例えば、画像処理用のオープンソースライブラリに含まれる SobelやLaplace 等の微分関数、あるいは、Canny等のエッジ検出関数を用いてエッジ検出を行い、検出したエッジを元のL画像G−1と同サイズの出力画像領域に出力すればよい。そして、得られたエッジ画像に対し膨張処理を施すことで、より強調された状態のエッジ画像G−4(図9参照)を得ることができる。
次の輪郭抽出処理(ステップS13)において、前記のエッジ画像G−4に表れたエッジの内で最外縁(最外側の境界)の線を輪郭線として抽出する一方、L画像G−1,a画像G−2及びb画像G−3において分割領域毎に色の分散状況を判別することで、パン4a,4bの輪郭線の抽出を行い、輪郭抽出画像G−5(例えば図10参照)を作成する。後者の色の分散状況を判別するのは、対象のパン4に例えばドーナッツ状の如く内部に貫通穴を有するものも含まれ、このような穴あき形状のパン4であっても確実に輪郭線の抽出を可能にするためである。ここで、背景であるトレー3はバックライトの照射を受けて白色系の均一な色となるため、色の分散は(変化率)は小となる一方、パン4a,4bの領域は色の分散は大となる。そして、前記の貫通穴の領域はバックライトの照射を受けているため、影等の影響を受けることなく前記の背景であるトレー3の領域と同様に色の分散は小となる。このため、ドーナッツ状の貫通穴等がパン4にたとえ存在していても、それを的確に背景として区分けすることができ、これにより、その貫通穴とパン4との境界線を輪郭線として抽出することができると同時に、パン4a,4bの領域の判別にも利用することができる。
そして、前記の色の分散が小の領域(背景)を除いた、色の分散が大の領域を、前景であるパン4a,4bの領域とすると共に、併せて背景であるトレー3の領域はトレー3を透過したバックライトの色(白色系)となるため、前記の分割領域毎と同じ分割領域毎にバックライトの色との距離(Lab色空間におけるバックライトの色の座標値L1,a1,b1と、比較する色の座標値L2,a2,b2との距離;ΔL,Δa,Δbをそれぞれ二乗したものの和の平方根)を演算し、この距離が近ければ背景領域、遠ければ前景であるパン4a,4bの領域とする。以上の、色の分散に加え、色の距離に基づく遠景と前景との判別を行うことで、例えばパン4a,4b自体が白いパンであったり、パン4a,4bの上面に白く光る光沢や白い粉砂糖が存在していたりしても、これを背景と誤識別することなく、パン4a,4bの領域であると的確に判別することができるようになる。このようにしてパン4a,4bの領域を画定させることで、マスク画像G−6(例えば図11参照)を作成する。
最低限では、以上の処理によって、識別処理(ステップS3;図4参照)に移行することも可能であるが、本実施形態ではさらに精度を高めるために以下の処理を行うようにしている。すなわち、マスク画像G−6に対し収縮処理及び膨張処理を前処理として施し、この前処理を施した後のマスク画像に基づいて輪郭線を再度抽出して輪郭抽出画像G−7(例えば図12参照)を作成し、この輪郭抽出画像G−7に基づいてマスク画像を再度作成する。そして、得られたマスク画像に対し収縮処理及び膨張処理を施してノイズを除去することで、最終マスク画像G−8(例えば図13参照)を得る。そして、このマスク画像G−8の白色の透過領域に対応する領域の情報を当初のカラーデジタル画像から切り出して識別処理部64に出力することで、それらの領域情報に基づいて識別処理(ステップS3;図4参照)が実行されて、パン4a,4bの種類が識別処理されることになる。
以上の本実施形態の場合、バックライトを照射した状態で撮像した画像に基づいて背景分離を行うようにしていることで、バックライトを用いない場合と比べ、次のような作用効果を得ることができる。すなわち、パン4a,4bが白いパンであり、それが白いトレー3に載った状態で撮像された場合であったり、あるいは、パン4a,4bに部分的に白い部分が存在していたりしても、バックライト照射の背景とすることで、その白いパン4a,4bあるいは白い部分を有するパン4a,4bを背景から切り出してそれらの領域抽出を確実に行うことができることになる。又、パン4a,4bがある程度の高さを有していたり、複数個のパン4a,4bによって影の影響を受けたり、あるいは、ドーナッツ状の如く内部に貫通穴を有しその貫通穴の内部に影が生じたりするような場合であっても、バックライト照射の背景とすることで、影の影響等を排除してパン4a,4bの領域抽出を行うことができ、しかも、そのパン4a,4bの領域抽出を周囲の環境光の影響をうけることなく安定的に行うことができるようになる。これにより、パン4a,4bの識別処理も、より的確に行うことができるようになる。すなわち、同一種類であっても焼き上がり形状の個体差が大きく、かつ、ほぼ円形の形状のものが多いとはいっても真円形状のものはなく、円形に近いものから楕円形に近いものまでいびつな形状を有するパン4を識別対象とする場合に、そのパン4の形態を的確に切り出すことができ、切り出した情報に基づいて識別することで、識別をより効率的に行うことができるようになる。そして、このような効果を得られるバックライト光源5もLEDを用いることで薄型のものにすることができ、装置全体の小型化を図ることができる。
<他の実施形態>
なお、本発明は上記実施形態に限定されるものではなく、その他種々の実施形態を包含するものである。すなわち、例えば図14に例示するように、バックライト光源5aを比較的大きい色差を有する2種類のLEDで構成し、各色別に点灯させることで、互いに異なる色のバックライトを照射した状態の2種類の画像を得ることができる。例えば赤色LED(図14に「R」で表示)と、青色LED(同図に「B」で表示)とを平面方向に互い違いに配置(図例では縦8個×横8個を千鳥配置)して、バックライト光源5aを構成する。そして、図15(a)に示すように青色LED(B,B,…)を消灯状態(同図の網掛けハッチング参照)に維持しつつ赤色LED(R,R,…)のみを点灯することで、パン4a,4bが載ったトレー3の背後から赤色のバックライトを照射することができ、これにより、図16(a)の示すようにパン4a,4bを除く背景Cが赤色に着色された画像G−Rが得られる。一方、図15(b)に示すように赤色LED(R,R,…)を消灯状態(同図の網掛けハッチング参照)に維持しつつ青色LED(B,B,…)のみを点灯することで、パン4a,4bが載ったトレー3の背後から青色のバックライトを照射することができ、これにより、図16(b)の示すようにパン4a,4bを除く背景Cが青色に着色された画像G−Bが得られる。これら赤色背景の画像G−Rと、青色背景の画像G−Bとを対比して、変化の無い領域あるいはこれに加え所定の閾値の範囲内の変化に止まる領域を切り出せば、これらの領域をパン4a,4bの領域であるとして背景分離することができる。
2 CCDカメラ(撮像手段)
3 トレー
4 パン(物体)
4a,4b パン(物体)
5 バックライト光源
6 画像処理装置(画像処理手段)
63 背景分離処理部
64 識別処理部

Claims (3)

  1. トレーに載置された物体について撮像手段により撮像されたカラーデジタル画像を取り込み、このカラーデジタル画像を画像認識することにより前記物体の種類を識別する画像処理手段を備えた物体識別装置であって、
    前記撮像手段により撮像される際に前記トレーの背後からバックライトを照射するためのバックライト光源を備え、
    前記トレーは前記バックライトを前記撮像手段の側に透過させるよう少なくとも半透明に形成され、
    前記画像処理手段は、前記バックライト光源からバックライトが照射された状態で前記トレーの少なくとも一部を背景に含んで前記物体の全体を撮像し、撮像したカラーデジタル画像に含まれる物体に属する領域を背景領域から切り出して分離する背景分離処理部を備え、この背景分離処理部により分離された前記物体が属する領域毎に前記物体の種類についての識別処理を実行するように構成され、
    前記背景分離処理部は、前記カラーデジタル画像をLab色空間を用いたLab画像に変換し、この変換画像の内の色の明度成分を表すL画像からエッジ検出を行うことで前記物体と背景との境界線である輪郭線を抽出する一方、前記変換画像の内のL画像、a画像及びb画像における分割領域毎に色空間の座標値により定義される色の分散の大小如何に基づいて、前記背景領域であるか、前記物体の属する領域であるかを判別し、この判別結果及び前記輪郭線に基づいて背景領域から前記物体が属する領域を切り出すように構成されている
    ことを特徴とする物体識別装置。
  2. 請求項1に記載の物体識別装置であって、
    前記背景分離処理部は、色空間における該当する色の座標値間の距離の大小如何に基づいて、前記背景領域であるか、前記物体の属する領域であるかを判別し、この判別結果を加えて、前記背景領域から前記物体が属する領域を切り出すように構成されている、物体識別装置。
  3. 請求項1又は請求項2に記載の物体識別装置であって、
    前記トレーに載置された物体は、任意数のパンである、物体識別装置。
JP2012005112A 2012-01-13 2012-01-13 物体識別装置 Active JP5874141B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012005112A JP5874141B2 (ja) 2012-01-13 2012-01-13 物体識別装置
US13/717,717 US9219891B2 (en) 2012-01-13 2012-12-18 Object identification apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012005112A JP5874141B2 (ja) 2012-01-13 2012-01-13 物体識別装置

Publications (2)

Publication Number Publication Date
JP2013145441A JP2013145441A (ja) 2013-07-25
JP5874141B2 true JP5874141B2 (ja) 2016-03-02

Family

ID=48779697

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012005112A Active JP5874141B2 (ja) 2012-01-13 2012-01-13 物体識別装置

Country Status (2)

Country Link
US (1) US9219891B2 (ja)
JP (1) JP5874141B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5551140B2 (ja) * 2011-10-19 2014-07-16 東芝テック株式会社 情報処理装置及びプログラム
JP5927147B2 (ja) 2013-07-12 2016-05-25 東芝テック株式会社 商品認識装置及び商品認識プログラム
JP5885708B2 (ja) * 2013-08-08 2016-03-15 東芝テック株式会社 情報処理装置、店舗システム及びプログラム
JP6316562B2 (ja) * 2013-09-24 2018-04-25 株式会社ブレイン 商品識別装置を有する店舗システム
JP6341124B2 (ja) * 2015-03-16 2018-06-13 カシオ計算機株式会社 オブジェクト認識装置および認識結果提示方法
US10247546B2 (en) 2015-06-10 2019-04-02 Pfu Limited Image processing system and method for detecting a target object area based on height information
JP6503308B2 (ja) * 2016-02-18 2019-04-17 富士通フロンテック株式会社 画像処理装置及び画像処理方法
CN106990045A (zh) * 2017-04-19 2017-07-28 浙江理工大学 一种辅助机器视觉穴盘幼苗质量检测的打光识别装置
WO2018223394A1 (zh) * 2017-06-09 2018-12-13 华为技术有限公司 一种图像拍摄方法及装置
WO2020166068A1 (ja) 2019-02-15 2020-08-20 日本電気株式会社 処理装置、処理方法及びプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0722089A (ja) 1993-06-29 1995-01-24 Amp Japan Ltd フェルール及びこのフェルールを用いたシールドケーブルの端部構造
JPH07220194A (ja) 1994-02-07 1995-08-18 Fujitsu Ltd 道路環境認識装置
JPH08335236A (ja) * 1995-06-07 1996-12-17 Sanyo Electric Co Ltd 食堂料金精算システム
US5978519A (en) * 1996-08-06 1999-11-02 Xerox Corporation Automatic image cropping
JP3753880B2 (ja) 1999-01-26 2006-03-08 株式会社リコー 図形分類方法、図形検索方法、図形分類検索システム及び記録媒体
JP3433688B2 (ja) 1999-02-05 2003-08-04 株式会社デンソー 食品管理システム
JP3962825B2 (ja) * 2001-03-27 2007-08-22 カシオ計算機株式会社 画像処理装置、及び、プログラム
EP1433139B1 (en) 2001-05-17 2007-05-09 Koninklijke Philips Electronics N.V. Device and method for digitizing an object
JP4043258B2 (ja) * 2002-03-13 2008-02-06 オリンパス株式会社 3次元画像撮影装置
JP4543759B2 (ja) 2004-06-02 2010-09-15 トヨタ自動車株式会社 物体認識方法
US20070279593A1 (en) * 2006-06-03 2007-12-06 Weihua Li Visual presenter with built-in central control system
JP5510924B2 (ja) 2010-02-22 2014-06-04 株式会社ブレイン パンの識別装置とそのプログラム
AU2010241260B2 (en) * 2010-10-29 2013-12-19 Canon Kabushiki Kaisha Foreground background separation in a scene with unstable textures

Also Published As

Publication number Publication date
JP2013145441A (ja) 2013-07-25
US9219891B2 (en) 2015-12-22
US20130182106A1 (en) 2013-07-18

Similar Documents

Publication Publication Date Title
JP5874141B2 (ja) 物体識別装置
US7454390B2 (en) Ingredient cooking-operation recognition system and computer-readable recording medium which is recorded with ingredient cooking-operation recognition program
EP1977371B1 (en) Method and system for identifying illumination fields in an image
CN107025652B (zh) 一种基于运动特性和颜色时空信息的火焰检测方法
US20210030199A1 (en) Augmented reality-enhanced food preparation system and related methods
US20220375184A1 (en) System for counting quantity of game tokens
JP6151562B2 (ja) 物品識別システムとそのプログラム
EP3221679A1 (en) Imaging system for object recognition and assessment
JP5510924B2 (ja) パンの識別装置とそのプログラム
EP3591612A1 (en) Defect detection system for aircraft component and defect detection method for aircraft component
CN103544691A (zh) 图像处理方法及设备
WO2018032631A1 (zh) 一种教育玩具套件及其电路元件和电线的识别方法
JP5750603B2 (ja) 物体識別装置
JP6316569B2 (ja) 物品識別システムとそのプログラム
JP4171806B2 (ja) 果実そ菜類の等級判別方法。
JP2019219766A (ja) 分析装置、分析システム、及び分析プログラム
JP6230814B2 (ja) 物品識別システムとそのプログラム
KR101718085B1 (ko) 음식 영상의 시각적 풍미 강조 장치 및 그 방법
JP6180889B2 (ja) 印字検査装置
Oka et al. A recognition method for partially overlapped objects
Lin et al. A Study of Automatic Judgment of Food Color and Cooking Conditions with Artificial Intelligence Technology. Processes 2021, 9, 1128
Kryjak et al. Shape and colour recognition of dishes for the purpose of customer service process automation in a self-service canteen
JP2017182672A (ja) 情報処理方法および情報処理装置、プログラム
Morimoto et al. A meal menu recognition system using RGB-D sensor
Heryanto et al. The Real-time Color and Contour Detection for Automatic Inspection Machine

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151225

R150 Certificate of patent or registration of utility model

Ref document number: 5874141

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250