JP2004326382A - 部品認識システム及び方法並びに部品認識用プログラム - Google Patents
部品認識システム及び方法並びに部品認識用プログラム Download PDFInfo
- Publication number
- JP2004326382A JP2004326382A JP2003119225A JP2003119225A JP2004326382A JP 2004326382 A JP2004326382 A JP 2004326382A JP 2003119225 A JP2003119225 A JP 2003119225A JP 2003119225 A JP2003119225 A JP 2003119225A JP 2004326382 A JP2004326382 A JP 2004326382A
- Authority
- JP
- Japan
- Prior art keywords
- data
- image
- component
- feature value
- saturation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】精度よく特定の部品を認識すること。
【解決手段】画像処理手段3が、特定の部品の特徴を表すパターンデータを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、各変換画像データ毎にパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいてそれぞれ算出するパターンマッチング機能と、これら算出された評価データのうち最も高い評価であると判断されたデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えた。
【選択図】 図2
【解決手段】画像処理手段3が、特定の部品の特徴を表すパターンデータを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、各変換画像データ毎にパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいてそれぞれ算出するパターンマッチング機能と、これら算出された評価データのうち最も高い評価であると判断されたデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えた。
【選択図】 図2
Description
【0001】
【発明の属する技術分野】
本発明は、部品認識システムにかかり、特に、自動車などの外装部品として取り付けられた特定の部品を認識するシステムに関する。また、部品認識方法、部品認識用プログラムに関する。
【0002】
【従来の技術】
自動車などには、種々の外装部品が取り付けられているが、これらは製造時に製造ライン上で自動的に、あるいは、手作業により取り付けられる。外装部品としては、例えば、ヘッドランプなどの各種ランプ、フロントグリル、エンブレム、デカール類(シール)などがある。
【0003】
しかし、これら外装部品はその数が膨大であり、また、アウトソーシングなど他会社に自社製品を納入するケースが増大しており、一つの製品であっても種々のエンブレムが取り付けられることがある。従って、外装部品の付け忘れ、あるいは、取り付ける部品の仕様を誤ることもあり得る。
【0004】
このような場合には、製造後に正常な外装部品が取り付けられているか否かを検査する必要が生じる。かかる検査は、人間が行ってもよいが、画像処理にて自動的に行う技術が開発されている。例えば、まず、車体本体を撮影して、検査対象である外装部品が取り付けられていると考えられる周辺の画像を取り込む。そして、かかる範囲内に特定の部品が存在するか否かを、パターンマッチングにて検出する。すなわち、あらかじめ特定部品の基準画像を、パターンデータとして記憶しておき、かかる基準画像とのマッチングが行われる。
【0005】
【特許文献1】
特開平8−30784号公報
【0006】
【発明が解決しようとする課題】
しかしながら、上述したパターンマッチングによる外装部品の検出は、従来例では単純に濃淡画像(白黒)を用いたものが多く(特許文献1参照)、かかる場合には塗装色が様々な場合に検出精度が低くなる、という問題が生じる。これは、塗装色によっては、検出対象である外装部品と非常に近い明るさとなりうるので、ボディ面と対象部品とを分離し、パターンマッチングによる検出が困難となる。
【0007】
【発明の目的】
本発明は、上記従来例の有する不都合を改善し、特に、背景色に影響を受けずに特定の部品を認識することができる、部品認識システムを提供することをその目的とする。また、検出精度の向上、検出の安定性の向上をもその目的とする。
【0008】
【課題を解決するための手段】
そこで、本発明では、特定の部品が取り付けられる被取付部材を撮影してカラー画像データを取得する画像取得手段と、取得した画像データを演算処理する画像処理手段とを備え、この画像処理手段にて、画像データ内に特定の部品が存在するか否かを認識する部品認識システムであって、画像処理手段が、特定の部品の特徴を表すパターンデータを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、各変換画像データ毎にパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいてそれぞれ算出するパターンマッチング機能と、これら算出された評価データのうち最も高い評価であると判断されたデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えた、という構成を採っている。
【0009】
このような構成にすることにより、まず、撮影されて取り込まれたRGBカラー画像データが、所定の変換式により色相データ、彩度データ、輝度データに変換処理される。そして、それぞれの変換画像データにおいて、あらかじめ記憶されている認識対象部品のパターンデータとのパターンマッチングが行われる。このとき、パターンマッチングによる例えば一致度を表す評価データが、あらかじめ定められた評価基準に基づいて各変換画像毎に算出される。その後、各評価データのうち最も評価の高い値が、あらかじめ定められた許容基準を満たすか否かが判断され、当該基準を満たす場合には、かかるパターンデータの部品が、画像中に存在すると判断される。従って、特定の部品が取り付けられる被取付部材の外面であって部品の取付周囲の色との関係によっては判断しにくい場合であっても、色相、彩度、輝度のいずれかを用いることで、外装部品の有無、種類を容易に識別することができる。
【0010】
また、本発明では、上記同様に画像取得手段と画像処理手段との基本構成を備え、画像処理手段が、被取付部材の既知である色に応じてあらかじめ設定された使用画像を特定する画像特定データと、特定の部品の特徴を表すパターンデータとを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、各変換画像データのうち画像特定データに基づいて特定された変換画像データにおいてパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング機能と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えたという構成を採っている。
【0011】
上記構成において、画像特定データは、被取付部材の既知である色に応じてあらかじめ設定された2以上の使用画像を特定するデータから成り、パターンマッチング機能は、画像特定データにて特定された各変換画像データ毎にパターンマッチングを行い、評価データをそれぞれ算出し、部品認識機能は、これら算出された評価データのうち最も高い評価であるデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する、という構成にしてもよい。
【0012】
このような構成にすることで、あらかじめ被取付部材の外面であって、部品取付箇所周囲の色が判明している場合には、かかる色に応じて当該外面色と対象部品とを区別しやすい色相、彩度、輝度のうちいずれかの変換画像データ、あるいは、2つ以上の変換画像データを用いるよう、画像特定データにて特定されている。そして、かかるデータが特定する変換画像データを用いて、上述同様にパターンマッチングを行うことで、被取付部材の色の影響を抑制して、対象部品を精度よく認識することができる。
【0013】
さらに、本発明では、上記同様に画像取得手段と画像処理手段との基本構成を備え、画像処理手段が、取得した画像データの特徴に応じて使用画像を特定する画像特定データと、特定の部品の特徴を表すパターンデータとを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、これら変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出機能と、この算出された変換画像特徴値と画像特定データとに基づいて特定された変換画像データにおいてパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング機能と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えた、という構成を採っている。
【0014】
このとき、上記構成において、画像特定データは、変換画像特徴値に応じて2以上の使用画像を特定するデータから成り、パターンマッチング機能は、変換画像特徴値と画像特定データとに基づいて特定された2以上の変換画像データ毎にパターンマッチングを行い当該マッチングによりあらかじめ定められた評価基準に基づいてそれぞれ評価データを算出し、部品認識機能は、これら算出された評価データのうち最も高い評価であるデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する、という構成としてもよい。
【0015】
このような構成にすることにより、被取付部材の外面であって部品が取り付けられる箇所の周囲の色が判明していない場合であっても、まず、かかる部分の色の特徴が算出される。このときの特徴とは、例えば、彩度や輝度である。そして、かかる特徴に応じて、パターンマッチングを行うことに適した変換画像データが特定される。すなわち、被取付部材の色の特徴に応じて、当該外面色と対象部品とを区別しやすい色相、彩度、輝度のうちいずれかの変換画像データ、あるいは、2つ以上の変換画像データを用いるよう、画像特定データにて設定されており、かかる変換画像データが特定される。そして、画像特定データが特定する変換画像データを用いて、上述同様にパターンマッチングを行うことで、被取付部材がいかなる色であっても、当該色の影響を抑制して、自動的に精度よく対象部品を認識することができる。
【0016】
また、画像処理手段が、特定の部品を撮影した際における画像上の特徴を部品画像特徴値を記憶すると共に、記憶されている画像特定データは、変換画像特徴値及び部品画像特徴値に応じて認識に用いる画像を特定するデータから成り、パターンマッチング機能は、部品画像特徴値と変換画像特徴値と画像特定データとに基づいて特定された変換画像データ毎にパターンデータを用いてパターンマッチングを行う、という構成としてもよい。このとき、部品画像特徴値は、彩度や輝度に関するデータである。
【0017】
これにより、被取付部材の色ばかりでなく、特定部品の色の特徴にも応じて、被取付部材と対象部品とを区別しやすい色相、彩度、輝度のうちいずれかの変換画像データ、あるいは、2つ以上の変換画像データを用いるよう、画像特定データにて特定されているため、パターンマッチング機能にてそのような変換画像データが特定される。そして、画像特定データが特定する変換画像データを用いて、上述同様にパターンマッチングを行うことで、より被取付部材の色の影響を抑制して、対象部品の認識精度の向上を図ることができる。
【0018】
さらに具体的には、画像処理手段は、変換画像特徴値である彩度のあらかじめ定められたしきい値と、部品画像特徴値である彩度のあらかじめ定められたしきい値とを記憶すると共に、記憶された画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも高く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも低い場合には、変換画像データのうち彩度データを用いるよう特定するデータである、こととすると望ましい。そして、同様に、画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも高く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも高い場合には、変換画像データのうち色相データを用いるよう特定する。また、画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも低く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも高い場合には、変換画像データのうち彩度データを用いるよう特定する。さらには、画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも低く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも低い場合には、変換画像データのうち輝度データを用いるよう特定する。
【0019】
このように、画像特定データを特定しておくことで、パターンマッチング処理時に、被取付部材と特定の部品の色に応じて、より認識しやすい変換画像データが自動的に選択されるため、容易に、さらなる認識精度の向上を図ることができる。
【0020】
また、上記あらゆる構成において、パターンマッチング機能は、画像特定データにて特定された処理対象である変換画像データの濃淡ヒストグラムを作成して当該濃淡ヒストグラムに基づいて二値化しきい値を算出し、当該二値化しきい値にて処理対象である変換画像データを二値化して処理を行う、こととすると望ましい。このとき、画像処理手段は、画像取得手段と被取付部材との位置関係に応じた特定の部品の面積に関するデータを記憶すると共に、パターンマッチング機能は、特定部品の面積データに基づいて二値化しきい値を算出する、こととするとなお望ましい。
【0021】
これにより、パターンマッチング処理を行う前に、二値化処理により被取付部材と特定の部品とを区別することができ、よりパターンマッチングの精度の向上を図ることができる。
【0022】
さらに、本発明では、特定の部品が取り付けられる被取付部材を画像取得手段にて撮影して画像データを取得し、当該取得した画像データを画像処理手段にて演算処理することにより、当該画像データ内に特定の部品が存在するか否かを認識する部品認識方法であって、画像処理手段が、画像データを色相,彩度,輝度のデータに変換する画像変換工程と、これら変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出工程と、この算出された変換画像特徴値と当該変換画像特徴値に応じた使用画像があらかじめ設定されている画像特定データとに基づいて特定された変換画像データにおいて,特定の部品の特徴を表すパターンデータを用いてパターンマッチングを行い,当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング工程と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識工程と、を備えたという構成の部品認識方法を提供している。
【0023】
また、特定の部品が取り付けられる被取付部材を画像取得手段にて撮影して画像データを取得し、当該画像データ内に特定の部品が存在するか否かを認識するよう取得した画像データを演算処理する画像処理手段の動作を制御する部品認識用プログラムであって、画像データを色相,彩度,輝度のデータに変換する画像変換指令と、これら変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出指令と、この算出された変換画像特徴値と当該変換画像特徴値に応じた使用画像があらかじめ設定されている画像特定データとに基づいて特定された変換画像データにおいて,特定の部品の特徴を表すパターンデータを用いてパターンマッチングを行い,当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング指令と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識指令と、を備えた、という構成の部品認識用プログラムを提供している。
【0024】
このような構成にしても、上述同様の作用・効果を得ることができ、上述した目的を達成することができる。
【0025】
【発明の実施の形態】
〈第1の実施形態〉
以下、本発明の第1の実施形態を、図1乃至図9を参照して説明する。図1は、本発明の構成の概略を示すブロック図である。図2は、本発明の構成を示す機能ブロック図である。図3乃至図5は、画像処理の様子を示す説明図である。図6は、システムに記憶されているデータの構造を示す説明図である。図7乃至図9は、動作を示すフローチャートである。
【0026】
(構成)
本実施形態における部品認識システムでは、認識対象である特定の部品が取り付けられる被取付部材は、乗用車などの車両1であり、そして、特定の部品(図示せず)は、製造者やその車種を表示するエンブレム、ヘッドランプやリアコンビネーションランプなどのランプ類、ステッカーなどのデカール類等である。但し、認識対象である部品は上記のものに限定されず、さらには、当該部品が取り付けられる対象物も車両1であることに限定されない。いずれにしても、「物」の外面の撮影可能な位置に製造段階で取り付けられる部品が認識対象であれば、当該部品自体及び被取付部材は限定されない。
【0027】
図1に示すように、部品認識システムは、認識対象である特定の部品(図示せず)が取り付けられる車両1を撮影して画像データを取得する画像取得手段としてのカメラ2と、当該カメラにて取得した画像データを演算処理する画像処理手段としてのコンピュータ3とを備えている。そして、コンピュータ3を用いて、取り込んだ画像データ内に特定の部品が存在するか否かを認識するというシステムである。以下、これを詳述する。
【0028】
(車両)
車両1は、上述したように4輪自動車であり、コンベア7の搬送により製造ライン上を移動している。そして、製造ライン上では、当該車両1にヘッドランプ、リアコンビネーションランプ、リアエンブレム、デカール類など、各種部品が備えられ、その最終工程段階に本システムは備えられている。
【0029】
このとき、コンベア7上には所定の間隔で上方に突出するタイヤストッパ71が固定されて備えられていて、かかるストッパ71にいずれかのタイヤ11を引っかけることにより、車両1がコンベア7により搬送される。なお、図1に示す例では、車両1の前方は矢印A1に示す方向である場合であって、当該矢印A1方向にコンベア7が駆動している場合に、コンベア7上のタイヤストッパ71は右前方タイヤの後方に位置することにより、車両1は前方(矢印A1)方向に搬送される。
【0030】
また、上記タイヤストッパ71が通過したことを検出する通過検出スイッチ6が、コンベア7の横に備えられている。この通過検出スイッチ6は、例えば、タイヤストッパ71に当接するよう備えられていて、当該ストッパ17が通過する際にスイッチ6の接触検知部に触れることで当該スイッチ6にて検出される構成である。但し、通過検出スイッチ6はかかる構成に限定されず、タイヤストッパ71あるいは車両1の通過を検出できるものであればよい。そして、通過検出スイッチ6は上記コンピュータ3に接続されていて、車両1が通過したことを検出した旨の信号を当該コンピュータ3に送信する。かかる検出信号を受けたコンピュータ3は、後述するようにカメラ2にて車両1を撮影するよう指令を出す。
【0031】
(カメラ)
カメラ1は、カラー画像が取得可能なCCDカメラであり、コンピュータ3にて制御されている。すなわち、コンピュータ3からの撮影指令に応じて画像を取り込み、取り込んだ画像データをコンピュータ3に送信する。なお、後述する例では、総画素数が400万画素数のカメラを用いるが、当該カメラ2の画素数はこれに限定されない。
【0032】
また、カメラ2は、図1に示す例は、車両1の前方と後方とを撮影するよう、2台備えられている。そして、これら2台共に、コンピュータ3の指令により撮影するようになっていて、やはり上記通過検出スイッチ6と連動している。例えば、前方のカメラ2は、ヘッドランプが取り付けられているか、あるいは、誤って別仕様のものが取り付けられていないか、ということを認識するための物であり、後方のカメラ2は、リアコンビネーションランプやリアエンブレムの取付状態を認識するものである。
【0033】
(コンピュータ)
コンピュータ3は、カメラ2による画像の取得状況を制御すると同時に、取得した画像データを演算処理して、当該画像内に特定の部品が存在するか否かを検出するものである。そのハードウェアの構成は、一般的なコンピュータと同様に、所定の演算処理能力を有する演算装置としてのCPU4と、所定の容量の記憶能力を有する記憶装置5としてのハードディスクやメインメモリとを備えた構成と成っている。また、所定のハードディスクなどの高速に画像処理を行えるよう、大容量の画像処理用のフレームメモリを備えている。さらに、他のコンピュータと相互にデータ通信を可能とする通信装置31も備えられている。このように、他のコンピュータ3と接続されていることにより、後述するように当該他のコンピュータ3から認識対象の変更指令を受けたり、認識対象のパターンデータの更新などを行うことができる。
【0034】
コンピュータ3の構成を、図2の機能ブロック図を参照して詳細に説明する。コンピュータ3のCPU4には、部品認識用プログラムが組み込まれることにより、以下に説明する処理部が構築される。換言すると、各処理部による処理を実現するための指令が記述されたプログラムが組み込まれることにより実現できる。
【0035】
そして、CPU4に構築される各処理部は、カメラ2の画像取込状態を制御する画像取込部41と、車両1の位置を検出する被写体位置検出部42と、取り込んだ画像から部品を検出するために必要な部分を切り出す画像切出部43と、画像を他のデータ形式に変換する画像変換部44と、変換された画像のうちパターンマッチングに用いる画像を選択する使用画像選択部45と、特定の部品についてパターンマッチングを行うパターンマッチング部46と、パターンマッチングの結果、画像内に特定の部品が存在するか否かを判断する部品認識部47と、である。これら各処理部を詳述すると共に、記憶装置5に記憶されているデータの内容を説明する。なお、図2では一台のコンピュータ3に各処理部及び各記憶部が構築される場合を例示しているが、これら処理部あるいは記憶部は数台のコンピュータに分散して構築されていてもよい。
【0036】
まず、画像取込部41は、上述した通過検出スイッチ6から車両1が通過した旨の信号を検出した際に、カメラ2に対して撮影指令を出す。そして、撮影により取得されたカラー画像データをコンピュータ3内に取り込むよう作動する。特に、取り込んだ画像データはRGBデータ(三原色情報(R:赤、G:緑、B:青))から成り、かかる画像はフレームメモリ上に保持される。なお、図4(a)に取得した画像データの一例を示すが、後方のカメラ2にて取得した画像データは、車両の後方を写し出す画像となる。また、具体的には、縦1704画素、横2272画素のデータである。このようにカメラ2と画像取込部41にて、画像取得手段が構成されている。
【0037】
続いて、被写体位置検出部42は、コンベア7上を搬送されてくる車両1の位置、特に、左右の位置は総て同じではなく、一台毎にずれを生じて搬送されてくるため、かかるずれを検出して画像データ上で修正するよう作動する。例えば、取り込み画像データ上の特徴ある部分を検出し、かかる部分の位置を認識することで、当初予定していた位置とのずれを算出する。そして、ずれが生じている場合には、画像データを前後、左右にずれている画素分だけ移動して、修正する。
【0038】
その具体例を図3を参照して説明する。図3(a)は取り込んだ状態の画像を示し、図3(b)は、位置のずれを検出するために用いる基準となる形状を表すデータ(位置基準形状データ)である。なお、この位置基準形状データは、二値画像にて表されていて、車両のリアウインドと車体の繋ぎ目の影になる部分を利用した形状となっている。そして、この位置基準形状データは、コンピュータ3の記憶装置5上の位置基準形状データ記憶部51にあらかじめ記憶されている。但し、位置基準形状データは、かかる形状に限定されるものではなく、取り込み画像中の特徴ある部分の形状データであればよい。
【0039】
そして、位置基準形状データに示す形状が、画像データ中のどの位置に存在するかを、パターンマッチング処理により検出する。なお、このとき、パターンマッチングは取り込んだ濃淡画像を用いて行い、そしてパターンマッチングの具体的な手法は、既知の技術を用いることとする。パターンマッチングの結果、特徴部分を検出したときの様子を、図3(c)に示す。この図において、図3(b)に示す形状(位置基準形状)と同一の形状を表す点線に示すように、位置基準形状データに表された形状の位置が検出されると、さらにある特定の位置の座標(位置補正特徴点)が調べられ、あらかじめ定められた基準座標とのずれを算出する。例えば、位置補正特徴点を位置基準形状の情報にある矩形の左下の頂点としたとき、マッチングの結果、当該特徴点が上記基準座標に対して横に10画素、縦に7画素ずれていると検出された場合には、かかる画素ずつ、取り込んだ画像データをずらして再形成する。このようにすることで、特定の部品を含む範囲を確実に切り出すことができ、認識精度の低下を抑制することができる。
【0040】
また、画像切出部43は、認識すべき部品が取り付けられているであろう範囲の画像を切り出すよう作動する。その様子を図4に示す。なお、切り出す範囲を指定する座標や面積に関するデータはカメラ2と車両1の位置関係によって異なるため、撮影して画面上に表示される大きさを考慮してあらかじめ実験などにより設定したデータが記憶装置に記憶されている。また、認識すべき部品が取り付けられ得る位置も考慮されて設定されている。
【0041】
具体的には、まず、図4(a)に示すように、取り込んだ状態の画像データの右半分を点線に示すように切り出す。そして、図4(b)▲1▼に示すよう切り出した画像から、さらにあらかじめ定められた切り出し範囲の画像を、図4(b)▲2▼、▲3▼、▲4▼に示すよう、それぞれ切り出す(矢印A2,3,4参照)。なお、▲2▼はリアコンビネーションランプを、▲3▼はリアウインドウに貼られたラベルシールを、▲4▼はリアエンブレム(Car)を、検出するために用いる画像である。このように各部品が取り付けられていると予想される範囲を切り出すことで、処理すべき画像データ量の削減を図ることができ、処理時間の短縮化、及び、認識精度の向上を図ることができる。なお、以後の処理は、認識対象とする部品に対応した画像データそれぞれについて行われることとなる。
【0042】
画像変換部44は、取り込んだカラー画像データであるRGBデータを、色相(H:色の種類に関する分類を示す値),彩度(S:色の鮮やかさの程度),輝度(I:色の明るさの程度)のデータに変換する画像変換(HSI変換)機能として作動する。例えば、リアエンブレムを検出する処理を行う場合には、図4(b)▲4▼の画像データをHSI変換する。従って、3つの変換画像データが形成されることとなるが、これらはそれぞれメインメモリ上に保持される。そして、これらの変換画像データのうち、いずれの画像データが認識処理に用いられるかが、使用画像選択部45にて判断される。
【0043】
なお、変換された画像の一例を、図5に示す。図5(a)はカラー画像データを切り出した状態の原画像であり、図5(b)は色相画像、図5(c)は彩度画像、図5(d)は輝度画像に、上記図5(a)に示す原画像をそれぞれ変換した画像である。
【0044】
そして、使用画像選択部45は、上記変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出機能として作動すると共に、この変換画像特徴値に応じて実際に部品認識処理を行うために使用する変換画像を選択するよう作動する。
【0045】
具体的には、あらかじめ認識対象である部品が取り付けられていない車両1の塗装面が写し出される座標及び範囲が定められていて、コンピュータ3の記憶装置5に記憶されている。そして、これらのデータにて指定された範囲の画像上の特徴を算出する。このとき、算出する変換画像特徴値とは、当該範囲における彩度の平均値や分散値、さらには、輝度の平均値や分散値である。なお、算出した変換画像特徴値のうち特に彩度及び輝度の平均値を画像選択時に用いるが、分散値はかかる彩度及び輝度が、測定した塗装面の範囲において全体的に一様であるのか、あるいは、ムラがあるのか、ということを判断することに用いる。従って、彩度あるいは輝度の分散値が大きい場合にはかかる塗装面の範囲にムラがあるため、正確な彩度あるいは輝度の平均値が算出できていないと判断し、測定範囲を別の範囲に移行して変換画像特徴値の算出処理を再度行うよう使用画像選択部45は作動する。一方、分散値があらかじめ定められた範囲内に収まっていれば、そのときの平均値を変換画像特徴値として取り扱う。
【0046】
また、上記使用画像選択部45にて用いられるデータとして、認識すべき部品を撮影して画像データとして取り込んだときの当該画像上の特徴値(部品画像特徴値)がある。この部品画像特徴値としては、例えば、上記変換画像特徴値と同様に、彩度の平均値や分散値、さらには、輝度の平均値や分散値である。かかるデータは、あらかじめ測定されて設定されており、コンピュータ3の記憶装置5の認識対象物データ記憶部53に記憶されている。
【0047】
また、上記部品画像特徴値と、上述した変換画像特徴値とに基づく、最適な使用画像を特定する画像特定データが、同様に認識対象物データ記憶部53に記憶されている。ここで、画像特定データについて、図6を参照して説明する。図6は、画像特定データのデータ構造を模式的に示したものであり、このような表に表されるデータが記憶されていることを示している。
【0048】
本実施形態における画像特定データは、上述した変換画像特徴値と、部品画像特徴値とのマトリックスになっていて、それぞれの値に応じて使用する変換画像を指定している、というものである。このとき、変換画像特徴値及び部品画像特徴値は、それぞれの特定の範囲における彩度の平均値、輝度の平均値である。具体的には、変換画像特徴値は特定範囲が車両1の塗装面が位置する箇所に設定されているので、塗装面の彩度等であり、部品画像特徴値は、部品をあらかじめ撮影したときの彩度等である。そして、かかる値が、あらかじめ設定されたしきい値以上か、あるいは、当該しきい値よりも低いかによって使用画像が異なる。すなわち、コンピュータ3の記憶装置5には、図示しないが、算出した各特徴値の高低を判定する基準となるしきい値が記憶されている。これら各しきい値は、後述するパターンマッチング処理にて認識しやすいと実験により設定された値である。
【0049】
そして、図6では、符号H,I,Sはそれぞれ使用する画像を表している。Hは色相画像、Iは輝度画像、Sは彩度画像を示している。例えば、塗装色の彩度が高く、かつ、輝度が高い場合であって、部品の彩度が高く、輝度が高い場合には、色相画像(H)を用いて、後のパターンマッチング処理を行うこととなる。
【0050】
このとき、画像特徴データは、特に塗装色及び部品の輝度が低い場合であって、塗装色の彩度がしきい値よりも高くかつ部品の彩度がしきい値よりも低い場合に彩度画像を用い、また、塗装色の彩度が高くかつ部品の彩度が高い場合には色相データを用い、塗装色の彩度が低くかつ部品の彩度が高い場合には、彩度データを用いるよう設定しておくとよい。また、特に塗装色あるいは部品のいずれかの輝度が低い場合であって、塗装色の彩度が低くかつ部品の彩度が低い場合には輝度データを用いるよう設定しておくよい。このようにすることで、車両1の塗装色や部品の特性に応じて、パターンマッチングに適切な画像を自動的に選択することで、より精度のよいパターンマッチング結果が得られる。
【0051】
ちなみに、塗装色あるいは部品の彩度が高く、かつ、輝度が高い場合には(図6の網掛け表示部分)、比較的認識しづらいと実験にて判断されているため、複数の変換画像データを使用するよう指定する指示としてもよい。さらに、塗装色及び部品の彩度が低い場合であって、かつ、共に輝度が高い場合、あるいは、共に低い場合には(図6の符号C(斜線表示部分))、さらに認識が困難となるので、2つの変換画像を用いてもよく、3つの変換画像を総て使用してもよい。但し、使用画像の指定は上記のものに限定されるものではない。
【0052】
なお、上記使用画像選択部45による変換画像特徴値の算出は、切り出した画像に対して行われる場合を例示したが、取り込まれた画像データからかかる特徴値を算出してもよい。かかる場合には、被写体位置検出部42などによる処理と並列して使用画像の選択処理が行われるため、使用するコンピュータ3のCPUが並列処理に適している場合には、かかる構成も有効である。
【0053】
ここで、あらかじめ塗装色がわかっている車両1に対して処理を行う際には、かかる塗装色の特徴値、すなわち、上記変換画像特徴値が測定されて記憶装置5に記憶されている。従って、上記使用画像選択部45では、かかる特徴値を読み出して使用画像の選択処理を行ってもよい。また、部品画像特徴値は必ずしもあらかじめ測定されて記憶されていることに限定されない。従って、塗装色の特徴値である変換画像特徴値に応じて、使用画像を特定してもよい。なお、かかる場合には、画像特定データは、変換画像特徴値にのみ応じて使用画像を特定するデータとして構成されている。
【0054】
上述したように、使用画像選択部45にて変換画像データに基づいて使用する変換画像が選択されると、かかる選択画像に対してパターンマッチング部46にてパターンマッチングが行われる。パターンマッチング部46では、特定された変換画像データにおいてパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するよう作動する。
【0055】
パターンマッチングを行うために、まず、コンピュータ3の記憶装置5(ハードディスクやメインメモリ)内の画像特定データ記憶部52には、検出対象である特定の部品の特徴を表すパターンデータが記憶されている。このパターンデータは、あらかじめ部品を撮影してその画像データから当該部品の特徴値を算出したものである。例えば、部品の面積や、形状の特徴を表すテンプレートデータから成る。
【0056】
そして、上記パターンデータを用いてパターンマッチングを行うわけであるが、その前に、処理対象として選択された変換画像を二値化する。この二値化処理を行う際のしきい値は、あらかじめ車両1の塗装色と認識対象である部品との彩度や輝度などを考慮して設定しておき、コンピュータ3に記憶しておいてもよく、あるいは、使用する変換画像データにおいて濃淡ヒストグラムを作成し、当該濃淡ヒストグラムに基づいて二値化しきい値を算出してこれを用いてもよい。しきい値を算出する場合には、単に濃淡ヒストグラムの谷間となる値を選定してもよく、また、あらかじめ撮影状況に応じた部品の面積に関するデータを記憶しておき、当該面積データに基づいてしきい値を設定してもよい。面積データは、実際の面積ではなく、カメラ2とコンベア7上の車両1との距離に応じて変化するため、これを考慮して画素数で表したものを設定しておく。そして、ヒストグラムにおいて、ある階調値よりも上あるいは下に存在する画素数が部品の面積と一致する場合に、かかる階調値をしきい値と設定する。ここで、図5(e),(f)に、所定のしきい値にて二値化した画像の一例を示す。図5(e)は彩度画像を、図5(f)は輝度画像を二値化した際の画像である。なお、二値化処理はパターンマッチングの精度向上のために行う処理であって、必ずしも行われるわけではない。また、パターンマッチング前にエッジ処理が行われてもよい。
【0057】
そして、パターンマッチングが行われると、パターンマッチングによる評価値が算出される。このとき、パターンマッチングは、例えばテンプレートとの差分を取ることにより行われ、その一致する画素数の数に対応した評価値が算出される。従って、かかる例では、テンプレートに一致する画素を評価値とするという基準が評価基準となり、一致すればするほど評価値が高くなるというものである。但し、パターンマッチングの手法及びその評価値の算出手法(評価基準)は上記のものに限定されない。そして、これらの手法は一般的に行われている手法を用いることとするため、さらなる詳細な説明は省略する。例えば、「MVTec社(独)HALCON ver.6.1」の市販ライブラリを用いる。
【0058】
このように評価値が算出されると、部品認識部47にて評価値の妥当性が判断される。すなわち、部品認識部47は、算出された評価値をあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断するよう作動する。従って、許容基準となる許容評価値がコンピュータ3の許容評価値記憶部54に記憶されている。この許容評価値は、あらかじめ実験などにより特定の部品が存在すると判断できると定めた評価値である。但し、この許容評価値は、上記算出した評価値の態様に応じて、最高値である場合もあり、また、マッチングによる評価が「数値」でなければ当該許容評価値もそれに応じたデータとなる。
【0059】
ここで、上記使用画像選択部45にて、画像特定データに基づいて2以上の使用変換画像が選択された場合には、パターンマッチング部46では、各特定された変換画像毎に上述したようにパターンマッチングを行い、当該マッチングによりあらかじめ定められた評価基準に基づいてそれぞれ評価値を算出する。そして、算出された各評価値はそれぞれメモリ上に保持され、部品認識部47に渡される。
【0060】
その後、部品認識部47では、2以上の評価値が算出された場合には、そのうち最も高い評価値を選択して、上述したように許容基準値と比較する。このとき、評価値が高い方がパターンと一致していると判断するよう設定されている場合には、評価値が高い方が選択されるよう作動する。逆に、評価値が低い方が一致していると判断するよう設定されている場合には当該評価値が低い方が選択される。
【0061】
そして、算出された評価値が許容評価値を満たしている場合には、正しい部品が取り付けられていると判断し、満たしていない場合には、誤った部品が取り付けられているか、あるいは部品自体が取り付けられていないと判断して、その旨を通信装置31を介して管理者の端末(図示せず)に通知したり、ラインを制御するコンピュータ(図示せず)に通知する。
【0062】
ここで、画像処理手段であるコンピュータ3は、通信装置31を介して他のコンピュータ(図示せず)に接続されているが、他のコンピュータから認識対象を変更する指令を受ける。例えば、他のコンピュータは製造ラインの作動状況を管理する管理者の端末であり、当該管理者からの入力指示により、その旨の情報がコンピュータ3に送信される。例えば、ラインを流れる製造物である車両1の車種が変わり、認識する部品も変更する場合には、車両1の位置を検出するために用いる位置基準形状データや、部品自体のパターンデータも変更しうる。従って、新しい位置基準形状データやパターンデータが通信装置31を介して受信され、各記憶部51,53に記憶される。その後は、かかるデータに基づいて、部品認識処理が実行される。
【0063】
(動作)
次に、本実施形態における部品認識システムの動作を、図7乃至図9のフローチャートを参照して説明する。なお、以下に示す動作は、コンピュータ3の動作である。
【0064】
まず、通過検出スイッチ6からの信号を監視することにより(ステップS1)、車両1がコンベア7を通過した旨を検知した場合には(ステップS1で肯定判断)、カメラ2に撮影指示を出し、車両1を撮影したカラー画像データを取り込む(ステップS2)。
【0065】
続いて、記憶装置5から位置基準形状データを読み出し(ステップS3)、当該位置基準データとのマッチングにより、位置基準形状が存在する位置を特定する(ステップS4)。このとき、当該形状のうち、さらに特徴のある箇所の座標を検出する。そして、検出した座標と、あらかじめ設定されている基準位置形状の特定の座標とを比較して、実際にコンベア7上を流れる車両1の位置のずれ量を算出する(ステップS5)。
【0066】
続いて、算出したずれ量分だけ、取り込んだ画像データの位置を全体的にずらし、位置を補正する(ステップS6)。そして、位置を補正した画像データの特定範囲を切り出し(ステップS7)、それぞれの画像を一時的に保存して、以後の部品認識処理に用いる(符号A)。
【0067】
続いて、特定の部品を検出する対象となる切り出し画像を、RGBデータからHSIデータに変換して、それぞれの変換画像データを得る(ステップS11、画像変換工程)。このとき、塗装色が既知であるか否かを表すフラグを読み出し、かかるフラグの値に応じて塗装色が既知であるか否かを判断する(ステップS12)。なお、かかるフラグは、あらかじめ管理者などによりコンピュータ3に入力されている。また、塗装色が既知である場合には、かかる塗装色の彩度や輝度なども、あらかじめ管理者などによりコンピュータ3に入力され記憶されている。
【0068】
そして、塗装色が既知である場合には(ステップS12にて肯定判断)、塗装色の特徴値(変換画像特徴値)である彩度などのデータを記憶装置5から読み出す(ステップS13)。一方、塗装色が不明である場合には(ステップS12にて否定判断)、あらかじめ定められた塗装面が写っているであろう範囲を指定するデータを読み出して、かかる範囲の彩度や輝度などの特徴値(変換画像特徴値)を算出する(ステップS14、画像特徴値算出工程)。
【0069】
続いて、あらかじめ記憶されている部品の彩度や輝度を表す部品特徴値と、使用する変換画像を特定する画像特定データとを読み出す(ステップS15)。そして、上記ステップS13にて読み出したあるいはステップS14で算出した変換画像特徴値と、ステップS15で読み出した部品特徴値とを用いて、同じくステップS15で読み出した画像特定データを参照して使用する画像を選択する(ステップS16)。
【0070】
使用する変換画像が選択されたら、かかる画像のヒストグラムからしきい値を算出したり、あらかじめ定められているしきい値を読み出し、かかるしきい値を用いて選択画像を二値化する(ステップS17)。そして、検出する特定の部品に関するパターンデータを読み出して(ステップS18)、二値化画像に対してパターンマッチングを行い、評価値を算出する(ステップS19、パターンマッチング工程)。その後、ステップS16にて使用する変換画像が2以上指定されているか否かを調べ、他の使用画像に対してパターンマッチングを行っていない画像が存在する場合には(ステップS20)、かかる使用画像に対してパターンマッチングを行い、評価値を算出する(ステップS19に戻る)。そして、総ての使用画像に対してパターンマッチング、及び、評価値の算出が終了したら、符号Bに進む。
【0071】
続いて、算出された評価値が複数あるか否かを調べ(ステップS21)、複数ある場合には(ステップS21にて肯定判断)、これら評価値のうち、値が高いものを選択する(ステップS22)。一方、評価値が一つしかない場合には(ステップS21にて否定判断)、かかる評価値を用いる。
【0072】
そして、許容評価値を読み出して(ステップS23)、当該許容評価値と選択した評価値あるいは一つしかない評価値とを比較する(ステップS24)。評価値が許容評価値の値以上である場合には(ステップS24にて肯定判断)、かかる画像内に検出対象である特定の部品があると認識し(ステップS25、部品認識工程)、許容評価値よりも小さい場合には(ステップS24にて否定判断)、かかる特定部品が存在しないと判断する(ステップS26)。
【0073】
その後、認識結果を他のコンピュータなどに送信する(ステップS26)。かかるコンピュータが管理者端末である場合には、部品の取付の誤りを迅速に認識することができ、これに対する措置を迅速に採ることができる。
【0074】
このようにすることにより、特定の部品が取り付けられる車両1の塗装面の色と部品の色との関係によって、画像から部品を特定することが困難であっても、色相、彩度、輝度に変換した画像のいずれかを用いることで、外装部品の有無、種別を容易かつ精度よく識別することができる。従って、外装部品の付け忘れ、あるいは、種別の誤りを抑制でき、製造物の高品質化を図ることができる。
【0075】
〈第2の実施形態〉
次に、本発明の第2の実施形態について、図10乃至図11を参照して説明する。図10は、本実施形態におけるシステムの構成を示す機能ブロック図である。図11は、動作を示すフローチャートである。
【0076】
(構成)
本実施形態における部品認識システムは、上述した第1の実施形態とほぼ同様の構成となっている。但し、以下の点が異なる。
【0077】
まず、図10に示すように、コンピュータ130の記憶装置150には、図1に示す画像特定データ記憶部52が構成されていない。すなわち、画像特定データが用意されていない。また、図1の認識対象物データ記憶部53に代わってパターンデータ記憶部153が構成されている。このパターンデータ記憶部153に記憶されているデータは、上述した認識対象物データ記憶部53内のパターンデータと同様に認識対象となりうる部品の特徴を表すパターンデータが記憶されているというものである。逆に言えば、認識対象物データ記憶部53に記憶されていた部品特徴値データは本実施形態では記憶されていない。従って、そもそも画像特定データが用意されていないことから、変換画像特徴値や部品特徴値から、パターンマッチングに使用する画像を選択しない構成となっている。
【0078】
このため、CPU140には使用画像選択部45が構築さておらず、パターンマッチング部146は以下のように作動する。なお、他の処理部(画像取込部141、被写体位置検出部142、画像切出部143、画像変換部144、部品認識部147)は、第1の実施形態にて説明したよう作動する。ここで、CPU140に構築される各処理部は、かかる処理を実現するための指令が記述されたプログラムが組み込まれることにより実現できる。
【0079】
パターンマッチング部146は、取り込み画像に前処理が施され、画像変換部144にてHSI変換された各変換画像(H:色相画像、S:彩度画像、I:輝度画像)について、それぞれパターンデータマッチングを行う。この際、パターンデータは、記憶装置150であるハードディスクやメインメモリ内のパターンデータ記憶部153から読み出す。そして、パターンマッチングを行うと共に、それぞれのマッチング結果である評価値を算出する。従って、HIS総ての変換画像に対応して、3つの評価値が算出されることとなる。
【0080】
そして、部品認識部147は、まず3つの評価のうちから最も高い値の評価値を選択する。そして、記憶装置150の許容評価値記憶部154から許容評価値を読み出し、選択された評価値と比較する。その結果、許容評価値以上の値である場合には、認識対象である特定の部品が取り付けられていると認識し、その旨をホストコンピュータなどに通知したり、自己のディスプレイに表示する。
【0081】
なお、評価値を選択する判断基準は、最も高い値を選択することに限定されない。評価値の算出手法に対応して、かかる評価値のうち、最も評価がよいと判断される値を選択する。
【0082】
(動作)
次に、第2の実施形態における動作を、図11のフローチャートを参照して説明する。まず、上述したように車両1のカラー画像を取り込み(ステップS101)、取り込んだ画像データに対して前処理として位置補正や画像の切り出し処理を行う(ステップS102)。そして、切り出し画像に対してHSI変換を行い(ステップS103)、色相画像、彩度画像、輝度画像を得る。なお、これまでの処理は、上記第1の実施形態において説明した図7、図8に示すステップS1〜ステップS11までの処理と同様なので、その詳細な説明は省略する。
【0083】
続いて、個々の変換画像に対してパターンマッチングを行い、評価値を算出する。すなわち、まず、色相画像において二値化処理などを施した後にパターンマッチングを行って評価値を算出し(ステップS104)、その後、別の変換画像のうちパターンマッチングを行っていない画像である彩度画像においても二値化後パターンマッチングを行って評価値を算出する(ステップS105にて肯定判断の後、ステップS104に戻る)。同様に、輝度画像についても評価値の算出を行う。
【0084】
そして、総ての変換画像の処理が終わると(ステップS105にて否定判断)、3つの評価値が算出されることとなるが、これらのうち最も高い評価が得られたデータを選択する。例えば、評価値の算出がパターンと一致していればしているほどその値が高くなるような基準にて算出される場合には、評価値のうち最も高い値を選択するよう作動する(ステップS106)。
【0085】
そして、この選択された最高評価値と、記憶装置に記憶されている許容評価値とを比較して(ステップS107)、評価値が許容評価値の値以上である場合には(ステップS107にて肯定判断)、かかる画像内に対象部品があると認識し(ステップS108)、許容評価値よりも小さい場合には(ステップS107にて否定判断)、かかる対照部品が存在しないと判断する(ステップS109)。その後、認識結果をホストコンピュータなどの他のコンピュータに送信する(ステップS110)。
【0086】
このようにすることにより、対照部品が取り付けられ得る車両1の塗装色がいかなる色であるかを考慮することなく、また、それを検出する処理を行うこともなく、色相、彩度、輝度の変換画像のいずれかを用いることで、外装部品の有無、種類を容易に識別することができる。
【0087】
【発明の効果】
本発明は、以上のように構成され機能するので、これによると、RGBカラー画像データを色相データ、彩度データ、輝度データに変換処理して、かかる画像毎にパターンマッチングを行うと共に評価値を算出し、そのうち最も高い評価を得られた値を用いて認識対象部品が画像中に存在するか否か、すなわち、被取付部材に対照部品が正確に取り付けられているか否かを判断することができるため、被取付部材の色がいかなる色であるかに関わらず、外装部品の有無、種類を容易に識別することができる、という優れた効果を有する。
【0088】
また、被取付部材の部品が取り付けられる面の画像特徴に応じて、部品認識処理に用いる変換画像を特定する構成とすることにより、認識精度の向上を図ることができると共に、処理画像数が少なくなるため、認識処理の迅速化を図ることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態における構成の概略を示すブロック図である。
【図2】本発明の第1の実施形態における構成を示す機能ブロック図である。
【図3】図3は、画像処理の様子を示す説明図である。図3(a)は、取り込み画像データを示し、図3(b)は位置基準形状データを示す。図3(c)は位置基準形状を検索したときの様子を示す。
【図4】図4は、画像処理の様子を示す説明図である。図4(a)は切り出し範囲を示し、この画像からのさらなる切り出し範囲を図4(b)▲1▼に示す。そして、この図からそれぞれ切り出した画像を図4(b)▲2▼〜▲4▼に示す。
【図5】図5は、画像処理の様子を示す説明図である。図5(a)は取得した画像データから部品が取り付けられている箇所を切り出したものである。図5(b)は色相画像に、図5(c)は彩度画像に、図5(d)は輝度画像に、図5(a)をそれぞれ変換したものである。図5(e)は図5(c)に示す画像を二値化したものであり、図5(f)は図5(d)に示す画像を二値化したものである。
【図6】画像特定データの構成を示す図である。
【図7】第1の実施形態における動作を示すフローチャートである。
【図8】第1の実施形態における動作を示すフローチャートであり、図7の続きを示すものである。
【図9】第1の実施形態における動作を示すフローチャートであり、図8の続きを示すものである。
【図10】本発明の第2の実施形態における構成を示す機能ブロック図である。
【図11】第2の実施形態における動作を示すフローチャートである。
【符号の説明】
1 車両(被取付部材)
2 カメラ(画像取得手段)
3 コンピュータ(画像処理手段)
4 CPU
5 記憶装置
6 通過検出スイッチ
7 コンベア
41 画像取込部
42 被写体位置検出部
43 画像切出部
44 画像変換部
45 使用画像選択部
46 パターンマッチング部
47 部品認識部
51 位置基準形状データ記憶部
52 画像特定データ記憶部
53 認識対象物データ記憶部
54 許容評価値記憶部
【発明の属する技術分野】
本発明は、部品認識システムにかかり、特に、自動車などの外装部品として取り付けられた特定の部品を認識するシステムに関する。また、部品認識方法、部品認識用プログラムに関する。
【0002】
【従来の技術】
自動車などには、種々の外装部品が取り付けられているが、これらは製造時に製造ライン上で自動的に、あるいは、手作業により取り付けられる。外装部品としては、例えば、ヘッドランプなどの各種ランプ、フロントグリル、エンブレム、デカール類(シール)などがある。
【0003】
しかし、これら外装部品はその数が膨大であり、また、アウトソーシングなど他会社に自社製品を納入するケースが増大しており、一つの製品であっても種々のエンブレムが取り付けられることがある。従って、外装部品の付け忘れ、あるいは、取り付ける部品の仕様を誤ることもあり得る。
【0004】
このような場合には、製造後に正常な外装部品が取り付けられているか否かを検査する必要が生じる。かかる検査は、人間が行ってもよいが、画像処理にて自動的に行う技術が開発されている。例えば、まず、車体本体を撮影して、検査対象である外装部品が取り付けられていると考えられる周辺の画像を取り込む。そして、かかる範囲内に特定の部品が存在するか否かを、パターンマッチングにて検出する。すなわち、あらかじめ特定部品の基準画像を、パターンデータとして記憶しておき、かかる基準画像とのマッチングが行われる。
【0005】
【特許文献1】
特開平8−30784号公報
【0006】
【発明が解決しようとする課題】
しかしながら、上述したパターンマッチングによる外装部品の検出は、従来例では単純に濃淡画像(白黒)を用いたものが多く(特許文献1参照)、かかる場合には塗装色が様々な場合に検出精度が低くなる、という問題が生じる。これは、塗装色によっては、検出対象である外装部品と非常に近い明るさとなりうるので、ボディ面と対象部品とを分離し、パターンマッチングによる検出が困難となる。
【0007】
【発明の目的】
本発明は、上記従来例の有する不都合を改善し、特に、背景色に影響を受けずに特定の部品を認識することができる、部品認識システムを提供することをその目的とする。また、検出精度の向上、検出の安定性の向上をもその目的とする。
【0008】
【課題を解決するための手段】
そこで、本発明では、特定の部品が取り付けられる被取付部材を撮影してカラー画像データを取得する画像取得手段と、取得した画像データを演算処理する画像処理手段とを備え、この画像処理手段にて、画像データ内に特定の部品が存在するか否かを認識する部品認識システムであって、画像処理手段が、特定の部品の特徴を表すパターンデータを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、各変換画像データ毎にパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいてそれぞれ算出するパターンマッチング機能と、これら算出された評価データのうち最も高い評価であると判断されたデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えた、という構成を採っている。
【0009】
このような構成にすることにより、まず、撮影されて取り込まれたRGBカラー画像データが、所定の変換式により色相データ、彩度データ、輝度データに変換処理される。そして、それぞれの変換画像データにおいて、あらかじめ記憶されている認識対象部品のパターンデータとのパターンマッチングが行われる。このとき、パターンマッチングによる例えば一致度を表す評価データが、あらかじめ定められた評価基準に基づいて各変換画像毎に算出される。その後、各評価データのうち最も評価の高い値が、あらかじめ定められた許容基準を満たすか否かが判断され、当該基準を満たす場合には、かかるパターンデータの部品が、画像中に存在すると判断される。従って、特定の部品が取り付けられる被取付部材の外面であって部品の取付周囲の色との関係によっては判断しにくい場合であっても、色相、彩度、輝度のいずれかを用いることで、外装部品の有無、種類を容易に識別することができる。
【0010】
また、本発明では、上記同様に画像取得手段と画像処理手段との基本構成を備え、画像処理手段が、被取付部材の既知である色に応じてあらかじめ設定された使用画像を特定する画像特定データと、特定の部品の特徴を表すパターンデータとを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、各変換画像データのうち画像特定データに基づいて特定された変換画像データにおいてパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング機能と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えたという構成を採っている。
【0011】
上記構成において、画像特定データは、被取付部材の既知である色に応じてあらかじめ設定された2以上の使用画像を特定するデータから成り、パターンマッチング機能は、画像特定データにて特定された各変換画像データ毎にパターンマッチングを行い、評価データをそれぞれ算出し、部品認識機能は、これら算出された評価データのうち最も高い評価であるデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する、という構成にしてもよい。
【0012】
このような構成にすることで、あらかじめ被取付部材の外面であって、部品取付箇所周囲の色が判明している場合には、かかる色に応じて当該外面色と対象部品とを区別しやすい色相、彩度、輝度のうちいずれかの変換画像データ、あるいは、2つ以上の変換画像データを用いるよう、画像特定データにて特定されている。そして、かかるデータが特定する変換画像データを用いて、上述同様にパターンマッチングを行うことで、被取付部材の色の影響を抑制して、対象部品を精度よく認識することができる。
【0013】
さらに、本発明では、上記同様に画像取得手段と画像処理手段との基本構成を備え、画像処理手段が、取得した画像データの特徴に応じて使用画像を特定する画像特定データと、特定の部品の特徴を表すパターンデータとを記憶すると共に、画像データを色相,彩度,輝度のデータに変換する画像変換機能と、これら変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出機能と、この算出された変換画像特徴値と画像特定データとに基づいて特定された変換画像データにおいてパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング機能と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識機能と、を備えた、という構成を採っている。
【0014】
このとき、上記構成において、画像特定データは、変換画像特徴値に応じて2以上の使用画像を特定するデータから成り、パターンマッチング機能は、変換画像特徴値と画像特定データとに基づいて特定された2以上の変換画像データ毎にパターンマッチングを行い当該マッチングによりあらかじめ定められた評価基準に基づいてそれぞれ評価データを算出し、部品認識機能は、これら算出された評価データのうち最も高い評価であるデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する、という構成としてもよい。
【0015】
このような構成にすることにより、被取付部材の外面であって部品が取り付けられる箇所の周囲の色が判明していない場合であっても、まず、かかる部分の色の特徴が算出される。このときの特徴とは、例えば、彩度や輝度である。そして、かかる特徴に応じて、パターンマッチングを行うことに適した変換画像データが特定される。すなわち、被取付部材の色の特徴に応じて、当該外面色と対象部品とを区別しやすい色相、彩度、輝度のうちいずれかの変換画像データ、あるいは、2つ以上の変換画像データを用いるよう、画像特定データにて設定されており、かかる変換画像データが特定される。そして、画像特定データが特定する変換画像データを用いて、上述同様にパターンマッチングを行うことで、被取付部材がいかなる色であっても、当該色の影響を抑制して、自動的に精度よく対象部品を認識することができる。
【0016】
また、画像処理手段が、特定の部品を撮影した際における画像上の特徴を部品画像特徴値を記憶すると共に、記憶されている画像特定データは、変換画像特徴値及び部品画像特徴値に応じて認識に用いる画像を特定するデータから成り、パターンマッチング機能は、部品画像特徴値と変換画像特徴値と画像特定データとに基づいて特定された変換画像データ毎にパターンデータを用いてパターンマッチングを行う、という構成としてもよい。このとき、部品画像特徴値は、彩度や輝度に関するデータである。
【0017】
これにより、被取付部材の色ばかりでなく、特定部品の色の特徴にも応じて、被取付部材と対象部品とを区別しやすい色相、彩度、輝度のうちいずれかの変換画像データ、あるいは、2つ以上の変換画像データを用いるよう、画像特定データにて特定されているため、パターンマッチング機能にてそのような変換画像データが特定される。そして、画像特定データが特定する変換画像データを用いて、上述同様にパターンマッチングを行うことで、より被取付部材の色の影響を抑制して、対象部品の認識精度の向上を図ることができる。
【0018】
さらに具体的には、画像処理手段は、変換画像特徴値である彩度のあらかじめ定められたしきい値と、部品画像特徴値である彩度のあらかじめ定められたしきい値とを記憶すると共に、記憶された画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも高く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも低い場合には、変換画像データのうち彩度データを用いるよう特定するデータである、こととすると望ましい。そして、同様に、画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも高く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも高い場合には、変換画像データのうち色相データを用いるよう特定する。また、画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも低く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも高い場合には、変換画像データのうち彩度データを用いるよう特定する。さらには、画像特定データは、変換画像特徴値である彩度が変換画像特徴値に対応するしきい値よりも低く、部品画像特徴値である彩度が部品画像特徴値に対応するしきい値よりも低い場合には、変換画像データのうち輝度データを用いるよう特定する。
【0019】
このように、画像特定データを特定しておくことで、パターンマッチング処理時に、被取付部材と特定の部品の色に応じて、より認識しやすい変換画像データが自動的に選択されるため、容易に、さらなる認識精度の向上を図ることができる。
【0020】
また、上記あらゆる構成において、パターンマッチング機能は、画像特定データにて特定された処理対象である変換画像データの濃淡ヒストグラムを作成して当該濃淡ヒストグラムに基づいて二値化しきい値を算出し、当該二値化しきい値にて処理対象である変換画像データを二値化して処理を行う、こととすると望ましい。このとき、画像処理手段は、画像取得手段と被取付部材との位置関係に応じた特定の部品の面積に関するデータを記憶すると共に、パターンマッチング機能は、特定部品の面積データに基づいて二値化しきい値を算出する、こととするとなお望ましい。
【0021】
これにより、パターンマッチング処理を行う前に、二値化処理により被取付部材と特定の部品とを区別することができ、よりパターンマッチングの精度の向上を図ることができる。
【0022】
さらに、本発明では、特定の部品が取り付けられる被取付部材を画像取得手段にて撮影して画像データを取得し、当該取得した画像データを画像処理手段にて演算処理することにより、当該画像データ内に特定の部品が存在するか否かを認識する部品認識方法であって、画像処理手段が、画像データを色相,彩度,輝度のデータに変換する画像変換工程と、これら変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出工程と、この算出された変換画像特徴値と当該変換画像特徴値に応じた使用画像があらかじめ設定されている画像特定データとに基づいて特定された変換画像データにおいて,特定の部品の特徴を表すパターンデータを用いてパターンマッチングを行い,当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング工程と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識工程と、を備えたという構成の部品認識方法を提供している。
【0023】
また、特定の部品が取り付けられる被取付部材を画像取得手段にて撮影して画像データを取得し、当該画像データ内に特定の部品が存在するか否かを認識するよう取得した画像データを演算処理する画像処理手段の動作を制御する部品認識用プログラムであって、画像データを色相,彩度,輝度のデータに変換する画像変換指令と、これら変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出指令と、この算出された変換画像特徴値と当該変換画像特徴値に応じた使用画像があらかじめ設定されている画像特定データとに基づいて特定された変換画像データにおいて,特定の部品の特徴を表すパターンデータを用いてパターンマッチングを行い,当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング指令と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断する部品認識指令と、を備えた、という構成の部品認識用プログラムを提供している。
【0024】
このような構成にしても、上述同様の作用・効果を得ることができ、上述した目的を達成することができる。
【0025】
【発明の実施の形態】
〈第1の実施形態〉
以下、本発明の第1の実施形態を、図1乃至図9を参照して説明する。図1は、本発明の構成の概略を示すブロック図である。図2は、本発明の構成を示す機能ブロック図である。図3乃至図5は、画像処理の様子を示す説明図である。図6は、システムに記憶されているデータの構造を示す説明図である。図7乃至図9は、動作を示すフローチャートである。
【0026】
(構成)
本実施形態における部品認識システムでは、認識対象である特定の部品が取り付けられる被取付部材は、乗用車などの車両1であり、そして、特定の部品(図示せず)は、製造者やその車種を表示するエンブレム、ヘッドランプやリアコンビネーションランプなどのランプ類、ステッカーなどのデカール類等である。但し、認識対象である部品は上記のものに限定されず、さらには、当該部品が取り付けられる対象物も車両1であることに限定されない。いずれにしても、「物」の外面の撮影可能な位置に製造段階で取り付けられる部品が認識対象であれば、当該部品自体及び被取付部材は限定されない。
【0027】
図1に示すように、部品認識システムは、認識対象である特定の部品(図示せず)が取り付けられる車両1を撮影して画像データを取得する画像取得手段としてのカメラ2と、当該カメラにて取得した画像データを演算処理する画像処理手段としてのコンピュータ3とを備えている。そして、コンピュータ3を用いて、取り込んだ画像データ内に特定の部品が存在するか否かを認識するというシステムである。以下、これを詳述する。
【0028】
(車両)
車両1は、上述したように4輪自動車であり、コンベア7の搬送により製造ライン上を移動している。そして、製造ライン上では、当該車両1にヘッドランプ、リアコンビネーションランプ、リアエンブレム、デカール類など、各種部品が備えられ、その最終工程段階に本システムは備えられている。
【0029】
このとき、コンベア7上には所定の間隔で上方に突出するタイヤストッパ71が固定されて備えられていて、かかるストッパ71にいずれかのタイヤ11を引っかけることにより、車両1がコンベア7により搬送される。なお、図1に示す例では、車両1の前方は矢印A1に示す方向である場合であって、当該矢印A1方向にコンベア7が駆動している場合に、コンベア7上のタイヤストッパ71は右前方タイヤの後方に位置することにより、車両1は前方(矢印A1)方向に搬送される。
【0030】
また、上記タイヤストッパ71が通過したことを検出する通過検出スイッチ6が、コンベア7の横に備えられている。この通過検出スイッチ6は、例えば、タイヤストッパ71に当接するよう備えられていて、当該ストッパ17が通過する際にスイッチ6の接触検知部に触れることで当該スイッチ6にて検出される構成である。但し、通過検出スイッチ6はかかる構成に限定されず、タイヤストッパ71あるいは車両1の通過を検出できるものであればよい。そして、通過検出スイッチ6は上記コンピュータ3に接続されていて、車両1が通過したことを検出した旨の信号を当該コンピュータ3に送信する。かかる検出信号を受けたコンピュータ3は、後述するようにカメラ2にて車両1を撮影するよう指令を出す。
【0031】
(カメラ)
カメラ1は、カラー画像が取得可能なCCDカメラであり、コンピュータ3にて制御されている。すなわち、コンピュータ3からの撮影指令に応じて画像を取り込み、取り込んだ画像データをコンピュータ3に送信する。なお、後述する例では、総画素数が400万画素数のカメラを用いるが、当該カメラ2の画素数はこれに限定されない。
【0032】
また、カメラ2は、図1に示す例は、車両1の前方と後方とを撮影するよう、2台備えられている。そして、これら2台共に、コンピュータ3の指令により撮影するようになっていて、やはり上記通過検出スイッチ6と連動している。例えば、前方のカメラ2は、ヘッドランプが取り付けられているか、あるいは、誤って別仕様のものが取り付けられていないか、ということを認識するための物であり、後方のカメラ2は、リアコンビネーションランプやリアエンブレムの取付状態を認識するものである。
【0033】
(コンピュータ)
コンピュータ3は、カメラ2による画像の取得状況を制御すると同時に、取得した画像データを演算処理して、当該画像内に特定の部品が存在するか否かを検出するものである。そのハードウェアの構成は、一般的なコンピュータと同様に、所定の演算処理能力を有する演算装置としてのCPU4と、所定の容量の記憶能力を有する記憶装置5としてのハードディスクやメインメモリとを備えた構成と成っている。また、所定のハードディスクなどの高速に画像処理を行えるよう、大容量の画像処理用のフレームメモリを備えている。さらに、他のコンピュータと相互にデータ通信を可能とする通信装置31も備えられている。このように、他のコンピュータ3と接続されていることにより、後述するように当該他のコンピュータ3から認識対象の変更指令を受けたり、認識対象のパターンデータの更新などを行うことができる。
【0034】
コンピュータ3の構成を、図2の機能ブロック図を参照して詳細に説明する。コンピュータ3のCPU4には、部品認識用プログラムが組み込まれることにより、以下に説明する処理部が構築される。換言すると、各処理部による処理を実現するための指令が記述されたプログラムが組み込まれることにより実現できる。
【0035】
そして、CPU4に構築される各処理部は、カメラ2の画像取込状態を制御する画像取込部41と、車両1の位置を検出する被写体位置検出部42と、取り込んだ画像から部品を検出するために必要な部分を切り出す画像切出部43と、画像を他のデータ形式に変換する画像変換部44と、変換された画像のうちパターンマッチングに用いる画像を選択する使用画像選択部45と、特定の部品についてパターンマッチングを行うパターンマッチング部46と、パターンマッチングの結果、画像内に特定の部品が存在するか否かを判断する部品認識部47と、である。これら各処理部を詳述すると共に、記憶装置5に記憶されているデータの内容を説明する。なお、図2では一台のコンピュータ3に各処理部及び各記憶部が構築される場合を例示しているが、これら処理部あるいは記憶部は数台のコンピュータに分散して構築されていてもよい。
【0036】
まず、画像取込部41は、上述した通過検出スイッチ6から車両1が通過した旨の信号を検出した際に、カメラ2に対して撮影指令を出す。そして、撮影により取得されたカラー画像データをコンピュータ3内に取り込むよう作動する。特に、取り込んだ画像データはRGBデータ(三原色情報(R:赤、G:緑、B:青))から成り、かかる画像はフレームメモリ上に保持される。なお、図4(a)に取得した画像データの一例を示すが、後方のカメラ2にて取得した画像データは、車両の後方を写し出す画像となる。また、具体的には、縦1704画素、横2272画素のデータである。このようにカメラ2と画像取込部41にて、画像取得手段が構成されている。
【0037】
続いて、被写体位置検出部42は、コンベア7上を搬送されてくる車両1の位置、特に、左右の位置は総て同じではなく、一台毎にずれを生じて搬送されてくるため、かかるずれを検出して画像データ上で修正するよう作動する。例えば、取り込み画像データ上の特徴ある部分を検出し、かかる部分の位置を認識することで、当初予定していた位置とのずれを算出する。そして、ずれが生じている場合には、画像データを前後、左右にずれている画素分だけ移動して、修正する。
【0038】
その具体例を図3を参照して説明する。図3(a)は取り込んだ状態の画像を示し、図3(b)は、位置のずれを検出するために用いる基準となる形状を表すデータ(位置基準形状データ)である。なお、この位置基準形状データは、二値画像にて表されていて、車両のリアウインドと車体の繋ぎ目の影になる部分を利用した形状となっている。そして、この位置基準形状データは、コンピュータ3の記憶装置5上の位置基準形状データ記憶部51にあらかじめ記憶されている。但し、位置基準形状データは、かかる形状に限定されるものではなく、取り込み画像中の特徴ある部分の形状データであればよい。
【0039】
そして、位置基準形状データに示す形状が、画像データ中のどの位置に存在するかを、パターンマッチング処理により検出する。なお、このとき、パターンマッチングは取り込んだ濃淡画像を用いて行い、そしてパターンマッチングの具体的な手法は、既知の技術を用いることとする。パターンマッチングの結果、特徴部分を検出したときの様子を、図3(c)に示す。この図において、図3(b)に示す形状(位置基準形状)と同一の形状を表す点線に示すように、位置基準形状データに表された形状の位置が検出されると、さらにある特定の位置の座標(位置補正特徴点)が調べられ、あらかじめ定められた基準座標とのずれを算出する。例えば、位置補正特徴点を位置基準形状の情報にある矩形の左下の頂点としたとき、マッチングの結果、当該特徴点が上記基準座標に対して横に10画素、縦に7画素ずれていると検出された場合には、かかる画素ずつ、取り込んだ画像データをずらして再形成する。このようにすることで、特定の部品を含む範囲を確実に切り出すことができ、認識精度の低下を抑制することができる。
【0040】
また、画像切出部43は、認識すべき部品が取り付けられているであろう範囲の画像を切り出すよう作動する。その様子を図4に示す。なお、切り出す範囲を指定する座標や面積に関するデータはカメラ2と車両1の位置関係によって異なるため、撮影して画面上に表示される大きさを考慮してあらかじめ実験などにより設定したデータが記憶装置に記憶されている。また、認識すべき部品が取り付けられ得る位置も考慮されて設定されている。
【0041】
具体的には、まず、図4(a)に示すように、取り込んだ状態の画像データの右半分を点線に示すように切り出す。そして、図4(b)▲1▼に示すよう切り出した画像から、さらにあらかじめ定められた切り出し範囲の画像を、図4(b)▲2▼、▲3▼、▲4▼に示すよう、それぞれ切り出す(矢印A2,3,4参照)。なお、▲2▼はリアコンビネーションランプを、▲3▼はリアウインドウに貼られたラベルシールを、▲4▼はリアエンブレム(Car)を、検出するために用いる画像である。このように各部品が取り付けられていると予想される範囲を切り出すことで、処理すべき画像データ量の削減を図ることができ、処理時間の短縮化、及び、認識精度の向上を図ることができる。なお、以後の処理は、認識対象とする部品に対応した画像データそれぞれについて行われることとなる。
【0042】
画像変換部44は、取り込んだカラー画像データであるRGBデータを、色相(H:色の種類に関する分類を示す値),彩度(S:色の鮮やかさの程度),輝度(I:色の明るさの程度)のデータに変換する画像変換(HSI変換)機能として作動する。例えば、リアエンブレムを検出する処理を行う場合には、図4(b)▲4▼の画像データをHSI変換する。従って、3つの変換画像データが形成されることとなるが、これらはそれぞれメインメモリ上に保持される。そして、これらの変換画像データのうち、いずれの画像データが認識処理に用いられるかが、使用画像選択部45にて判断される。
【0043】
なお、変換された画像の一例を、図5に示す。図5(a)はカラー画像データを切り出した状態の原画像であり、図5(b)は色相画像、図5(c)は彩度画像、図5(d)は輝度画像に、上記図5(a)に示す原画像をそれぞれ変換した画像である。
【0044】
そして、使用画像選択部45は、上記変換画像データ中の特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出機能として作動すると共に、この変換画像特徴値に応じて実際に部品認識処理を行うために使用する変換画像を選択するよう作動する。
【0045】
具体的には、あらかじめ認識対象である部品が取り付けられていない車両1の塗装面が写し出される座標及び範囲が定められていて、コンピュータ3の記憶装置5に記憶されている。そして、これらのデータにて指定された範囲の画像上の特徴を算出する。このとき、算出する変換画像特徴値とは、当該範囲における彩度の平均値や分散値、さらには、輝度の平均値や分散値である。なお、算出した変換画像特徴値のうち特に彩度及び輝度の平均値を画像選択時に用いるが、分散値はかかる彩度及び輝度が、測定した塗装面の範囲において全体的に一様であるのか、あるいは、ムラがあるのか、ということを判断することに用いる。従って、彩度あるいは輝度の分散値が大きい場合にはかかる塗装面の範囲にムラがあるため、正確な彩度あるいは輝度の平均値が算出できていないと判断し、測定範囲を別の範囲に移行して変換画像特徴値の算出処理を再度行うよう使用画像選択部45は作動する。一方、分散値があらかじめ定められた範囲内に収まっていれば、そのときの平均値を変換画像特徴値として取り扱う。
【0046】
また、上記使用画像選択部45にて用いられるデータとして、認識すべき部品を撮影して画像データとして取り込んだときの当該画像上の特徴値(部品画像特徴値)がある。この部品画像特徴値としては、例えば、上記変換画像特徴値と同様に、彩度の平均値や分散値、さらには、輝度の平均値や分散値である。かかるデータは、あらかじめ測定されて設定されており、コンピュータ3の記憶装置5の認識対象物データ記憶部53に記憶されている。
【0047】
また、上記部品画像特徴値と、上述した変換画像特徴値とに基づく、最適な使用画像を特定する画像特定データが、同様に認識対象物データ記憶部53に記憶されている。ここで、画像特定データについて、図6を参照して説明する。図6は、画像特定データのデータ構造を模式的に示したものであり、このような表に表されるデータが記憶されていることを示している。
【0048】
本実施形態における画像特定データは、上述した変換画像特徴値と、部品画像特徴値とのマトリックスになっていて、それぞれの値に応じて使用する変換画像を指定している、というものである。このとき、変換画像特徴値及び部品画像特徴値は、それぞれの特定の範囲における彩度の平均値、輝度の平均値である。具体的には、変換画像特徴値は特定範囲が車両1の塗装面が位置する箇所に設定されているので、塗装面の彩度等であり、部品画像特徴値は、部品をあらかじめ撮影したときの彩度等である。そして、かかる値が、あらかじめ設定されたしきい値以上か、あるいは、当該しきい値よりも低いかによって使用画像が異なる。すなわち、コンピュータ3の記憶装置5には、図示しないが、算出した各特徴値の高低を判定する基準となるしきい値が記憶されている。これら各しきい値は、後述するパターンマッチング処理にて認識しやすいと実験により設定された値である。
【0049】
そして、図6では、符号H,I,Sはそれぞれ使用する画像を表している。Hは色相画像、Iは輝度画像、Sは彩度画像を示している。例えば、塗装色の彩度が高く、かつ、輝度が高い場合であって、部品の彩度が高く、輝度が高い場合には、色相画像(H)を用いて、後のパターンマッチング処理を行うこととなる。
【0050】
このとき、画像特徴データは、特に塗装色及び部品の輝度が低い場合であって、塗装色の彩度がしきい値よりも高くかつ部品の彩度がしきい値よりも低い場合に彩度画像を用い、また、塗装色の彩度が高くかつ部品の彩度が高い場合には色相データを用い、塗装色の彩度が低くかつ部品の彩度が高い場合には、彩度データを用いるよう設定しておくとよい。また、特に塗装色あるいは部品のいずれかの輝度が低い場合であって、塗装色の彩度が低くかつ部品の彩度が低い場合には輝度データを用いるよう設定しておくよい。このようにすることで、車両1の塗装色や部品の特性に応じて、パターンマッチングに適切な画像を自動的に選択することで、より精度のよいパターンマッチング結果が得られる。
【0051】
ちなみに、塗装色あるいは部品の彩度が高く、かつ、輝度が高い場合には(図6の網掛け表示部分)、比較的認識しづらいと実験にて判断されているため、複数の変換画像データを使用するよう指定する指示としてもよい。さらに、塗装色及び部品の彩度が低い場合であって、かつ、共に輝度が高い場合、あるいは、共に低い場合には(図6の符号C(斜線表示部分))、さらに認識が困難となるので、2つの変換画像を用いてもよく、3つの変換画像を総て使用してもよい。但し、使用画像の指定は上記のものに限定されるものではない。
【0052】
なお、上記使用画像選択部45による変換画像特徴値の算出は、切り出した画像に対して行われる場合を例示したが、取り込まれた画像データからかかる特徴値を算出してもよい。かかる場合には、被写体位置検出部42などによる処理と並列して使用画像の選択処理が行われるため、使用するコンピュータ3のCPUが並列処理に適している場合には、かかる構成も有効である。
【0053】
ここで、あらかじめ塗装色がわかっている車両1に対して処理を行う際には、かかる塗装色の特徴値、すなわち、上記変換画像特徴値が測定されて記憶装置5に記憶されている。従って、上記使用画像選択部45では、かかる特徴値を読み出して使用画像の選択処理を行ってもよい。また、部品画像特徴値は必ずしもあらかじめ測定されて記憶されていることに限定されない。従って、塗装色の特徴値である変換画像特徴値に応じて、使用画像を特定してもよい。なお、かかる場合には、画像特定データは、変換画像特徴値にのみ応じて使用画像を特定するデータとして構成されている。
【0054】
上述したように、使用画像選択部45にて変換画像データに基づいて使用する変換画像が選択されると、かかる選択画像に対してパターンマッチング部46にてパターンマッチングが行われる。パターンマッチング部46では、特定された変換画像データにおいてパターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するよう作動する。
【0055】
パターンマッチングを行うために、まず、コンピュータ3の記憶装置5(ハードディスクやメインメモリ)内の画像特定データ記憶部52には、検出対象である特定の部品の特徴を表すパターンデータが記憶されている。このパターンデータは、あらかじめ部品を撮影してその画像データから当該部品の特徴値を算出したものである。例えば、部品の面積や、形状の特徴を表すテンプレートデータから成る。
【0056】
そして、上記パターンデータを用いてパターンマッチングを行うわけであるが、その前に、処理対象として選択された変換画像を二値化する。この二値化処理を行う際のしきい値は、あらかじめ車両1の塗装色と認識対象である部品との彩度や輝度などを考慮して設定しておき、コンピュータ3に記憶しておいてもよく、あるいは、使用する変換画像データにおいて濃淡ヒストグラムを作成し、当該濃淡ヒストグラムに基づいて二値化しきい値を算出してこれを用いてもよい。しきい値を算出する場合には、単に濃淡ヒストグラムの谷間となる値を選定してもよく、また、あらかじめ撮影状況に応じた部品の面積に関するデータを記憶しておき、当該面積データに基づいてしきい値を設定してもよい。面積データは、実際の面積ではなく、カメラ2とコンベア7上の車両1との距離に応じて変化するため、これを考慮して画素数で表したものを設定しておく。そして、ヒストグラムにおいて、ある階調値よりも上あるいは下に存在する画素数が部品の面積と一致する場合に、かかる階調値をしきい値と設定する。ここで、図5(e),(f)に、所定のしきい値にて二値化した画像の一例を示す。図5(e)は彩度画像を、図5(f)は輝度画像を二値化した際の画像である。なお、二値化処理はパターンマッチングの精度向上のために行う処理であって、必ずしも行われるわけではない。また、パターンマッチング前にエッジ処理が行われてもよい。
【0057】
そして、パターンマッチングが行われると、パターンマッチングによる評価値が算出される。このとき、パターンマッチングは、例えばテンプレートとの差分を取ることにより行われ、その一致する画素数の数に対応した評価値が算出される。従って、かかる例では、テンプレートに一致する画素を評価値とするという基準が評価基準となり、一致すればするほど評価値が高くなるというものである。但し、パターンマッチングの手法及びその評価値の算出手法(評価基準)は上記のものに限定されない。そして、これらの手法は一般的に行われている手法を用いることとするため、さらなる詳細な説明は省略する。例えば、「MVTec社(独)HALCON ver.6.1」の市販ライブラリを用いる。
【0058】
このように評価値が算出されると、部品認識部47にて評価値の妥当性が判断される。すなわち、部品認識部47は、算出された評価値をあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に特定の部品が存在すると判断するよう作動する。従って、許容基準となる許容評価値がコンピュータ3の許容評価値記憶部54に記憶されている。この許容評価値は、あらかじめ実験などにより特定の部品が存在すると判断できると定めた評価値である。但し、この許容評価値は、上記算出した評価値の態様に応じて、最高値である場合もあり、また、マッチングによる評価が「数値」でなければ当該許容評価値もそれに応じたデータとなる。
【0059】
ここで、上記使用画像選択部45にて、画像特定データに基づいて2以上の使用変換画像が選択された場合には、パターンマッチング部46では、各特定された変換画像毎に上述したようにパターンマッチングを行い、当該マッチングによりあらかじめ定められた評価基準に基づいてそれぞれ評価値を算出する。そして、算出された各評価値はそれぞれメモリ上に保持され、部品認識部47に渡される。
【0060】
その後、部品認識部47では、2以上の評価値が算出された場合には、そのうち最も高い評価値を選択して、上述したように許容基準値と比較する。このとき、評価値が高い方がパターンと一致していると判断するよう設定されている場合には、評価値が高い方が選択されるよう作動する。逆に、評価値が低い方が一致していると判断するよう設定されている場合には当該評価値が低い方が選択される。
【0061】
そして、算出された評価値が許容評価値を満たしている場合には、正しい部品が取り付けられていると判断し、満たしていない場合には、誤った部品が取り付けられているか、あるいは部品自体が取り付けられていないと判断して、その旨を通信装置31を介して管理者の端末(図示せず)に通知したり、ラインを制御するコンピュータ(図示せず)に通知する。
【0062】
ここで、画像処理手段であるコンピュータ3は、通信装置31を介して他のコンピュータ(図示せず)に接続されているが、他のコンピュータから認識対象を変更する指令を受ける。例えば、他のコンピュータは製造ラインの作動状況を管理する管理者の端末であり、当該管理者からの入力指示により、その旨の情報がコンピュータ3に送信される。例えば、ラインを流れる製造物である車両1の車種が変わり、認識する部品も変更する場合には、車両1の位置を検出するために用いる位置基準形状データや、部品自体のパターンデータも変更しうる。従って、新しい位置基準形状データやパターンデータが通信装置31を介して受信され、各記憶部51,53に記憶される。その後は、かかるデータに基づいて、部品認識処理が実行される。
【0063】
(動作)
次に、本実施形態における部品認識システムの動作を、図7乃至図9のフローチャートを参照して説明する。なお、以下に示す動作は、コンピュータ3の動作である。
【0064】
まず、通過検出スイッチ6からの信号を監視することにより(ステップS1)、車両1がコンベア7を通過した旨を検知した場合には(ステップS1で肯定判断)、カメラ2に撮影指示を出し、車両1を撮影したカラー画像データを取り込む(ステップS2)。
【0065】
続いて、記憶装置5から位置基準形状データを読み出し(ステップS3)、当該位置基準データとのマッチングにより、位置基準形状が存在する位置を特定する(ステップS4)。このとき、当該形状のうち、さらに特徴のある箇所の座標を検出する。そして、検出した座標と、あらかじめ設定されている基準位置形状の特定の座標とを比較して、実際にコンベア7上を流れる車両1の位置のずれ量を算出する(ステップS5)。
【0066】
続いて、算出したずれ量分だけ、取り込んだ画像データの位置を全体的にずらし、位置を補正する(ステップS6)。そして、位置を補正した画像データの特定範囲を切り出し(ステップS7)、それぞれの画像を一時的に保存して、以後の部品認識処理に用いる(符号A)。
【0067】
続いて、特定の部品を検出する対象となる切り出し画像を、RGBデータからHSIデータに変換して、それぞれの変換画像データを得る(ステップS11、画像変換工程)。このとき、塗装色が既知であるか否かを表すフラグを読み出し、かかるフラグの値に応じて塗装色が既知であるか否かを判断する(ステップS12)。なお、かかるフラグは、あらかじめ管理者などによりコンピュータ3に入力されている。また、塗装色が既知である場合には、かかる塗装色の彩度や輝度なども、あらかじめ管理者などによりコンピュータ3に入力され記憶されている。
【0068】
そして、塗装色が既知である場合には(ステップS12にて肯定判断)、塗装色の特徴値(変換画像特徴値)である彩度などのデータを記憶装置5から読み出す(ステップS13)。一方、塗装色が不明である場合には(ステップS12にて否定判断)、あらかじめ定められた塗装面が写っているであろう範囲を指定するデータを読み出して、かかる範囲の彩度や輝度などの特徴値(変換画像特徴値)を算出する(ステップS14、画像特徴値算出工程)。
【0069】
続いて、あらかじめ記憶されている部品の彩度や輝度を表す部品特徴値と、使用する変換画像を特定する画像特定データとを読み出す(ステップS15)。そして、上記ステップS13にて読み出したあるいはステップS14で算出した変換画像特徴値と、ステップS15で読み出した部品特徴値とを用いて、同じくステップS15で読み出した画像特定データを参照して使用する画像を選択する(ステップS16)。
【0070】
使用する変換画像が選択されたら、かかる画像のヒストグラムからしきい値を算出したり、あらかじめ定められているしきい値を読み出し、かかるしきい値を用いて選択画像を二値化する(ステップS17)。そして、検出する特定の部品に関するパターンデータを読み出して(ステップS18)、二値化画像に対してパターンマッチングを行い、評価値を算出する(ステップS19、パターンマッチング工程)。その後、ステップS16にて使用する変換画像が2以上指定されているか否かを調べ、他の使用画像に対してパターンマッチングを行っていない画像が存在する場合には(ステップS20)、かかる使用画像に対してパターンマッチングを行い、評価値を算出する(ステップS19に戻る)。そして、総ての使用画像に対してパターンマッチング、及び、評価値の算出が終了したら、符号Bに進む。
【0071】
続いて、算出された評価値が複数あるか否かを調べ(ステップS21)、複数ある場合には(ステップS21にて肯定判断)、これら評価値のうち、値が高いものを選択する(ステップS22)。一方、評価値が一つしかない場合には(ステップS21にて否定判断)、かかる評価値を用いる。
【0072】
そして、許容評価値を読み出して(ステップS23)、当該許容評価値と選択した評価値あるいは一つしかない評価値とを比較する(ステップS24)。評価値が許容評価値の値以上である場合には(ステップS24にて肯定判断)、かかる画像内に検出対象である特定の部品があると認識し(ステップS25、部品認識工程)、許容評価値よりも小さい場合には(ステップS24にて否定判断)、かかる特定部品が存在しないと判断する(ステップS26)。
【0073】
その後、認識結果を他のコンピュータなどに送信する(ステップS26)。かかるコンピュータが管理者端末である場合には、部品の取付の誤りを迅速に認識することができ、これに対する措置を迅速に採ることができる。
【0074】
このようにすることにより、特定の部品が取り付けられる車両1の塗装面の色と部品の色との関係によって、画像から部品を特定することが困難であっても、色相、彩度、輝度に変換した画像のいずれかを用いることで、外装部品の有無、種別を容易かつ精度よく識別することができる。従って、外装部品の付け忘れ、あるいは、種別の誤りを抑制でき、製造物の高品質化を図ることができる。
【0075】
〈第2の実施形態〉
次に、本発明の第2の実施形態について、図10乃至図11を参照して説明する。図10は、本実施形態におけるシステムの構成を示す機能ブロック図である。図11は、動作を示すフローチャートである。
【0076】
(構成)
本実施形態における部品認識システムは、上述した第1の実施形態とほぼ同様の構成となっている。但し、以下の点が異なる。
【0077】
まず、図10に示すように、コンピュータ130の記憶装置150には、図1に示す画像特定データ記憶部52が構成されていない。すなわち、画像特定データが用意されていない。また、図1の認識対象物データ記憶部53に代わってパターンデータ記憶部153が構成されている。このパターンデータ記憶部153に記憶されているデータは、上述した認識対象物データ記憶部53内のパターンデータと同様に認識対象となりうる部品の特徴を表すパターンデータが記憶されているというものである。逆に言えば、認識対象物データ記憶部53に記憶されていた部品特徴値データは本実施形態では記憶されていない。従って、そもそも画像特定データが用意されていないことから、変換画像特徴値や部品特徴値から、パターンマッチングに使用する画像を選択しない構成となっている。
【0078】
このため、CPU140には使用画像選択部45が構築さておらず、パターンマッチング部146は以下のように作動する。なお、他の処理部(画像取込部141、被写体位置検出部142、画像切出部143、画像変換部144、部品認識部147)は、第1の実施形態にて説明したよう作動する。ここで、CPU140に構築される各処理部は、かかる処理を実現するための指令が記述されたプログラムが組み込まれることにより実現できる。
【0079】
パターンマッチング部146は、取り込み画像に前処理が施され、画像変換部144にてHSI変換された各変換画像(H:色相画像、S:彩度画像、I:輝度画像)について、それぞれパターンデータマッチングを行う。この際、パターンデータは、記憶装置150であるハードディスクやメインメモリ内のパターンデータ記憶部153から読み出す。そして、パターンマッチングを行うと共に、それぞれのマッチング結果である評価値を算出する。従って、HIS総ての変換画像に対応して、3つの評価値が算出されることとなる。
【0080】
そして、部品認識部147は、まず3つの評価のうちから最も高い値の評価値を選択する。そして、記憶装置150の許容評価値記憶部154から許容評価値を読み出し、選択された評価値と比較する。その結果、許容評価値以上の値である場合には、認識対象である特定の部品が取り付けられていると認識し、その旨をホストコンピュータなどに通知したり、自己のディスプレイに表示する。
【0081】
なお、評価値を選択する判断基準は、最も高い値を選択することに限定されない。評価値の算出手法に対応して、かかる評価値のうち、最も評価がよいと判断される値を選択する。
【0082】
(動作)
次に、第2の実施形態における動作を、図11のフローチャートを参照して説明する。まず、上述したように車両1のカラー画像を取り込み(ステップS101)、取り込んだ画像データに対して前処理として位置補正や画像の切り出し処理を行う(ステップS102)。そして、切り出し画像に対してHSI変換を行い(ステップS103)、色相画像、彩度画像、輝度画像を得る。なお、これまでの処理は、上記第1の実施形態において説明した図7、図8に示すステップS1〜ステップS11までの処理と同様なので、その詳細な説明は省略する。
【0083】
続いて、個々の変換画像に対してパターンマッチングを行い、評価値を算出する。すなわち、まず、色相画像において二値化処理などを施した後にパターンマッチングを行って評価値を算出し(ステップS104)、その後、別の変換画像のうちパターンマッチングを行っていない画像である彩度画像においても二値化後パターンマッチングを行って評価値を算出する(ステップS105にて肯定判断の後、ステップS104に戻る)。同様に、輝度画像についても評価値の算出を行う。
【0084】
そして、総ての変換画像の処理が終わると(ステップS105にて否定判断)、3つの評価値が算出されることとなるが、これらのうち最も高い評価が得られたデータを選択する。例えば、評価値の算出がパターンと一致していればしているほどその値が高くなるような基準にて算出される場合には、評価値のうち最も高い値を選択するよう作動する(ステップS106)。
【0085】
そして、この選択された最高評価値と、記憶装置に記憶されている許容評価値とを比較して(ステップS107)、評価値が許容評価値の値以上である場合には(ステップS107にて肯定判断)、かかる画像内に対象部品があると認識し(ステップS108)、許容評価値よりも小さい場合には(ステップS107にて否定判断)、かかる対照部品が存在しないと判断する(ステップS109)。その後、認識結果をホストコンピュータなどの他のコンピュータに送信する(ステップS110)。
【0086】
このようにすることにより、対照部品が取り付けられ得る車両1の塗装色がいかなる色であるかを考慮することなく、また、それを検出する処理を行うこともなく、色相、彩度、輝度の変換画像のいずれかを用いることで、外装部品の有無、種類を容易に識別することができる。
【0087】
【発明の効果】
本発明は、以上のように構成され機能するので、これによると、RGBカラー画像データを色相データ、彩度データ、輝度データに変換処理して、かかる画像毎にパターンマッチングを行うと共に評価値を算出し、そのうち最も高い評価を得られた値を用いて認識対象部品が画像中に存在するか否か、すなわち、被取付部材に対照部品が正確に取り付けられているか否かを判断することができるため、被取付部材の色がいかなる色であるかに関わらず、外装部品の有無、種類を容易に識別することができる、という優れた効果を有する。
【0088】
また、被取付部材の部品が取り付けられる面の画像特徴に応じて、部品認識処理に用いる変換画像を特定する構成とすることにより、認識精度の向上を図ることができると共に、処理画像数が少なくなるため、認識処理の迅速化を図ることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態における構成の概略を示すブロック図である。
【図2】本発明の第1の実施形態における構成を示す機能ブロック図である。
【図3】図3は、画像処理の様子を示す説明図である。図3(a)は、取り込み画像データを示し、図3(b)は位置基準形状データを示す。図3(c)は位置基準形状を検索したときの様子を示す。
【図4】図4は、画像処理の様子を示す説明図である。図4(a)は切り出し範囲を示し、この画像からのさらなる切り出し範囲を図4(b)▲1▼に示す。そして、この図からそれぞれ切り出した画像を図4(b)▲2▼〜▲4▼に示す。
【図5】図5は、画像処理の様子を示す説明図である。図5(a)は取得した画像データから部品が取り付けられている箇所を切り出したものである。図5(b)は色相画像に、図5(c)は彩度画像に、図5(d)は輝度画像に、図5(a)をそれぞれ変換したものである。図5(e)は図5(c)に示す画像を二値化したものであり、図5(f)は図5(d)に示す画像を二値化したものである。
【図6】画像特定データの構成を示す図である。
【図7】第1の実施形態における動作を示すフローチャートである。
【図8】第1の実施形態における動作を示すフローチャートであり、図7の続きを示すものである。
【図9】第1の実施形態における動作を示すフローチャートであり、図8の続きを示すものである。
【図10】本発明の第2の実施形態における構成を示す機能ブロック図である。
【図11】第2の実施形態における動作を示すフローチャートである。
【符号の説明】
1 車両(被取付部材)
2 カメラ(画像取得手段)
3 コンピュータ(画像処理手段)
4 CPU
5 記憶装置
6 通過検出スイッチ
7 コンベア
41 画像取込部
42 被写体位置検出部
43 画像切出部
44 画像変換部
45 使用画像選択部
46 パターンマッチング部
47 部品認識部
51 位置基準形状データ記憶部
52 画像特定データ記憶部
53 認識対象物データ記憶部
54 許容評価値記憶部
Claims (16)
- 特定の部品が取り付けられる被取付部材を撮影して画像データを取得する画像取得手段と、前記取得した画像データを演算処理する画像処理手段とを備え、
この画像処理手段にて、前記画像データ内に前記特定の部品が存在するか否かを認識する部品認識システムであって、
前記画像処理手段が、前記特定の部品の特徴を表すパターンデータを記憶すると共に、
前記画像データを色相,彩度,輝度のデータに変換する画像変換機能と、前記各変換画像データ毎に前記パターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいてそれぞれ算出するパターンマッチング機能と、これら算出された評価データのうち最も高い評価であると判断されたデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に前記特定の部品が存在すると判断する部品認識機能と、を備えたことを特徴とする部品認識システム。 - 特定の部品が取り付けられる被取付部材を撮影して画像データを取得する画像取得手段と、前記取得した画像データを演算処理する画像処理手段とを備え、
この画像処理手段にて、前記画像データ内に前記特定の部品が存在するか否かを認識する部品認識システムであって、
前記画像処理手段が、前記被取付部材の既知である色に応じてあらかじめ設定された使用画像を特定する画像特定データと、前記特定の部品の特徴を表すパターンデータとを記憶すると共に、
前記画像データを色相,彩度,輝度のデータに変換する画像変換機能と、前記各変換画像データのうち前記画像特定データに基づいて特定された変換画像データにおいて前記パターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング機能と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に前記特定の部品が存在すると判断する部品認識機能と、を備えたことを特徴とする部品認識システム。 - 前記画像特定データは、前記被取付部材の既知である色に応じてあらかじめ設定された2以上の使用画像を特定するデータから成り、
前記パターンマッチング機能は、前記画像特定データにて特定された各変換画像データ毎にパターンマッチングを行い前記評価データをそれぞれ算出し、前記部品認識機能は、これら算出された評価データのうち最も高い評価であるデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に前記特定の部品が存在すると判断する、ことを特徴とする請求項2記載の部品認識システム。 - 特定の部品が取り付けられる被取付部材を撮影して画像データを取得する画像取得手段と、前記取得した画像データを演算処理する画像処理手段とを備え、
この画像処理手段にて、前記画像データ内に前記特定の部品が存在するか否かを認識する部品認識システムであって、
前記画像処理手段が、前記取得した画像データの特徴に応じて使用画像を特定する画像特定データと、前記特定の部品の特徴を表すパターンデータとを記憶すると共に、
前記画像データを色相,彩度,輝度のデータに変換する画像変換機能と、これら変換画像データ中の前記特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出機能と、この算出された変換画像特徴値と前記画像特定データとに基づいて特定された前記変換画像データにおいて前記パターンデータを用いてパターンマッチングを行い当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング機能と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に前記特定の部品が存在すると判断する部品認識機能と、を備えたことを特徴とする部品認識システム。 - 前記画像特定データは、前記変換画像特徴値に応じて2以上の使用画像を特定するデータから成り、
前記パターンマッチング機能は、前記変換画像特徴値と前記画像特定データとに基づいて特定された2以上の変換画像データ毎にパターンマッチングを行い当該マッチングによりあらかじめ定められた評価基準に基づいてそれぞれ評価データを算出し、前記部品認識機能は、これら算出された評価データのうち最も高い評価であるデータをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に前記特定の部品が存在すると判断する、ことを特徴とする請求項4記載の部品認識システム。 - 前記変換画像特徴値は、彩度に関する値であることを特徴とする請求項4又は5記載の部品認識システム。
- 前記画像処理手段は、前記特定の部品を撮影した際における画像上の特徴を部品画像特徴値として記憶すると共に、前記記憶されている画像特定データは、前記変換画像特徴値及び前記部品画像特徴値に応じて認識に用いる画像を特定するデータから成り、
前記パターンマッチング機能は、前記部品画像特徴値と前記前記変換画像特徴値と前記画像特定データとに基づいて特定された変換画像データ毎に前記パターンデータを用いてパターンマッチングを行う、ことを特徴とする請求項4,5又は6記載の部品認識システム。 - 前記部品画像特徴値は、彩度に関するデータであることを特徴とする請求項7記載の部品認識システム。
- 前記画像処理手段は、前記変換画像特徴値である彩度のあらかじめ定められたしきい値と、前記部品画像特徴値である彩度のあらかじめ定められたしきい値とを記憶すると共に、
前記記憶された前記画像特定データは、前記変換画像特徴値である彩度が前記変換画像特徴値に対応するしきい値よりも高く、前記部品画像特徴値である彩度が前記部品画像特徴値に対応するしきい値よりも低い場合には、前記変換画像データのうち彩度データを用いるよう特定するデータであることを特徴とする請求項8記載の部品認識システム。 - 前記画像処理手段は、前記変換画像特徴値である彩度のあらかじめ定められたしきい値と、前記部品画像特徴値である彩度のあらかじめ定められたしきい値とを記憶すると共に、
前記記憶された前記画像特定データは、前記変換画像特徴値である彩度が前記変換画像特徴値に対応するしきい値よりも高く、前記部品画像特徴値である彩度が前記部品画像特徴値に対応するしきい値よりも高い場合には、前記変換画像データのうち色相データを用いるよう特定するデータであることを特徴とする請求項8又は9記載の部品認識システム。 - 前記画像処理手段は、前記変換画像特徴値である彩度のあらかじめ定められたしきい値と、前記部品画像特徴値である彩度のあらかじめ定められたしきい値とを記憶すると共に、
前記記憶された前記画像特定データは、前記変換画像特徴値である彩度が前記変換画像特徴値に対応するしきい値よりも低く、前記部品画像特徴値である彩度が前記部品画像特徴値に対応するしきい値よりも高い場合には、前記変換画像データのうち彩度データを用いるよう特定するデータであることを特徴とする請求項8,9又は10記載の部品認識システム。 - 前記画像処理手段は、前記変換画像特徴値である彩度のあらかじめ定められたしきい値と、前記部品画像特徴値である彩度のあらかじめ定められたしきい値とを記憶すると共に、
前記記憶された前記画像特定データは、前記変換画像特徴値である彩度が前記変換画像特徴値に対応するしきい値よりも低く、前記部品画像特徴値である彩度が前記部品画像特徴値に対応するしきい値よりも低い場合には、前記変換画像データのうち輝度データを用いるよう特定するデータであることを特徴とする請求項8,9,10又は11記載の部品認識システム。 - 前記パターンマッチング機能は、前記画像特定データにて特定された処理対象である前記変換画像データの濃淡ヒストグラムを作成して当該濃淡ヒストグラムに基づいて二値化しきい値を算出し、当該二値化しきい値にて前記処理対象である変換画像データを二値化して処理を行う、ことを特徴とする請求項4,5,6,7,8,9,10,11又は12記載の部品認識システム。
- 前記画像処理手段は、前記画像取得手段と前記被取付部材との位置関係に応じた前記特定の部品の面積に関するデータを記憶すると共に、
前記パターンマッチング機能は、前記特定部品の面積データに基づいて前記二値化しきい値を算出する、ことを特徴とする請求項13記載の部品認識システム。 - 特定の部品が取り付けられる被取付部材を画像取得手段にて撮影して画像データを取得し、当該取得した画像データを画像処理手段にて演算処理することにより、当該画像データ内に前記特定の部品が存在するか否かを認識する部品認識方法であって、
前記画像処理手段が、前記画像データを色相,彩度,輝度のデータに変換する画像変換工程と、これら変換画像データ中の前記特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出工程と、この算出された変換画像特徴値と当該変換画像特徴値に応じた使用画像があらかじめ設定されている画像特定データとに基づいて特定された前記変換画像データにおいて,前記特定の部品の特徴を表すパターンデータを用いてパターンマッチングを行い,当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング工程と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に前記特定の部品が存在すると判断する部品認識工程と、を備えたことを特徴とする部品認識方法。 - 特定の部品が取り付けられる被取付部材を画像取得手段にて撮影して画像データを取得し、当該画像データ内に前記特定の部品が存在するか否かを認識するよう前記取得した画像データを演算処理する画像処理手段の動作を制御する部品認識用プログラムであって、
前記画像データを色相,彩度,輝度のデータに変換する画像変換指令と、これら変換画像データ中の前記特定の部品が取り付けられない箇所としてあらかじめ定められた箇所の所定の範囲について当該変換画像データにおける特徴である変換画像特徴値を算出する画像特徴値算出指令と、この算出された変換画像特徴値と当該変換画像特徴値に応じた使用画像があらかじめ設定されている画像特定データとに基づいて特定された前記変換画像データにおいて,前記特定の部品の特徴を表すパターンデータを用いてパターンマッチングを行い,当該マッチングの評価に関するデータをあらかじめ定められた評価基準に基づいて算出するパターンマッチング指令と、当該算出された評価データをあらかじめ定められた許容基準と比較して当該許容基準を満たす場合に前記特定の部品が存在すると判断する部品認識指令と、を備えたことを特徴とする部品認識用プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003119225A JP2004326382A (ja) | 2003-04-24 | 2003-04-24 | 部品認識システム及び方法並びに部品認識用プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003119225A JP2004326382A (ja) | 2003-04-24 | 2003-04-24 | 部品認識システム及び方法並びに部品認識用プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004326382A true JP2004326382A (ja) | 2004-11-18 |
Family
ID=33498499
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003119225A Withdrawn JP2004326382A (ja) | 2003-04-24 | 2003-04-24 | 部品認識システム及び方法並びに部品認識用プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004326382A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006329776A (ja) * | 2005-05-25 | 2006-12-07 | Sumitomo Electric Ind Ltd | 車両位置検出方法、並びに車両速度検出方法及び装置 |
JP2007241332A (ja) * | 2006-03-03 | 2007-09-20 | Fujitsu Ltd | メーカ判定プログラムおよびメーカ判定装置 |
EP2795542B1 (en) | 2011-12-22 | 2018-05-02 | Gemalto SA | Chip card and associated manufacturing method |
WO2019064609A1 (ja) * | 2017-09-28 | 2019-04-04 | 株式会社Fuji | 部品装着機 |
JP2019185613A (ja) * | 2018-04-16 | 2019-10-24 | トヨタ自動車株式会社 | 部品情報提供方法 |
JP2020154837A (ja) * | 2019-03-20 | 2020-09-24 | ヤフー株式会社 | 情報処理装置、情報処理方法、情報処理プログラム |
US11869219B2 (en) | 2020-01-17 | 2024-01-09 | Subaru Corporation | Inspection support system for erroneous attachment using image color conversion |
-
2003
- 2003-04-24 JP JP2003119225A patent/JP2004326382A/ja not_active Withdrawn
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006329776A (ja) * | 2005-05-25 | 2006-12-07 | Sumitomo Electric Ind Ltd | 車両位置検出方法、並びに車両速度検出方法及び装置 |
JP4587038B2 (ja) * | 2005-05-25 | 2010-11-24 | 住友電気工業株式会社 | 車両位置検出方法、並びに車両速度検出方法及び装置 |
JP2007241332A (ja) * | 2006-03-03 | 2007-09-20 | Fujitsu Ltd | メーカ判定プログラムおよびメーカ判定装置 |
EP2795542B1 (en) | 2011-12-22 | 2018-05-02 | Gemalto SA | Chip card and associated manufacturing method |
WO2019064609A1 (ja) * | 2017-09-28 | 2019-04-04 | 株式会社Fuji | 部品装着機 |
JPWO2019064609A1 (ja) * | 2017-09-28 | 2020-04-09 | 株式会社Fuji | 部品装着機 |
JP2019185613A (ja) * | 2018-04-16 | 2019-10-24 | トヨタ自動車株式会社 | 部品情報提供方法 |
JP2020154837A (ja) * | 2019-03-20 | 2020-09-24 | ヤフー株式会社 | 情報処理装置、情報処理方法、情報処理プログラム |
US11869219B2 (en) | 2020-01-17 | 2024-01-09 | Subaru Corporation | Inspection support system for erroneous attachment using image color conversion |
JP7454382B2 (ja) | 2020-01-17 | 2024-03-22 | 株式会社Subaru | 誤取り付け検査支援システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9064187B2 (en) | Method and system for item identification | |
JP4970195B2 (ja) | 人物追跡システム、人物追跡装置および人物追跡プログラム | |
TWI669519B (zh) | 電路板瑕疵篩選方法及其裝置與電腦可讀取記錄媒體 | |
CN105404884A (zh) | 图像分析方法 | |
CN108830184B (zh) | 黑眼圈识别方法及装置 | |
US20220415012A1 (en) | Image processing based methods and apparatus for planogram compliance | |
US20220262088A1 (en) | Image recognition system, image recognition method, and storage medium | |
EP3214604A1 (en) | Orientation estimation method and orientation estimation device | |
JP2014020926A (ja) | 表面欠陥検査装置及び表面欠陥検査方法 | |
CN110390682B (zh) | 一种模板自适应的图像分割方法、系统和可读存储介质 | |
JP2004326382A (ja) | 部品認識システム及び方法並びに部品認識用プログラム | |
JP2012194705A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
CN110596118A (zh) | 印刷图案检测方法及印刷图案检测装置 | |
JP5152081B2 (ja) | 外観検査装置 | |
JP4198542B2 (ja) | 顔有無判定装置及び顔有無判定プログラム | |
CN112104838B (zh) | 图像分辨方法及其监控摄像机与监控摄像系统 | |
JP2010286995A (ja) | 車両用画像処理システム | |
US20220261974A1 (en) | Method of detecting an abnormality and abnormality detection device | |
CN116128853A (zh) | 一种产线装配检测方法、系统、计算机及可读存储介质 | |
JP2020129287A (ja) | 工程情報取得システム、工程情報取得方法、および工程情報取得プログラム | |
KR20190119801A (ko) | 차량 헤드라이트 얼라인먼트 보정 및 분류 방법 및 이를 이용한 차량 헤드라이트 불량검사 방법 | |
TWI549097B (zh) | 電子元件外觀影像檢測方法及其電腦可讀媒體 | |
JP2009032044A (ja) | 車色判定装置 | |
JP6180889B2 (ja) | 印字検査装置 | |
CN113850756A (zh) | 一种基于模板比对的标签缺陷检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060704 |