JP2015173410A - 画像処理システム、画像処理方法及び画像処理プログラム - Google Patents

画像処理システム、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP2015173410A
JP2015173410A JP2014049038A JP2014049038A JP2015173410A JP 2015173410 A JP2015173410 A JP 2015173410A JP 2014049038 A JP2014049038 A JP 2014049038A JP 2014049038 A JP2014049038 A JP 2014049038A JP 2015173410 A JP2015173410 A JP 2015173410A
Authority
JP
Japan
Prior art keywords
imaging
image processing
background
image
mesh
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014049038A
Other languages
English (en)
Other versions
JP6334215B2 (ja
Inventor
博 村井
Hiroshi Murai
博 村井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aomori Prefectural Industrial Technology Research Center
Original Assignee
Aomori Prefectural Industrial Technology Research Center
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aomori Prefectural Industrial Technology Research Center filed Critical Aomori Prefectural Industrial Technology Research Center
Priority to JP2014049038A priority Critical patent/JP6334215B2/ja
Publication of JP2015173410A publication Critical patent/JP2015173410A/ja
Application granted granted Critical
Publication of JP6334215B2 publication Critical patent/JP6334215B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Control Of Conveyors (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】撮像対象物の方が撮像装置に近い配置関係となるように撮像対象物が網目状の搬送帯の上に搭載された状況において、搬送帯のパターンを消去して、撮像対象物の位置及び大きさを正確に認識できる画像処理システムを提供する。
【解決手段】 撮像対象物17を搬送する網目状の搬送帯11と、撮像対象物17の全景を含む領域を撮像する撮像装置22と、搬送帯11の下方に配置され、搬送帯11及び撮像対象物17とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板15と、撮像装置22から出力される画像データから、撮像対象物17の周りに写り込まれている搬送帯11の網目のパターンを消去して、撮像対象物17の重心位置及び大きさを算出する画像処理装置23を含む。
【選択図】 図1

Description

本発明は、ベルトコンベアのような搬送帯の上に撮像対象物が搭載された場合、搬送帯のパターンを画像データから消去し、撮像対象物の位置及び大きさを認識する画像処理システム、画像処理方法及び画像処理プログラムに関する。
生鮮物の自動加工処理装置等においては、耐久性、滑りにくさ、水の溜まりの抑制などの観点から、生鮮物を搭載し搬送するためのベルトコンベアに金属網等を使うことがある。金属網等の孔の開いた形態のベルトコンベアを用意し、ベルトコンベアの背景から処理対象物を抽出する手法として、金網に何らかの色の塗装を施してベルトコンベアと処理対象物の光学的特性を異なるものにするアイデアがある。しかしながら、食品衛生の観点からベルトコンベアに塗装を施すことは許されないことがある。
更に無塗装の金網は無彩色であるが、処理対象物も同様に無彩色の場合も発生する。このような状況では一般的な輝度情報を基にした2値化処理などではベルトコンベアと処理対象物を識別することは極めて困難である。
一方、檻やネット越しに撮像対象物が存在する場合に撮像対象物のみを撮影する画像処理装置として、画像データの中から画像中に存在する2次元的に繰り返される繰り返しパターンを検出し、繰り返しパターンを画像から消去し、更に、画像から消去した繰り返しパターンの周辺画素を用いて、繰り返しパターンの領域に対し画素を補間する発明が提案されている(特許文献1参照。)
しかしながら、特許文献1に記載された発明では、画像データに対応する画像の中から撮像対象物よりも撮像装置(カメラ)に近い側に、撮像の障害物として撮像対象物の上に存在する直線及び/又は曲線からなるパターンを検出している。具体的には、金網検知用テンプレート記憶部から金網パターンを示す金網検知用テンプレートを取得し、取得した金網検知用テンプレートを用いてテンプレートマッチング等により、画像の中から直線及び/又は曲線からなるパターンを2次元的に繰り返される繰り返しパターンを検出している。特許文献1に記載された発明は、檻やネットよりも撮像装置から遠い側に撮像対象物が障害物として存在する場合には有効であるが、ベルトコンベアの上に撮像対象物が搭載されているように、撮像対象物の方が撮像装置に近い場合は、背景像として存在する金属網の繰り返しパターンは撮像対象物の陰になり、直線及び/又は曲線からなるパターンが、撮像対象物が占める面積の箇所では、消滅しているので、撮像対象物の相対的面積が大きい場合は、有効な繰り返しパターンの検出ができなくなる。
又、ベルトコンベアとして用いている金属網の上に一定の重量を有する撮像対象物が搭載された場合、撮像対象物の重量により、撮像対象物が搭載された箇所で金属網が撓むため、撮像対象物の近傍において金属網の周期性が乱れる。このため、撮像対象物に一番近い箇所での金属網の繰り返しパターンの消去が困難になる問題があった。又、特にホタテ、サバ、イカ等の魚介類等の生鮮物が撮像対象物である場合は、ベルトコンベアに水滴が付着して、水滴が付着した箇所での金属網の周期性が乱れるので、金属網の繰り返しパターンの消去が困難になる問題があった。
以上のように、特に、生鮮物を含む処理対象物を撮像対象物とする状況において、金属網等の孔が開いたベルトコンベアで撮像対象物が搬送される場合において、撮像対象物と撮像対象物の背景としてのベルトコンベアのパターンの像とを識別することが困難であった。
特開2013−55378号公報
上記事情を鑑み、本発明は、撮像対象物の方が撮像装置に近い配置関係となるように撮像対象物が水平方向に走行する網目状の搬送帯の上に搭載された状況において、背景側に位置する搬送帯のパターンを消去して、撮像対象物の位置及び大きさを正確に認識できる画像処理システム、画像処理方法及び画像処理プログラムを提供することを目的とする。
上記目的を達成するために、本発明の第1の態様は、(a)撮像対象物を上面に搭載して搬送する網目状の搬送帯と、(b)搬送帯の上方に配置され、撮像対象物の全景を含む領域を撮像する撮像装置と、(c)搬送帯の下方に配置され、搬送帯及び撮像対象物とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板と、(d)撮像装置に接続され、撮像装置から出力される画像データから、撮像対象物の周りに写り込まれている搬送帯の網目のパターンを消去して、撮像対象物の重心位置及び大きさを算出する画像処理装置とを備える画像処理システムであることを要旨とする。
本発明の第2の態様は、(a)網目状の搬送帯の上面に撮像対象物を搭載し、搬送帯の下方に搬送帯及び撮像対象物とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板を配置し、搬送帯の上方に配置された撮像装置によって、撮像対象物の全景を含む領域を撮像するステップと、(b)撮像装置から出力される画像データから、撮像対象物の周りに写り込まれている搬送帯の網目のパターンを消去して、撮像対象物の重心位置及び大きさを算出するステップとを含む画像処理方法であることを要旨とする。
本発明の第2の態様で述べた画像処理方法を実現するためのコンピュータソフトウェアプログラムは、コンピュータ読取り可能な記録媒体に保存し、この記録媒体をコンピュータシステムによって読み込ませることにより、本発明の画像処理方法を実行することができる。
即ち、本発明の第3の態様は、(a)網目状の搬送帯の上面に撮像対象物を搭載し、搬送帯の下方に搬送帯及び撮像対象物とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板を配置し、搬送帯の上方に配置された撮像装置に対し、撮像対象物の全景を含む領域を撮像させる命令と、(b)画像処理装置に対し、撮像装置から出力される画像データから、撮像対象物の周りに写り込まれている搬送帯の網目のパターンを消去させ、撮像対象物の重心位置及び大きさを算出させる命令とを含む一連の命令を画像処理装置を備えるコンピュータシステムに実行させる画像処理プログラムであることを要旨とする。ここで、「記録媒体」とは、例えばコンピュータの外部メモリ装置、半導体メモリ、磁気ディスク、光ディスク、光磁気ディスク、磁気テープなどのプログラムを記録することができるような媒体などを意味する。具体的には、フレキシブルディスク、CD−ROM,MOディスク、カセットテープ、オープンリールテープなどが「記録媒体」に含まれる。
本発明によれば、撮像対象物の方が撮像装置に近い配置関係となるように撮像対象物が水平方向に走行する網目状の搬送帯の上に搭載された状況において、背景側に位置する搬送帯のパターンを消去して、撮像対象物の位置及び大きさを正確に認識できる画像処理システム、画像処理方法及び画像処理プログラムを提供することができる。
本発明の第1の実施の形態に係る画像処理システムの主要部の概略を説明する模式的な鳥瞰ブロック図である。 第1の実施の形態に係る画像処理システムに用いられる画像処理装置の内部構造を、論理的なハードウェア資源の組み合わせとして概念的に説明する図である。 本発明の第1の実施の形態に係る画像処理方法の一例を説明する概念的なフローチャートである。 第1の実施の形態に係る画像処理方法において、撮像データ受信回路が撮像装置から受信し、取得した撮像対象物を含む撮像データの一例を示す図である。 図4に対応する撮像対象物を含む撮像データを、説明の便宜上、拡大した矩形の画素(ピクセル)によって模式的に誇張表現する図である。 RGB色空間とHSV色空間の関係を説明する図である。 第1の実施の形態に係る画像処理方法におけるRGB色空間のデータからHSV色空間のデータへの変換を説明する模式図である。 第1の実施の形態に係る画像処理方法における2値化の処理に必要なHSV色空間における閾値を説明する図である。 第1の実施の形態に係る画像処理方法における背景領域における各画素の2値化の処理を説明する模式図である。 第1の実施の形態に係る画像処理方法における膨張処理前の画像を示す模式図である。 第1の実施の形態に係る画像処理方法における膨張処理後の画像を示す模式図である。 図12(a)は偶発的なノイズがある場合の画像で、図12(b)は図12(a)に対し縮小処理をして、背景部のパタンーンを縮小した状態を説明する図である。 図13(a)は、図12(a)の画像に対し、直接膨張処理をすることにより、偶発的なノイズの領域が拡大されることを説明する図で、図13(b)は図12(a)に対し、先に縮小処理をしてから膨張処理をする手順を繰り返すことにより、搬送帯のパターンが消去されることを説明する図である。 収縮処理で消滅しない背景領域の大きさを説明するために、5×5の画素領域を示す図である。 図15(a)は、図14のXV−XV方向(X方向)に1次元だけ取り出した場合の彩度の強度分布を説明する図で、図15(b)は、図15(a)のような彩度の強度分布がある場合、揺らぎによる2値化の境界のずれがあり、更に左右で2ピクセル幅分が収縮処理により消えることを説明する図である。 第1の実施の形態に係る画像処理方法において、背景板を示す画素を"1"に符号化し、撮像対象物の像と網状搬送帯の網目のパターンとを合成した背景以外の領域(非背景領域)を示す画素を"0"に符号化した段階の画像を説明する模式図である。 第1の実施の形態に係る画像処理方法において、背景板を示す画素と、網状搬送帯の網目のパターンを示す画素が、共に"1"に符号化されて、網状搬送帯の網目のパターンが消去された段階の画像を説明する模式図である。 図17の模式図に対応する、現実の網状搬送帯の網目のパターンが消去された段階の画像を説明する図である。 第1の実施の形態に係る画像処理方法において、撮像対象物を示す、画素値"0"に符号化された画素が占有している画素領域のX方向の重心位置とY方向の重心位置を決定し、画素値"0"に符号化された画素が占有している画素領域の画素数を算出し、更に画素値"0"に符号化された画素が占有している領域の半径を算出する段階の画像を説明する模式図である。 図19の模式図の段階に対応する、現実の画像における重心位置の決定、画素数の算出、半径の算出の処理を説明する図である。 本発明の他の実施の形態に係る画像処理システムに用いられる画像処理装置の一例として、画像処理装置の内部構造の一部をフィールド・プログラマブル・ゲート・アレイ(FPGA)で構成した場合の構造を例示するブロック図である。
次に、図面を参照して、本発明の第1の実施の形態を説明する。以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。ただし、図面は模式的なものであり、具体的な厚みや寸法は以下の説明を参酌して判断すべきものである。又、図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることは勿論である。
又、以下に示す第1の実施の形態は、本発明の技術的思想を具体化するための装置や方法を例示するものであって、本発明の技術的思想は、符号化のビット数、構成部品の材料、形状、構造、配置等を下記のものに特定するもので
ない。例えば、以下の説明では、8ビット=256階調の色空間における処理を説明するが、例示に過ぎず、10ビットによる符号化やプラス・マイナスの符号化の処理であっても、本発明の技術的思想が適用可能であることは勿論である。更に、以下に示す第1の実施の形態においては、説明の便宜上、撮像対象物17の外径が円形で近似できる場合について例示的に説明するが、撮像対象物17の形状は円形以外のいかなる形状であっても構わないことも勿論である。このように、本発明の技術的思想は、特許請求の範囲に記載された請求項が規定する技術的範囲内において、種々の変更を加えることができる。
(画像処理システムの構成)
本発明の第1の実施の形態に係る画像処理システムは、図1に示すように、撮像対象物17を水平な主面の上面に搭載して搬送する網目状の搬送帯11と、搬送帯11の上方に配置され、撮像対象物17の全景を含む領域を撮像する撮像装置22と、搬送帯11の下方に配置され、搬送帯11及び撮像対象物17とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板15と、撮像装置22に接続され、撮像装置22から出力される画像データから、撮像対象物17の周りに写り込まれている搬送帯11の網目のパターンを消去して撮像対象物17の重心位置及び大きさを算出する画像処理装置23とを備えるコンピュータシステムである。画像処理装置23は、特許文献1に記載された発明のように、画像パターンの周期性を抽出して、搬送帯11の網目状のパターンを除去するのではなく、撮像対象物17と搬送帯11の網目のパターンの相対的な大きさや太さの違い、或いは撮像装置22から出力された画像データ全体の大域的な均一性に立脚して、搬送帯11の網目のパターンを抽出して消去している。撮像対象物17には、水分を含んだホタテ、サバ、イカ等の魚介類や野菜等の生鮮物の他、加工済みの食品、工業製品の種々の物体が代表例として含まれる。
図1においては、搬送帯11と撮像装置22の間に矩形の枠状をなす透過型の光源21が配置されている。図1に示すとおり、主面を水平にして水平方向に走行する搬送帯11の下に搬送帯11とも撮像対象物17とも明度、色相又は色度の少なくともいずれかが異なる光学特性を呈する素材を背景板15として水平方向に敷かれている。図1に示す構成では搬送帯11に高さ方向の厚みがあったり、撮像対象物17が水に濡れた状態であったりすることを想定すると、画像処理装置23に入力される撮像対象物17の画像情報に影や光沢反射が映らないような留意が必要である。このため、光源21は、通常のLED光源ではなく、矩形の額縁形状により、撮像対象物17が含まれる撮像範囲全体を様々な方向のベクトルを持った光で包むことで、撮像対象物17に影と光沢を発生させないように設定されている。
搬送帯11の右側には、円筒状形状をなし回転することにより、搬送帯11をベルトコンベアとして水平方向に移動させる第1の搬送帯駆動部12が設けられている。図示を省略しているが、搬送帯11の左側にも、同様な円筒状形状をなし回転することにより、搬送帯11をベルトコンベアとして移動させる第2の搬送帯駆動部が設けられている。第1の搬送帯駆動部12及び第2の搬送帯駆動部の回転運動は、搬送帯制御装置13によって制御される。
撮像装置22、光源21及び搬送帯制御装置13は、画像処理装置23にそれぞれ接続され、画像処理装置23との間で信号の授受を行う。画像処理装置23には、データ記憶装置24、プログラム記憶装置25及び表示装置26が接続されている。なお、図1にはデータ記憶装置24及びプログラム記憶装置25が、便宜上、それぞれ単独のハードウェア資源であるかのように図示されているが、現実の物理的ハードウェア資源としては、データ記憶装置24及びプログラム記憶装置25が、それぞれ、機能及び規模を異にする複数の記憶装置の集合として構成されている構成を否定するものではない。
例えば、図1に示すコンピュータシステムにおいて、データ記憶装置24は、複数のレジスタ、複数のキャッシュメモリ、主記憶装置、補助記憶装置を含む一群の内から適宜選択された任意の組み合わせとすることも可能である。又、キャッシュメモリは1次キャッシュメモリと2次キャッシュメモリの組み合わせとしてもよく、更に3次キャッシュメモリを備えるヒエラルキーを有しても構わない。
図1に示すコンピュータシステムを構成する画像処理装置23の論理的なハードウェア資源の構成は、図2のように表現される。画像処理装置23には、マイクロチップとして実装されたマイクロプロセッサ(MPU)等を使用してコンピュータシステムを構成することが可能である。又、コンピュータシステムを構成する画像処理装置23として、算術演算機能を強化し信号処理に特化したデジタルシグナルプロセッサ(DSP)や、メモリや周辺回路を搭載し組込み機器制御を目的としたマイクロコントローラ(マイコン)等を用いてもよい。或いは、現在の汎用コンピュータのメインCPUを画像処理装置23に用いてもよい。更に、画像処理装置23の一部の構成又はすべての構成をフィールド・プログラマブル・ゲート・アレイ(FPGA)のようなプログラマブル・ロジック・デバイス(PLD)で構成してもよい。PLDによって、画像処理装置23の一部又はすべてを構成した場合は、データ記憶装置24は、PLDを構成する論理ブロックの一部に含まれるメモリブロック等のメモリ要素として構成することができる。更に、画像処理装置23は、CPUコア風のアレイとPLD風のプログラム可能なコアを同じチップに搭載した構造でもよい。このCPUコア風のアレイは、あらかじめPLD内部に搭載されたハードマクロCPUと、PLDの論理ブロックを用いて構成したソフトマクロCPUを含む。つまりPLDの内部においてソフトウェア処理とハードウェア処理を混在させた構成でもよい。
図2に論理的なハードウェア資源の構成を示すように、第1の実施の形態に係る画像処理システムの画像処理装置23は、撮像装置22から画像データを取得する撮像データ受信回路231と、撮像データ受信回路231が取得した画像データから、背景板15が撮像された「背景領域」とこの背景領域以外が撮像されている「非背景領域」の2つに分離する背景領域分離手段232と、背景領域分離手段232で分離された背景領域を、搬送帯11の網目のパターンの幅以上に膨張処理することにより、非背景領域から搬送帯11の像を消去する網目消去回路233と、網目消去回路233により生成された撮像対象物17の2値化画像を基に、撮像対象物17の重心位置及び大きさを算出する撮像対象物認識手段234とを備える。
背景領域分離手段232は、RGB色空間のデータをHSV色空間のデータに変換するRGB/HSV変換回路232aと、背景領域を2値化する背景領域2値化回路232bとを論理的な内部構造として含む。
例えば、R,G,Bのそれぞれが8ビット=2=256階調の場合、R,G,Bはそれぞれ0〜255の値をとるので、RGB色空間については、RGBを三次元座標で表すと、一辺の長さが255で表される立方体で表現できる。この立方体を白(255、255、255)の頂点の位置から黒(0、0、0)の頂点の方向へ見て、R軸を水平方向の右側にとると図6のように正六角形で表現できる。図6の正六角形の中心が、立方体の白(255、255、255)の頂点であり、白(255、255、255)の頂点の裏に黒(0、0、0)の頂点が位置している。
このとき、図6のR(赤)の方向をH=0°として、反時計回りにH=120°の位置がG(緑)、H=240°の位置がB(青)、と色相Hが0〜360°(2π)の範囲で定義される。背景領域分離手段232の処理においては、RGB/HSV変換回路232aがRGBのデータをHSVのデータに変換した後、HSV系の色相H(色味)を分離の指標とした場合、図6に示すように、一周360°の角度表記で表現する。彩度Sは一番外側の六角形のS=1に対して、どの割合の位置に配されているかを0〜1.0で表したもので、六角形の等高線のように示される。図6では、一番外側の六角形のS=1に対して、順にS=0.75,S=0.5,S=0.25の六角形の等高線が示され、中心がS=0となり、彩度Sは図6の外側S=1の六角形に対して、内側の六角形の大きさの割合で求められる。
R,G,Bの最大輝度値をImax、最小輝度値をIminとしたときに、明度V = Imaxと定義したものがHSVモデルである。ImaxがRの最大値のとき:
色相H=(60°×(G−B)/(Imax - Imin) )×255/360
となる。ただし、H<0のとき、H=H+360°とする。ImaxがGの最大値のとき:
色相H=(60°×(B−R)/(Imax - Imin)+120°)×255/360
となる。ImaxがBの最大値のとき:
色相H=(60°×(R−G)/(Imax - Imin)+240°)×255/360
となるので、図7(a)の左上のブロックに示したR=131、G=255、B=127の場合は、図7(b)の左上のブロックに示したように色相H=84となる。図7(a)の上段の左から2番目のブロックに示したR=G=45,B=210の場合は、図7(b)の上段の左から2番目のブロックに示したように色相H=170となる。又、図7(a)の上段の左から3番目のブロックに示したR=100、G=B=96の場合は、図7(b)の上段の左から3番目のブロックに示したように色相H=0となる。色相Hの範囲は0〜255となる。
R,G,Bの成分の内、最大の成分をImax、最小の成分をIminとすると、
彩度S = (Imax - Imin) / Imax×255
と定義されるので、図7(a)の左上のブロックに示したR=131、G=255、B=127の場合は、図7(b)の左上のブロックに示したように彩度S=128となる。図7(a)の上段の左から2番目のブロックに示したR=G=45,B=210の場合は、図7(b)の上段の左から2番目のブロックに示したように彩度S=200となる。又、図7(a)の上段の左から3番目のブロックに示したR=100、G=B=96の場合は、彩度S=10となる。彩度Sの範囲は0〜255となる。
一方、明度V = Imaxであるので、図7(a)の左上のブロックに示したR=131、G=255、B=127の場合は、図7(b)の左上のブロックに示したように明度V=255となる。図7(a)の上段の左から2番目のブロックに示したR=G=45,B=210の場合は、図7(b)の上段の左から2番目のブロックに示したように明度V=210となる。又、図7(a)の上段の左から3番目のブロックに示したR=100、G=B=96の場合は、明度V=100となるので、RGB/HSV変換回路232aは、RGB色空間のデータをHSV色空間のデータに変換する。
理論上は、HSV色空間において、背景板15の色相Hと搬送帯11の色相H又は撮像対象物17の色相Hとの色相角度差ΔHが1°でもあれば、撮像データ受信回路231が取得した画像データから、背景板15が撮像された背景領域とこの背景領域以外が撮像されている非背景領域の2つに分離できる。しかしながら、入力画像には撮像装置22として用いるCCDカメラの量子化ノイズや、単板式カラーカメラの場合には、CCDカメラのべーヤーパターンの補間に起因するノイズが多分に含まれているので、背景板15の色相Hと、搬送帯11又は撮像対象物17との色相Hの色相角度差ΔHは、30°以上であることが好ましい。色相Hは0〜360°の間で定義されるので、背景板15の色相Hと、搬送帯11又は撮像対象物17との色相Hの色相角度差ΔHは、30°< ΔH <330°が好ましい。特に、色相角度差ΔH=180°の場合が、背景板15の色相Hと、搬送帯11又は撮像対象物17の色相Hの差が顕著になるので好ましい。
一方、撮像対象物17が白やグレーの無彩色の場合、背景板15の色相Hと搬送帯11の色相Hは、撮像対象物17の色相Hに対して色相角度差ΔHは、ベクトルの向きが定まらないので定義できない。色相角度差ΔHが定義できない場合は、色相Hはどちらの方向でもよく、HSV色空間において、彩度Sの彩度差ΔSを大きくするように彩度を選べばよい。
背景領域分離手段232の処理において、背景領域の膨張処理によって搬送帯11の網目のパターンの消去を試みる場合、それぞれの隙間から確実に背景領域が存在している必要がある。その際、背景領域と搬送帯11のパターンの境目はこれまた空間的な離散化の影響を受けて上下左右から少なくとも1ピクセルのばらつきが発生する。つまりワーストケースとして上下方向、左右方向それぞれで2ピクセルつぶれて撮像されることもある。2ピクセルつぶれても背景領域が存続するためには、3ピクセル以上の幅を持つような倍率で撮像光学系を構成する必要がある。
更に、撮像装置22のノイズにより撮像対象物17領域に意図しない偽の背景領域が1ピクセルのサイズで発生してしまうことがある。スパイクノイズやごま塩ノイズと呼ばれているものである。この偽の背景領域は膨張させないためにあらかじめ逆の収縮処理を行って消去することが可能であるが、本来の背景領域も上下方向、左右方向に2ピクセル削られることになるため、先の3ピクセルにこの2ピクセルを加えて、1次元方向に並んだ5ピクセル幅の背景領域を構成できるような搬送帯11の網目のパターンの隙間が必要ということになる。
撮像対象物認識手段234は、撮像対象物17の重心位置を決定する重心位置決定回路234aと、画素数を算出する画素数算出回路234bと、撮像対象物17の半径を算出する半径算出回路234cとを論理的な内部構造として含む。
画像処理装置23は、更に、光源21を制御する光源制御回路235と、撮像装置22を制御する撮像装置制御回路236と、搬送帯制御装置13に対し命令を発信する搬送帯制御装置命令回路237と、図1のプログラム記憶装置25に格納された実行すべき命令を画像処理装置23がどこまで実行したか、或いは画像処理装置23が、現在実行しているプログラム記憶装置25上のアドレスを記憶するプログラムカウンタ238とを備える。そして、図2に示すように、画像処理装置23を構成するハードウェア資源としての撮像データ受信回路231、背景領域分離手段232、網目消去回路233、撮像対象物認識手段234、光源制御回路235、撮像装置制御回路236、搬送帯制御装置命令回路237及びプログラムカウンタ238は、データバス239を介して互いに接続されている。
図1に示す構成において、撮像装置22によって、撮像対象物17、搬送帯11、背景板15の3つが映り込むまれた画像が取得される。搬送帯11の網目の隙間からは、図4に示すように、背景板15が画像に映り込むまれる。図4に示すように、分散したトポロジーで多数の領域として背景板15が見えており、背景板15の分散した領域のそれぞれを囲むように、搬送帯11のパターンがある。
背景板15の分散した領域のそれぞれと、搬送帯11のパターンを構成する線とは、面積や太さが違うので、網目消去回路233は、背景板15のそれぞれの領域の面積や搬送帯11のパターンを構成する線の太さ等のトポロジーの違いを利用して、搬送帯11のパターンを消去する。
又、背景板15が見えないところは、即ち撮像対象物17が存在するところとする足がかりになる。網目消去回路233によって撮像対象物17とそれ以外の領域の2つに塗り分けられた2値化画像が取得され、撮像対象物認識手段234によって、撮像対象物17の位置と大きさを通常の画像処理の手法を用いて算出し、撮像対象物17の存在を認識することができる。
図2に示す画像処理装置23を構成するハードウェア資源としての撮像データ受信回路231、背景領域分離手段232、網目消去回路233、撮像対象物認識手段234、光源制御回路235、撮像装置制御回路236及び搬送帯制御装置命令回路237等は、論理的な機能に着目したハードウェア資源を形式的に表現しているのであって、必ずしも、半導体チップ上に物理的な領域としてそれぞれ独立して存在する機能ブロックを意味するものではないが、PLDの「論理ブロック」のような半導体チップ上に実装されたプログラム可能な論理コンポーネント等の現実に存在する構成を否定するものでもない。画像処理装置23の一部の構成又はすべての構成をFPGAのようなPLDで構成した場合は、図2に示したプログラムカウンタ238やデータバス239等は省略可能である。
図1及び図2では図示を省略しているが、第1の実施の形態に係る画像処理システムは、操作者からのデータや命令などの入力を受け付ける入力装置、分別結果を出力する出力装置等を更に備えるようにしてもよい。入力装置はキーボード、マウス、ライトペン又はフレキシブルディスク装置などで構成される。入力装置より画像処理の実行者は、入出力データを指定したり、画像処理に必要な個別の数値や許容誤差の値及び誤差の程度を設定できる。更に、入力装置より出力データの形態等の解析パラメータを設定することも可能で、又、演算の実行や中止等の指示の入力も可能である。又出力装置及び表示装置26は、それぞれプリンタ装置及びディスプレイ装置等により構成してもよい。
第1の実施の形態に係る画像処理システムによれば、生鮮物、加工済みの食品、工業製品等の種々の撮像対象物17の位置が撮像装置22に近い配置関係となるように撮像対象物17が水平方向に走行する網目状の搬送帯11の上に搭載された場合、撮像対象物17の自重により網目のパターンの周期性が乱れる状況が発生しても、或いは、撮像対象物17としての魚介類や野菜等からの水滴が網目のパターンの周期性を乱す場合であっても、搬送帯11のパターンを消去して、撮像対象物17の位置及び大きさを正確に認識できる。
(画像処理方法)
図3及び図10〜図20を用いて、本発明の第1の実施の形態に係る画像処理方法を説明する。なお、以下に述べる画像処理方法は、一例であり、特許請求の範囲に記載した趣旨の範囲内であれば、この変形例を含めて、これ以外の種々の画像処理方法が実現可能であることは勿論である。
(a) 図3のステップS10において、図2に示した画像処理装置23の撮像データ受信回路231は、撮像装置22から図4及び図5に示すような撮像データを受信する。図5に示すような現実の画素サイズよりも大きく表現した矩形の画素(ピクセル)によって、模式的に示す誇張表現では、便宜上、撮像対象物17を示す76個の画素の集合(固まり)の周りに、搬送帯11の網目のパターンを示す画素(ピクセル)と、網目のパターンで囲まれた背景板15を示す画素(ピクセル)が写り込まれて表現されている。現実のCCDカメラでは、例えば、画素数20万の場合、画素サイズは5μm×7μm程度、画素数200万の場合では画素サイズは4.4μm×4.4μm程度、画素数500万の場合では画素サイズは3.5μm×3.5μm程度となるので、図5に示すような矩形の画素の角部による凹凸は目視では認められず、現実には、図4に例示するようスムーズな曲線の画像になる。
(b) ステップS11のステップS111において、撮像装置22から送られてきた撮像データがカラー画像であるか否か判定する。ステップS111において、撮像装置22から送られてきた撮像データがカラー画像であると判定された場合は、ステップS112に進む。ステップS112において、背景領域分離手段232のRGB/HSV変換回路232aが、図7(a)に示されたような、RGB色空間の画素のデータを、図7(b)に示されたようなHSV色空間の画素のデータに変換する。
ステップS113において、背景領域分離手段232の背景領域2値化回路232bが、図9(a)に示されたようなHSV色空間の画素のデータを、図8の左下に左上がりのハッチングで示した領域を閾値領域として、背景領域を2値化する。即ち、図8は、青近傍の色を持つ背景板15の場合のHSV色空間を示しているが、色相Hに色相最小値Hminと色相最大値Hmaxの範囲を定め、その上で、彩度Sが彩度最小値Smin閾値以上、明度Vが明度最小値Vminの閾値以上となる画素を画素値M=1の背景領域、それ以外を、画素値M=0の背景以外の領域(非背景領域)を示す画素と定義している。なお、図8では、図6で0°〜360°で示された色相Hの値を、1周が0〜255となる8ビットの値に符号化している。又、図8では、図6において0〜1で示された彩度Sの値を0〜255の8ビットに符号化している。図8で、V軸は紙面に垂直方向なので、図示を省略している。
例えば、図9(a)の左上のブロックに示したH=84,S=128,V=255の画素の場合は、図8で緑方向に向かう左上がりの線近傍の中央部に位置するので、図9(b)の左上のブロックに示したように画素値M=0となる。図9(a)の上段の左から2番目のブロックに示したH=170,S=200,V=210の画素の場合は、図8で青方向に向かう左下がりの線に沿ってハッチングした領域の内部に位置するので、図9(b)の上段の左から2番目のブロックに示したように画素値M=1となる。又、図9(a)の上段の左から3番目のブロックに示したH=0,S=10,V=100の画素の場合は、図8で赤方向に向かう水平線の中心近くに位置するので、画素値M=0となる。
このように、背景領域2値化回路232bが、HSV色空間において、色相Hに色相最小値Hminと色相最大値Hmaxの範囲を定め、彩度Sが彩度最小値Smin閾値以上、明度Vが明度最小値Vminの閾値以上となる画素を画素値M=1の背景領域、それ以外を、画素値M=0の非背景領域の画素と定義することにより背景領域で2値化することができる。ステップS113において背景領域2値化回路232bが、背景領域で2値化することにより、図16に示すように、背景板15を示す画素が"1"に符号化され、撮像対象物17の像と搬送帯11の網目のパターンとを合成した背景以外の領域(非背景領域)を示す画素が"0"に符号化される。
ステップS111において、撮像装置22から送られてきた撮像データがカラー画像ではなく、撮像データが白黒画像であると判定されれば、ステップS112のRGB/HSV変換回路232aによる処理をジャンプして、ステップS113において、背景領域2値化回路232bが明度差を用いて、背景板15を示す画素を"1"に符号化し、撮像対象物17の像と搬送帯11の網目のパターンとを合成した背景以外の領域(非背景領域)を示す画素を"0"に符号化する。
このようにして、カラー画像の場合は、ステップS112及びステップS113の処理を実行することにより、白黒画像の場合は、ステップS112をジャンプしてステップS113の処理を実行する。この結果、ステップS11での処理としては、画像処理装置23の背景領域分離手段232が、図16に示すように、背景板15を示す画素の領域を非背景領域から分離する。図16では、背景板15を示す画素が"1"に符号化され、撮像対象物17の像と搬送帯11の網目のパターンとを合成した非背景領域を示す画素が"0"に符号化されている。
(c) ステップS12において、画像処理装置23の網目消去回路233が、図17及び図20に示すように、背景領域分離手段232で分離された背景板15を示す画素の領域を、搬送帯11の網目のパターンの幅以上に膨張処理することにより、非背景領域を示す画素の領域から、搬送帯11の網目のパターンを示す画素を消去する。
例えば、図10(a)では、左上に表示した、注目画素(x,y)=(6,5)の外側を含めた9画素から膨張処理後の画素の値を決定する。(x,y)=(6,5)の位置の膨張処理後の値は、図10(b)に示す(x,y)=(5,4)〜(7,6)の9つの画素の値から決定される関数とする。図10(a)では、左上がりのハッチングをした画素を"0"に符号化し、白抜きの画素を"1"に符号化して示している。膨張処理では、注目画素の外側を含めた9画素の領域で、1個でも"1"の画素があれば、処理後の画素値は"1"と決定される。一方、注目画素の外側を含めた9画素の領域で、9画素のすべてが"0"であれば、処理後の画素値は"0"と決定される。図10(a)の左上の太い実線で囲んだ枠内の9画素をスキャンして全画素で検査した結果が、図11に示す膨張処理後の画像になる。
図11では、左上がりのハッチングで示した画素が"0"に符号化された画素であり、白抜きの画素が、膨張処理により新たに"1"になった画素を含めた"1"に符号化された画素である。又、右上がりで間隔が疎なハッチングで示した画素が、膨張処理前の画像における画素値"1"の画素である。右上がりで間隔が疎なハッチングで示した画素も、本来は白抜きで示された"1"に符号化された画素として表現される。図10と図11を比較すれば、膨張処理前に対し、膨張処理後は、白抜きで示された"1"に符号化された画素が占有する領域が膨らんだような効果をもたらす。
一方、収縮処理においても、注目画素の外側を含めた9画素から収縮処理後の画素の値を決定する。収縮処理後の画素値の決定方法は、膨張処理の逆の定義による操作になる。収縮処理では、注目画素の外側を含めた9画素の領域で、1個でも"0"の画素があれば、処理後の画素値は"0"と決定される。一方、注目画素の外側を含めた9画素の領域で、9画素のすべてが"1"であれば、処理後の画素値は"1"と決定される。例えば、図10(a)の左上の太い実線で囲んだ枠内と同様な、9画素の全領域をスキャンして、9画素のすべてを検査した結果が、収縮処理後の画像になる。収縮処理によれば、処理前は画素値が"1"だった画素が収縮処理により画素値が"0"になった画素が、増大し、結果として、収縮処理前に対し、画素値"1"だった画素の領域が縮んだような効果をもたらす。
撮像装置22として用いるCCDカメラのノイズによって、偶発的に2値化画像に、画素値が"1"のノイズが乗ることがある。図12(a)においては、左上にある撮像対象物17を示す、画素値が"0"の168個の画素の集合の中に2画素分、偶発的な画素値が"1"のノイズが存在していると仮定する。図12(a)において、右上がりのハッチングで示した画素は、画素値が"0"の搬送帯11の網目のパターンを示す画素であり、白抜きの画素は背景部としての画素値が"1"の画素である。
図12(a)に示すような、偶発的に発生した画素値が"1"のノイズを表示する画素が存在している状況では、そのまま膨張処理をすると、図13(a)に示すように、偶発的なノイズを表示する画素の領域も拡大してしまう。図13(a)では、左上がりで間隔が疎なハッチングで、膨張処理によって3×3の領域に拡大した画素値が"1"のノイズを表示する画素の領域を示す。なお、膨張処理によって図13(a)の右上がりのハッチングで示した搬送帯11の網目のパターンを示す画素が背景部を示す画素と同化する。
図12(a)に示すような、画素値が"1"のノイズを表示する画素がある状況で、いきなり膨張処理を行うと、図13(a)に示すように画素値が"1"のノイズの画素の領域も膨張し、撮像対象物17を示す画素値が"0"の画素の領域を意図せず侵してしまうことになる。そこで、画素値が"1"のノイズを表示する画素を、画素値が"0"の撮像対象物17を示す画素の領域から除去するために、図12(b)に示すように膨張処理に先立って、網目消去回路233が、一旦収縮処理を挿入する。図12(b)に示す収縮処理によって、左上がりで間隔が疎なハッチングで示した画素値が"0"の、搬送帯11の網目のパターンを示す画素の領域が太り、白抜きの矩形で示した画素値が"1"の背景部を示す領域も、図12(a)に示した状態から、ある程度縮んでしまうので、図12(b)に示す収縮処理で消滅しない程度の背景領域の大きさが必要である。例えば、図14及び図15に示すように、揺らぎによって、網目消去回路233が2値化した際の境界が想定よりずれることがある。図15は、図14のXV−XV方向(X方向)に1次元だけ取り出した図でありる。図15の左側に、図14の5×5の画素領域に対応する5画素が示され、右側に図14の1個の白抜きの矩形で示された偶発的なノイズを示す画素値が"1"の画素である画素PNが表示されている。
図15(a)は元のアナログ量として彩度Sの強度分布を示すが、彩度Sの最小値Sminを中心とする揺らぎδによって、5ピクセル幅を想定しても、2値化の結果、図15(b)のΔで示したように、それぞれ内側に1画素ずつ割り込んで画素値が"1"の画素が3ピクセル幅になることもある。
更に、2値化の後、ノイズ消去の意図で収縮処理を行って、左右から画素値が"1"の画素Pxdを1個ずつ消去して画素値を"0"としたとしても、膨張の核として背景領域の中心には、図15(b)に符号Pxrで示すように、最低限、画素値が"1"の画素が1画素だけでも消滅せず残っている必要がある。図15(b)に示すように、揺らぎによる2値化の境界のずれが、左右で2ピクセル幅=2Δ、更に収縮処理により左右で2ピクセル幅=2Pxd消去されて画素値が"0"となったとしても、中心に背景領域の画素Pxrが最低限膨張の核として画素値が"1"の画素が1画素残るためには、図14及び図15に示すように、設計上は5画素相当の画素値が"1"の画素の領域を確保しなければならない。
図12(b)に示す収縮処理の後に、網目消去回路233が膨張処理を適切な回数行うと、ノイズを表示する画素の領域が消滅しつつ、図13(b)に示すように、撮像対象物17を示す、画素値が"0"の画素の集合からなる領域を示すことができる。図17の矩形の画素によって、模式的に示す誇張表現では、左上の位置に、撮像対象物17を示す49個の画素の集合が"0"に符号化されて示されている。そして、図17では、背景板15を示す画素と、搬送帯11の網目のパターンを示す画素が"1"に符号化されている。
(d) ステップS13において、画像処理装置23の撮像対象物認識手段234は、図19及び図20に例示的に示すように、撮像対象物17を示す画像を認識する。図19の矩形の画素によって、模式的に示す誇張表現では、撮像対象物17を示す49個の画素のそれぞれが"0"に符号化されて示され、背景板15を示す画素と搬送帯11の網目のパターンを示す画素がそれぞれ"1"に符号化されて示されている。
具体的には、ステップS131において、撮像対象物認識手段234の重心位置決定回路234aが、撮像対象物17のパターンが占有する、画素値"0"に符号化された画素領域のX方向の重心位置とY方向の重心位置を決定する。更に、ステップS132において、撮像対象物認識手段234の画素数算出回路234bが、画素値"0"に符号化された画素が占有している画素領域の画素数を算出する。更に、ステップS133において、撮像対象物認識手段234の半径算出回路234cが、画素値"0"に符号化された画素が占有している画素領域の全体が円形であると仮定して、撮像対象物17の半径rを算出する。
以上のように、第1の実施の形態に係る画像処理方法によれば、生鮮物、加工済みの食品、工業製品等の種々の撮像対象物17の位置が撮像装置22に近い配置関係となるように撮像対象物17が水平方向に走行する網目状の搬送帯11の上に搭載された場合、撮像対象物17の自重により網目のパターンの周期性が乱れる状況が発生しても、或いは、撮像対象物17としての魚介類や野菜等からの水滴が網目のパターンの周期性を乱す場合であっても、搬送帯11のパターンを消去して、撮像対象物17の位置及び大きさを正確に認識できる。
mを1以上の整数として、搬送帯11を構成する金網の網目のパターンの太さをmピクセル幅とすると、想定される搬送帯11の網目のパターンの最大太さは、(m+4)画素のピクセル幅となる。図15に示したとおり、揺らぎδによって、2値化した際の境界が想定よりずれることがある。網目のパターンの太さをmピクセル幅に想定しても、2値化の結果、それぞれ外側に1画素ずつ広がって(m+2)画素のピクセル幅になることもある。更に、ノイズ消去の意図で背景領域の収縮処理を行った場合、最大で搬送帯11の網目のパターンは、更に2画素膨らむので、膨張処理直前の網目のパターンの太さは最大で(m+4)画素のピクセル幅が想定される。
一方、撮像対象物17のパターンを示す画素領域は、1回の収縮処理によって2画素拡大し、その後の膨張処理によって(m+4)画素のピクセル幅分縮小するので、結果として、(m+2)画素のピクセル幅を縮小する。dを1以上の整数として、仮に直径がdピクセル幅の円形の撮像対象物17があった場合、直径dは、(d−(m+2))ピクセル幅に縮小する。このサイズの縮小の許容比率を5%以下とすると、
(d−(m+4))/d >0.95
が成り立ち、直径dについて解くと、
d>20(m+2)
となる。言い方を変えると、第1の実施の形態に係る画像処理システムには直径dが20(m+2)ピクセル幅より小さい撮像対象物17は適さない。撮像対象物17が安定して搬送帯11に乗るためには、撮像対象物17のサイズに対して、搬送帯11の金網のピッチが少なくとも2ピッチ必要である。2ピッチ以下では、そもそも撮像対象物17が金網の隙間を抜けて落ちたり、1点支持となったりして安定感が損なわれる。上記の条件を数式で表すと、kを1以上の整数として、背景部の太さをkピクセル幅とすれば、
2(m+k) <20(m+2)
となり、これを解くと
k<9m+20
が得られる。つまり、これが背景部の大きさの上限値となるピクセル幅である。
(画像処理プログラム)
図9、図10,図15及び図16に示した一連の画像処理の操作は、図9、図10,図15及び図16と等価なアルゴリズムを実行させるプログラムにより、図1に示した画像処理システムを制御して実行できる。この画像処理プログラムは、図1に示したプログラム記憶装置25に記憶させればよい。又、この画像処理プログラムは、コンピュータ読取り可能な記録媒体に保存し、この記録媒体をプログラム記憶装置25に読み込ませることにより、第1の実施の形態に係る一連の画像処理の操作を実行することができる。
ここで、「コンピュータ読取り可能な記録媒体」とは、例えばマイクロプロセッサの外部メモリ装置、半導体メモリ、磁気ディスク、光ディスク、光磁気ディスク、磁気テープなどの種々のプログラムを記録することができるような媒体であれば構わない。具体的には、フレキシブルディスク、CD−ROM,MOディスク、カセットテープ、オープンリールテープなどが「コンピュータ読取り可能な記録媒体」に含まれる。
即ち、第1の実施の形態に係る画像処理プログラムは、(a)網目状の搬送帯11の上面に撮像対象物17を搭載し、搬送帯11の下方に搬送帯11及び撮像対象物17とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板15を配置し、搬送帯11の上方に配置された撮像装置22に対し、撮像対象物17の全景を含む領域を撮像させる命令と、(b)画像処理装置23に対し、撮像装置22から出力される画像データから、撮像対象物17の周りに写り込まれている搬送帯11の網目のパターンを消去させ、撮像対象物17の重心位置及び大きさを算出させる命令とを含む一連の命令を、図1に示した画像処理装置23を備えるコンピュータシステムに実行させるコンピュータソフトウェアプログラムである。
ここで、画像処理装置23に対し、画像データから網目のパターンを消去させ、撮像対象物17の重心位置及び大きさを算出させる命令には、以下の命令が含まれている:
(イ)撮像データ受信回路231に撮像装置22から画像データを取得させる命令;
(ロ)背景領域分離手段232に、取得された画像データから、背景板15が撮像された背景領域とこの背景領域以外が撮像されている非背景領域の2つに分離させる命令;
(ハ)網目消去回路233に分離された背景領域を、搬送帯11の網目のパターンの幅以上に膨張処理することにより、非背景領域から搬送帯11の像を消去させる命令;
(ニ)撮像対象物認識手段234に撮像対象物17の2値化画像を基に、撮像対象物17の重心位置及び大きさを算出させる命令
第1の実施の形態に係る画像処理システムの画像処理装置23を備えるコンピュータシステムは、例えばフレキシブルディスク装置(フレキシブルディスクドライブ)及び光ディスク装置(光ディスクドライブ)を内蔵若しくは外部接続するように構成できる。フレキシブルディスクドライブに対してはフレキシブルディスクを、又光ディスクドライブに対してはCD−ROMをその挿入口から挿入し、所定の読み出し操作を行うことにより、これらの記録媒体に格納された画像処理プログラムを画像処理システムを構成するプログラム記憶装置25にインストールすることができる。更に、インターネット等の情報処理ネットワークを介して、この画像処理プログラムをプログラム記憶装置25に格納することが可能である。
以上のように、第1の実施の形態に係る画像処理プログラムによれば、撮像対象物17の方が撮像装置22に近い配置関係となるように撮像対象物17が水平方向に走行する網目状の搬送帯11の上に搭載された場合、撮像対象物17の自重により網目のパターンの周期性が乱れる状況が発生しても、搬送帯11のパターンを消去して、撮像対象物17の位置及び大きさを正確に認識できるように、図1に示した画像処理装置23を含むコンピュータシステムを制御し、動作させることができる。
なお、上記の(イ)〜(ニ)の一連の命令に等価な処理は、FPGAのようなPLDを構成して、専用の回路を処理の順番に応じて接続することにより、信号が来たらすぐに次の回路が動作するハードウェア処理によっても実施可能である。或いは、FPGA等のPLDの内部にCPUを組み込み、(イ)〜(ニ)の一連の命令に等価な処理一部をハードウェア処理によって実施して、残余の一部をプログラムによるソフトウェア処理によって実施するように構成してもよい。FPGA内部に組み込まれるCPUには、出荷時に埋め込まれているハードマクロCPUでもよく、論理ブロックでソフトマクロCPUを作ってもよい。
(その他の実施の形態)
上記のように、本発明は第1の実施の形態によって記載したが、この開示の一部をなす論述及び図面は本発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
既に述べた第1の実施の形態の説明においては、RGB空間からHSV空間に変換する例を示したが、RGB空間から、R,G,Bの値の最大と最小の平均で明るさを決めるHSL空間に変換してもよく、RGB空間から、R,G,Bの値の平均で明るさを決めるHSI空間に変換しても構わない。更に、CMY空間又はCMYK空間から、C,M,Yの値の最大と最小の平均で明るさを決めるHSL空間に変換してもよい。
更に、図2に示した画像処理装置23のハードウェア資源の構成一例であり、図21に示すように、その一部をFPGAで構成してもよい。図21に示すように、第1の実施の形態に係る画像処理システムの画像処理装置23の一部を構成するFPGAは、撮像装置22から画像データを取得する入力端子Iに接続された撮像データ受信回路231と、撮像データ受信回路231が取得した画像データから、背景板15が撮像された「背景領域」とこの背景領域以外が撮像されている「非背景領域」の2つに分離する背景領域分離回路232GAと、背景領域分離回路232GAで分離された背景領域を、搬送帯11の網目のパターンの幅以上に膨張処理することにより、非背景領域から搬送帯11の像を消去する網目消去回路233と、網目消去回路233により生成された撮像対象物17の2値化画像を基に、撮像対象物17の重心位置及び大きさを算出する撮像対象物認識回路234GAとを、処理に合わせて互いに接続し、撮像対象物認識回路234GAの出力側を画像処理装置23の出力端子Oに接続している。
背景領域分離回路232GAは、図2に示した背景領域分離手段232と等価な機能をなす論理ブロックであり、RGB色空間のデータをHSV色空間のデータに変換するRGB/HSV変換回路232aと、背景領域を2値化する背景領域2値化回路232bとを論理ブロックを構成するゲートアレイとして、処理の順番に合わせて含む。更に、撮像対象物認識回路234GAは、図2に示した撮像対象物認識手段234と等価な機能をなす論理ブロックであり、撮像対象物17のパターンが占める領域の画素数を算出する画素数算出回路234bと、撮像対象物17の重心位置を決定する重心位置決定回路234aと、撮像対象物17の半径を算出する半径算出回路234cとをゲートアレイとして、処理の順番に合わせて接続して含む。
図21に示すように、FPGAとして、 撮像データ受信回路231、背景領域分離回路232GA、網目消去回路233、撮像対象物認識回路234GAをそれぞれ、その必要とされる機能を実現するために専用に設計されたハードウェア回路として半導体チップ上に構成し、処理の順番に沿って各専用回路である撮像データ受信回路231、背景領域分離回路232GA、網目消去回路233、撮像対象物認識回路234GAをつないで動作させるので、信号が来たらすぐに次の回路が動作するハードウェア処理が実施できる。図2に示したようにプログラムカウンタ238を用いてプログラムで撮像データ受信回路231、背景領域分離回路232GA、網目消去回路233、撮像対象物認識回路234GAのそれぞれの機能の順番を指定する必要はないので、 撮像データ受信回路231、背景領域分離回路232GA、網目消去回路233のそれぞれで実行した結果をレジスタに蓄えずにすぐに次の回路に出力し、必要な処理が実行できる。更に、図21に示した光源制御回路235、撮像装置制御回路236、搬送帯制御装置命令回路237等もFPGAによって構成してもよい。
図21に示したような、その他の実施の形態に係る画像処理システムの画像処理装置23によれば、FPGAによって、専用回路を自由に構成できるので、使わない機能を搭載する必要はないので半導体チップの小型化が可能である。又、リアルタイム性が必要な機能だけを並列化して高速化、他の機能は回路を兼用して小さくするなど、独自の特徴を出すことができる。図21に示したように画像処理装置23の少なくとも一部をFPGAによって構成することにより、各処理を並列に実行できるので、割り込みによる遅延が発生せず、リアルタイム処理に有利である。
又、既に述べた第1の実施の形態の説明においては、図2又は図21に示した半径算出回路234cを用いて、図3のステップS133において、撮像対象物17が占有する画素領域の半径を算出する場合について例示的に説明したが、撮像対象物の形状は、円形で外径が近似できる物体のみならず、長い物等、任意形状であっても撮像対象物の大きさを算出することができる。例えば、円形以外の任意形状の撮像対象物であっても、撮像対象物に外接する矩形(長方形)が定義できれば、外接長方形のX軸に平行な辺の長さである水平フェレ径や、外接長方形のY軸に平行な辺の長さである垂直フェレ径によって、撮像対象物の外形寸法を評価し、撮像対象物の大きさを算出することができる。水平フェレ径や垂直フェレ径を算出しておくことにより、撮像対象物の外接矩形の大きさが求まるため、撮像対象物を処理対象物とした場合、処理対象物を掴むときのハンドの稼動域などの情報が得られ、また、画像処理の探索範囲を限定するための情報としても活用できる。
或いは、注目する撮像対象物と等面積で、撮像対象物のまわりの2次モーメントとの2次モーメントの差が最小となる特徴物相当楕円である「慣性等価楕円」が定義できれば、慣性等価楕円の短軸長さと長軸長さをそれぞれ求めて数値出力することによって、撮像対象物の外形寸法を評価できる。更に、慣性等価楕円の短軸と長軸の比(=短軸長/長軸長)によっても、撮像対象物の外形寸法を評価してもよく、慣性等価楕円の傾き角θによって、撮像対象物の外形寸法を評価してもよい。慣性等価楕円の傾き角θは、慣性等価楕円の主軸(長軸)と水平線とのなす角度であるが、慣性等価楕円の傾き角θが算出できれば、撮像対象物を処理対象物とした場合、処理対象物を掴むときにどれくらいワークが傾いているかといった情報を知ることができる。
このように、本発明はここでは記載していない様々な実施の形態等を含むことは勿論である。したがって、本発明の技術的範囲は上記の説明から妥当な特許請求の範囲に係る発明特定事項によってのみ定められるものである。
本発明は、ベルトコンベア上に、ホタテ、サバ、イカ等の魚介類や野菜等の生鮮物、加工済みの食品、工業製品を処理対象物として搭載し、処理対象物を自動加工処理するために、処理対象物を搬送する工程の途中で、背景のベルトコンベアの網目のパターンを消去し、処理対象物の位置や大きさを認識する画像処理技術の分野、更にこの画像処理技術を用いた食品の加工装置や工業製品の製造装置を生産する技術分野や、食品加工等に関係する種々の産業の分野に利用可能である。例えば、コロッケや肉を焼くラインで焼き具合をコンベア上で検査するような食品加工の分野、或いは、油分がついた機械部品等を金網コンベアに乗せて連続的に化学洗浄し、洗浄具合をコンベア上で検査するような技術分野に利用可能である。
11…搬送帯
13…搬送帯制御装置
15…背景板
17…撮像対象物
21…光源
22…撮像装置
23…画像処理装置
231…撮像データ受信回路
232…背景領域分離手段
232a…HSV変換回路
232b…2値化回路
233…網目消去回路
234…撮像対象物認識手段
234a…重心位置決定回路
234b…画素数算出回路
234c…半径算出回路
235…光源制御回路
236…撮像装置制御回路
237…搬送帯制御装置命令回路
238…プログラムカウンタ
239…データバス
25…プログラム記憶装置
26…表示装置

Claims (11)

  1. 撮像対象物を上面に搭載して搬送する網目状の搬送帯と、
    前記搬送帯の上方に配置され、前記撮像対象物の全景を含む領域を撮像する撮像装置と、
    前記搬送帯の下方に配置され、前記搬送帯及び前記撮像対象物とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板と、
    前記撮像装置に接続され、前記撮像装置から出力される画像データから、前記撮像対象物の周りに写り込まれている前記搬送帯の網目のパターンを消去して、前記撮像対象物の重心位置及び大きさを算出する画像処理装置と、
    を備えることを特徴とする画像処理システム。
  2. 前記画像処理装置は、
    前記撮像装置から前記画像データを取得する撮像データ受信回路と、
    前記撮像データ受信回路が取得した前記画像データから、前記背景板が撮像された背景領域と該背景領域以外が撮像されている非背景領域の2つに分離する背景領域分離手段と、
    前記背景領域分離手段で分離された前記背景領域を、前記搬送帯の網目のパターンの幅以上に膨張処理することにより、前記非背景領域から前記搬送帯の像を消去する網目消去回路と、
    前記網目消去回路により生成された前記撮像対象物の2値化画像を基に、前記撮像対象物の重心位置及び大きさを算出する撮像対象物認識手段と、
    を備えることを特徴とする請求項1に記載の画像処理システム。
  3. 前記画像処理装置は、
    前記撮像装置から前記画像データを取得する撮像データ受信回路と、
    前記撮像データ受信回路の出力端に接続され、前記撮像データ受信回路が取得した画像データから、前記背景板が撮像された背景領域と該背景領域以外が撮像されている非背景領域の2つに分離する背景領域分離回路と、
    前記背景領域分離回路の出力端に接続され、前記背景領域分離回路で分離された背景領域を、前記搬送帯の網目のパターンの幅以上に膨張処理することにより、前記非背景領域から前記搬送帯の像を消去する網目消去回路と、
    前記網目消去回路の出力端に接続され、前記網目消去回路により生成された前記撮像対象物の2値化画像を基に、前記撮像対象物の重心位置及び大きさを算出する撮像対象物認識回路と、
    を、前記画像処理装置の処理の順番に従って接続された専用回路として備えるプログラマブル・ロジック・デバイスで構成していることを特徴とする請求項1に記載の画像処理システム。
  4. 前記搬送帯消去部において、前記背景領域の膨張処理の前に前記背景領域の収縮処理を挿入することを特徴とする請求項1又は2に記載の画像処理システム。
  5. 前記撮像装置の画素を単位として、前記搬送帯の隙間を通して撮像される前記背景板の領域が占める画素数は、1次元方向に測って5画素以上であることを特徴とする請求項4に記載の画像処理システム。
  6. 網目状の搬送帯の上面に撮像対象物を搭載し、前記搬送帯の下方に前記搬送帯及び前記撮像対象物とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板を配置し、前記搬送帯の上方に配置された撮像装置によって、前記撮像対象物の全景を含む領域を撮像するステップと、
    前記撮像装置から出力される画像データから、前記撮像対象物の周りに写り込まれている前記搬送帯の網目のパターンを消去して、前記撮像対象物の重心位置及び大きさを算出するステップと、含む
    を含むことを特徴とする画像処理方法。
  7. 前記網目のパターンを消去して、前記撮像対象物の重心位置及び大きさを算出するステップは、
    前記撮像装置から前記画像データを取得するステップと、
    取得された前記画像データから、前記背景板が撮像された背景領域と該背景領域以外が撮像されている非背景領域の2つに分離するステップと、
    分離された前記背景領域を、前記搬送帯の網目のパターンの幅以上に膨張処理することにより、前記非背景領域から前記搬送帯の像を消去するステップと、
    前記撮像対象物の2値化画像を基に、前記撮像対象物の重心位置及び大きさを算出するステップと、
    を含むことを特徴とする請求項6に記載の画像処理方法。
  8. 前記網目のパターンを消去して、前記撮像対象物の重心位置及び大きさを算出するステップは、
    前記撮像装置から前記画像データを取得する撮像データ受信回路と、前記撮像データ受信回路の出力端に接続され、前記撮像データ受信回路が取得した画像データから、前記背景板が撮像された背景領域と該背景領域以外が撮像されている非背景領域の2つに分離する背景領域分離回路と、前記背景領域分離回路の出力端に接続され、前記背景領域分離回路で分離された背景領域を、前記搬送帯の網目のパターンの幅以上に膨張処理することにより、前記非背景領域から前記搬送帯の像を消去する網目消去回路と、前記網目消去回路の出力端に接続され、前記網目消去回路により生成された前記撮像対象物の2値化画像を基に、前記撮像対象物の重心位置及び大きさを算出する撮像対象物認識回路とを、前記網目のパターンを消去して、前記撮像対象物の重心位置及び大きさを算出するステップに至る処理の順番に従って接続された専用回路として備えるプログラマブル・ロジック・デバイスによって、プログラムを用いずにハードウェア処理することを特徴とする請求項6に記載の画像処理方法。
  9. 前記背景領域の膨張処理の前に前記背景領域の収縮処理を挿入することを特徴とする請求項7に記載の画像処理方法。
  10. 前記撮像装置の画素を単位として、前記搬送帯の隙間を通して撮像される前記背景板の領域が占める画素数は、1次元方向に測って5画素以上であることを特徴とする請求項9に記載の画像処理方法。
  11. 網目状の搬送帯の上面に撮像対象物を搭載し、前記搬送帯の下方に前記搬送帯及び前記撮像対象物とは、明度、色相又は色度の少なくともいずれかが異なる光学特性の背景板を配置し、前記搬送帯の上方に配置された撮像装置に対し、前記撮像対象物の全景を含む領域を撮像させる命令と、
    画像処理装置に対し、前記撮像装置から出力される画像データから、前記撮像対象物の周りに写り込まれている前記搬送帯の網目のパターンを消去させ、前記撮像対象物の重心位置及び大きさを算出させる命令と、
    を含む一連の命令を前記画像処理装置を備えるコンピュータシステムに実行させることを特徴とする画像処理プログラム。
JP2014049038A 2014-03-12 2014-03-12 画像処理システム、画像処理方法及び画像処理プログラム Expired - Fee Related JP6334215B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014049038A JP6334215B2 (ja) 2014-03-12 2014-03-12 画像処理システム、画像処理方法及び画像処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014049038A JP6334215B2 (ja) 2014-03-12 2014-03-12 画像処理システム、画像処理方法及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2015173410A true JP2015173410A (ja) 2015-10-01
JP6334215B2 JP6334215B2 (ja) 2018-05-30

Family

ID=54260477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014049038A Expired - Fee Related JP6334215B2 (ja) 2014-03-12 2014-03-12 画像処理システム、画像処理方法及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP6334215B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108584352A (zh) * 2018-06-15 2018-09-28 湖北凯瑞知行智能装备有限公司 基于机器视觉的胶带跑偏诊断系统及方法
CN109305532A (zh) * 2017-07-26 2019-02-05 发那科株式会社 物品输送系统以及输送系统控制装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102218894B1 (ko) * 2019-08-21 2021-02-23 한국생산기술연구원 중복인식 물체를 처리하는 컨베이어 벨트 영상 처리장치 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07200770A (ja) * 1993-12-28 1995-08-04 Sanyo Electric Co Ltd 錠剤検査システム
JPH10111922A (ja) * 1996-10-08 1998-04-28 Mitsubishi Heavy Ind Ltd 魚種判別処理装置
JP2004008961A (ja) * 2002-06-07 2004-01-15 Mitsubishi Heavy Ind Ltd 農産物の品質判定装置及び農産物の品質判定方法
JP2013144100A (ja) * 2011-04-28 2013-07-25 Yuyama Manufacturing Co Ltd 薬剤鑑査装置、及び薬剤分包装置
JP2013161174A (ja) * 2012-02-02 2013-08-19 Keyence Corp 画像処理装置及び画像処理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07200770A (ja) * 1993-12-28 1995-08-04 Sanyo Electric Co Ltd 錠剤検査システム
JPH10111922A (ja) * 1996-10-08 1998-04-28 Mitsubishi Heavy Ind Ltd 魚種判別処理装置
JP2004008961A (ja) * 2002-06-07 2004-01-15 Mitsubishi Heavy Ind Ltd 農産物の品質判定装置及び農産物の品質判定方法
JP2013144100A (ja) * 2011-04-28 2013-07-25 Yuyama Manufacturing Co Ltd 薬剤鑑査装置、及び薬剤分包装置
JP2013161174A (ja) * 2012-02-02 2013-08-19 Keyence Corp 画像処理装置及び画像処理方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109305532A (zh) * 2017-07-26 2019-02-05 发那科株式会社 物品输送系统以及输送系统控制装置
CN109305532B (zh) * 2017-07-26 2020-04-10 发那科株式会社 物品输送系统以及输送系统控制装置
CN108584352A (zh) * 2018-06-15 2018-09-28 湖北凯瑞知行智能装备有限公司 基于机器视觉的胶带跑偏诊断系统及方法
CN108584352B (zh) * 2018-06-15 2024-02-13 湖北凯瑞知行智能装备有限公司 基于机器视觉的胶带跑偏诊断系统及方法

Also Published As

Publication number Publication date
JP6334215B2 (ja) 2018-05-30

Similar Documents

Publication Publication Date Title
CN108550101B (zh) 图像处理方法、装置及存储介质
WO2021051604A1 (zh) Osd的文字区域的识别方法、装置及存储介质
JP5729464B2 (ja) 位置情報付加装置、位置情報付加方法及び位置情報付加用コンピュータプログラムならびに位置検出装置
JP5409627B2 (ja) 画像内の複雑なトークンを識別するためのシステムと方法
US9639927B2 (en) Image processing apparatus, image processing method, and computer-readable recording device
US9025822B2 (en) Spatially coherent nearest neighbor fields
US20120076419A1 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP6334215B2 (ja) 画像処理システム、画像処理方法及び画像処理プログラム
JP2008527525A (ja) グラフィカルなオブジェクトを検出するための方法及び電子装置
CN106845484B (zh) 一种一维码区域的定位方法及装置
TW201626292A (zh) 魚計數裝置、魚計數方法、魚數之預測裝置、魚數之預測方法、魚計數系統及魚數預測系統
CN109163775B (zh) 一种基于带式运输机的质量测量方法及装置
JP2012221117A (ja) 画像処理装置及びプログラム
US20210142507A1 (en) Spatial positioning method, spatial positioning device, spatial positioning system and computer readable medium
US10380743B2 (en) Object identifying apparatus
CN111127543A (zh) 图像处理方法、装置、电子设备以及存储介质
US20120113094A1 (en) Image processing apparatus, image processing method, and computer program product thereof
TW201445506A (zh) 決定解馬賽克內插方向的方法與裝置以及非暫時性機器可讀取儲存媒介
JP5264956B2 (ja) 2次元コード読取装置及びその方法
CN113066128B (zh) 自识别标识板的视觉检测与恢复方法、装置、设备及介质
US9734593B2 (en) Object locating and tracking in video frames using smoothness check along specified line sections
CN111767751B (zh) 二维码图像识别方法和装置
CN115705622A (zh) 一种图像处理方法及装置
JP2011228975A (ja) 映像ノイズ検知装置
JPWO2015093231A1 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170223

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180426

R150 Certificate of patent or registration of utility model

Ref document number: 6334215

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees