JP2008190912A - 画像認識方法および把持装置 - Google Patents
画像認識方法および把持装置 Download PDFInfo
- Publication number
- JP2008190912A JP2008190912A JP2007023429A JP2007023429A JP2008190912A JP 2008190912 A JP2008190912 A JP 2008190912A JP 2007023429 A JP2007023429 A JP 2007023429A JP 2007023429 A JP2007023429 A JP 2007023429A JP 2008190912 A JP2008190912 A JP 2008190912A
- Authority
- JP
- Japan
- Prior art keywords
- workpiece
- point
- seedling
- image recognition
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Manipulator (AREA)
Abstract
【課題】分岐点を有するワークの形状を、迅速、且つ、簡易に認識することのできる画像認識方法および把持装置の提供。
【解決手段】分岐点を有するワークを撮像し、二値化し、二値化画像からワークの下端を検出し、ワークの下端からワークの輪郭を追い、輪郭線が急に方向変化する点を分岐点と判断する画像認識方法において、二値化画像から、X方向の最大値、X方向の最小値、Y方向の最大値、およびY方向の最小値を抽出し、これらを辺に有する方形領域を定め、方形領域に属する端点を候補点とし、候補点からワークの下端を判定することを特徴とする画像認識方法および当該方法を実施するための把持装置。
【選択図】図12
【解決手段】分岐点を有するワークを撮像し、二値化し、二値化画像からワークの下端を検出し、ワークの下端からワークの輪郭を追い、輪郭線が急に方向変化する点を分岐点と判断する画像認識方法において、二値化画像から、X方向の最大値、X方向の最小値、Y方向の最大値、およびY方向の最小値を抽出し、これらを辺に有する方形領域を定め、方形領域に属する端点を候補点とし、候補点からワークの下端を判定することを特徴とする画像認識方法および当該方法を実施するための把持装置。
【選択図】図12
Description
本発明は、分岐点を有するワークの画像認識方法および把持装置に関し、例えば、枝部を有する棒状物やリード線が延出された半導体チップ等のワークの画像認識方法および把持装置に関する。なお、分岐点とは、ワークの輪郭線が急に方向変化する点をいう。また、枝部を有する棒状物とは、棒状部分とその幅方向に枝部を有する有体物のことであり、例えば、葉の付いた苗やL字型の工業部品もこれに含まれる。
近年園芸作物や樹木の苗の生産においてこれまで行われてきた実生苗や挿し木苗での生産以外にマイクロプロパゲーションで優秀個体の無菌化クローンを大量増殖し、発根させて苗製品にする手法が広く普及してきている。
一般的な手法としては、成長組織点を無菌環境内で植物個体から切出してインビトロ(無菌透明容器内)で培養環境を与え、多芽体に成長させ、さらに継体培養により大量増殖させ、そして大量増殖させたそれぞれの幼芽を最適な大きさまでインビトロで成長させた後に、再び無菌環境で幼芽を分離し、発根用の容器に移し替え、再びインビトロで培養し発根完了後に無菌クローン苗製品とするものがある。感染した苗であっても、植物体成長の元になる成長点組織にはウィルスが侵入しないことを利用した手法である。
一般的な手法としては、成長組織点を無菌環境内で植物個体から切出してインビトロ(無菌透明容器内)で培養環境を与え、多芽体に成長させ、さらに継体培養により大量増殖させ、そして大量増殖させたそれぞれの幼芽を最適な大きさまでインビトロで成長させた後に、再び無菌環境で幼芽を分離し、発根用の容器に移し替え、再びインビトロで培養し発根完了後に無菌クローン苗製品とするものがある。感染した苗であっても、植物体成長の元になる成長点組織にはウィルスが侵入しないことを利用した手法である。
しかしながら、幼芽は柔らかく脆弱であり、過剰な把持力を与えた場合、茎の導管を破壊しその後の生育が順調にいかないという問題がある。このため幼芽の移植を自動的に行うためには正確な形状認識微が不可欠であった。そこで、出願人は、葉と茎境界の認識は、撮像した画像データを2値化したものに輪郭線追跡(チェーンコード)を適用することで輪郭を抽出し、葉のエッジ探索を行って葉の端部を検出する手法を提言した(特許文献1)。
また、前記ロボットハンドをXYZ方向に移動可能に連結したマニピュレータと、前記ロボットハンドから受け取った苗を植込工程に受け渡す受渡用ハンドとを備える苗の移植補助ステーションを提言した(特許文献3)。
また、前記ロボットハンドをXYZ方向に移動可能に連結したマニピュレータと、前記ロボットハンドから受け取った苗を植込工程に受け渡す受渡用ハンドとを備える苗の移植補助ステーションを提言した(特許文献3)。
ロボットによる植え付け作業の自動化に関する研究としては、例えば、視覚部の把持位置検出アルゴリズムによって検出された挿し穂の主茎下部をロボットハンドが把持して整形装置に移動し、葉を離脱しものを植え付け装置に供給するシステムが発表されている(非特許文献1〜3)。
また、線材把持装置としては、例えば、相対的に接近・離間して閉じ状態と開き状態とに切り換えられる第1および第2のハンド部材を有し、開き状態では第1のハンド部材と第2のハンド部材との間にたるみ状態にあるフレキシブルな線材を側方から差し入れる差し入れ口と、この差し入れ口から差し入れられた線材を位置させる線材把持用領域とを有し、前記第1および第2のハンド部材の相対的接近に伴って前記線材把持用領域を縮小し最終的に線材を前記両ハンド部材により両ハンド部材の所定位置において挟持固定することを特徴とするものがある(特許文献2)。
特開2006−180862号公報
特開2006−180863号公報
特開平8−57718号公報
農業機械学会誌、VOL.60,NO.4,p.37-44
M.Takatsuji, Handbook of Plant Factory,Tokai University Press, pp. 123{159, 1997. 東海大学出版会編:「植物工場ハンドブック」, 東海大学出版会(1997), pp123-159
高山眞策シーエムシー出版 種苗生産システム (1992 初版2002 普及版pp180)
分岐点を有するワークを把持することができるロボットハンドは種々のものが知られるが、ワークの形状を認識して把持位置を検出する処理を迅速に行うことは難しかった。
また、分岐点を有するワークの形状を認識するための手法が簡易であることが、迅速処理の要請を満たすためには好ましい。
また、分岐点を有するワークの形状を認識するための手法が簡易であることが、迅速処理の要請を満たすためには好ましい。
本発明は、分岐点を有するワークの形状を、迅速、且つ、簡易に認識することのできる分岐点を有するワークの画像認識方法および把持装置を提供することを目的とする。
第1の発明は、分岐点を有するワークを撮像し、二値化し、二値化画像からワークの下端を検出し、ワークの下端からワークの輪郭を追い、輪郭線が急に方向変化する点を分岐点と判断する画像認識方法において、二値化画像から、X方向の最大値、X方向の最小値、Y方向の最大値、およびY方向の最小値を抽出し、これらを辺に有する方形領域を定め、方形領域に属する端点を候補点とし、候補点からワークの下端を判定することを特徴とする画像認識方法である。
第2の発明は、第1の発明において、下記(イ)〜(ハ)の条件を多く具備する候補点から順にワークの下端であるかの判定を行うことを特徴とする。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点
第3の発明は、第1または2の発明において、一の角から隣接する他の角まで方形領域の辺上をトレースし、辺上の端点を検出する処理において、一定距離以上端点が連続する場合には、当該一定距離をスキップして端点の検出を行うことを特徴とする。
第4の発明は、第1ないし3のいずれかの発明において、選択された候補点に基づきワークの両側面において分岐点を検出し、両側面で検出した各々の分岐点位置のワークの幅が、ワークの幅の規定値範囲から外れる場合には当該部位は目的とする部位とは異なるとの判断から、当該候補点をワークの下端と判定しないことを特徴とする。
第5の発明は、第1ないし4のいずれかの発明において、ワークの下端に最も近い分岐点から、ワークの下端側に所定値オフセットした位置を把持位置とすることを特徴とする。
第6の発明は、第1ないし5のいずれかの発明において、ワークが棒状部分を有する自然物であることを特徴とする。
第2の発明は、第1の発明において、下記(イ)〜(ハ)の条件を多く具備する候補点から順にワークの下端であるかの判定を行うことを特徴とする。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点
第3の発明は、第1または2の発明において、一の角から隣接する他の角まで方形領域の辺上をトレースし、辺上の端点を検出する処理において、一定距離以上端点が連続する場合には、当該一定距離をスキップして端点の検出を行うことを特徴とする。
第4の発明は、第1ないし3のいずれかの発明において、選択された候補点に基づきワークの両側面において分岐点を検出し、両側面で検出した各々の分岐点位置のワークの幅が、ワークの幅の規定値範囲から外れる場合には当該部位は目的とする部位とは異なるとの判断から、当該候補点をワークの下端と判定しないことを特徴とする。
第5の発明は、第1ないし4のいずれかの発明において、ワークの下端に最も近い分岐点から、ワークの下端側に所定値オフセットした位置を把持位置とすることを特徴とする。
第6の発明は、第1ないし5のいずれかの発明において、ワークが棒状部分を有する自然物であることを特徴とする。
第7の発明は、分岐点を有するワークを搬送するコンベアと、コンベア上のワークを撮像する撮像手段と、コンベア上を搬送されるワークを把持するロボットハンドと、ロボットハンドの移動手段と、撮像手段による撮像画像を二値化し、二値化画像からワークの把持位置を算出する画像認識手段を備えた把持装置であって、前記画像認識手段は、二値化画像から、X方向の最大値、X方向の最小値、Y方向の最大値、およびY方向の最小値を抽出し、これらを辺に有する方形領域を定め、方形領域に属する端点を候補点とし、候補点からワークの下端を判定することを特徴とする把持装置である。
第8の発明は、第7の発明において、下記(イ)〜(ハ)の条件を多く具備する候補点から順にワークの下端であるかの判定を行うことを特徴とする。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点
第9の発明は、第7または8の発明において、一定距離以上端点が連続する場合には、当該一定距離をスキップして端点の検出を行うことを特徴とする。
第10の発明は、第7ないし9のいずれかの発明において、前記画像認識手段が、選択された候補点に基づきワークの両側面において分岐点を検出し、両側面で検出した各々の分岐点位置のワークの幅が、ワークの幅の規定値範囲から外れる場合には当該部位は目的とする部位とは異なるとの判断から、当該候補点をワークの下端と判定しないことを特徴とする。
第11の発明は、第7ないし10のいずれかの発明において、前記画像認識手段が、ワークの下端に最も近い分岐点から、ワークの下端側に所定値オフセットした位置を把持位置とすることを特徴とする。
第12の発明は、第7ないし11のいずれかの発明において、ワークが棒状部分を有する自然物であることを特徴とする。
第8の発明は、第7の発明において、下記(イ)〜(ハ)の条件を多く具備する候補点から順にワークの下端であるかの判定を行うことを特徴とする。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点
第9の発明は、第7または8の発明において、一定距離以上端点が連続する場合には、当該一定距離をスキップして端点の検出を行うことを特徴とする。
第10の発明は、第7ないし9のいずれかの発明において、前記画像認識手段が、選択された候補点に基づきワークの両側面において分岐点を検出し、両側面で検出した各々の分岐点位置のワークの幅が、ワークの幅の規定値範囲から外れる場合には当該部位は目的とする部位とは異なるとの判断から、当該候補点をワークの下端と判定しないことを特徴とする。
第11の発明は、第7ないし10のいずれかの発明において、前記画像認識手段が、ワークの下端に最も近い分岐点から、ワークの下端側に所定値オフセットした位置を把持位置とすることを特徴とする。
第12の発明は、第7ないし11のいずれかの発明において、ワークが棒状部分を有する自然物であることを特徴とする。
本発明によれば、分岐点を有するワークの形状を、迅速、且つ、簡易に認識することが可能となる。
本発明を実施するための最良の形態の把持装置は、分岐点を有するワークを搬送するコンベアと、コンベア上のワークを撮像する撮像手段と、コンベア上を搬送されるワークを把持するロボットハンドと、ロボットハンドの移動手段と、撮像手段による撮像画像を二値化し、二値化画像からワークの把持位置を算出する画像認識手段を備えた把持装置であって、前記画像認識手段は、二値化画像から、X方向の最大値、X方向の最小値、Y方向の最大値、およびY方向の最小値を抽出し、これらを辺に有する方形領域を定め、方形領域に属する端点を候補点とし、候補点からワークの下端を判定することを特徴とする。なお、本明細書における方形領域とは、正方形または長方形のことをいうものとする。
好ましくは、下記(イ)〜(ハ)の条件を多く具備する候補点から順にワークの下端であるかの判定を行うことを特徴とする。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点
ワークの重心の算出は、公知の手法により行うことができるが、例えば、下記数式に基づいて算出することができる。
X方向重心=Σ(有効画素のX座標)/(有効画素総数)
Y方向重心=Σ(有効画素のY座標)/(有効画素総数)
ここでいう有効画素とは、ラベリングで求まった方形領域の長方形の内側に存在する二値化されたワークを示す画素のことをいう。方形領域四角形中のワーク部分のX,Yの各座標について、それぞれ座標位置を積算し、その値を画素数で割った座標位置の平均値である。上記により求められたX座標とY座標の画像上の交点をワークの重心として使用することができる。
X方向重心=Σ(有効画素のX座標)/(有効画素総数)
Y方向重心=Σ(有効画素のY座標)/(有効画素総数)
ここでいう有効画素とは、ラベリングで求まった方形領域の長方形の内側に存在する二値化されたワークを示す画素のことをいう。方形領域四角形中のワーク部分のX,Yの各座標について、それぞれ座標位置を積算し、その値を画素数で割った座標位置の平均値である。上記により求められたX座標とY座標の画像上の交点をワークの重心として使用することができる。
また、前記画像認識手段が、選択された候補点に基づきワークの両側面において分岐点を検出し、左右の両側面で検出した各々の分岐点位置のワークの幅が、ワークの規定値範囲から外れる場合には、当該候補点をワークの下端と判定しないことが好ましい。
ここで、ワークの幅の判定を左右の分岐点の幅として判定を行うことが考えられる。しかし、分岐点が互い違いである場合や一方しか分岐点が無い場合においては、ワークの上端が分岐点扱いとされることが考えられ、そうすると、算出された幅の値はワーク形状の幅よりも必ず大きくなってしまい、幅チェックで無用なエラー判断がされるおそれがあるからである。そのため、ワーク幅による判定は、左右の分岐点の位置でワーク輪郭線に直交する方向の幅を夫々行うのが好ましい。ワーク輪郭線が直線でない場合には、分岐点を中心として、上下方向に一定量オフセットした位置の輪郭線上の点を結んだ線を近似的な輪郭線(直線)として処理すればよい。
なお、ワーク規定値範囲は、最大値と最小値の両方を指定するものとする。
ここで、ワークの幅の判定を左右の分岐点の幅として判定を行うことが考えられる。しかし、分岐点が互い違いである場合や一方しか分岐点が無い場合においては、ワークの上端が分岐点扱いとされることが考えられ、そうすると、算出された幅の値はワーク形状の幅よりも必ず大きくなってしまい、幅チェックで無用なエラー判断がされるおそれがあるからである。そのため、ワーク幅による判定は、左右の分岐点の位置でワーク輪郭線に直交する方向の幅を夫々行うのが好ましい。ワーク輪郭線が直線でない場合には、分岐点を中心として、上下方向に一定量オフセットした位置の輪郭線上の点を結んだ線を近似的な輪郭線(直線)として処理すればよい。
なお、ワーク規定値範囲は、最大値と最小値の両方を指定するものとする。
ワークの種別等によっては、方形領域の同一辺内において複数の端点が検出され、ワークの下端の判定に時間がかかったり、不正確な判定がなされるおそれがある。かかる場合には、方形領域の同一辺内において複数の端点が検出された場合において、一定距離以上端点が連続する場合には、当該一定距離をスキップして端点の検出を行う。
ロボットハンドの移動手段は、特定のものに限定されず、直交座標形、円筒座標形、極座標形、多関節形などで構成することができる。
上記のワークは、自然物、人工物のいずれかに限定されるものではないが、特に細部の形状が非定型である棒状部分を有する自然物(加工が施されたものも含む)に好適であり、枝部を有する自然物においては特に顕著な効果を奏する。
ロボットハンドの移動手段は、特定のものに限定されず、直交座標形、円筒座標形、極座標形、多関節形などで構成することができる。
上記のワークは、自然物、人工物のいずれかに限定されるものではないが、特に細部の形状が非定型である棒状部分を有する自然物(加工が施されたものも含む)に好適であり、枝部を有する自然物においては特に顕著な効果を奏する。
分岐点から、ワークの下端側に所定値オフセットした位置を把持位置とする。この際、ワークの下端に最も近い分岐点から所定値オフセットすることが好ましい。
なお、分岐点の無い全くのワークでも把持位置を検出することは可能である。この場合は検出点がワーク先端になるのでワーク全長が把持可能領域となり、把持位置のオフセット設定値により全長の任意の位置を把持位置とする。
作業の性質としては、精度が最優先される作業よりは、一定程度の精度と処理速度が要求される作業に適している。具体例としては、植物の苗の姿勢および幅方向の把持位置を補正して下流工程に受け渡す作業に好適である。
なお、分岐点の無い全くのワークでも把持位置を検出することは可能である。この場合は検出点がワーク先端になるのでワーク全長が把持可能領域となり、把持位置のオフセット設定値により全長の任意の位置を把持位置とする。
作業の性質としては、精度が最優先される作業よりは、一定程度の精度と処理速度が要求される作業に適している。具体例としては、植物の苗の姿勢および幅方向の把持位置を補正して下流工程に受け渡す作業に好適である。
以下では、本発明の詳細を実施例により説明するが、本発明は何ら実施例に限定されるものではない。
本実施例の画像認識方法は、例えば図1に示すような、投入装置101、受渡装置102および植込装置103からなる苗自動植込システムに適用される。
投入装置101は、苗コンベアで搬送される苗について、カメラの撮影画像に基づいて本実施例の画像認識方法により、把持位置を検出し、投入ハンド1により把持し、受渡装置102に受け渡す。受渡装置102は、垂直状態で把持した苗を、植え込みに最適な角度となるよう回転させる。植込装置103は、受渡装置102から苗を受け取り、植え込み領域に順次一本ずつ苗を植え込む。
投入装置101は、苗コンベアで搬送される苗について、カメラの撮影画像に基づいて本実施例の画像認識方法により、把持位置を検出し、投入ハンド1により把持し、受渡装置102に受け渡す。受渡装置102は、垂直状態で把持した苗を、植え込みに最適な角度となるよう回転させる。植込装置103は、受渡装置102から苗を受け取り、植え込み領域に順次一本ずつ苗を植え込む。
本発実施例のシステムは、次の機能を有する。
1)外部トリガのタイミングによる撮影画像情報の入力
2)撮影画像から設備が自動処理するのに必要な座標、角度などの情報算出
3)設備制御装置が処理できる情報単位への変換
4)設備の自動処理可否判断と結果の情報化
5)設備制御装置への情報伝送および読み取り要求トリガ出力
6)必要な各種システム設定値のGUIによる登録と保存
7)オフラインで解析可能な内容・形式による処理イベントのログ作成と保存
8)その他デバッグなどに必要な表示とGUI処理
1)外部トリガのタイミングによる撮影画像情報の入力
2)撮影画像から設備が自動処理するのに必要な座標、角度などの情報算出
3)設備制御装置が処理できる情報単位への変換
4)設備の自動処理可否判断と結果の情報化
5)設備制御装置への情報伝送および読み取り要求トリガ出力
6)必要な各種システム設定値のGUIによる登録と保存
7)オフラインで解析可能な内容・形式による処理イベントのログ作成と保存
8)その他デバッグなどに必要な表示とGUI処理
本実施例で扱う苗サイズの規定値は、図2および下記に示すとおりである。
全長 A:20.0mm以上
葉領域 B: 5.0mm以上
把持領域C:10.0mm以上
植込領域D: 5.0mm以上
茎直径 E: 1.0〜2.0mm
苗幅 F:10.0〜20.0mm
全長 A:20.0mm以上
葉領域 B: 5.0mm以上
把持領域C:10.0mm以上
植込領域D: 5.0mm以上
茎直径 E: 1.0〜2.0mm
苗幅 F:10.0〜20.0mm
《光電センサの配置と機能》
本実施例のシステムが有する光電センサは次の類型のものがある。
(1)撮像トリガ(投入装置101に配備)
ライン投入された苗を画像認識センサが撮像するためのタイミング検出用センサ。苗が撮像範囲に入る位置に設置され、センサ反応タイミングで撮像、認識処理を行う。
(2)苗有無判定(投入装置101に配備)
投入ハンド1が正常に苗を把持したこと(苗有無)の検出用センサ。投入ハンド1が把持、上昇した後に判断を行い、センサ未反応の場合は「苗無し(=失敗)」と見なし、後工程への動作を行わず即時に次苗処理(ピックアップ)を行う。
(3)葉方向検出(受渡装置102に配備)
無作為に受け渡しされた苗の方向を検出し、一定方向で植込ハンドに受け渡しするための検出用センサ。この際、チャックが1回転(=360度)してもセンサが未検出の場合は「苗無し」と判断して植込ハンドへの受取要求は行わず待機状態に即時復帰する。
(4)苗有無判定(受渡装置102に配備)
植込ハンドが正常に苗を把持したこと(苗有無)の検出用センサ。植込ハンドが回転チャックから受け取り、後退する途中に判断を行い、センサ未反応の場合は「苗無し(=失敗)」と見なし、植込処理を行わず即時に待機状態に復帰する。当然、その際の植込苗数のカウンタは現状維持とし、必ず植込欠損を発生させない。
(5)植込容器到着確認(植込装置103に配備)
植込容器が準備されていることの確認用センサ。植込容器コンベア横に設置され、規定位置に到達した時点でコンベアを停止させる。容器交換時に一定時間コンベアを動作させてもセンサが未検出(=容器未到達)の際はコンベアを停止させるとともに、ブザー音によるユーザガイダンスを行い次容器の準備を作業者に知らせる。
本実施例のシステムが有する光電センサは次の類型のものがある。
(1)撮像トリガ(投入装置101に配備)
ライン投入された苗を画像認識センサが撮像するためのタイミング検出用センサ。苗が撮像範囲に入る位置に設置され、センサ反応タイミングで撮像、認識処理を行う。
(2)苗有無判定(投入装置101に配備)
投入ハンド1が正常に苗を把持したこと(苗有無)の検出用センサ。投入ハンド1が把持、上昇した後に判断を行い、センサ未反応の場合は「苗無し(=失敗)」と見なし、後工程への動作を行わず即時に次苗処理(ピックアップ)を行う。
(3)葉方向検出(受渡装置102に配備)
無作為に受け渡しされた苗の方向を検出し、一定方向で植込ハンドに受け渡しするための検出用センサ。この際、チャックが1回転(=360度)してもセンサが未検出の場合は「苗無し」と判断して植込ハンドへの受取要求は行わず待機状態に即時復帰する。
(4)苗有無判定(受渡装置102に配備)
植込ハンドが正常に苗を把持したこと(苗有無)の検出用センサ。植込ハンドが回転チャックから受け取り、後退する途中に判断を行い、センサ未反応の場合は「苗無し(=失敗)」と見なし、植込処理を行わず即時に待機状態に復帰する。当然、その際の植込苗数のカウンタは現状維持とし、必ず植込欠損を発生させない。
(5)植込容器到着確認(植込装置103に配備)
植込容器が準備されていることの確認用センサ。植込容器コンベア横に設置され、規定位置に到達した時点でコンベアを停止させる。容器交換時に一定時間コンベアを動作させてもセンサが未検出(=容器未到達)の際はコンベアを停止させるとともに、ブザー音によるユーザガイダンスを行い次容器の準備を作業者に知らせる。
《投入装置101》
本実施例の画像認識方法が用いられる投入装置101について、図3を参照しながら、詳しく説明する。
投入装置101は、苗投入口から投入された苗を、苗コンベアによりY軸方向に搬送する。撮像エリアに苗が進入し、光電センサが苗の存在を検知すると、撮影画像に基づいて把持位置の認識処理が行われる。ピックアップ位置まで苗が搬送されると、苗コンベアは苗の把持が終了するまでの間、停止される。なお、苗コンベアは、ピックアップ時にのみ停止され、それ以外は(撮影時においても)常時運転状態にある。
また、苗コンベアのベルト色は、撮影背景となることから、ワークの色とはっきり区別でき、二値化時にワークの輪郭が明確となる色であることが望ましい。本実施例では、ベルト色を白色とした。
カメラは苗コンベア進行方向が画像の長辺方向となるよう、正規状態(横長)から90度回転させた状態(縦長)での取り付けとする。なお、カメラを回転取り付けするにあたり、表示画像は苗コンベア進行が画面左から右に向かう方向で表示するものとする。本実施例では、モノクロVGAのCMOSカメラ(Firefly MV [POINT GREY RESERCH])を使用した。
本実施例の画像認識方法が用いられる投入装置101について、図3を参照しながら、詳しく説明する。
投入装置101は、苗投入口から投入された苗を、苗コンベアによりY軸方向に搬送する。撮像エリアに苗が進入し、光電センサが苗の存在を検知すると、撮影画像に基づいて把持位置の認識処理が行われる。ピックアップ位置まで苗が搬送されると、苗コンベアは苗の把持が終了するまでの間、停止される。なお、苗コンベアは、ピックアップ時にのみ停止され、それ以外は(撮影時においても)常時運転状態にある。
また、苗コンベアのベルト色は、撮影背景となることから、ワークの色とはっきり区別でき、二値化時にワークの輪郭が明確となる色であることが望ましい。本実施例では、ベルト色を白色とした。
カメラは苗コンベア進行方向が画像の長辺方向となるよう、正規状態(横長)から90度回転させた状態(縦長)での取り付けとする。なお、カメラを回転取り付けするにあたり、表示画像は苗コンベア進行が画面左から右に向かう方向で表示するものとする。本実施例では、モノクロVGAのCMOSカメラ(Firefly MV [POINT GREY RESERCH])を使用した。
投入ハンド1は、図4および図5に示すとおりに構成され、筐体2に配設された一対の把持爪3と、把持爪3と直交して配設された一対の補正板4を主たる構成要素とする。
把持爪3は、ピンセット状に構成された2枚の長材であり、長手方向の中央部近辺に屈曲部31を有している。駆動部材11は、弾性部材6により付勢されており、ワイヤ7からの動力を受けないときは、屈曲部31が駆動部材11により押圧された状態となり、把持爪3は閉じた状態となっている。
補正板4は、把持した苗の姿勢および幅方向の把持位置を補正するためのものであって、把持爪3を挟んで平行に設けられた2枚の板状部材により構成される。補正板4の先端部は、投入ハンド1の取付角度に応じ、進出時に苗が垂直状態となるよう2枚の板の先端の位置がそれぞれ調整される。補正板4の後端部は、長孔51を有するガイド部5を構成しており、軸材9と長孔51の作用により、補正板4をスライド可能としている。また、補正板4は、駆動部材11とも連結されている。
駆動部材11には、ねじ部材8が固設されており、ねじ部材8にはワイヤ7が接続される。ワイヤ7の他端は、図示しないアクチュエータに接続されている。アクチュエータの作動により、ワイヤ7が後ろ側に引っ張られ、駆動部材11が後ろ側に移動すると屈曲部31が開放され、把持爪3が開いた状態となる。また、ワイヤ7の作動とともに駆動部材11と連結した補正板4もスライド動する。このように、投入ハンド1は、一本のワイヤにより、駆動部材11を動作させることで、把持爪3と補正板4を同時に動作させることが可能である。駆動系を簡易な構成とするとともに、把持爪3と補正板4の動作を同期させることを可能としている。
以上のハンド1を構成する各部材は、オートクレーブ滅菌するときに容易に分解できるようになっている。
なお、ハンド1後部の把持爪3の固定具を外すだけで、把持爪3のみを容易に交換することも可能である。これにより把持爪3のみを取り外して滅菌したり、対象物に最適な強度、弾性、材質のものに交換することも容易に行うことができる。
把持爪3は、ピンセット状に構成された2枚の長材であり、長手方向の中央部近辺に屈曲部31を有している。駆動部材11は、弾性部材6により付勢されており、ワイヤ7からの動力を受けないときは、屈曲部31が駆動部材11により押圧された状態となり、把持爪3は閉じた状態となっている。
補正板4は、把持した苗の姿勢および幅方向の把持位置を補正するためのものであって、把持爪3を挟んで平行に設けられた2枚の板状部材により構成される。補正板4の先端部は、投入ハンド1の取付角度に応じ、進出時に苗が垂直状態となるよう2枚の板の先端の位置がそれぞれ調整される。補正板4の後端部は、長孔51を有するガイド部5を構成しており、軸材9と長孔51の作用により、補正板4をスライド可能としている。また、補正板4は、駆動部材11とも連結されている。
駆動部材11には、ねじ部材8が固設されており、ねじ部材8にはワイヤ7が接続される。ワイヤ7の他端は、図示しないアクチュエータに接続されている。アクチュエータの作動により、ワイヤ7が後ろ側に引っ張られ、駆動部材11が後ろ側に移動すると屈曲部31が開放され、把持爪3が開いた状態となる。また、ワイヤ7の作動とともに駆動部材11と連結した補正板4もスライド動する。このように、投入ハンド1は、一本のワイヤにより、駆動部材11を動作させることで、把持爪3と補正板4を同時に動作させることが可能である。駆動系を簡易な構成とするとともに、把持爪3と補正板4の動作を同期させることを可能としている。
以上のハンド1を構成する各部材は、オートクレーブ滅菌するときに容易に分解できるようになっている。
なお、ハンド1後部の把持爪3の固定具を外すだけで、把持爪3のみを容易に交換することも可能である。これにより把持爪3のみを取り外して滅菌したり、対象物に最適な強度、弾性、材質のものに交換することも容易に行うことができる。
投入ハンド1は、R軸モータとともにZ軸移動手段に接続される。Z軸移動手段は、X軸移動手段に接続されており、X軸方向に移動自在である。制御部から把持命令を受けると、X軸移動手段は、投入ハンド1を把持位置X座標の上方まで移動し、R軸モータにより投入ハンド1をθ回転し、Z軸移動手段により降下させ、図示しないアクチュエータにより把持爪3を開閉させて苗を把持し、再びZ軸移動手段により上昇する。続いて、図示しないアクチュエータにより補正板4を進出動させて把持した苗を垂直状態とする。
図6aは苗を把持した直後の投入ハンド1の写真であり、図6bが苗を垂直状態に補正した後の投入ハンド1の写真である。投入ハンド1は、対向する一対の把持爪3と、把持爪3と直交し、把持爪3を挟むよう配設された対向する一対の補正板4と、これらにアクチュエータの動力を伝達する伝達部材を備え、把持爪3が把持した苗に、補正板4を進出動して当接させることで苗の姿勢を垂直状態に補正し、幅方向の把持位置を補正することができる。苗を垂直状態にした後、X軸移動手段により受渡装置102の位置まで苗を把持した投入ハンド1は移動され、受渡装置102に苗の受け渡しを行う。
投入ハンド1は、2枚の補正板4を用いて姿勢等補正機構を構成したため、数mmのスライド移動で苗の姿勢を変化させることができるので姿勢等の補正処理速度が格段に速い(約0.1秒)。また、投入ハンド1による一連の処理のサイクルタイムは僅か5秒程度である。
図6aは苗を把持した直後の投入ハンド1の写真であり、図6bが苗を垂直状態に補正した後の投入ハンド1の写真である。投入ハンド1は、対向する一対の把持爪3と、把持爪3と直交し、把持爪3を挟むよう配設された対向する一対の補正板4と、これらにアクチュエータの動力を伝達する伝達部材を備え、把持爪3が把持した苗に、補正板4を進出動して当接させることで苗の姿勢を垂直状態に補正し、幅方向の把持位置を補正することができる。苗を垂直状態にした後、X軸移動手段により受渡装置102の位置まで苗を把持した投入ハンド1は移動され、受渡装置102に苗の受け渡しを行う。
投入ハンド1は、2枚の補正板4を用いて姿勢等補正機構を構成したため、数mmのスライド移動で苗の姿勢を変化させることができるので姿勢等の補正処理速度が格段に速い(約0.1秒)。また、投入ハンド1による一連の処理のサイクルタイムは僅か5秒程度である。
投入装置101の制御系におけるインターフェース構成は、図7に示すとおりである。センサコントローラは、苗コンベア上に投入された苗が自動処理でピックアップ可能となる座標、回転角などの情報を制御装置に送信する。センサコントローラは、制御装置からのトリガ信号に応じて撮影・計測を行い、算出した苗コンベア停止位置を苗が通過しない間に、上記情報の送信を行う。
カメラ撮影の外部トリガについては、必要性に応じて信号を送信する。ここで、必要性は、苗コンベア移動中の撮影タイミングに苗が撮像エリアで撮影されるか否かで判断する。
センサコントローラは、作業者によりライン投入された苗の不規則な苗姿勢および方向を自動処理する。ここで、センサコントローラは計測器としての利用を主たる目的とするものではないので、オーバースペックとなる精度追求はせず、実用化に必要な処理速度を優先している。本実施例では、Windows(登録商標)をプラットホームとするパーソナルコンピュータで構成した。
カメラ撮影の外部トリガについては、必要性に応じて信号を送信する。ここで、必要性は、苗コンベア移動中の撮影タイミングに苗が撮像エリアで撮影されるか否かで判断する。
センサコントローラは、作業者によりライン投入された苗の不規則な苗姿勢および方向を自動処理する。ここで、センサコントローラは計測器としての利用を主たる目的とするものではないので、オーバースペックとなる精度追求はせず、実用化に必要な処理速度を優先している。本実施例では、Windows(登録商標)をプラットホームとするパーソナルコンピュータで構成した。
センサコントローラは、苗コンベア進行方向を基準とし、画像中心を座標原点(X、Y座標)として座標を算出する。すなわち、図8に示すように、苗コンベア進行方向がY軸の正方向であり、苗コンベア進行方向に向かって右手をX軸の正方向とする。Z軸は、上方から苗コンベア表面に向かう方向(下降方向)を正方向とする。ただし、本実施例におけるセンサコントローラは、単眼カメラで計測を行うため、Z軸方向の情報は規定値とする。なお、Z軸方向の情報を計測する必要がある場合には、出願人の特許出願に係る特許文献1に開示されるあおり光学系を用いて撮像手段を構成してもよい。
回転角のR軸は設備上方から見て「6時」の位置を0度、「12時」の位置を180度とし、0度基準の時計回り(CW)を正方向、反時計回り(CCW)を負方向とする。図9に苗角度の計測例を示す。
なお、カメラは90度回転させた方向で取り付けしているので、撮影画像から算出した移動量、角度等の各情報はセンサコントローラ内部で座標および角度変換し、制御装置には上記座標および角度の考え方に応じた情報として送信することとする。
回転角のR軸は設備上方から見て「6時」の位置を0度、「12時」の位置を180度とし、0度基準の時計回り(CW)を正方向、反時計回り(CCW)を負方向とする。図9に苗角度の計測例を示す。
なお、カメラは90度回転させた方向で取り付けしているので、撮影画像から算出した移動量、角度等の各情報はセンサコントローラ内部で座標および角度変換し、制御装置には上記座標および角度の考え方に応じた情報として送信することとする。
センサコントローラが認識、計測を行う内容を図10に示す。センサコントローラは、制御装置の計測要求が発生した時点で次の処理を行う。
1)把持位置検出
2)上下方向検出
3)茎角度検出
4)苗全長検出
5)把持可能長検出
上記の計測項目の内、1)〜3)はピックアップに必要な設備動作情報であり、4)〜5)は自動処理可否の判断情報である。
1)把持位置検出
2)上下方向検出
3)茎角度検出
4)苗全長検出
5)把持可能長検出
上記の計測項目の内、1)〜3)はピックアップに必要な設備動作情報であり、4)〜5)は自動処理可否の判断情報である。
センサコントローラから制御装置への送信制御情報は次のとおりである。
ア)X軸スライダ移動量
イ)Y軸苗コンベア移動量
ウ)Z軸スライダ移動量
エ)R軸モータ回転角度
オ)自動処理可否判定結果コード[0=可(実行)/1=否(ラインアウト)]
ただし、制御装置への情報送信において、X,Y,Z軸方向の移動量は0.1ミリメートル単位での精度が必要と考えるが、制御装置のメモリ領域であるリンクレジスタ(LW)が整数型であるために小数点以下の精度を必要とする移動量情報ア)〜ウ)については、×10倍の整数型として送信する。また、送信情報の書き換え(消去)は次回の情報書込み時とし、デバッグ等で制御装置が送信情報を動作後でも確認できるよう配慮する。送信情報の制御装置への読込要求はリンクリレー(LB)へのビット出力を使用する。出力方法は予め設定された時間(例えば、1秒)のパルス出力とし、出力要求信号が残存しないこととする。なお、送信情報の制御装置への読込要求はDI/Oなど他の情報手段を用いてもよい。
ア)X軸スライダ移動量
イ)Y軸苗コンベア移動量
ウ)Z軸スライダ移動量
エ)R軸モータ回転角度
オ)自動処理可否判定結果コード[0=可(実行)/1=否(ラインアウト)]
ただし、制御装置への情報送信において、X,Y,Z軸方向の移動量は0.1ミリメートル単位での精度が必要と考えるが、制御装置のメモリ領域であるリンクレジスタ(LW)が整数型であるために小数点以下の精度を必要とする移動量情報ア)〜ウ)については、×10倍の整数型として送信する。また、送信情報の書き換え(消去)は次回の情報書込み時とし、デバッグ等で制御装置が送信情報を動作後でも確認できるよう配慮する。送信情報の制御装置への読込要求はリンクリレー(LB)へのビット出力を使用する。出力方法は予め設定された時間(例えば、1秒)のパルス出力とし、出力要求信号が残存しないこととする。なお、送信情報の制御装置への読込要求はDI/Oなど他の情報手段を用いてもよい。
センサコントローラから制御情報を受信した制御装置は、センサカメラ、投入ハンド1、苗コンベアやスライダ等の機器類の作動を制御する。センサコントローラおよび制御装置の機能を図11に開示する。
《ピックアップ動作の概要》
基本思想は、撮影する画像中心と投入ハンド待機原点を基準位置として同一線上に合わせ、画像認識で得た把持位置の基準位置からのズレ量および角度情報で投入ハンド1の位置決めを行うというものである。投入ハンド1による苗のピックアップ時には、苗コンベアは一時的に停止されており、投入ハンド1は次の手順で苗コンベア上の苗をピックアップする。
1)Y軸(苗コンベア)移動
Y軸方向の移動は苗コンベアで行い、実移動量は苗把持位置と画像中心のズレ量(=y)で決定される。
2)X軸(スライダ)移動
X軸方向の移動はスライダで行い、実移動量は苗把持位置と画像中心のズレ量(=x)で決定される。
3)R軸(モータ)回転
R軸の回転はZ軸スライダ上のR軸モータで行い、実回転量は画像認識による苗上下方向判断で決定される。
4)Z軸(スライダ)移動
Z軸方向の移動はX軸スライダ上のZ軸スライダで行い、下降量は一定(苗コンベア面)とする。苗姿勢等による認識失敗の場合、画像認識センサは制御装置にピックアップ指示を出さず、苗コンベアを停止しないで次苗処理を継続させる。(当該苗はラインアウト処理となる。)ラインアウトした苗は苗コンベア端の容器に落下し、作業者が再投入を行うことで苗を無駄にしない。
基本思想は、撮影する画像中心と投入ハンド待機原点を基準位置として同一線上に合わせ、画像認識で得た把持位置の基準位置からのズレ量および角度情報で投入ハンド1の位置決めを行うというものである。投入ハンド1による苗のピックアップ時には、苗コンベアは一時的に停止されており、投入ハンド1は次の手順で苗コンベア上の苗をピックアップする。
1)Y軸(苗コンベア)移動
Y軸方向の移動は苗コンベアで行い、実移動量は苗把持位置と画像中心のズレ量(=y)で決定される。
2)X軸(スライダ)移動
X軸方向の移動はスライダで行い、実移動量は苗把持位置と画像中心のズレ量(=x)で決定される。
3)R軸(モータ)回転
R軸の回転はZ軸スライダ上のR軸モータで行い、実回転量は画像認識による苗上下方向判断で決定される。
4)Z軸(スライダ)移動
Z軸方向の移動はX軸スライダ上のZ軸スライダで行い、下降量は一定(苗コンベア面)とする。苗姿勢等による認識失敗の場合、画像認識センサは制御装置にピックアップ指示を出さず、苗コンベアを停止しないで次苗処理を継続させる。(当該苗はラインアウト処理となる。)ラインアウトした苗は苗コンベア端の容器に落下し、作業者が再投入を行うことで苗を無駄にしない。
《画像認識処理》
苗のピックアップの前工程として、センサコントローラは、計測した情報に基づいて画像認識処理を行い、把持位置を決定する。光電センサにのみでは、コンベア上に非整然と載置された苗の把持位置を検出することは不可能だからである。画像認識処理のアルゴリズには種々のものがあるが、例えば、出願人の特許出願に係る特許文献1に開示される。
従来の画像認識処理は、図12の左側に示すとおりの手順で行われていた。本実施例は、図12の点線で囲んだ茎下端を検出するアルゴリズムの部分で、従来の画像処理認識と相違する。すなわち、従来は二値化画像で苗と想定する部分の全ての端点を検出し、最も重心から遠い位置の端点を茎下端と見なして計測処理を行っていたが、本実施例では苗と想定する部分について上下左右の最遠点を囲む方形領域(苗領域)を形成し、これらの端点の中から最も茎である確率の高いものを検出する。図13に、苗の形状および姿勢と端点の組み合わせ例を示す(なお、自動処理「否」のパターンも含む。)。
苗のピックアップの前工程として、センサコントローラは、計測した情報に基づいて画像認識処理を行い、把持位置を決定する。光電センサにのみでは、コンベア上に非整然と載置された苗の把持位置を検出することは不可能だからである。画像認識処理のアルゴリズには種々のものがあるが、例えば、出願人の特許出願に係る特許文献1に開示される。
従来の画像認識処理は、図12の左側に示すとおりの手順で行われていた。本実施例は、図12の点線で囲んだ茎下端を検出するアルゴリズムの部分で、従来の画像処理認識と相違する。すなわち、従来は二値化画像で苗と想定する部分の全ての端点を検出し、最も重心から遠い位置の端点を茎下端と見なして計測処理を行っていたが、本実施例では苗と想定する部分について上下左右の最遠点を囲む方形領域(苗領域)を形成し、これらの端点の中から最も茎である確率の高いものを検出する。図13に、苗の形状および姿勢と端点の組み合わせ例を示す(なお、自動処理「否」のパターンも含む。)。
《茎下端の検出》
把持位置を検出するためには、検出処理の起点となる茎下端を検出しなくてはならない。茎下端は、方形領域(苗領域)に属する端点を候補点とし、候補点をソートし、ソート順に候補点を判定することにより行う。方形領域は以下の手順で設定する。
(1)撮影画像を二値化
(2)画像内のラベリング処理(塊の抽出:ノイズ等も含めて複数存在する場合有り)
(3)ラベリングされた領域(塊)中で最大のものを「苗」とみなす。なお、領域が1つの場合は最大検査を行わない。
(4)苗と見なした領域(塊)の画像座標上のX最大値、X最小値、Y最大値、Y最小値を求める。
(5)求めたX最大値、X最小値、Y最大値、Y最小値を辺とする方形領域を設定し、以後は方形領域のみ処理対象とする。
ここで、コンベア上の苗の位置、方向等は都度変化するので、方形領域の位置、大きさ等は毎回変化する。
把持位置を検出するためには、検出処理の起点となる茎下端を検出しなくてはならない。茎下端は、方形領域(苗領域)に属する端点を候補点とし、候補点をソートし、ソート順に候補点を判定することにより行う。方形領域は以下の手順で設定する。
(1)撮影画像を二値化
(2)画像内のラベリング処理(塊の抽出:ノイズ等も含めて複数存在する場合有り)
(3)ラベリングされた領域(塊)中で最大のものを「苗」とみなす。なお、領域が1つの場合は最大検査を行わない。
(4)苗と見なした領域(塊)の画像座標上のX最大値、X最小値、Y最大値、Y最小値を求める。
(5)求めたX最大値、X最小値、Y最大値、Y最小値を辺とする方形領域を設定し、以後は方形領域のみ処理対象とする。
ここで、コンベア上の苗の位置、方向等は都度変化するので、方形領域の位置、大きさ等は毎回変化する。
方形領域を設定したら、方形領域の辺に属する端点から茎下端を検出する。茎下端である確率が最も高いと判断されるのは、次の条件に適合する候補点である。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)苗の重心から各辺に垂線を引き最遠となる辺に属する候補点
なお、候補点が選定された際に、選定された端点を茎下端とした場合に、後述するように茎直径最大値(=E最大値)以下となるかどうかをチェックすることが好ましい。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)苗の重心から各辺に垂線を引き最遠となる辺に属する候補点
なお、候補点が選定された際に、選定された端点を茎下端とした場合に、後述するように茎直径最大値(=E最大値)以下となるかどうかをチェックすることが好ましい。
候補点の検出は、一の角から隣接する他の角まで方形領域の辺上をトレースすることにより行う。候補点の検出に際し、二値化画像の輪郭線の荒さから方形領域の辺との接点が微小範囲内に複数発生する場合がある。実際には1点と判断するべき候補点が数ピクセルの間隔で数点検出されるような場合、これらの全てを正直に候補点として扱うと、(あ)「茎端らしさ」判断の障害、(い)処理時間が無駄となる。そこで、方形領域の同一辺内において一定距離(連続許容範囲)以上端点が連続する場合には、当該一定距離の範囲はマスクし、一定距離外で最初に検出された端点を候補点として扱うこととした。すなわち、方形領域の辺上にワークが面で接する部分(=端点が連続する部分)がある場合、一定距離内で連続する部分はスキップするが、たとえ1ドットであっても一定距離内で連続が途切れた場合、次に検出されたドットは異なる端点と見なして有効としている。実際の茎端の横に葉やノイズが接近して撮影された場合に、単に一定距離スキップするだけでは本当の茎端をとばしてしまう可能性があるからである。
この一定距離の値はシステム設定ファイルで固定とし、GUIによる設定変更は不可とする。本実施例では、連続許容範囲のデフォルト値は5(pixel)とした。
なお、実際の茎端とノイズや葉が連続してしまった場合は、実際の茎端は検出できず、ラインアウトされることとなる。
この一定距離の値はシステム設定ファイルで固定とし、GUIによる設定変更は不可とする。本実施例では、連続許容範囲のデフォルト値は5(pixel)とした。
なお、実際の茎端とノイズや葉が連続してしまった場合は、実際の茎端は検出できず、ラインアウトされることとなる。
図20は、端点検出時の連続許容範囲を5pixelとした場合の具体的な処理の説明図面である。図20では、説明のために方形領域の辺のみのドットを明記しているが、実際にはそれ以外のドットも存在する。
方形領域の辺に広範囲で接する物体(例えば葉やノイズ)が存在する場合、これを除外することが必要である。そのため、本来は、連続許容範囲の幅の設定は「茎直径+α」が望ましい。斜めに切断された茎端が辺に接する場合、二値化変換時に多少の輪郭の拡大が発生する場合、影などの影響で撮影画像が実際の茎直径より太く見える場合などがあるからである。しかし、連続許容範囲の設定は、「茎直径+α」ではなく、より大きい値を設定するのが好ましい。その理由は、明らかに茎でない物体に対して、多くの端点処理を行うことなく「1つの塊」として捉え、分岐点の幅チェックで「茎ではない」と判断することで誤認識を防止するとともに、処理速度を向上することができるからである。図20において、例えば、連続許容範囲を「20pixel」に設定すると、端点(3)〜(6)は1つの端点として扱える(端点(7)が端点(4)となる)ので、検出処理の対象となる端点数は減少する。
方形領域の辺に広範囲で接する物体(例えば葉やノイズ)が存在する場合、これを除外することが必要である。そのため、本来は、連続許容範囲の幅の設定は「茎直径+α」が望ましい。斜めに切断された茎端が辺に接する場合、二値化変換時に多少の輪郭の拡大が発生する場合、影などの影響で撮影画像が実際の茎直径より太く見える場合などがあるからである。しかし、連続許容範囲の設定は、「茎直径+α」ではなく、より大きい値を設定するのが好ましい。その理由は、明らかに茎でない物体に対して、多くの端点処理を行うことなく「1つの塊」として捉え、分岐点の幅チェックで「茎ではない」と判断することで誤認識を防止するとともに、処理速度を向上することができるからである。図20において、例えば、連続許容範囲を「20pixel」に設定すると、端点(3)〜(6)は1つの端点として扱える(端点(7)が端点(4)となる)ので、検出処理の対象となる端点数は減少する。
ところで、候補点が方形領域の角となった場合、実際には1点しかないのに、隣接する2辺で各々に候補点として検出されてしまう。一定距離以内であっても同一辺内ではないため、上記手法で除外されない。しかし、上記(イ)〜(ハ)の条件で絞り込みをした際に、隣接する2辺の順序に影響はないことから、そのまま隣接する2辺で各々に1候補点として扱うこととする。
以上をまとめると、候補点から茎下端を検出するための好ましい手順例は次のとおりとなる。
(1)方形領域を構成する短辺であり、かつ、属する候補点が少ない辺を選択する(イandロ)。
(2)上記1)の条件を満たす辺が複数ある場合には、苗の重心から遠い方の辺を選択する(条件ハ)。
(3)選択した辺上の候補点が1点である場合には、この点を茎下端の第1候補点とする。候補点が複数ある場合には、座標値の小さい方から順に、茎下端かどうかの判定を行うものとする。
(4)判定処理の対象となる候補点から、茎の左右において、分岐点を検出する(チェーンコード作成)。
(5)茎両側面で検出した各々の分岐点位置のワークの幅が、茎直径(=E)範囲外の場合には、対象外(=葉)として他の候補点を選択し、(3)〜(5)の判定処理を行う。茎両側面で検出した各々の分岐点位置のワークの幅が、茎直径(=E)範囲内の場合には、当該候補点を茎下端と判定し、把持位置の検出処理を行う。
(6)選択した辺に属する候補点が全て対象外と判断された場合には、他の短辺に属する候補点について上記(3)〜(5)の判定処理を行う。
(7)両方の短辺の全ての候補点が対象外と判断された場合には、候補点の少ない長辺に属する候補点について上記(3)〜(5)の判定処理を行う。
(8)選択した長辺の候補点が全て対象外と判断された場合には、残る長辺について上記(3)〜(5)の判定処理を行う。
(9)全ての候補点が対象外と判断された場合には、リトライまたはラインアウト処理とする。
なお、上記の流れは全ての候補点を確認する場合の処理であり、処理時間を考慮していずれかの処理を省略してもよい。
(1)方形領域を構成する短辺であり、かつ、属する候補点が少ない辺を選択する(イandロ)。
(2)上記1)の条件を満たす辺が複数ある場合には、苗の重心から遠い方の辺を選択する(条件ハ)。
(3)選択した辺上の候補点が1点である場合には、この点を茎下端の第1候補点とする。候補点が複数ある場合には、座標値の小さい方から順に、茎下端かどうかの判定を行うものとする。
(4)判定処理の対象となる候補点から、茎の左右において、分岐点を検出する(チェーンコード作成)。
(5)茎両側面で検出した各々の分岐点位置のワークの幅が、茎直径(=E)範囲外の場合には、対象外(=葉)として他の候補点を選択し、(3)〜(5)の判定処理を行う。茎両側面で検出した各々の分岐点位置のワークの幅が、茎直径(=E)範囲内の場合には、当該候補点を茎下端と判定し、把持位置の検出処理を行う。
(6)選択した辺に属する候補点が全て対象外と判断された場合には、他の短辺に属する候補点について上記(3)〜(5)の判定処理を行う。
(7)両方の短辺の全ての候補点が対象外と判断された場合には、候補点の少ない長辺に属する候補点について上記(3)〜(5)の判定処理を行う。
(8)選択した長辺の候補点が全て対象外と判断された場合には、残る長辺について上記(3)〜(5)の判定処理を行う。
(9)全ての候補点が対象外と判断された場合には、リトライまたはラインアウト処理とする。
なお、上記の流れは全ての候補点を確認する場合の処理であり、処理時間を考慮していずれかの処理を省略してもよい。
《把持位置検出》
把持位置検出においては、茎下端から茎輪郭を追い、輪郭線が急に方向変化する点を「分岐点」と呼び、分岐点のうち最も茎下端に近い点を「検出点」と呼ぶものとする。葉が茎両側で段違いの場合もあることから、茎両側を計測し、茎下端に近い(条件の悪い)側を検出点として採用することで、把持失敗率を低減する。
分岐点は、葉の根本であることから、検出点が茎下端から見て把持できる最上位置と考えられる。しかし、検出点を把持位置とすると、葉に接触してピックアップを失敗する可能性が非常に高い。そこで、検出点から茎下端側に所定値オフセットした値を把持位置とするものとする。すなわち、センサコントローラは、検出点より茎下端側にオフセットした位置を指示する把持位置情報を制御装置に送信する。この把持位置オフセット量(例えば、0〜5.0mm)はセンサコントローラのGUIで設定される項目とする。
把持位置検出においては、茎下端から茎輪郭を追い、輪郭線が急に方向変化する点を「分岐点」と呼び、分岐点のうち最も茎下端に近い点を「検出点」と呼ぶものとする。葉が茎両側で段違いの場合もあることから、茎両側を計測し、茎下端に近い(条件の悪い)側を検出点として採用することで、把持失敗率を低減する。
分岐点は、葉の根本であることから、検出点が茎下端から見て把持できる最上位置と考えられる。しかし、検出点を把持位置とすると、葉に接触してピックアップを失敗する可能性が非常に高い。そこで、検出点から茎下端側に所定値オフセットした値を把持位置とするものとする。すなわち、センサコントローラは、検出点より茎下端側にオフセットした位置を指示する把持位置情報を制御装置に送信する。この把持位置オフセット量(例えば、0〜5.0mm)はセンサコントローラのGUIで設定される項目とする。
分岐点を検出するための好ましい手順例は次のとおりとなる。
(1)検出した茎下端から輪郭のチェーンコードを作成する。
(2)輪郭線が急に変化する点を分岐点として判断する(図14参照)。本実施例では、急な変化率の判断基準を、検出角が30度以上である場合とした。
なお、急な変化率の最適値はワークにより異なるので、実験により求めるのが好ましい。例えば、ユーカリの場合は30度以上とするのが好ましいが、茶木苗の場合は15度以上とするのが好ましい。
(3)上記の処理を茎の左右で行う。茎両側で分岐点が段違いで存在する可能性があるためである。
(4)左右に分岐点がある場合、茎端から近い側の分岐点、すなわち、把持条件の悪い側を検出点とする。
(1)検出した茎下端から輪郭のチェーンコードを作成する。
(2)輪郭線が急に変化する点を分岐点として判断する(図14参照)。本実施例では、急な変化率の判断基準を、検出角が30度以上である場合とした。
なお、急な変化率の最適値はワークにより異なるので、実験により求めるのが好ましい。例えば、ユーカリの場合は30度以上とするのが好ましいが、茶木苗の場合は15度以上とするのが好ましい。
(3)上記の処理を茎の左右で行う。茎両側で分岐点が段違いで存在する可能性があるためである。
(4)左右に分岐点がある場合、茎端から近い側の分岐点、すなわち、把持条件の悪い側を検出点とする。
チェーンコード作成時に行う輪郭線の傾き検出処理について、図15を参照しながら説明する。
(1)チェーンコード作成の現在位置をC点とする。
(2)Nピクセル遡った位置をB点とする。
(3)B点から更にNピクセル遡った位置をA点とする。
(4)A点〜B点を結ぶ直線と、B点〜C点を結ぶ直線の傾きを算出する。
(5)算出した傾きが上記「急な変化率」以上となるB点を検出点とする。
以上の手順において、傾き算出の基準となる直線部分のピクセル数(=N)の値を小さくとれば検出精度が高くなるが、二値化画像輪郭の小さな凹凸を検出して実際の葉分岐点と異なる位置を検出する可能性が高くなる。逆にNを大きくとれば二値化画像輪郭の小さな凹凸は除外できるが、必要範囲が長くなり、検出範囲が狭くなる。本実施例においては、N値は、実験により適正と判断する値を算出する。
(1)チェーンコード作成の現在位置をC点とする。
(2)Nピクセル遡った位置をB点とする。
(3)B点から更にNピクセル遡った位置をA点とする。
(4)A点〜B点を結ぶ直線と、B点〜C点を結ぶ直線の傾きを算出する。
(5)算出した傾きが上記「急な変化率」以上となるB点を検出点とする。
以上の手順において、傾き算出の基準となる直線部分のピクセル数(=N)の値を小さくとれば検出精度が高くなるが、二値化画像輪郭の小さな凹凸を検出して実際の葉分岐点と異なる位置を検出する可能性が高くなる。逆にNを大きくとれば二値化画像輪郭の小さな凹凸は除外できるが、必要範囲が長くなり、検出範囲が狭くなる。本実施例においては、N値は、実験により適正と判断する値を算出する。
分岐点の検出処理において、葉の付け根形状によっては、変化率の基準に満たない緩やかな傾斜となっている場合が想定される。この場合においては、画像認識では判断ができないので、苗サイズの規定値に従い、茎端からの長さの設定最大値(=C最大値+D最大値)を以て分岐点とみなす。分岐点の正確な座標を把握することが重要なのではなく、投入ハンド1が茎を把持するという実用的な目的が達成できればよいからである。検出点が決まれば、把持位置は予め設定されたオフセット量だけ茎下端に向けて茎の輪郭を下がった位置として決定できる。
茎下端の検出と把持位置の検出を完了することで、茎角度が算出可能となる。検出した茎下端および把持位置の座標に基づき、茎下端と把持位置を直線で結び、これと苗コンベア進行方向の垂線との角度を近似した茎角度(=R軸モータ回転角度)とする。なお、角度の表現は図8の考え方に従うものとする。
茎下端の検出と把持位置の検出を完了することで、茎角度が算出可能となる。検出した茎下端および把持位置の座標に基づき、茎下端と把持位置を直線で結び、これと苗コンベア進行方向の垂線との角度を近似した茎角度(=R軸モータ回転角度)とする。なお、角度の表現は図8の考え方に従うものとする。
以上に述べた、本実施例の画像認識処理のアルゴリズムにおいては、方形領域に接する候補点中から「最も茎端らしい」1点を正確に選択することが重要である。このことは同時に、候補点中に茎端が含まれず姿勢・形状不良によるリトライ(またはラインアウト)を早期に判断することができることを意味し、次苗処理待機への移行が正確かつ早くすることができる。
本実施例のアルゴリズムによるメリットは次のとおりである。
(1)方形領域を形成した時点で明らかなサイズ異常を早期に発見できる。
(2)検出する端点の数が少ないので処理速度の向上が見込める。
(3)方形領域を構成する4辺から条件により茎下端の可能性の高いものから順に処理を行えるので処理速度と認識精度の向上が見込める。
(4)限られた方形領域(苗領域)の範囲内だけを処理するので処理速度の向上が見込める。
(5)方形領域を構成する4辺に接する全ての点が茎でないと判断できれば苗が逆立ち状態などの姿勢異常と判断でき処理速度と認識精度の向上が見込める。
本実施例のアルゴリズムによるメリットは次のとおりである。
(1)方形領域を形成した時点で明らかなサイズ異常を早期に発見できる。
(2)検出する端点の数が少ないので処理速度の向上が見込める。
(3)方形領域を構成する4辺から条件により茎下端の可能性の高いものから順に処理を行えるので処理速度と認識精度の向上が見込める。
(4)限られた方形領域(苗領域)の範囲内だけを処理するので処理速度の向上が見込める。
(5)方形領域を構成する4辺に接する全ての点が茎でないと判断できれば苗が逆立ち状態などの姿勢異常と判断でき処理速度と認識精度の向上が見込める。
《自動処理可否の判断》
計測した情報に基づいて、センサコントローラは、自動処理可否の判断を行う。
自動処理可否の判定については、(あ)把持できない、(い)姿勢補正できない、(う)植え込みできない等の理由により自動処理不可と判断し、結果を「否」として制御装置へ送信する。
一)画像認識処理による例外処理としては、次のものが想定される(符号は図2参照)。
(1)茎下端〜検出点(オフセット演算前)の長さが苗サイズ規定値(C+D)未満
(2)苗全長が苗サイズ規定値(A)未満
(3)茎下端〜把持位置(オフセット演算後)の長さが苗サイズ規定値(D)未満
(4)苗上下方向の判別が不可能(=移動量算出不可能)
二)センサコントローラ機能による例外処理としては、次のものが想定される。
(1)苗無し(光電センサの誤検出など)
(2)苗の上下方向判定ができない(逆立ち姿勢など)
(3)葉が茎の上に重なり検出点が極端に茎下部に近い位置で検出された
(4)葉が茎の上に重なり検出点が見つからず極端に茎上部に近い位置で判断された
(5)葉の分岐角度が極端に緩やかで検出点が見つからない
(6)制御装置に送信する移動量情報の範囲が適正でない
計測した情報に基づいて、センサコントローラは、自動処理可否の判断を行う。
自動処理可否の判定については、(あ)把持できない、(い)姿勢補正できない、(う)植え込みできない等の理由により自動処理不可と判断し、結果を「否」として制御装置へ送信する。
一)画像認識処理による例外処理としては、次のものが想定される(符号は図2参照)。
(1)茎下端〜検出点(オフセット演算前)の長さが苗サイズ規定値(C+D)未満
(2)苗全長が苗サイズ規定値(A)未満
(3)茎下端〜把持位置(オフセット演算後)の長さが苗サイズ規定値(D)未満
(4)苗上下方向の判別が不可能(=移動量算出不可能)
二)センサコントローラ機能による例外処理としては、次のものが想定される。
(1)苗無し(光電センサの誤検出など)
(2)苗の上下方向判定ができない(逆立ち姿勢など)
(3)葉が茎の上に重なり検出点が極端に茎下部に近い位置で検出された
(4)葉が茎の上に重なり検出点が見つからず極端に茎上部に近い位置で判断された
(5)葉の分岐角度が極端に緩やかで検出点が見つからない
(6)制御装置に送信する移動量情報の範囲が適正でない
センサコントローラは、図17に示す手順で自動処理可否の判断を行う。すなわち、撮影・認識処理を行い(STEP1)、上記の理由等で自動処理の可否を判断し(STEP2)、自動処理を不可と判断した場合には、前回もリトライ処理したかを判断する(STEP3)。リトライ処理が連続した場合には、自動処理を可と判断した場合と同様に、STEP6へ進む。リトライ処理が連続しない場合には、制御装置にリトライ要求を送信し(STEP4)、通常の待機状態に戻る(STEP5)。ここで、表現上は「リトライ」としているが、実際は「認識リトライ装置」により苗を撮像の上流に戻し、トリガ入力から再認識することを意味する。ただし、センサコントローラは設備動作について関知する必要はなく、撮像トリガ入力に対して処理を進行するのみとする。
上記STEP3では、リトライ処理が2回連続することを回避しているのは、同一苗のリトライ処理が繰り返されることにより生産が停滞することを防止するためである。ここでは、物理的なリトライ処理の失敗により次苗をリトライと判断しないよう、リトライ要求後予め設定された時間(例えば、3秒)以内にトリガ要求が発生しない場合は、内部フラグをクリアし、次苗をリトライ処理と判断しない。
上記STEP3では、リトライ処理が2回連続することを回避しているのは、同一苗のリトライ処理が繰り返されることにより生産が停滞することを防止するためである。ここでは、物理的なリトライ処理の失敗により次苗をリトライと判断しないよう、リトライ要求後予め設定された時間(例えば、3秒)以内にトリガ要求が発生しない場合は、内部フラグをクリアし、次苗をリトライ処理と判断しない。
例外処理は実行速度とトレードオフとなることから、その発生頻度を考慮して対応処理の追加を検討する必要があり、実用上で問題とならないレベルのものについては通常処理範囲で対応する。例外処理が想定される代表的な類型を以下に示す。
一)撮影対象無しの類型
何らかの原因により、撮影画像に何も写っていない場合の処理は以下とする。
(1)撮影画像が「完全な黒画面(=全面に真黒の物体が写っている)」となる場合
この場合は苗領域の方形領域が認識可能の全領域となり、苗領域サイズが最大値を超過することを理由に認識失敗の判断を行い、通常のリトライまたはラインアウト処理を行う。
(2)撮影画像が「完全な白画面(=苗無し)」となる場合
この場合はラベリング処理が方形領域(苗領域)そのものを定義することができず、エラー判断するためにラベリング処理失敗を理由に認識失敗の判断を行い、通常のリトライまたはラインアウト処理を行う。
二)複数の苗が撮影される類型
図18に示すように、何らかの原因により、撮影画像に複数の苗が写っている場合の処理は以下とする。
(1)苗自体は重ならず、かつ各方形領域が重ならない場合
苗と判断されたラベリング領域の最も大きいものをターゲットとして通常処理を行う。この場合、ラベリング領域最大となった苗部分において、姿勢不良等による認識失敗が発生しても、他の候補を再検出して処理することはしない。
(2)苗自体は重ならず、かつ各方形領域が重なる場合
この場合は上記(1)と同様の処理とする。ただし、方形領域上に選択されなかった苗が重なる場合、重なった部分も端点候補として認識することになる。(チェーンコード作成時にエラーとなるはずなので実害は無いと判断する。)
(3)苗自体が重なっている場合
苗の重なり具合にもよるが、方形領域が最大値を超過する場合は、苗領域の最大値超過の判断により認識エラーとして通常のリトライまたはラインアウト処理を行う。苗領域が最大値を超過しない場合は通常の処理を行うが、大抵の場合においては苗形状不良の判断により認識エラーとして通常のリトライまたはラインアウト処理を行うと考えられる。
一)撮影対象無しの類型
何らかの原因により、撮影画像に何も写っていない場合の処理は以下とする。
(1)撮影画像が「完全な黒画面(=全面に真黒の物体が写っている)」となる場合
この場合は苗領域の方形領域が認識可能の全領域となり、苗領域サイズが最大値を超過することを理由に認識失敗の判断を行い、通常のリトライまたはラインアウト処理を行う。
(2)撮影画像が「完全な白画面(=苗無し)」となる場合
この場合はラベリング処理が方形領域(苗領域)そのものを定義することができず、エラー判断するためにラベリング処理失敗を理由に認識失敗の判断を行い、通常のリトライまたはラインアウト処理を行う。
二)複数の苗が撮影される類型
図18に示すように、何らかの原因により、撮影画像に複数の苗が写っている場合の処理は以下とする。
(1)苗自体は重ならず、かつ各方形領域が重ならない場合
苗と判断されたラベリング領域の最も大きいものをターゲットとして通常処理を行う。この場合、ラベリング領域最大となった苗部分において、姿勢不良等による認識失敗が発生しても、他の候補を再検出して処理することはしない。
(2)苗自体は重ならず、かつ各方形領域が重なる場合
この場合は上記(1)と同様の処理とする。ただし、方形領域上に選択されなかった苗が重なる場合、重なった部分も端点候補として認識することになる。(チェーンコード作成時にエラーとなるはずなので実害は無いと判断する。)
(3)苗自体が重なっている場合
苗の重なり具合にもよるが、方形領域が最大値を超過する場合は、苗領域の最大値超過の判断により認識エラーとして通常のリトライまたはラインアウト処理を行う。苗領域が最大値を超過しない場合は通常の処理を行うが、大抵の場合においては苗形状不良の判断により認識エラーとして通常のリトライまたはラインアウト処理を行うと考えられる。
本実施例のシステムを、利用するに際しては、事前にキャリブレーションが必要となる。本実施例のシステムにおいては、センサカメラは単眼(2D)かつレーザを使用しないことから、3次元センサカメラのようにカメラを取り外して専用治具を使用するようなキャリブレーション方法を用いない。好ましい、キャリブレーション方法の条件は以下のとおりである。
・カメラが設備に固定された状態で行える
・専用の治具、測定器などは不要
・簡単な方法で行える(ユーザでも実施可能)
なお、センサコントローラはオンライン/オフラインの状態監視を行っていないので、GUIによる作業者の要求が発生すれば、その時点でオンライン処理を停止してキャリブレーションモードに移行する。
なお、キャリブレーションモード中は、制御装置からの撮像トリガ要求があっても、認識処理および制御装置への情報送信は行わないようにしている。情報送信が行われないことで設備側が動作することは無く、作業者の安全が確保される。ただし、システムの安全上、ヒューマンエラー防止などの目的でオンライン中のキャリブレーションモード移行を停止することも可能である。この場合は、制御装置からオンライン/オフラインの状態監視信号をDI/Oなどでセンサコントローラに入力してキャリブレーションモード移行要求をキャンセルする。
・カメラが設備に固定された状態で行える
・専用の治具、測定器などは不要
・簡単な方法で行える(ユーザでも実施可能)
なお、センサコントローラはオンライン/オフラインの状態監視を行っていないので、GUIによる作業者の要求が発生すれば、その時点でオンライン処理を停止してキャリブレーションモードに移行する。
なお、キャリブレーションモード中は、制御装置からの撮像トリガ要求があっても、認識処理および制御装置への情報送信は行わないようにしている。情報送信が行われないことで設備側が動作することは無く、作業者の安全が確保される。ただし、システムの安全上、ヒューマンエラー防止などの目的でオンライン中のキャリブレーションモード移行を停止することも可能である。この場合は、制御装置からオンライン/オフラインの状態監視信号をDI/Oなどでセンサコントローラに入力してキャリブレーションモード移行要求をキャンセルする。
上記を踏まえた、本実施例のシステムにおける具体的なキャリブレーション方法は、図19および以下に示すとおりである。
(1)キャリブレーションモードに切替
(2)画面上の計測補助線の長さを定規で測定
(3)測定した長さを画面上で登録
キャリブレーションモードでは、作業者が画面を見ながら補助線に定規をあてて測定する必要があるので、撮影は「連続モード」とする。画面での測定値設定範囲は0.0〜999.9mmとする。
(1)キャリブレーションモードに切替
(2)画面上の計測補助線の長さを定規で測定
(3)測定した長さを画面上で登録
キャリブレーションモードでは、作業者が画面を見ながら補助線に定規をあてて測定する必要があるので、撮影は「連続モード」とする。画面での測定値設定範囲は0.0〜999.9mmとする。
センサコントローラには設定された数値の確からしさを確認する手段は無いので、設定値に対する範囲チェック等の評価は行わない。ただし、タイプミスと思われる明らかな入力値異常(記号、アルファベットなど)は検査し、異常の場合はエラーガイダンスを表示して作業者に再設定を促す。
システム設定値を変更した際は直ちに変更値を反映する(GUI による「設定反映」ボタンを使用することも可)こととし、ソフトウェアの再起動等を必要としない方式とする。なお、システム設定値の保存はハードディスクにテキストファイル形式で保存し、システム起動時に毎回読み込むようにしてもよい。
システム設定ファイルをテキストエディタ等で直接編集してもよい。ただし、ファイル直接編集の場合はソフトウェアが設定値の変更を確認する手段が無い為にソフトウェアの再起動を条件とする。
計測補助線は撮影画像の原点を表示していることから、キャリブレーション画面を見ながら苗コンベア上の画像認識(X,Y 軸)原点を確認することができる。従って、キャリブレーション機能を利用することで、苗コンベア停止状態で画像を見て苗コンベア上に画像原点位置をマーキングすれば以下の正確な調整も可能である。
・苗コンベア移動量の確認/調整
・ピックアップ機構ハンド原点(=機械原点)の確認/調整
なお、苗コンベア上にマーキングする場合はテープ、シールなどの取り外し可能な方法とし、画像処理のノイズとなる消せないマーキングはしないことが好ましい。
システム設定値を変更した際は直ちに変更値を反映する(GUI による「設定反映」ボタンを使用することも可)こととし、ソフトウェアの再起動等を必要としない方式とする。なお、システム設定値の保存はハードディスクにテキストファイル形式で保存し、システム起動時に毎回読み込むようにしてもよい。
システム設定ファイルをテキストエディタ等で直接編集してもよい。ただし、ファイル直接編集の場合はソフトウェアが設定値の変更を確認する手段が無い為にソフトウェアの再起動を条件とする。
計測補助線は撮影画像の原点を表示していることから、キャリブレーション画面を見ながら苗コンベア上の画像認識(X,Y 軸)原点を確認することができる。従って、キャリブレーション機能を利用することで、苗コンベア停止状態で画像を見て苗コンベア上に画像原点位置をマーキングすれば以下の正確な調整も可能である。
・苗コンベア移動量の確認/調整
・ピックアップ機構ハンド原点(=機械原点)の確認/調整
なお、苗コンベア上にマーキングする場合はテープ、シールなどの取り外し可能な方法とし、画像処理のノイズとなる消せないマーキングはしないことが好ましい。
《受渡装置102》
受渡装置102は、回転チャックおよび光電センサを主たる構成要素とする。苗を把持した投入ハンド1は、開状態の回転チャックに苗を投入し、投入された苗を受け取った回転チャックは、苗の葉方向を揃えて植込ハンドに苗を受け渡す。苗の葉方向を揃える理由は、植え込んだ全ての苗に光が当たるようにすること、植込密度を高めること、培養容器の蓋を閉めやすくすることなどが挙げられる。
受渡装置102は、回転チャックおよび光電センサを主たる構成要素とする。苗を把持した投入ハンド1は、開状態の回転チャックに苗を投入し、投入された苗を受け取った回転チャックは、苗の葉方向を揃えて植込ハンドに苗を受け渡す。苗の葉方向を揃える理由は、植え込んだ全ての苗に光が当たるようにすること、植込密度を高めること、培養容器の蓋を閉めやすくすることなどが挙げられる。
受渡装置102は、回転チャックの回転中心軸上ないしは回転中心軸上から僅かにずれた位置における物の存在を検知する複数の葉方向検出用光電センサを有する。光電センサによる検知領域は、被検出物の形状等にもとづいて予め設定されている。かかる構成により、葉方向を検出し、苗を一定方向に揃えるよう位置決め制御を行うことができる。以上の受渡装置102の装置による一連の処理のサイクルタイムは、約4秒である。
《植込装置103》
植込装置103は、一対の把持爪を有する植込ハンドと、植込ハンドをX方向に移動自在とするX軸スライダと、植込ハンドをY方向に移動自在とするY軸スライダと、植込ハンドをZ方向に移動自在とするX軸スライダと、植込容器コンベアから構成される。回転チャックから受け渡される苗は、既に適正な姿勢となっているため、植込ハンドに姿勢等補正機構は不要である。
待機状態にある植込ハンドは、X軸スライダにより固定位置に移動して回転チャックから苗を受け取り、植込容器コンベア上に載置された培養容器に盛られた土に苗を植え込む。苗を植え込む座標は、予め設定されており、本実施例では培養容器の9地点において苗が植え込まれるよう設定されている。培養容器に9つの苗が植え込まれると、作業が完了した培養容器が植込容器コンベアにより搬出され、空の培養容器が作業位置に搬入される。
なお、投入装置101、受渡装置102および植込装置103による動作は、最適に並行処理されるようプログラムされている。
植込装置103は、一対の把持爪を有する植込ハンドと、植込ハンドをX方向に移動自在とするX軸スライダと、植込ハンドをY方向に移動自在とするY軸スライダと、植込ハンドをZ方向に移動自在とするX軸スライダと、植込容器コンベアから構成される。回転チャックから受け渡される苗は、既に適正な姿勢となっているため、植込ハンドに姿勢等補正機構は不要である。
待機状態にある植込ハンドは、X軸スライダにより固定位置に移動して回転チャックから苗を受け取り、植込容器コンベア上に載置された培養容器に盛られた土に苗を植え込む。苗を植え込む座標は、予め設定されており、本実施例では培養容器の9地点において苗が植え込まれるよう設定されている。培養容器に9つの苗が植え込まれると、作業が完了した培養容器が植込容器コンベアにより搬出され、空の培養容器が作業位置に搬入される。
なお、投入装置101、受渡装置102および植込装置103による動作は、最適に並行処理されるようプログラムされている。
以上に述べた本実施例の苗自動植込システムは、次の特徴を有する。
(1)省スペース:約W800×D800(mm)、ただし操作ボックスは含まない。
(2)省エネルギー:消費電力約250W
(3)付帯設備不要:AC100V電源のみ要
(4)ユーザーフレンドリー:タッチパネル式のインターフェースによる調整設定
(5)処理速度:1容器あたり約45秒、(9苗/容器)
(6)画像認識:約30〜40ミリ秒(上下方向・把持位置・角度検出)
(1)省スペース:約W800×D800(mm)、ただし操作ボックスは含まない。
(2)省エネルギー:消費電力約250W
(3)付帯設備不要:AC100V電源のみ要
(4)ユーザーフレンドリー:タッチパネル式のインターフェースによる調整設定
(5)処理速度:1容器あたり約45秒、(9苗/容器)
(6)画像認識:約30〜40ミリ秒(上下方向・把持位置・角度検出)
本発明は、観賞用植物、食用植物を問わず「茎挿し」の種類の作業に利用することができる。特に、種子を形成しない植物、種子繁殖が経済的・技術的理由で適さない植物(種子からより短サイクルで成長可能)、交配による品種特性の変化を嫌う植物において好適である。
他分野への技術転用も可能であり、主に工業分野で機械化が困難な作業に有効である。特に、非定型ワークのハンドリング、「柔弱脆小」ワークのハンドリング、狭小範囲でのハンドリング、棒状小型軽量ワークの姿勢および幅方向の把持位置の補正ハンドリングに好適である。具体例としては、電気基板への電機部品の組込作業や電気配線用コネクターの端子組込作業が挙げられる。
他分野への技術転用も可能であり、主に工業分野で機械化が困難な作業に有効である。特に、非定型ワークのハンドリング、「柔弱脆小」ワークのハンドリング、狭小範囲でのハンドリング、棒状小型軽量ワークの姿勢および幅方向の把持位置の補正ハンドリングに好適である。具体例としては、電気基板への電機部品の組込作業や電気配線用コネクターの端子組込作業が挙げられる。
また、次のような用途にも用いることができる。
・釘、ボルトなど工業製品のピックアップおよび移送・整列処理
・カプセル薬、菓子など食品・薬品類のピックアップおよび移送・整列処理
・試験管、ガラス管など取扱注意品類のピックアップおよび移送・整列処理
・棒状食品の弁当などへの詰め込み処理
・狭閉(例えば1面が開口されたサイコロ状)箇所への微小部品(例えばリベット)挿入
・種子、食品など完全な棒状でない(近似的棒状)物のピックアップおよび移送・整列処理
・釘、ボルトなど工業製品のピックアップおよび移送・整列処理
・カプセル薬、菓子など食品・薬品類のピックアップおよび移送・整列処理
・試験管、ガラス管など取扱注意品類のピックアップおよび移送・整列処理
・棒状食品の弁当などへの詰め込み処理
・狭閉(例えば1面が開口されたサイコロ状)箇所への微小部品(例えばリベット)挿入
・種子、食品など完全な棒状でない(近似的棒状)物のピックアップおよび移送・整列処理
1 投入ハンド
2 筐体
3 把持爪
4 補正板
5 ガイド部
6 弾性部材
7 ワイヤ
8 ねじ部材
9 軸材
11 駆動部材
21 茎
31 屈曲部
32 当接部
51 長孔
101 投入装置
102 受渡装置
103 植込装置
2 筐体
3 把持爪
4 補正板
5 ガイド部
6 弾性部材
7 ワイヤ
8 ねじ部材
9 軸材
11 駆動部材
21 茎
31 屈曲部
32 当接部
51 長孔
101 投入装置
102 受渡装置
103 植込装置
Claims (12)
- 分岐点を有するワークを撮像し、二値化し、二値化画像からワークの下端を検出し、ワークの下端からワークの輪郭を追い、輪郭線が急に方向変化する点を分岐点と判断する画像認識方法において、
二値化画像から、X方向の最大値、X方向の最小値、Y方向の最大値、およびY方向の最小値を抽出し、これらを辺に有する方形領域を定め、方形領域に属する端点を候補点とし、候補点からワークの下端を判定することを特徴とする画像認識方法。 - 下記(イ)〜(ハ)の条件を多く具備する候補点から順にワークの下端であるかの判定を行うことを特徴とする請求項1の画像認識方法。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点 - 一の角から隣接する他の角まで方形領域の辺上をトレースし、辺上の端点を検出する処理において、一定距離以上端点が連続する場合には、当該一定距離をスキップして端点の検出を行うことを特徴とする請求項1または2の画像認識方法。
- 選択された候補点に基づきワークの両側面において分岐点を検出し、左右の両側面で検出した各々の分岐点位置のワークの幅が、ワークの規定値範囲から外れる場合には、当該候補点をワークの下端と判定しないことを特徴とする請求項1ないし3のいずれかの画像認識方法。
- ワークの下端に最も近い分岐点から、ワークの下端側に所定値オフセットした位置を把持位置とすることを特徴とする請求項1ないし4のいずれかの画像認識方法。
- ワークが棒状部分を有する自然物であることを特徴とする請求項1ないし5のいずれかの画像認識方法。
- 分岐点を有するワークを搬送するコンベアと、コンベア上のワークを撮像する撮像手段と、コンベア上を搬送されるワークを把持するロボットハンドと、ロボットハンドの移動手段と、撮像手段による撮像画像を二値化し、二値化画像からワークの把持位置を算出する画像認識手段を備えた把持装置であって、
前記画像認識手段は、二値化画像から、X方向の最大値、X方向の最小値、Y方向の最大値、およびY方向の最小値を抽出し、これらを辺に有する方形領域を定め、方形領域に属する端点を候補点とし、候補点からワークの下端を判定することを特徴とする把持装置。 - 下記(イ)〜(ハ)の条件を多く具備する候補点から順にワークの下端であるかの判定を行うことを特徴とする請求項7の把持装置。
(イ)方形領域の短辺に属する候補点
(ロ)方形領域の同一辺上に属する他の候補点が少ない候補点
(ハ)ワークの重心から各辺に垂線を引き最遠となる辺に属する候補点 - 前記画像認識手段が、一の角から隣接する他の角まで方形領域の辺上をトレースし、辺上の端点を検出する処理において、一定距離以上端点が連続する場合には、当該一定距離をスキップして端点の検出を行うことを特徴とする請求項7または8の把持装置。
- 前記画像認識手段が、選択された候補点に基づきワークの両側面において分岐点を検出し、左右の両側面で検出した各々の分岐点位置のワークの幅が、ワークの規定値範囲から外れる場合には、当該候補点をワークの下端と判定しないことを特徴とする請求項7ないし9のいずれかの把持装置。
- 前記画像認識手段が、ワークの下端に最も近い分岐点から、ワークの下端側に所定値オフセットした位置を把持位置とすることを特徴とする請求項7ないし10のいずれかの画像認識装置。
- ワークが棒状部分を有する自然物であることを特徴とする請求項7ないし11のいずれかの把持装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007023429A JP2008190912A (ja) | 2007-02-01 | 2007-02-01 | 画像認識方法および把持装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007023429A JP2008190912A (ja) | 2007-02-01 | 2007-02-01 | 画像認識方法および把持装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008190912A true JP2008190912A (ja) | 2008-08-21 |
Family
ID=39751163
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007023429A Withdrawn JP2008190912A (ja) | 2007-02-01 | 2007-02-01 | 画像認識方法および把持装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008190912A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102954762A (zh) * | 2012-10-26 | 2013-03-06 | 浙江理工大学 | 基于机器视觉的嫁接苗外部特征测量方法及系统 |
WO2016147331A1 (ja) * | 2015-03-18 | 2016-09-22 | 富士機械製造株式会社 | 部品供給装置 |
CN110076764A (zh) * | 2019-06-05 | 2019-08-02 | 四川聚强创新科技有限公司 | 一种微型化小型化物料的位姿自动识别装置及方法 |
CN113295109A (zh) * | 2021-06-25 | 2021-08-24 | 中国林业科学研究院林业新技术研究所 | 基于机器视觉测量适合机械嫁接苗木弯曲度的系统及方法 |
-
2007
- 2007-02-01 JP JP2007023429A patent/JP2008190912A/ja not_active Withdrawn
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102954762A (zh) * | 2012-10-26 | 2013-03-06 | 浙江理工大学 | 基于机器视觉的嫁接苗外部特征测量方法及系统 |
WO2016147331A1 (ja) * | 2015-03-18 | 2016-09-22 | 富士機械製造株式会社 | 部品供給装置 |
JPWO2016147331A1 (ja) * | 2015-03-18 | 2017-12-28 | 富士機械製造株式会社 | 部品供給装置 |
US20180064004A1 (en) * | 2015-03-18 | 2018-03-01 | Fuji Machine Mfg. Co., Ltd. | Component supply device |
US10314217B2 (en) | 2015-03-18 | 2019-06-04 | Fuji Corporation | Component supply device |
US10874038B2 (en) | 2015-03-18 | 2020-12-22 | Fuji Corporation | Component supply device |
CN110076764A (zh) * | 2019-06-05 | 2019-08-02 | 四川聚强创新科技有限公司 | 一种微型化小型化物料的位姿自动识别装置及方法 |
CN113295109A (zh) * | 2021-06-25 | 2021-08-24 | 中国林业科学研究院林业新技术研究所 | 基于机器视觉测量适合机械嫁接苗木弯曲度的系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hohimer et al. | Design and field evaluation of a robotic apple harvesting system with a 3D-printed soft-robotic end-effector | |
Han et al. | Strawberry harvesting robot for bench-type cultivation | |
EP2086308B1 (en) | Autonomous fruit picking machine | |
US20230371445A1 (en) | Apparatus and method for planting plant cuttings | |
JP6499273B2 (ja) | ティーチング装置及び制御情報の生成方法 | |
Zou et al. | Fault-tolerant design of a limited universal fruit-picking end-effector based on vision-positioning error | |
US8363905B2 (en) | Automated image analysis of an organic polarized object | |
US20120017507A1 (en) | Automated organic polarized object organization | |
Defterli | Review of robotic technology for strawberry production | |
Chiu et al. | Study of an autonomous fruit picking robot system in greenhouses | |
CN108290286A (zh) | 用于教导工业机器人拾取零件的方法 | |
CN106605259A (zh) | 用于对种子进行成像和定向的系统以及使用方法 | |
KR102027040B1 (ko) | 대상물 픽업 공급 자동화 시스템 및 대상물 자동 픽업 공급 방법 | |
JP2008190912A (ja) | 画像認識方法および把持装置 | |
Parsa et al. | Modular autonomous strawberry picking robotic system | |
KR102109698B1 (ko) | 영상처리분석을 이용한 대상물 자동 선별, 분류 시스템 및 자동선별 분류방법 | |
JP2008188691A (ja) | 受渡装置および受渡システム | |
CN110741790A (zh) | 一种基于深度相机的穴盘苗多爪移栽-分选的处理方法 | |
WO2021010181A1 (ja) | 検査装置、検査方法、位置決め方法、およびプログラム | |
JP2020174536A (ja) | 収穫装置およびその制御方法、並びにプログラム | |
WO2016151667A1 (ja) | ティーチング装置及び制御情報の生成方法 | |
JP2018167357A (ja) | 良品収集システム並びにそのシステムの制御用のコントローラおよびプログラム | |
WO2006087900A1 (ja) | 苗の調整ステーション | |
Davidson et al. | Human-machine collaboration for the robotic harvesting of fresh market apples | |
NL2007152C2 (en) | System and method of polarization of an organic object with automated image analysis and organization. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20100406 |