JP3873487B2 - Harvesting position control device for vegetable harvester - Google Patents
Harvesting position control device for vegetable harvester Download PDFInfo
- Publication number
- JP3873487B2 JP3873487B2 JP31617198A JP31617198A JP3873487B2 JP 3873487 B2 JP3873487 B2 JP 3873487B2 JP 31617198 A JP31617198 A JP 31617198A JP 31617198 A JP31617198 A JP 31617198A JP 3873487 B2 JP3873487 B2 JP 3873487B2
- Authority
- JP
- Japan
- Prior art keywords
- cucumber
- harvesting
- position data
- approach
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Harvesting Machines For Specific Crops (AREA)
Description
【0001】
【発明の属する技術分野】
この発明は、走行車台上に設けた視覚センサで野菜の画像を撮影し、収穫装置で該野菜を把持して収穫するが、最初の入力画像による位置データで最初の収穫アプローチに失敗した後に、再入力した画像による位置データから該野菜の位置を確認するときに、最初の該位置データと再入力の該位置データとに相違があるときは、再入力の該位置データに変更して再度収穫アプローチし、相違していないときは、該収穫装置の自重による歪みで下方への変化であると判定し、最初の設定位置の上方へ該収穫装置の位置を修正する技術であり、野菜収穫機の収穫位置制御装置として利用できる。
【0002】
【従来の技術】
野菜が、例えば、キュウリであり、このキュウリを収穫するときは、野菜収穫機の走行車両を圃場の畝間の溝部を走行させて、走行車台上に設けた視覚センサでキュウリの画像を撮影して、収穫適期のキュウリであるか否かを検出すると共に、このキュウリの入力画像からこのキュウリの位置が検出されて、位置データとして入力され、この入力された位置データの位置まで収穫装置は移動制御されて停止し、この収穫装置でキュウリを把持して摘果し、摘果が終了するとこの収穫装置は所定位置へ復元されて、摘果したキュウリは所定位置へ排出されて収穫が終了する。
【0003】
この収穫作業のときに、最初の入力画像による位置データによって、最初の収穫アプローチを失敗すると、再度最初の位置データによって再度収穫アプローチが行われてキュウリを収穫する。
【0004】
【発明が解決しようとする課題】
最初の入力された位置データによって、最初の収穫アプローチを失敗しても、再度最初の位置データによって、再度収穫アプローチを行うことにより、再度失敗する確率が高く、又、収穫装置でキュウリを把持したとしても、このキュウリの所定位置が把持されないことがあり、このために、所定位置を切断して摘果することができないことが発生していたが、この発明により、これらの問題点を解決しようとするものである。
【0005】
【課題を解決するための手段】
このために、この発明は、走行車両8の走行車台2の上側に野菜(イ)の画像を撮影する視覚センサ11と、該野菜(イ)を把持して収穫する収穫装置10等とを設けた野菜収穫機において、最初の入力画像による位置データ(A)によって最初の収穫アプローチに失敗した後に再入力した画像による位置データ(B)から該野菜(イ)の位置を確認するときに、最初の入力の該位置データ(A)と再入力の該位置データ(B)とに相違があるときは、再入力の該位置データ(B)に変更して再度アプローチすると共に、相違していないときは、該収穫装置10の自重による歪みによってアプローチ方向が下方への変化であると判定して最初の設定位置である上方へ該収穫装置10の位置を修正して再度アプローチすることを特徴とする野菜収穫機の収穫位置制御装置の構成とする。
【0006】
【発明の作用】
キュウリ(イ)を収穫するときは、野菜収穫機の走行車両8を圃場の畝間の溝部を走行させて、走行車台2上に設けた視覚センサ11でキュウリ(イ)の画像を撮影して、収穫適期のキュウリ(イ)であるか否かを検出すると共に、このキュウリ(イ)の入力画像からこのキュウリ(イ)の位置が検出されて、位置データ(A)として入力され、この入力された位置データ(A)の位置まで収穫装置10は移動制御されて停止し、この収穫装置10でキュウリ(イ)を把持して摘果し、摘果が終了するとこの収穫装置10は所定位置へ復元されて、摘果したキュウリ(イ)は所定位置へ排出されて収穫が終了する。
【0007】
この収穫作業のときに、最初の入力画像による位置データ(A)によって、最初の収穫アプローチを失敗すると、失敗した後に再入力した画像からキュウリ(イ)の位置が検出されて、位置データ(B)として入力され、このキュウリ(イ)の位置を確認するときには、最初の入力の位置データ(A)と再入力の位置データ(B)とが比較され、相違しているときは、再入力に位置データ(B)をキュウリ(イ)位置に変更して、この位置データ(B)により、前記収穫装置10を再度収穫アプローチをしてキュウリ(イ)を収穫する。
【0008】
又、相違していないときは、前記収穫装置10の自重による歪みによってアプローチ方向が下方へ変化であると判定して、最初の設定位置である上方へこの収穫装置10の位置を修正して、再度収穫アプローチをしてキュウリ(イ)を収穫する。
【0009】
【発明の効果】
最初の画像入力から収穫アプローチの間に、収穫対象のキュウリ(イ)が移動したか、又は収穫装置10の自重による歪みでアプローチ方向が変化したかの確認ができることにより、再画像入力の位置データ(B)によって対応可能となり、正確な収穫作業ができる。又、該収穫装置10の微調整ができることにより、より確実な収穫作業ができる。
【0010】
【発明の実施の形態】
以下、本発明の一実施例を図面に基づいて説明する。
図例は、野菜(イ)は、例えば、キュウリ(イ)であり、圃場の畝(ロ)上に傾斜状態に栽培したこのキュウリ(イ)を収穫する農業用ロボットである野菜収穫機1を図示して説明する。
【0011】
前記野菜収穫機1の走行車両8の走行車台2下側の左右両側の前後両側には、一対の前輪3と後輪4を各々配設し、これら前輪3と後輪4の4輪に対し各別に車輪駆動用モータ5を連動連結すると共に、進行方向に対して操縦旋回自在に軸支し、これら前・後輪3,4を各別に舵取り制御するための操向角度を検出する操向角度センサ6を各別に設けると共に、これら前・後輪3,4の間には、動力電源としてのバッテリ7を収納して前記走行車両8を構成し、これら前・後輪3,4は、畝(ロ),(ロ)間で形成する溝(ハ)内を走行する。
【0012】
前記走行車台2上の前部には、この野菜収穫機1の操作制御を行うコントローラ等を内装した前カバー9を設け、この前カバー9の後方には、キュウリ(イ)を収穫する収穫装置10を設け、この収穫装置10はキュウリ(イ)の画像を撮像するCCDカメラ11aによる視覚センサ11と、この視覚センサ11の撮像によるキュウリ(イ)を把持して摘果するマニピュレータ12とを装架した、略円筒形状でその一部を直角状に切り欠いだ作業旋回胴13を旋回可能に設けた構成であり、該視覚センサ11、及び該マニピュレータ12は、該作業旋回胴13内を上下移動自在に構成している。
【0013】
前記作業旋回胴13の後方部で走行車台2の上側に設けた後カバー17内には、収穫したキュウリ(イ)を収納するためのキャリーの格納と放出とを行うキャリー収納部18を設け、該後カバー17の後側面には、野菜収穫機1の走行操作、及び各種制御操作する操作装置19を設けた構成である。
前記マニピュレータ12は、多関節による人間の腕と手先の動きに近い作用を行わせるために、基部の回動メタル14で形成するショルダ関節部(A)、伸縮直動アーム15で形成するアーム関節部(B)、先端の把持、及び切断するエンドエフェクタ16部を連結形成するリスト関節部(C)、及び水平旋回させるウエスト関節部(D)等よりなり、これらの各関節部を相互に連結配置した構成であり、傾斜状態に栽培した収穫適期のキュウリ(イ)を視覚センサ11のCCDカメラ11aで検出し、この検出したキュウリ(イ)をマニピュレータ12で把持して摘果する構成としている。
【0014】
前記エンドエフェクタ16の先端部には、図6で示す如く植物、例えば、キュウリ(イ)に強く反応するON−OFFスイッチ方式の近接センサ16aを設けると共に、キュウリ(イ)に当接して回動するセンサプレート16b、及びキュウリ(イ)を検出するON−OFFスイッチ方式の接触センサ16cを設けた構成である。
【0015】
前記近接センサ16aがキュウリ(イ)を検出しなく、この近接センサ16aがOFF状態で、このOFF状態が入力されているときは、エンドエフェクタ16は前進の所定位置までは、高速度でアプローチされる。又、該近接センサ16aが、キュウリ(イ)を検出して、この近接センサ16aがON状態となり、このON状態が入力されると、該エンドエフェクタ16は前進の所定位置からキュウリ(イ)を把持する位置までは、低速度でアプローチされる構成である。
【0016】
前記センサプレート16bがキュウリ(イ)に接触して回動し、この回動によって接触センサ16cがON状態となり、このON状態が入力されると、該エンドエフェクタ16を停止制御する構成である。
これにより、接触センサ16cはキュウリ(イ)の自重によってONされ、葉等ではONしない構成である。これによって、キュウリ(イ)がエンドエフェクタ16で把持されたことも認識できて便利である。又、近接センサ16aを設けたことにより、障害物が明らかに無い部分では、高速アプローチして収穫時間の短縮を図り、障害物がある可能性が大きい付近では、低速アプローチすることで葉、及び茎の損傷を防止できる。更にキュウリ(イ)へ高速での衝突を防ぎ、損傷を防止することができる構成である。
【0017】
前記マニピュレータ12とキュウリ(イ)を補助的に収納する補助収納ケース20とは、上下方向にスライド移動させるネジ部を有するスライド軸21を作業旋回胴13の直角状の切り欠き部壁面の内側に沿って回動可能に支承すると共に、このスライド軸21の回動により、上下移動自在にスライドガイド22を軸支した構成である。このスライドガイド22にマニピュレータ12のベース部23を、該作業旋回胴13の直角状の切り欠き部壁面に沿って設けた2条の摺動溝13bを貫通して結合すると共に、該スライド軸21を回動させるスライドモータ24をこのスライド軸21の下端部に連動連結し、該作業旋回胴13と共に、視覚センサ11のCCDカメラ11a、及び該マニピュレータ12を略180度旋回させる車台モータ25は、前記走行車台2の該作業旋回胴13の中心位置に配置すると共に、連動連結した構成である。
【0018】
前記視覚センサ11のCCDカメラ11aは、上下方向にスライド移動させるネジ部を有するスライド軸26は、作業旋回胴13の直角状に切り欠き部壁面の内側に沿って回動可能に支承すると共に、このスライド軸26の回動により、上下移動自在にスライドガイド27を軸支した構成である。このスライドガイド27の上面部には、マニピュレータ12の摺動溝13aを有する壁面に対して略直角位置に変化させる壁面に沿って設けた摺動溝13bを貫通して、該CCDカメラ11aの結合アーム11bを結合させると共に、スライド軸26を回動させるためのスライドモータ28をこのスライド軸26の下端部に連動連結し、該摺動溝13bには、該CCDカメラ11aの姿勢を保持させると共に、摺動可能なガイドレールを設けた構成である。
【0019】
前記マニピュレータ12は、図4、及び図5で示す如く多関節による人間の腕と手先の動きに近い作用を行わせるために、その基部から先端側にかけて各々ショルダ関節部A、アーム関節部B、リスト関節部C等の各関節部を相互に連結配置した構成である。
前記ショルダ関節部Aは、マニピュレータ12を上下回動させるためのショルダ関節として、サーボモータによるショルダモータ29を組み込み連動連結した構成である。
【0020】
前記アーム関節部Bは、2段階に伸縮させる伸縮直動アーム15の基部に組み込んだサーボモータによるアームモータ30から、該伸縮直動アーム15基部の固定筒15aに内装したボールネジ等からなるスライダ31に連動連結すると共に、このスライダ31の回動により、該固定筒15a内に、1段目の伸縮筒15bを収納可能にガイドレール32を該スライダ31と並行して内装配置する。該アームモータ30から1段目の該伸縮筒15b内に張設したタイミングベルト32aを介して、ボールネジ等からなるスライダ33に連動連結すると共に、このスライダ33の回動により、1段目の該伸縮筒15b内に、2段目の伸縮筒15cを収納可能にガイドレール34をスライダ33と並行して内装配置した構成である。 前記リスト関節部Cは、2段目の伸縮筒15cの基部側に組み込んだサーボモータによるリストピッチモータ35から、該伸縮筒15cの先端部まで延長したリスト駆動軸36の端部にウォームギヤ37aを軸止すると共に、このウォームギヤ37aと直角交差して、噛み合うウォームホイル37bにリストピッチ関節軸38を軸止して各々連動連結すると共に、このリストピッチ関節軸38が該伸縮筒15cの外部に突出した軸端に、角筒状のエンドエフェクタ16の回動を支持するL字状の回動支持アーム39を軸止した構成である。
【0021】
前記回動支持アーム39に、エンドエフェクタ16の後端部を支承して略180度範囲で鉛直平面内をピッチ回動させると共に、このエンドエフェクタ16を略180度範囲でロール回動させるサーボモータによるリストロールモータ40を、該回動支持アーム39を介して該エンドエフェクタ16の後端部に連動連結した構成である。
【0022】
前記マニピュレータ12を水平旋回させるウエスト関節部Dにおけるサーボモータによるウエストモータ41の回動軸心を、ショルダ関節部Aが装着されるベース部23において、エンドエフェクタ16の作業中心軸が伸縮直動アーム15の基部に向けて延長した軸線と交わる位置に組み込み連動連結して設ける。このベース部23の下面にキュウリ(イ)を数個収納可能で、キュウリ(イ)の摘果時に該エンドエフェクタ16の位置までスライド延出すると共に、その底面を開閉可能に設けた補助収納ケース20を、ラックとピニオンにより駆動するケーススライドモータ42を組み込んで作業旋回胴13の上面に配置した構成である。
【0023】
前記エンドエフェクタ16は、図7〜図11に示す如く角筒状の箱体43を有し、この箱体43内の上部一側にキュウリ(イ)を摘果する摘果モータ44を配置し、このモータ44にスライドネジ45を前方に向け延長して連結すると共に、このスライドネジ45の回転方向により前進、又は後進するスライドアーム45aを、該摘果モータ44の側部に平行して前後方向に延設したガイドレール46によって摺動案内される断面U字状の摘果ベース47に接合し、この摘果ベース47のU字状の片側後端部の側部突起47aを、前後に配置したリミットスイッチ前46a、及びリミットスイッチ後46bとに各々係合可能な構成である。
【0024】
4点平行リンクによる左右の摘果リンク48によって、摘果ベース47の前端部と摘果アーム49の後部とを連結すると共に、該摘果ベース47のリンクピン47bに該摘果リンク48による該摘果アーム49の上動を一定の荷重で抑える抑えバネ47cを張設し、該摘果アーム49の前端部に、キュウリ(イ)の果柄の検出と切断を行う平面視U字形状の摘果プレート50のU字基部を支持した構成である。
【0025】
前記摘果プレート50は、摘果アーム49に支持するU字基部から前端の開口端部50aに亘り、キュウリ(イ)への押圧力を上方向への分力により逃して適正な圧力を保持できる角度θとなるよう傾斜させると共に、左右の該開口端部50aの先端には各々該摘果プレート50のキュウリ(イ)への押圧上動を円滑にするための摺動ローラ50bを軸支し、キュウリ(イ)の果柄を取り入れるU字形状の長孔部50cを平面視斜めに遮断する状態に薄刃状のカッタ刃50dを、果柄の押し切りを容易とするよう傾斜姿勢の該摘果プレート50に対し水平状態に取り付けた構成である。
【0026】
前記箱体43内の中央下部にキュウリ(イ)を把持する把持モータ51を配置し、この把持モータ51から前方側にウォームギヤ51aを固着し、このウォームギヤ51aと噛合する左右のウォームホイル51bを各々左右対称位置に配設すると共に、この左右のウォームホイル51bから各々上方に向けて支承した左右の把持軸52に、この把持軸52の回動によりキュウリ(イ)を把持可能な長さ前方へ延出した左右の把持プレート53を連動可能に設け、この把持プレート53には、リターン用の戻しバネ53aと、キュウリ(イ)を傷つけないための緩衝パット53bを各々取り付けた構成である。図11で示す如く左右両側の該把持軸52には、該ウォームホイル51bの上側に、該把持プレート53の開閉と同時に開閉する把持プレートカム52aを固着し、この左右両側の把持プレートカム52aの開閉状態を検出する把持プレート閉スイッチ52bを左右両側に設けている。又、左右両側の該把持軸52には、該戻しバネ53aの上側に、該把持プレート53の開閉と同時に開閉する果実径用カム52cを回動自在に設け、この果実径用カム52cの閉状態位置により、ONする果実径検出用スイッチ52dを左右両側に設け、この果実径検出用スイッチ52dのONにより、検出したキュウリ(イ)は設定径より小径であると検出する構成である。
【0027】
これにより、一方側の前記果実径検出用スイッチ52dがONすれば、キュウリ(イ)が把持されているか、もしくは収穫対称外(小径)のキュウリ(イ)と判定できる。又、一方側が主茎と共に、キュウリ(イ)を把持したときでも、他方側がキュウリ(イ)に接触するために小径のキュウリ(イ)と判定できる。
前記把持モータ51の上側で左右の把持軸52の間に、キュウリ(イ)を把持する際に吸引固定するための吸着パット54を配置し、この吸着パット54を前後に移動させるスライドネジ54aを後方に向け延長し、このスライドネジ54aと連動連結させた吸着モータ55は、摘果モータ44と反対側の上部位置側に配設した構成である。なお、エンドエフェクタ16はオフセットにより交換を可能とする。
【0028】
前記各把持プレート53は、1個の把持モータ51で開閉させる構成であり、開閉何れの場合にも左右独立して回動自在な各把持軸52の回動により、この回動運動を各戻しバネ53aを介して、該各把持プレート53へ伝達し、この各戻しバネ53aを介することにより、該把持プレート53は回動自在な構成である。
【0029】
これにより、一方側の前記把持プレート53のみでも、キュウリ(イ)に接触するために、キュウリ(イ)の固定ができて、収穫作業ができる。更に該把持プレート53は左右独立で回動自在であることにより、キュウリ(イ)の主茎を把持したままマニピュレータ12を縮めれば、主茎は該把持プレート53から外れ、その瞬間にキュウリ(イ)を把持できる。
【0030】
図13に示す如く制御機構として前記走行車両8の車輪駆動用モータ5,操向角度センサ6,キャリー制御部18a等を制御する走行部コントローラ56aと、CCDカメラ11aを制御する視覚部コントローラ56bと、マニピュレータ12を制御する摘果部コントローラ56cと、これら各コントローラ56a,56b,56cと共に、操作装置19、及び安全装置57等を統括制御するメインコントローラ56とを前カバー9に内装して構成する。
【0031】
該視覚部コントローラ56bは、図14に示す如く、OCR58から信号を受けた駆動パルス発生回路59からドライバ60を介してレシーバ61へ、このレシーバ61からCCDカメラ11aへ接続する。該CCDカメラ11aの駆動により検出された信号をビデオ信号に交換する信号処理回路62と該CCDカメラ11aとを接続し、この信号処理回路62からA/D変換器63を経て画像メモリ64へ接続すると共に、この画像メモリ64と高速画像処理を行う画像処理回路65とCPU66とを相互通信可能に接続する。該CPU66からビデオ信号を基にランプ発光タイミングと該A/D変換器63の開始タイミングを設定するタイミング回路67へ接続し、このタイミング回路67と該A/D変換器63、及びランプ駆動回路68とを接続すると共に、該タイミング回路67へ該信号処理回路62を接続させ、該ランプ駆動回路68を介してハロゲンランプ69を駆動させるべく接続し、フォトセンサ70からA/D変換を経てCPU66へ接続して構成する。
【0032】
前記摘果コントローラ56cは、図15に示す如く、サーボモータとしての前記ウエストモータ41,スライドモータ24,スライドモータ28,ショルダモータ29,アームモータ30,リストピッチモータ35,リストロールモータ40、及び把持モータ51を各々コントロールドライバ71を介して接続すると共に、摘果モータ44,吸着モータ55を各々接続して構成する。なお、該各サーボモータ41,24,28,29,30,35,40には各々エンコーダ、及び原点検出センサを組み合わせて設ける。
【0033】
前記野菜収穫機1により作業対象物としてのキュウリ(イ)の収穫を行うときは、図13で示す如く走行部コントローラ56aによる車輪駆動モータ5や操向角度センサ6等の制御により畝(ロ)間に形成した溝(ハ)に沿って走行を行いながら、傾斜棚Tに栽培された収穫適期のキュウリ(イ)をCCDカメラ11aの上下スライド移動によって撮像し、この撮像により入力した画像を視覚部コントローラ56bによって画像処理を行い、この画像情報による摘果部コントローラ56cの演算によって、マニピュレータ12の伸縮直動アーム15を、ウエスト関節部Dによる左右旋回とショルダ関節部Aによる上下移動とを行わせると共に、アーム関節部Bを伸縮させ、その先端部に位置するリスト関節部Cによりエンドエフェクタ16を制御して収穫アプローチを行う。
【0034】
この収穫アプローチ時に、エンドエフェクタ16のピッチ回動、又はロール回動により、吸着モータ55を駆動させて吸着パット54を前方へスライドさせ、真空ポンプ72から供給されるバキュームによりキュウリ(イ)を吸着した後、把持位置まで後退させると同時に、把持モータ51を駆動させて把持プレート53によりキュウリ(イ)を把持する。このキュウリ(イ)の把持により摘果モータ44を駆動させて、スライドネジ45によりスライドアーム45aを介して摘果ベース47をリミットスイッチ前46aによる規制位置まで前進を可能とし、この摘果ベース47の前進と共に摘果リンク48により連結される摘果アーム49を介して摘果プレート50を前進させる。
【0035】
前記吸着パット54と真空ポンプ72との間には、図12で示す如く電磁バルブ73、及び圧力センサ74を設け、各把持プレート53を開状態に操作して、キュウリ(イ)をリリースするときには、該電磁バルブ73をオープンにする構成である。
これにより、キュウリ(イ)をリリースするときに、キュウリ(イ)の放置姿勢を前記エンドエフェクタ16の向きに規制することができる。
【0036】
前記吸着パット54を真空ポンプ72で作動させるときに、例えば、該吸着パット54を前方へ約20mmスライドさせて、キュウリ(イ)へアプローチする。該真空ポンプ72をONして、キュウリ(イ)を吸着する。該吸着パット54を後方へスライドさせて、把持部内へ誘導する構成である。該真空ポンプ72内の空気圧が上がれば、該吸着パット54の移動速度と、エンドエフェクタ16の前進速度とを同速度にした構成である。該吸着パット54が初期位置にきたときに、各把持プレート53により、キュウリ(イ)を把持する構成である。
【0037】
これにより、キュウリ(イ)の果柄の長短に関係なく、このキュウリ(イ)を確実に把持部内へ誘導できて、確実な把持が可能になる。
前記真空ポンプ72の圧力を検出する圧力センサ74が所定値以下の検出に伴い、キュウリ(イ)を吸着したと判定する構成である。
これにより、キュウリ(イ)の主茎、及び葉部には、細かなヒゲがあり、前記吸着パット54は吸着しない。真空ポンプ72内の圧力が下がれば、キュウリ(イ)の上端部近傍に該吸着パット54が吸着したと判定できる。又、圧力が下降しないときには、アプローチ方向が違うとして再アプローチ動作へ移行できる。
【0038】
前記吸着パット54がキュウリ(イ)へ吸着する位置は、収穫しようとするキュウリ(イ)の上端部から略30mm程度下方位置近傍を吸着する構成とし、このキュウリ(イ)のイボのない、又、表面が光沢のある位置とした構成である。
これにより、確実な吸着ができる。又、イボのない位置は他部より外力に強く、高い圧力で吸引できる。
【0039】
前記吸着パット54は、エンドエフェクタ16内に設け、真空ポンプ72で作動させ、キュウリ(イ)を吸着後に把持部内へ誘導する構成としている。
これにより、キュウリ(イ)のみを把持でき、更に把持スペースを確保できる。
前記吸着パット54の中心のスライドネジ54aの中心位置をリストロールの回転軸75と一致させ、更に把持部中央に位置させた構成である。
【0040】
これにより、傾斜したキュウリ(イ)もリストロールを回転することにより、対応できる。又、前記緩衝パット53bでキュウリ(イ)を把持したときに、クッションになる。
前記吸着パット54を前方へ移動させた状態で、キュウリ(イ)を収穫アプローチし、圧力センサ74がONした状態で、このキュウリ(イ)の正確位置を把握し、画像データにこの距離情報を加えて、キュウリ(イ)の大きさを再確認しなおす構成とするもよい。
【0041】
これにより、キュウリ(イ)までの正確な距離情報を元に、キュウリ(イ)の大きさの判定ができて、収穫適期でないキュウリ(イ)を収穫する誤認識をしないし、更にこれらの処理の無駄な時間を少なくして処理できる。
前記吸着パット54の移動位置をポテンショメータで検出する構成において、この吸着パット54を把持部方向へ移動させる距離は、キュウリ(イ)の径分、例えば、30mmとした構成であり、この位置でキュウリ(イ)を把持する構成とするもよい。
【0042】
これにより、把持位置からキュウリ(イ)の位置がどの位置にあるか把持でき、前記エンドエフェクタ16内の把持部をマニピュレータ12で移動しながら、キュウリ(イ)を把持部内へ誘導する際に、移動量が一定であることにより、高速移動が可能となる。
前記吸着パット54の移動位置をポテンショメータで検出する構成において、このポテンショメータの検出値から移動速度を算出させ、移動速度が低下すると、即座にエンドエフェクタ16を前進移動させて、キュウリ(イ)を把持部内に捕捉する構成とするもよい。
【0043】
これにより、前記吸着パット54の把持部方向への移動速度が遅くなると言うことは、主茎の自由度を最大限まで利用してキュウリ(イ)が移動していることになり、キュウリ(イ)と主茎との間は、最大限まで広くなっていることとなり、把持のみでなく果柄の切断も容易になり、又、カッタ刃50dで主茎の切断を防止できる。
【0044】
前記摘果プレート50の前進によりその開口端部50aに軸支した摺動ローラ50bをキュウリ(イ)の表面に押圧させるが、この押圧時に該摘果プレート50を、押圧力を上方向への分力により逃して上動できる角度θだけ傾斜させていることにより、この傾斜による上方向への分力を抑えバネ47cによる一定の荷重で抑えてキュウリ(イ)の表面に適正な圧力を保持して押圧させながら、該開口端部50aの摺動ローラ50bの回動と共に摘果リンク48により平行上昇スライドさせる。
【0045】
前記摘果プレート50が上昇スライドによりキュウリ(イ)の表面に沿って果柄部に達したときは、果柄が開口端部50aから長孔部50cへ取り込まれ、水平姿勢のカッタ刃50dによる押し切りにより摘果される。この摘果されたキュウリ(イ)をキャリーに収納し満杯になった時点でキャリー制御部18aにより地上に放出する。
【0046】
キュウリ(イ)の収穫時のアプローチ失敗による位置制御は、前記視覚部コントローラ56bへCCDカメラ11aで撮像した画像が入力され、画像処理により、この視覚部コントローラ56bでキュウリ(イ)までの位置である位置データ(A)が検出され、この検出された位置データ(A)により、摘果部コントローラ56cで収穫装置10のマニピュレータ12が移動制御され、エンドエフェクタ16により、このキュウリ(イ)を摘果するが、最初の収穫アプローチに失敗すると、再度画像が入力され、画像処理により、キュウリ(イ)までの位置データ(B)が再度検出される。
【0047】
前記で入力された最初の(1次)の位置データ(A)と、再入力(2次)の位置データ(B)とが前記視覚部コントローラ56bで比較され、相違していると判定したときは、再入力(2次)の位置データ(B)に変更され、この変更された位置データ(B)により、再度収穫アプローチする構成である。又、相違していないと判定したときは、収穫装置10のマニピュレータ12の自重による歪みによってアプローチ方向が下方への変化であると判定して、最初の設定位置である上方へ該マニピュレータ12の位置を修正して、再度収穫アプローチする構成であり、最初(1次)の画像入力から収穫アプローチの間に、収穫対象物のキュウリ(イ)が移動したか、該マニピュレータ12の歪みによるアプローチ方向が変化したかの確認ができ、再画像入力のデータにより対応が可能となる。又、該マニピュレータ12のアプローチ方向を微調整でき、より確実な収穫作業ができる構成である。
【0048】
キュウリ(イ)の収穫時のアプローチ失敗による位置制御は、図18で示すフローチャートに沿って作用を説明すると、キュウリ(イ)の収穫作業がスタートされ(S−101)、最初(1次)の画像が入力され(S−102),(S−103)へ進み、(S−103)〜(S−124)は図示の如く制御され、(S−118)でNOと判定されるとキュウリ(イ)(果実)が収穫され(S−125)、次ステップへ進む(S−126)。
【0049】
キュウリ(イ)の収穫時のアプローチ失敗による位置制御は、前記左右両側の把持プレート53に設けた把持プレート閉スイッチ52b,52bがONすれば、該各把持プレート53をオープンにし、エンドエフェクタ16を移動させる。最初(1次)の入力による位置データ(A)と再入力(2次)の位置データ(B)が比較され、相違していると判定したときは、再入力(2次)の位置データ(B)により、再度収穫アプローチする構成である。又、相違していないと判定したときは、果実検出用スイッチ52dのONにより、キュウリ(イ)の径が設定径より小径であると判定して、このキュウリ(イ)に対するアプローチを終了し、次のステップへ移行する構成とするもよい。
【0050】
これにより、最初(1次)の画像入力から収穫アプローチの間に、収穫対象物のキュウリ(イ)が移動して把持ができなかったのか、このキュウリ(イ)の径が小径で各果実検出用スイッチ52dがONしたか確認でき、再入力(2次)のデータにより、対応が可能となる。又、マニピュレータ12のアプローチ方向の微調整ができ、より確実な収穫作業ができる。
【0051】
キュウリ(イ)を収穫作業の時に、このキュウリ(イ)までの設定距離でON出力する前記近傍スイッチ16aにより、キュウリ(イ)へ高速アプローチから低速アプローチへ移行した後に、設定距離以上エンドエフェクタ16がキュウリ(イ)方向へ移動しても、接触センサ16cがキュウリ(イ)によってONされないときはアプローチを停止する。又、マニピュレータ12によって、該エンドエフェクタ16を下方へ微動させ、キュウリ(イ)がこのエンドエフェクタ16に隠れない様にすると共に、CCDカメラ11aによって再画像入力を行って、キュウリ(イ)の位置を再確認する構成である。
【0052】
これにより、最初(1次)の画像入力から収穫アプローチの間に、収穫対象物のキュウリ(イ)が移動したか、前記マニピュレータ12の歪みによるアプローチ方向が変化したかを確認でき、再画像入力のデータにより、対応可能となる。キュウリ(イ)を収穫作業の時に、前記各把持プレート53の閉位置を検出する各果実検出用スイッチ52dの何れか一方がONされ、所定の閉位置であると検出されたときには、該各把持プレート53をオープンにした後に、マニピュレータ12によって、該エンドエフェクタ16を下方へ微動させ、キュウリ(イ)がこのエンドエフェクタ16に隠れない様にすると共に、CCDカメラ11aによって再画像入力を行って、キュウリ(イ)の位置を再確認する構成である。
【0053】
これにより、最初(1次)の画像入力から収穫アプローチの間に、収穫対象物のキュウリ(イ)が移動して把持できなかったのか、キュウリ(イ)の径が小径で前記果実検出用スイッチ52dがONしたか確認でき、再画像入力のデータにより、対応できる。又、アプローチ方向を微調整できて、より確実な収穫作業ができる。
【0054】
前記吸着パット54を前後移動させる前後スライドモータ(図示せず)を設け、このスライドモータには、前後移動軸(図示せず)を設け、この前後移動軸にはラック(図示せず)を設け、又、このラックと噛合するピニオン(図示せず)を設け、このピニオンの回転数をポテンショメータで検出し、このポテンショメータの検出値により、該吸着パット54の前後位置を検出する構成である。
【0055】
前記吸着パット54、及びマニピュレータ12の移動制御の作用は、図19、及び図20で示す如く制御する構成である。
これにより、把持位置からキュウリ(イ)の位置がどの位置にあるか把握でき、前記エンドエフェクタ16をマニピュレータ12で移動しながら、キュウリ(イ)を挾持部内へ誘導するときに、移動量があらかじめ明らかであるので、高速移動が可能になる。
【0056】
キュウリ(イ)を栽培する圃場の栽培用の傾斜棚(T)は、図16、及び図17で示す如く圃場には、支持枠77を設け、この支持枠77の上軸77aと下軸77bとには、上下方向に所定長さの分離プレート78をキュウリ(イ)の株位置ごとに装着させている。
前記分離プレート78は左右方向に略150〜180mm幅の長孔78a部を設け、又、左右両側の枠部78bは、略30mm程度に構成して、キュウリ(イ)のヒゲが巻きつかない幅としている。この分離プレート78は該長孔78aの左右方向の中心部位置からV字形に折曲させた構成とし、該分離プレート78上に茎葉をのせ、該長孔78a部からキュウリ(イ)が垂れ下がる構成であり、キュウリ(イ)の収穫、及びつる降ろし作業を容易に行える構成である。
【0057】
前記分離プレート78の長孔78aの上端部を支持枠77の上軸77aに引っ掛けて支持させ、下部には、挿入部78cを設け、この挿入部78cを該支持枠77の下軸77bへ挿入して支持させた構成である。
左右両側の前記分離プレート78の上端部には、断面形状コ字形状の主茎支持枠79を支持軸80で支持させて設け、該分離プレート78と一体にした構成であり、主茎を屈曲させることなく生育させる構成である。この主茎支持枠79の左右両側の縦枠部79aは略垂直状態に支持させて、支持枠77から突出させない状態として、作業者の頭近傍のスペースを確保する構成としている。
【0058】
前記主茎支持枠79には、所定幅の長孔79b部を設けると共に、中央部には紐79cを設けた構成とするもよい。
【図面の簡単な説明】
【図1】野菜収穫機の全体側面図
【図2】野菜収穫機の全体背面図
【図3】野菜収穫機の作業状態の全体背面図
【図4】マニピュレータ部の拡大側面図
【図5】マニピュレータ部の拡大平面図
【図6】マニピュレータ先端部の拡大側面図
【図7】エンドエフェクタ部の拡大側面図
【図8】エンドエフェクタ部の拡大正面図
【図9】エンドエフェクタ部の拡大平面図
【図10】エンドエフェクタの摘果プレート部の上下移動状態を示す拡大側面図
【図11】エンドエフェクタ部の拡大側面斜視図
【図12】吸着パット部の拡大側面図
【図13】野菜収穫機全体の制御関係のブロック図
【図14】視覚部の制御関係のブロック図
【図15】摘果部の制御関係のブロック図
【図16】栽培用棚の拡大正面図
【図17】栽培用棚の拡大側面図
【図18】フローチャート図
【図19】他の実施例を示すフローチャート図
【図20】他の実施例を示すフローチャート図
【符号の説明】
2 走行車台
8 走行車両
10 収穫装置
11 視覚センサ
(A) 最初の位置データ
(B) 再入力の位置データ[0001]
BACKGROUND OF THE INVENTION
The present invention captures an image of vegetables with a visual sensor provided on a traveling carriage, and grips and harvests the vegetables with a harvesting device, but after failing the first harvesting approach with position data from the first input image, When confirming the position of the vegetable from the position data based on the re-input image, if there is a difference between the initial position data and the re-input position data, change to the re-input position data and harvest again. If the approach is not different, it is a technique for determining that the change is downward due to distortion due to the weight of the harvesting device, and correcting the position of the harvesting device above the first set position. It can be used as a harvesting position control device.
[0002]
[Prior art]
The vegetable is, for example, cucumber, and when harvesting this cucumber, the traveling vehicle of the vegetable harvester is driven in the groove between the fields and the cucumber image is taken with a visual sensor provided on the traveling platform. In addition to detecting whether or not the cucumber is suitable for harvesting, the position of this cucumber is detected from the input image of this cucumber and is input as position data, and the harvesting device controls the movement to the position of this input position data. Then, the cucumber is grasped and picked by the harvesting device, and when the fruiting is finished, the harvesting device is restored to a predetermined position, and the picked cucumber is discharged to the predetermined position and the harvesting is finished.
[0003]
During the harvesting operation, if the first harvesting approach fails due to the position data based on the first input image, the harvesting approach is performed again based on the first position data to harvest the cucumber.
[0004]
[Problems to be solved by the invention]
Even if the first harvesting approach fails due to the first input position data, there is a high probability of failing again by performing the harvesting approach again based on the first position data, and the cucumber was grasped by the harvesting device. However, the predetermined position of the cucumber may not be grasped, and for this reason, it has occurred that the predetermined position cannot be cut and picked, but this invention tries to solve these problems. To do.
[0005]
[Means for Solving the Problems]
For this purpose, the present invention is provided with a visual sensor 11 that captures an image of a vegetable (I) on the upper side of the
[0006]
[Effects of the Invention]
When harvesting cucumber (I), the
[0007]
If the first harvesting approach fails due to the position data (A) based on the first input image during this harvesting operation, the position of the cucumber (I) is detected from the image re-input after the failure, and the position data (B When the position of this cucumber (A) is confirmed, the position data (A) of the first input and the position data (B) of the re-input are compared. The position data (B) is changed to the cucumber (I) position, and the harvesting apparatus 10 is again harvested by this position data (B) to harvest the cucumber (I).
[0008]
Further, when not different, it is determined that the approach direction is changed downward due to distortion due to the weight of the harvesting device 10, and the position of the harvesting device 10 is corrected upward, which is the first set position, Harvest again and harvest cucumber (I).
[0009]
【The invention's effect】
Since it is possible to confirm whether the cucumber (a) to be harvested has moved between the initial image input and the harvest approach, or whether the approach direction has changed due to distortion due to the weight of the harvesting device 10, position data for re-image input (B) makes it possible to cope with it, and an accurate harvesting operation can be performed. Moreover, since the harvesting device 10 can be finely adjusted, a more reliable harvesting operation can be performed.
[0010]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
In the illustrated example, the vegetable (I) is, for example, a cucumber (I), and the
[0011]
A pair of
[0012]
A front cover 9 having a controller or the like for controlling the operation of the
[0013]
In the
The
[0014]
As shown in FIG. 6, an ON-OFF switch type proximity sensor 16 a that reacts strongly with cucumber (I) is provided at the distal end of the
[0015]
When the proximity sensor 16a does not detect cucumber (I), the proximity sensor 16a is in an OFF state, and this OFF state is input, the
[0016]
The
Accordingly, the contact sensor 16c is turned on by its own weight of cucumber (I) and is not turned on in the leaf or the like. This is convenient because it can be recognized that the cucumber (I) is gripped by the
[0017]
The
[0018]
The CCD camera 11a of the visual sensor 11 has a
[0019]
As shown in FIGS. 4 and 5, the
The shoulder joint A has a configuration in which a
[0020]
The arm joint B is a
[0021]
A servo motor that supports the rear end portion of the
[0022]
The axis of rotation of the
[0023]
The
[0024]
The front end part of the
[0025]
The
[0026]
A
[0027]
As a result, if the fruit
A
[0028]
Each gripping
[0029]
Accordingly, since only the
[0030]
As shown in FIG. 13, as a control mechanism, a
[0031]
As shown in FIG. 14, the
[0032]
As shown in FIG. 15, the fruit controller 56c includes the
[0033]
When harvesting cucumber (I) as a work object by the
[0034]
During this harvesting approach, the
[0035]
As shown in FIG. 12, an
Thereby, when releasing cucumber (I), the leaving posture of cucumber (I) can be regulated to the direction of the
[0036]
When the
[0037]
Thus, regardless of the length of the cucumber (I) fruit pattern, the cucumber (I) can be surely guided into the gripping portion, and reliable gripping becomes possible.
The
Thereby, there are fine beards on the main stem and leaves of cucumber (I), and the
[0038]
The
Thereby, reliable adsorption can be performed. Also, the position where there is no wart is stronger against external force than the other part and can be sucked with high pressure.
[0039]
The
Thereby, only a cucumber (I) can be grasped and a grasping space can be secured.
The center position of the slide screw 54a at the center of the
[0040]
Thereby, the inclined cucumber (I) can also be dealt with by rotating the wrist roll. Further, when the cucumber (I) is gripped by the
With the
[0041]
As a result, the size of the cucumber (I) can be determined based on the accurate distance information to the cucumber (I), and the misrecognition of harvesting the cucumber (I) that is not in the proper harvesting period is prevented. Can be processed with less wasted time.
In the configuration in which the moving position of the
[0042]
Thereby, it is possible to grasp the position of the cucumber (I) from the grasping position, and when guiding the cucumber (I) into the grasping portion while moving the grasping portion in the
In a configuration in which the movement position of the
[0043]
As a result, the movement speed of the
[0044]
The sliding
[0045]
When the
[0046]
Position control by approach failure at the time of harvesting of cucumber (I) is performed by inputting an image captured by the CCD camera 11a to the
[0047]
When the
[0048]
The position control due to the approach failure at the time of harvesting of cucumber (I) will be described with reference to the flowchart shown in FIG. 18. The harvesting operation of cucumber (I) is started (S-101), and the first (primary) When an image is input, the process proceeds to (S-102) and (S-103), and (S-103) to (S-124) are controlled as shown in the figure. If it is determined NO in (S-118), a cucumber ( A) (Fruit) is harvested (S-125), and the process proceeds to the next step (S-126).
[0049]
Position control by approach failure at the time of harvesting of cucumber (I) is performed when the grip plate closing switches 52b and 52b provided on the
[0050]
As a result, whether the cucumber (I) of the harvested object moved and could not be gripped between the first (primary) image input and the harvesting approach, each berry was detected with a small diameter. It can be confirmed whether or not the
[0051]
When the cucumber (a) is turned on at a set distance to the cucumber (a) during the harvesting operation, the proximity switch 16a makes the cucumber (a) move from the high speed approach to the low speed approach, and then the
[0052]
As a result, it is possible to confirm whether the cucumber (I) of the harvested object has moved between the initial (primary) image input and the harvesting approach, or whether the approach direction due to the distortion of the
[0053]
Accordingly, whether the cucumber (I) of the harvested object has moved and could not be gripped during the harvesting approach from the first (primary) image input, the cucumber (I) has a small diameter and the fruit detection switch. It can be confirmed whether 52d is turned on, and can be dealt with by the data of re-image input. Moreover, the approach direction can be finely adjusted, and a more reliable harvesting operation can be performed.
[0054]
A front / rear slide motor (not shown) for moving the
[0055]
The movement control operation of the
Thereby, it is possible to grasp the position of the cucumber (I) from the gripping position, and when the cucumber (I) is guided into the holding portion while moving the
[0056]
As shown in FIGS. 16 and 17, the inclined shelf (T) for cultivating the cucumber (I) cultivated field is provided with a support frame 77 in the field, and an upper shaft 77a and a
The
[0057]
The upper end portion of the long hole 78a of the
A main
[0058]
The main
[Brief description of the drawings]
[Fig.1] Whole side view of a vegetable harvester
[Figure 2] Rear view of the whole vegetable harvester
[Figure 3] Rear view of the whole state of the vegetable harvesting machine
FIG. 4 is an enlarged side view of a manipulator unit.
FIG. 5 is an enlarged plan view of a manipulator unit
FIG. 6 is an enlarged side view of the manipulator tip.
FIG. 7 is an enlarged side view of the end effector section.
FIG. 8 is an enlarged front view of the end effector section.
FIG. 9 is an enlarged plan view of an end effector section.
FIG. 10 is an enlarged side view showing the vertically moving state of the fruit plate portion of the end effector.
FIG. 11 is an enlarged side perspective view of an end effector section.
FIG. 12 is an enlarged side view of the suction pad part.
FIG. 13 is a block diagram of the control relationship of the whole vegetable harvester
FIG. 14 is a block diagram of the control relationship of the visual part.
FIG. 15 is a block diagram of the control relationship of the fruit picking unit
FIG. 16 is an enlarged front view of a shelf for cultivation.
FIG. 17 is an enlarged side view of a shelf for cultivation.
FIG. 18 is a flowchart diagram.
FIG. 19 is a flowchart showing another embodiment.
FIG. 20 is a flowchart showing another embodiment.
[Explanation of symbols]
2 Vehicle chassis
8 Traveling vehicles
10 Harvesting equipment
11 Visual sensor
(A) First position data
(B) Re-input position data
Claims (1)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP31617198A JP3873487B2 (en) | 1998-11-06 | 1998-11-06 | Harvesting position control device for vegetable harvester |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP31617198A JP3873487B2 (en) | 1998-11-06 | 1998-11-06 | Harvesting position control device for vegetable harvester |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000139163A JP2000139163A (en) | 2000-05-23 |
JP3873487B2 true JP3873487B2 (en) | 2007-01-24 |
Family
ID=18074088
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP31617198A Expired - Fee Related JP3873487B2 (en) | 1998-11-06 | 1998-11-06 | Harvesting position control device for vegetable harvester |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3873487B2 (en) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108617254A (en) * | 2018-07-04 | 2018-10-09 | 安徽建筑大学 | A kind of integration strawberry device for picking |
JP2021032345A (en) * | 2019-08-26 | 2021-03-01 | 本田技研工業株式会社 | Suction device |
KR102438342B1 (en) * | 2020-05-13 | 2022-08-30 | 전남대학교산학협력단 | End effector of robot |
CN114365624A (en) * | 2022-01-25 | 2022-04-19 | 皖西学院 | Efficient agricultural picking device based on DELTA parallel mechanical arms |
CN115067076B (en) * | 2022-06-13 | 2023-07-25 | 嘉应学院 | Intelligent orange picking machine and picking method |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0697908B2 (en) * | 1986-11-10 | 1994-12-07 | 株式会社クボタ | Guidance device for working machines for fruits and vegetables |
JP2641645B2 (en) * | 1991-06-17 | 1997-08-20 | 株式会社クボタ | Fruit and vegetable harvester guidance device |
JPH0619538A (en) * | 1992-07-02 | 1994-01-28 | Kubota Corp | Working vehicle for fruit tree |
JP3503207B2 (en) * | 1994-08-19 | 2004-03-02 | 井関農機株式会社 | Fruit identification device of harvest robot |
-
1998
- 1998-11-06 JP JP31617198A patent/JP3873487B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000139163A (en) | 2000-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6912656B2 (en) | Fruit vegetable harvester | |
JP3873487B2 (en) | Harvesting position control device for vegetable harvester | |
CN110896734A (en) | Fruit picking robot and picking method thereof | |
JPH1052145A (en) | Harvesting device of robot for agriculture | |
JP3921857B2 (en) | Fruit harvesting machine | |
JP3333621B2 (en) | Fruit and vegetable harvesting hand device | |
JPH11215906A (en) | Fruit thinning device for fruit vegetable harvesting robot | |
JPH07246017A (en) | Harvesting hand device for fruit vegetable | |
JP2548828B2 (en) | Fruit and vegetable harvester guidance device | |
JPH0856459A (en) | Harvesting robot for cucumber or the like | |
JP2022109380A (en) | harvester | |
JPH0549331A (en) | Manipulator of fruit-harvesting robot | |
JPH0746940B2 (en) | Guidance device for working machines for fruits and vegetables | |
JP2641645B2 (en) | Fruit and vegetable harvester guidance device | |
JP2603767B2 (en) | Fruit and vegetable harvesting hand | |
JPS62104512A (en) | Fruits hervester | |
JP2608998B2 (en) | Fruit and vegetable harvester guidance device | |
JPS6242759B2 (en) | ||
JPS62104511A (en) | Harvesting hand of fruits | |
JPS63116616A (en) | Stem cutter in fruits and vegetables harvesting hand | |
JP2023166768A (en) | Sub-arm mechanism for robot | |
JPH0316430Y2 (en) | ||
JPH0970214A (en) | Fruit vegetable reaping hand device | |
JP2574950B2 (en) | Fruit and vegetable harvester guidance device | |
CN115626479A (en) | Carrying method based on transfer manipulator |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051021 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060906 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20061003 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20061016 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091102 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121102 Year of fee payment: 6 |
|
LAPS | Cancellation because of no payment of annual fees |