JP3614980B2 - 農産物の外観検査方法及び装置 - Google Patents

農産物の外観検査方法及び装置 Download PDF

Info

Publication number
JP3614980B2
JP3614980B2 JP13889196A JP13889196A JP3614980B2 JP 3614980 B2 JP3614980 B2 JP 3614980B2 JP 13889196 A JP13889196 A JP 13889196A JP 13889196 A JP13889196 A JP 13889196A JP 3614980 B2 JP3614980 B2 JP 3614980B2
Authority
JP
Japan
Prior art keywords
light image
image information
visible light
pixels
infrared light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP13889196A
Other languages
English (en)
Other versions
JPH09318547A (ja
Inventor
基文 鈴木
誠司 仲村
Original Assignee
株式会社マキ製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社マキ製作所 filed Critical 株式会社マキ製作所
Priority to JP13889196A priority Critical patent/JP3614980B2/ja
Publication of JPH09318547A publication Critical patent/JPH09318547A/ja
Application granted granted Critical
Publication of JP3614980B2 publication Critical patent/JP3614980B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、リンゴ、柿、梨、トマト、ナス、胡瓜、ミカン等の農産物を選別して包装し出荷する選果場等で用いられる農産物の外観検査方法及び装置に関するものである。
【0002】
【従来技術】
選果場等での農産物の選別は、大別して、大きさ,面積などの階級要素を基準とする方式と、色,傷等の等級要素を基準とする方式とのいずれか一方あるいは双方を用いて行われており、このうちの前者の階級要素に基づく判定についてはこれに用いる要素(例えば大きさ,重量)が比較的に機械手段で検出し易いために古くから普及し、また近時の農産物を傷めない非接触方式でもこの要素を検出する光学的方法,装置は比較的装置化,自動化が簡単であるため実際の自動化装置も数多く提案され実用に供されている。
【0003】
しかし後者の色や傷等の等級要素についての等級判定については、自動化装置が提案され一部実用に供されているものの未だ解決すべき課題があるのが実状である。
【0004】
このような等級判定のための色情報等の要素を検出する従来提案の装置として知られるものには、例えば搬送コンベアなどの上を搬送される農産物のカラー画像をCCDカメラ等を用いて撮像して、赤(R),緑(G),青(B)の三元色の色情報を検出する方式のもの(特公昭61−7360号公報、特公昭61−11679号公報、特公平1−33225号公報、特開平4−147042号公報、特開平4−238252号公報等)や、同様の手法で農産物表面の「傷」を検出する方式のものが知られている(特開平4−307357号公報等)。
【0005】
これらの方式では、搬送農産物との明度差がつき易いように搬送コンベア等であるバケット,受皿(いわゆるフリートレイ),小幅スラットコンベア等を黒色として、農産物に関する色情報等を適切に検出できるようにした構成が一般に採用される。
【0006】
しかし、農産物は色が千差万別であり、反射明度の低い農産物(例えば黒紫色「ナス」、濃紫色「スターキング」、濃緑色「青切ミカン」等が代表的)を等級判定する場合には、前記のように黒色系の色をもつ搬送手段で農産物を搬送しながら色情報を検出しても両者の境界がはっきりしないために農産物の輪郭を正確に捕らえることができない場合が多く、判定精度が低くなるという問題があった。例えば、CCDカメラ等を用いて撮像した農産物の画像をa行b列の画素信号にして色や傷を判定するためのデータ信号とするものがあるが、黒色系の農産物や泥埃が付着した馬鈴薯などの農産物ではその輪郭がはっきりせず、その結果として、本来農産物とは関係のないコンベア部分の反射光を農産物の一部分として取り込んでしまい判定精度の信頼性を低下させることがあった。
【0007】
これに対処するためには、例えばコンベア等を測定対象物と反対色の背景色にして抽出する方法もあるが、コンベアが泥埃等の汚れなどによって短時間のうちに画像抽出性能が劣化するという問題があるし、また対象農産物毎にコンベアを交換しなければならないとすれば装置の汎用性を低下させるためにコスト的に不利という問題を招く他、選果現場においての装置部品の交換には相当知識をもった技術者の存在が必要となるため、選果場が多数散在している現実面への対応が極めて困難という問題がある。
【0008】
ところで、等級判定要素である農産物表面の色等の解析法としては、上述の撮像により検出した反射光をいくつかの波長域に分けて取り出してR,G,Bで分析する方法や、彩度,色相,明度を分析する方法が知られている他、特公平3−21235号公報のように、緑色光(G)や赤色光(R)が色の変化に敏感であるのに比べて赤外光(IR)は色の変化に鈍感であるという性質の違いを利用してIR/R,IR/Gを演算した結果から色を判定する方法が知られている。なお赤外光は農産物に対しては反射率が高いが黒色系樹脂のコンベア等に対しての反射率は低いことも知られている。
【0009】
【発明が解決しようとする課題】
本発明者は、以上のような従来技術の下で鋭意研究を進めて本発明をなすに至ったものである。
【0010】
すなわち、上述した従来の色,傷等の農産物を選別するための等級判定においては、一般に、コンピュータによって色,傷を演算解析するには農産物からの色に敏感な可視光領域の反射光を計測する必要があるため、CCDカメラ等の撮像手段により農産物からの可視光領域の反射光を受光し、この光情報に基づいて農産物の色等の等級要素を判定しているが、一部の農産物(例えば黒色系農産物)においてはこの可視光の色情報では農産物の境界がはっきりせず、農産物の外形輪郭近傍の色情報が、コンベアに由来するものか農産物の色や傷を示すのか明らかでないことになって、農産物の外形輪郭線近傍を含めて色や傷を正確に判定できないという問題を招く。
【0011】
そこで本発明は、農産物の外形輪郭を正確に切り出すことができ、かつ輪郭近傍の農産物の色,傷を正確に検出することができて、高い精度で等級判定が可能な方法及び装置を提供することを目的としてなされたものである。
【0012】
また本発明の別の目的は、農産物の外形輪郭の正確な切り出しと、輪郭内の色,傷の情報の検出のための光情報を簡易な装置で検出できる方法及び装置を提供するところにある。
【0013】
【課題を解決するための手段】
前記目的を達成する本発明の特徴は前記特許請求の範囲の各請求項に記載した通りにある。
【0014】
本願の請求項1の発明は、搬送手段上の農産物を近赤外光及び可視光で同一の撮像手段により同時に撮像し、a行b列の画素からなる近赤外光画像及び可視光画像を得、該近赤光外画像を構成する各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで、該農産物の輪郭内領域の画素を抽出し、これら抽出した輪郭内領域の二値化画素と前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した該農産物の輪郭内領域の画素の可視光画像情報により農産物の色及び/又は傷を判定することを特徴とする農産物の外観検査方法にある
【0015】
本発明の対象となる農産物としては、色,傷の測定により等級判定が行われる果実,そ菜類などを特に制限されることなく挙げることができる。
【0016】
本発明において農産物を撮像する近赤外光は、色の変化に鈍感でありかつ農産物に対しては反射率が高くコンベア等の搬送手段を構成する樹脂材料に対しては反射率の低い性質を有する波長域の光、一般的には波長750nm〜900nmの光が好ましく用いられるが、前記性質を満足するものであれば限定されるものではない。また可視光には、農産物の色,傷を検出、判定するのに適した波長の光が用いられる。
【0017】
上記発明によれば、近赤外光で受光検出された各画素の近赤外光画像情報は、色の変化に鈍感でかつ農産物に対しては反射率が高くコンベア等に対しては反射率が低い性質であるため、農産物からの反射光よりは十分に低くかつコンベア等からの反射光よりは十分に高い値に予め設定した所定の閾値と、各画素の近赤外光画像情報を比較することで、各画素毎にこれが農産物の輪郭の内外のいずれに位置するかを明瞭に区別できる。すなわちこれにより、農産物の輪郭内領域に存在する画素(群)を正確に抽出する(輪郭を正確に切り出す)ことができる。
【0018】
そして、このようにして正確に切り出し(抽出)た輪郭内領域の画素(群)のみについて(つまり抽出されなかった輪郭外側の画素は除外して)、色に敏感な可視光で受光検出した可視光画像の情報を用いて、色あるいは傷のいずれかあるいは双方を判定するので、高い精度の等級判定が可能とできる。なお色,傷の判定に用いる要素や演算の方法は、従来の方法を用いて行うことができる。
【0019】
このように色の変化には鈍感であるが農産物と他の物の種類の違いには敏感な画像情報が得られる近赤外光を用いて農産物の輪郭を切り出し、色の変化に敏感な画像情報が得られる可視光の前記輪郭内画素(群)の情報で色,傷を判定するので、正確で効率のよい判定が可能となる。
また、搬送手段上の農産物を近赤外光及び可視光で同一の撮像手段により同時に撮像しているので、外観検査を迅速に行えると共に、近赤外光で撮像した画像と、可視光で撮像した画像を一致させる操作が不要であるため、農産物の輪郭内の色,傷を判定するための可視光画像情報を農産物の輪郭内の画素に基づくことを正確に確保できる。
【0020】
本願の請求項2の発明は、前記の農産物の色及び/又は傷を判定するための可視光情報が、少なくとも赤色光(R),緑色光(G)の波長域の光情報を含み、必要に応じて青色光(B)の波長域の光情報を含むことを特徴とする。
【0021】
本願の請求項3の発明は、搬送手段上の農産物を近赤外光及び可視光で同一の撮像手段により同時に撮像し、a行b列の画素からなる近赤外光画像及び可視光画像を得、該近赤光外画像を構成する各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで、該農産物の輪郭内領域の画素を抽出し、これら抽出した輪郭内領域の二値化画素と前記近赤外画像情報及び前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した該農産物輪郭内の画素の可視光画像情報と近赤外光画像情報とにより、農産物の色及び傷、又は傷を判定することを特徴とする農産物の外観検査方法にある
【0022】
この発明によれば、請求項1の発明に加えて近赤外光画像情報を農産物の傷検出に利用するので、傷の検出をより高精度に行うことができる。この場合、近赤外光画像情報と可視光画像情報とによる傷の検出は、両者で検出した傷とみなされる画素の論理和で農産物の傷を判定することもできるし、前記画素の論理積で農産物の傷を判定することもできる。この後者の論理積を用いる方法は、泥の付着など本当の傷でないものを傷と判定してしまう不具合を避けるのに好ましく採用することができるが、具体的に近赤外光と可視光の双方の画素情報を傷検出に利用する方式は、種々の農産物の特質等に応じて実際の傷と認識されるものとの関係を経験的,実験的に確認して設計すればよい。
【0027】
本願の請求項4の発明は、農産物を搬送する搬送手段と、搬送される農産物に近赤外光領域及び可視光を含む照明光を照射する光源と、前記光源で照明した農産物の近赤外光画像及び可視光画像を同時に撮像してa行b列の各画素毎に近赤外光画像情報及び可視光画像情報を抽出する1つの受光手段と、前記各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで農産物の輪郭内領域の画素を抽出する輪郭内画素抽出手段と、これら抽出した輪郭内領域の二値化画素と前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した各画素の可視光画像情報を抽出する可視光画像情報抽出手段と、該可視光画像情報抽出手段で抽出した可視光画像情報により農産物の色及び/又は傷を判定する判定手段と、を備えたことを特徴とする農産物の外観検査装置にある
【0028】
前記搬送手段は、ベルトコンベア、コロコンベア、バケットコンベア、ベルトコンベア等の上を拘束されずに搬送される受皿(いわゆるフリートレイ)、小幅スラットを搬送方向に多数整列させたいわゆるスラットコンベア等を挙げることができる。
【0029】
農産物を照明する光源は、近赤外光を発する光源と可視光を発する光源を用いることができるが、発光波長域が限定されない例えばハロゲンランプ等を用いて受光光学系に近赤外光領域、可視光を通すバンドパスフィルターを用いることもできる。
【0030】
撮像手段はCCDカメラ、ビデオカメラ等を用いることができ、この撮像手段により撮像される農産物と及び輪郭外近傍の範囲の画像情報は、a行b列のマトリックス状に区画された画素の情報の集合であり、このa行b列のマトリックスの大きさは受光光学系の解像度や農産物の大きさにより設計的に決められる。また各画素の大きさは小さい方が農産物の実際の外形輪郭に合致した画素の切出しができるために好ましいが、その反面、画素数が多くなって画像処理に時間がかかることになるため、設備コスト、処理速度、等級判定精度等の要求に応じて設計的に決められるものが用いられる。
【0031】
近赤外光画像情報及び可視光画像情報を抽出する受光手段は、農産物からの反射光を集光するレンズ系、及びこのレンズ系からの光像が投影されるCCD等の撮像素子とを備えたCCDカメラ、ビデオカメラ等の撮像手段と、この撮像手段により得られた撮像情報をコンピュータを利用して画像処理する画像処理手段から構成することができる。このためには、前記光源とも関係するが様々にその構成を設計することができ、例えば、赤外線画像情報を得るための近赤外光を発する光源とこれを受光する撮像手段、及び可視光画像情報を得るための可視光を発する光源とこれを受光する撮像手段を、それぞれ別々に設けることもできるし、発光波長域が限定されない共通の光源を用いながら近赤外光画像情報と可視光画像情報を別々の撮像手段で受光して得ることもできるし、該共通の光源を用いると共に分光手段(必要に応じて所定のバンドパスフィルタ)を用いることで、近赤外光画像情報と可視光画像情報を共通のレンズ系を通して得るようにすることもできる。
【0032】
前記輪郭内画素抽出手段は、農産物を撮像して得た近赤外光画像のa行b列のマトリックス状に区画された各画素毎の画像情報を予めメモリ等に設定した閾値と比較するための手段であり、一般的にはコンピュータを利用して構成されかつその比較のための閾値は実験的、経験的に決めることができる。
【0033】
この発明によれば、近赤外光画像情報により農産物の外形輪郭内の画素を正確に切り出し、切り出した画素の可視光画像情報により農産物の色,傷を高精度に検出する装置を提供できる。
【0034】
本願の請求項の発明は、農産物を搬送する搬送手段と、搬送される農産物に近赤外光領域及び可視光を含む照明光を照射する光源と、前記光源で照明した農産物の近赤外光画像及び可視光画像を同時に撮像してa行b列の各画素毎に近赤外光画像情報及び可視光画像情報を抽出する1つの受光手段と、前記各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで農産物の輪郭内領域の画素を抽出する輪郭内画素抽出手段と、前記輪郭内画素抽出手段で抽出した輪郭内領域の二値化画素と前記近赤外光画像及び前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した各画素の近赤外光画像情報及び可視光画像情報を抽出する像情報抽出手段と、前記画像情報抽出手段で抽出した可視光画像情報により農産物の傷を判定する第1の傷判定手段と、前記画像情報抽出手段で抽出した各画素の近赤外光画像情報により農産物の傷を判定する第2の傷判定手段とを備え、前記第1及び第2の傷判定手段の結果を総合して農産物の傷判定を行うことを特徴とする農産物の外観検査装置にある
【0035】
この発明によれば、農産物の傷を近赤外光画像情報と可視画像情報のいずれかあるいは双方を利用してより高精度に検出する装置を提供できる。
【0036】
本願の請求項の発明は、農産物を搬送する搬送手段と、搬送される農産物に近赤外光領域及び可視光を含む照明光を照射する光源と、前記光源で照明した農産物の近赤外光画像及び可視光画像を同時に撮像してa行b列の各画素毎に近赤外光画像情報及び可視光画像情報を抽出する1つの受光手段と、前記各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで農産物の輪郭内領域の画素を抽出する輪郭内画素抽出手段と、前記輪郭内画素抽出手段で抽出した輪郭内領域の二値化画素と前記近赤外光画像及び前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した各画素の近赤外光画像情報及び可視光画像情報を抽出する像情報抽出手段と、前記画像情報抽出手段で抽出した可視光画像情報により農産物の色及び又は傷を判定する第1の判定手段と、前記画像情報抽出手段で抽出した各画素の近赤外光画像情報により農産物の傷を判定する第2の判定手段とを備えたことを特徴とする農産物の外観検査装置にある
【0037】
この発明によれば、農産物の色の検出と、近赤外光画像情報と可視画像情報のいずれかあるいは双方を利用した傷の検出を高精度に行う装置を提供できる。
【0041】
また、上記した請求項4〜6の発明では農産物の近赤外光画像及び可視光画像を同時に1つの受光手段で撮像しているので、近赤外光による農産物の外形輪郭を切り出すための近赤外光による撮像画像と、色,傷を検出するための可視光による撮像画像を別々のカメラ(等の受光手段)で行う装置に比べ、両者画像の画角を一致させる各カメラ等の位置合わせが不要であり、色,傷の高い検出精度を確保できる点で優れている。また近赤外光及び可視光を一つの受光手段で同時に撮像するので、農産物が搬送コンベア等の搬送手段の上で動くことがあっても、近赤外光画像情報と可視光画像情報の画像のずれを全く考慮する必要がなく高精度に色,傷を検出できる。
【0042】
【発明の実施の形態】
実施形態1
図1は本例の農産物の外観検査装置が適用される果実(農産物)の等級選別を行うための装置を適用した選果設備の構成概略を示したものであり、この図において1はリンゴであり、無端回動する搬送コンベア2により隙間なく連行されるフリートレー(容器)3の上に一つづつ載せられて搬送される。
【0043】
4は色,傷検出のための撮像ステージ近傍に配置されたハロゲンランプ等の光源ランプであり、近赤外光の波長域及び可視光の波長域を含む光で農産物1を照明する。
【0044】
5はCCDを受光素子としたカメラ(撮像手段)を含む受光手段であり、このカメラを含む受光手段の詳細は図2に示される。すなわち、本例のこの図2に示した受光手段5は、前記により照明された農産物1からの反射光を、レンズ51から、分光器52を通して近赤外光(「NEAR INFRARED RAYS」:以下「NIR」と略記する),赤色光(以下「R」と略記する),緑色光(以下「G」と略記する)に分光したた後、各投影像を夫々NIR用CCD531、R用CCD532、G用CCD533の上に投影する。そして各CCDに投影・撮像された画像は、増幅回路541,542,543、次いでA/D変換回路551,552,553を介して、NIRデジタル出力、Rデジタル出力、Gデジタル出力として出力される。なお、NIR,R,Gの各波長域の分光を取出すために、本例では分光器52の内部にそれぞれに対応した所定波長域の光だけを透過させるバンドパスフィルター(図示せず)を備えている。また受光手段5の各CCD531,CCD532,CCD533はそれぞれ同一の画素数を有するように設けられていると共に、駆動信号入力を受けた駆動回路56により前記した各増幅回路及びA/D変換回路を同期駆動させるように設けられ、これにより、各CCDで撮像された画像のa行b列のマトリックスの各対応するアドレスの画素が一致する関係となるように制御される。
【0045】
このようにして、カメラを含む受光手段5で撮像された画像の画素毎のNIR,R,Gの各波長域の画像情報は、コンピュータからなるカメラ計測制御装置6に入力される。
【0046】
そしてこのカメラ計測制御装置6において、後述する入力信号に基づいた所定の演算処理により、本例の処理対象農産物であるリンゴの色,傷についての等級を判定し、その判定結果を農産物の仕分け信号として出力する。なお通常は、階級要素を測定してこれに基づく階級判定を行って階級・等級による仕分け判別を行うが、本例では階級についての説明は省略する。
【0047】
,7 ,・・・・7 は前記カメラ計測制御装置6から出力される仕分け信号を受ける仕分け選別装置のソレノイドであり、等級1〜等級iまでの等級区分に農産物を仕分け選別するように所定の位置に設置され、該当する等級区分の農産物が載ったフリートレー3がその仕分け位置にきたときに、図示しない箱詰用の分岐排出コンベアにそのフリートレー3を排出するように動作する。
【0048】
8は、前記搬送コンベア2の搬送に同期した信号を発生する同期信号発生装置であり、これにより発生されたコンベア搬送同期信号は前記カメラ計測制御装置6に入力され、受光手段5から入力される農産物の撮像情報により等級判定された所定の農産物1の仕分け位置を前記仕分け選別装置7 ,7 ,・・・・7 に出力するように利用される。
【0049】
前記カメラ計測制御装置6は図3のブロック図で示した画像処理/制御回路として構成されている。すなわち上記図2の受光手段5で取出されたNIR,R,Gの各画像情報の信号及び同期信号(これらを総称して「カメラ信号」という)は、図3に示したビデオ入力I/F601に入力され、各画像情報信号NIR,R,Gはフレームメモリ602にそれぞれの信号の画像情報として記憶される。またこのフレームメモリ602で記憶された各画像情報はイメージバス603から一つはビデオD/A604を介して図示しないビデオモニタにビデオモニタ信号として出力され、またイメージバス603からイメージプロセッサ605に送られる。606は前処理用のLUTルックアープテーブルメモリであり、取り出された各画像の強調やノイズの除去等の前処理を加えたのち、この画像をメモりに記憶する。また607はプレーンメモリであり、イメージプロセッサ605で処理して得られた各画素の色情報等を一時記憶するバッファーとして機能する。以上のイメージプロセッサ605、LUTメモリ606、プレーンメモリ607の信号に基づいて、CPUバス608を介し、処理装置(CPU)609は画像処理を行う。また、I/O610を介して仕分け選別信号を前記仕分け選別装置7 ,7 ,・・・・7 のソレノイドに出力するようになっている。なお611はROM、612はRAMの各メモリである。
【0050】
処理装置609で行われる画像処理は、図4により説明される。すなわち、本例ではNIR画像情報(各画素が様々な値をもつ多値画像情報)の信号を輪郭内画素抽出処理部でまず二値化処理する。この二値化処理はROM611(又はRAM612)に記憶されている所定の閾値と、NIR画像情報として検出された各画素の画像情報とを比較し、このNIRがコンベア等の樹脂材料に比べて農産物に対し高い反射率を示すという性質を利用して、閾値よりも高い値を示した画素の領域を農産物の輪郭内として抽出するものであり、抽出された画素群はその連結領域順に番号が付けられる(ラベリング処理)。この後、各ラベル画像についてそのラベル画像が検査対象物であるか否かの判定が加えられたのち、検査対象物の画像のみを抽出する。
【0051】
上記の輪郭内画素抽出処理部により得られたNIRの二値画像は、本例では階級要素の形状処理部に送られ、大きさ等の階級要素を計測する処理が行われる。また、前記NIR二値画像は、各画像情報信号NIR,R,Gのうちで色,傷の判定に用いる農産物輪郭内の画素の画像情報を抽出するために検出領域特定処理部で画素間AND演算が行われ、それぞれNIR検出領域,R検出領域,G検出領域の画素の画像情報のみが抽出される。これらの抽出された各波長域の画素の画像は、画素毎に値が検出値に依存した多値画像である。
【0052】
そして、これらの検出領域が特定されたNIR,R,Gの各波長域の画像情報のうちの所定の画像情報を色判定処理部あるいは傷害検出処理部に出力して、これに基づき色判定(着色度,色の均一性など)、傷害検出(最大面積,傷害面積など)を行う。なお色判定処理部,傷害検出処理部で行う処理法としては、従来知られている方法を用いることができ、例えば傷害検出処理では微分処理法や、既知の傷害色値と比較する色差処理法などを挙げることができる。
【0053】
なお、図4ではNIR,R,Gの各波長域の画像情報をすべて色判定処理部及び傷害検出処理部に入力するように図示しているが、これは信号授受の系路を示しているものであって、すべての信号を常に利用することを意味するものではない。また装置に応じて必要のない信号授受の系路は省略することができるが、これらは実際には図3で説明したコンピュータ技術を用いて行われる処理の内容をモジュル化して示したものであって、このような各処理部をハード的に有する必要はない。
【0054】
図5は、以上の農産物の外観検査装置を用いて行う検査操作を、上記請求項1,2,4,6,10に対応する例として説明するためのフローチャートを示したものであり、まずステップ101において、近赤外光画像(NIR 750〜900nm)と可視光画像(R,G)を撮像する。この場合の撮像は、本例においては近赤外光と可視光を一つのカメラ(撮像手段)で同時に行う。
【0055】
次にステップ102においては、近赤外光画像に基づき、農産物の輪郭切り出しのために予め定めた閾値と各画素の近赤外光画像情報を比較することにより二値化して、輪郭内領域の画素を抽出する。次いでステップ103において、前記抽出した輪郭内領域の画素と可視光画像の画素間AND演算を行って輪郭内領域の可視光画像情報を特定する。
【0056】
ステップ104においては、上記ステップ103で特定された輪郭内領域の可視光画像情報に基づいて、輪郭内領域の色(したがって農産物の色)を演算算出する。例えば従来既知の色計算式に従って色ヒストグラムを作成し、色の均一性、画像中心の色を検出する。
【0057】
最後にステップ105において、検出した色を評価判定し該当する農産物の色に関する等級評価を行って、処理を終了する。以上の処理を、搬送コンベア2で搬送される農産物(リンゴ)について順次繰り返し行う。
【0058】
実施形態2
図6は、農産物の外観検査装置を用いて行う検査操作を請求項5,9に対応する例として説明するためのフローチャートを示したものである。
【0059】
本例においては、ステップ201において近赤外光画像(NIR 750〜900nm)を撮像する。ステップ202においては、近赤外光画像に基づき、農産物の輪郭切り出しのために予め定めた閾値と各画素の近赤外光画像情報を比較することにより二値化して、輪郭内領域の画素を抽出する。
【0060】
次いでステップ203において、前記抽出した輪郭内領域の画素と近赤外光画像の画素間AND演算を行って輪郭内領域の近赤外光画像情報を特定する。
【0061】
ステップ204においては、上記ステップ203で特定された輪郭内領域の近赤外光画像情報に基づいて、例えば公知の二値化法により二値化を行って傷画像を作成する。
【0062】
最後にステップ205で、検出した傷を評価判定し該当する農産物の傷に関する等級評価を行って、処理を終了する。以上の処理を、搬送コンベア2で搬送される農産物(リンゴ)について順次繰り返し行う。
【0063】
実施形態3
図7は、農産物の外観検査装置を用いて行う検査操作を、上記請求項3,8に対応する例として説明するためのフローチャートを示したものであり、まずステップ301において近赤外光画像(NIR 750〜900nm)と可視光画像(R,G)を撮像する。この場合の撮像は、本例においては近赤外光と可視光を一つのカメラ(撮像手段)で同時に行う。
【0064】
次にステップ302においては、近赤外光画像に基づき、農産物の輪郭切り出しのために予め定めた閾値と各画素の近赤外光画像情報を比較することにより二値化して、輪郭内領域の画素を抽出する。
【0065】
次いでステップ303において、前記抽出した輪郭内領域の画素と、近赤外光画像及び可視光画像の画素間AND演算をそれぞれ行って輪郭内領域の近赤外光画像及び可視光画像情報を特定する。
【0066】
ステップ304においては、上記ステップ303で特定された輪郭内領域の近赤外光画像情報に基づいて、例えば公知の二値化法により二値化を行って傷画像を作成し、傷害特定,傷面積算出を行う。
【0067】
ステップ305においては、上記ステップ303で特定された輪郭内領域の可視光画像情報に基づいて、輪郭内領域の色(したがって農産物の色)を演算算出する。例えば従来既知の色計算式に従って色ヒストグラムを作成し、色の均一性、画像中心の色を検出する。
【0068】
ステップ306においては、上記検出した傷を評価判定し該当する農産物の傷に関する等級評価を行う。
【0069】
ステップ307においては、上記検出した色を評価判定し該当する農産物の色に関する等級評価を行って、処理を終了する。以上の処理を、搬送コンベア2で搬送される農産物(リンゴ)について順次繰り返し行う。
【0070】
実施形態4
図8は、農産物の外観検査装置を用いて行う検査操作を、上記請求項7に対応する例として説明するためのフローチャートを示したものであり、まずステップ401において近赤外光画像(NIR 750〜900nm)と可視光画像(R,G)を撮像する。この場合の撮像は、本例においては近赤外光と可視光を一つのカメラ(撮像手段)で同時に行う。
【0071】
次にステップ402においては、近赤外光画像に基づき、農産物の輪郭切り出しのために予め定めた閾値と各画素の近赤外光画像情報を比較することにより二値化して、輪郭内領域の画素を抽出する。
【0072】
次いでステップ403においては、前記抽出した輪郭内領域の画素と、近赤外光画像及び可視光画像の画素間AND演算をそれぞれ行って輪郭内領域の近赤外光画像及び可視光画像情報を特定する。
【0073】
ステップ404においては、上記ステップ403で特定された輪郭内領域の近赤外光画像情報に基づいて、例えば公知の二値化法により二値化を行って傷画像(A)を作成する。
【0074】
ステップ405においては、上記ステップ403で特定された輪郭内領域の可視光画像情報に基づいて、例えば公知の微分法、色差法により輪郭内領域の傷画像(B)を作成する。
【0075】
ステップ406においては、上記検出した傷画像(A),(B)に基づいて傷を総合評価判定し該当する農産物の傷に関する等級評価を行って、処理を終了する。以上の処理を、搬送コンベア2で搬送される農産物(リンゴ)について順次繰り返し行う。
【0076】
実施形態5
図9は、農産物の外観検査装置を用いて行う検査操作を、上記請求項3,8に対応する例として説明するためのフローチャートを示したものであり、まずステップ501において近赤外光画像(NIR 750〜900nm)と可視光画像(R,G)を撮像する。この場合の撮像は、本例においては近赤外光と可視光を一つのカメラ(撮像手段)で同時に行う。
【0077】
次にステップ502においては、近赤外光画像に基づき、農産物の輪郭切り出しのために予め定めた閾値と各画素の近赤外光画像情報を比較することにより二値化して、輪郭内領域の画素を抽出する。
【0078】
次いでステップ503においては、前記抽出した輪郭内領域の画素と、近赤外光画像及び可視光画像の画素間AND演算をそれぞれ行って輪郭内領域の近赤外光画像及び可視光画像情報を特定する。
【0079】
ステップ504においては、上記ステップ503で特定された輪郭内領域の近赤外光画像情報に基づいて、例えば公知の二値化法により二値化を行って傷画像(A)を作成し、傷害特定,傷面積算出を行う。
【0080】
ステップ505においては、上記ステップ503で特定された輪郭内領域の可視光画像情報に基づいて、例えば公知の微分法、色差法により輪郭内領域の傷画像(B)を作成する。
【0081】
ステップ506においては、上記ステップ503で特定された輪郭内領域の可視光画像情報に基づいて、輪郭内領域の色(したがって農産物の色)を演算算出する。例えば従来既知の色計算式に従って色ヒストグラムを作成し、色の均一性、画像中心の色を検出する。
【0082】
ステップ507で、上記検出した傷画像(A),(B)に基づいて傷を総合評価判定し該当する農産物の傷に関する等級評価を行って、処理を終了する。以上の処理を、搬送コンベア2で搬送される農産物(リンゴ)について順次繰り返し行う。
【0083】
ステップ508で、上記検出した色を評価判定し該当する農産物の色に関する等級評価を行って、処理を終了する。以上の処理を、搬送コンベア2で搬送される農産物(リンゴ)について順次繰り返し行う。
【0084】
【発明の効果】
本願の請求項1の発明によれば、近赤外光で撮像した画像を利用して農産物の外形輪郭を正確に切り出すことができると共に、可視光で撮像した画像を利用して農産物輪郭内の色,傷を正確に検出することができて、高い精度で等級判定ができ、しかもこの農産物外形輪郭の正確な切り出しと、輪郭内の色,傷の情報の検出のための光情報を簡易な装置で検出できるという効果が奏され、また更に以下の効果が奏される。
【0085】
請求項3の発明によれば、請求項1の発明に加えて近赤外光画像情報を農産物の傷検出に利用するので、傷の検出をより高精度に行うことができる。
また、抽出した輪郭内領域の二値化画素と前記近赤外画像情報及び前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した該農産物輪郭内の画素の可視光画像情報と近赤外光画像情報とにより、農産物の色及び傷、又は傷を判定するようにしているので、傷の検出を、近赤外光画像情報と可視光画像情報で検出した傷とみなされる画素の論理和で農産物の傷を判定することもできるし、前記画素の論理積で農産物の傷を判定することもでき、後者の論理積を用いる場合は泥の付着など本当の傷でないものを傷と判定してしまう不具合を避けることもできる。
【0086】
また、上記請求項1から3の発明では、近赤外光と可視光による撮像を単一の撮像手段により同時に行うので、外観検査を迅速に行えると共に、近赤外光で撮像した画像と、可視光で撮像した画像を一致させる操作が不要で、農産物の輪郭内の色,傷の判定をより正確に得ることができる。
【0088】
請求項の農産物の外観検査装置の発明によれば、近赤外光画像情報による農産物の外形輪郭の正確な切り出しと、切り出した輪郭内の画素の可視光画像情報を利用した農産物の色,傷の検出を高精度に行える。
【0089】
請求項の発明によれば、農産物の傷を近赤外光画像情報と可視画像情報のいずれかあるいは双方を利用してより高精度に検出する装置を提供できる。
【0090】
請求項の発明によれば、農産物の色の検出と、近赤外光画像情報と可視画像情報のいずれかあるいは双方を利用した傷の検出を高精度に行う装置を提供できる。
【0092】
上記した請求項4から6の発明によれば、近赤外光による農産物の外形輪郭を切り出すための近赤外光による撮像画像と、色,傷を検出するための可視光による撮像画像を別々のカメラ(等の撮像手段)で行う装置に比べ、両者画像の画角を一致させる各カメラ等の位置合わせを不要とでき、しかも色,傷の高い検出精度を確保できる優れた効果が奏される。また、近赤外光及び可視光を一つの撮像手段で同時に撮像するので、農産物が搬送コンベア等の搬送手段の上で動くことがあっても近赤外光画像情報と可視光画像情報の画像のずれを全く考慮する必要がなく、高精度に色,傷を検出できるという効果が奏される。
【図面の簡単な説明】
【図1】本発明を適用する選果設備の構成概要一例を示した図。
【図2】本発明に用いられる受光手段の一部をなす撮像手段の構成を示した図。
【図3】本発明のカメラ計測制御装置の構成概要一例をブロック図で示した図。
【図4】本発明の農産物の外観検査方法の処理内容の一例をモジュル化して示した図。
【図5】農産物の外観検査装置を用いて行う検査操作の実施形態1を説明するフローチャート図。
【図6】農産物の外観検査装置を用いて行う検査操作の実施形態2を説明するフローチャート図。
【図7】農産物の外観検査装置を用いて行う検査操作の実施形態3を説明するフローチャート図。
【図8】農産物の外観検査装置を用いて行う検査操作の実施形態4を説明するフローチャート図。
【図9】農産物の外観検査装置を用いて行う検査操作の実施形態5を説明するフローチャート図。
【符号の説明】
1・・・リンゴ(農産物)
2・・・搬送コンベア
3・・・フリートレー(容器)
4・・・光源ランプ
5・・・受光手段
51・・・レンズ
52・・・分光器
531・・・NIR用CCD
532・・・R用CCD
533・・・G用CCD
541・・・増幅回路
542・・・増幅回路
543・・・増幅回路
551・・・A/D変換回路
552・・・A/D変換回路
553・・・A/D変換回路
56・・・駆動回路
6・・・カメラ計測制御装置
601・・・ビデオI/F
602・・・フレームメモリ
603・・・イメージバス
604・・・ビデオD/A
605・・・イメージプロセッサ
606・・・LUTメモリ
607・・・プレーンメモリ
608・・・CPUバス
609・・・処理装置
610・・・I/O
611・・・ROM
612・・・RAM
〜7 ・・・仕分け選別装置(のソレノイド)
8・・・同期信号発生装置

Claims (6)

  1. 搬送手段上の農産物を近赤外光及び可視光で同一の撮像手段により同時に撮像し、a行b列の画素からなる近赤外光画像及び可視光画像を得、該近赤光外画像を構成する各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで、該農産物の輪郭内領域の画素を抽出し、これら抽出した輪郭内領域の二値化画素と前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した該農産物の輪郭内領域の画素の可視光画像情報により農産物の色及び/又は傷を判定することを特徴とする農産物の外観検査方法。
  2. 請求項1において、農産物の色及び/又は傷を判定するための可視光情報は、少なくとも赤色光(R),緑色光(G)の波長域の光情報を含み、必要に応じて青色光(B)の波長域の光情報を含むことを特徴とする農産物の外観検査方法。
  3. 搬送手段上の農産物を近赤外光及び可視光で同一の撮像手段により同時に撮像し、a行b列の画素からなる近赤外光画像及び可視光画像を得、該近赤光外画像を構成する各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで、該農産物の輪郭内領域の画素を抽出し、これら抽出した輪郭内領域の二値化画素と前記近赤外画像情報及び前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した該農産物輪郭内の画素の可視光画像情報と近赤外光画像情報とにより、農産物の色及び傷、又は傷を判定することを特徴とする農産物の外観検査方法。
  4. 農産物を搬送する搬送手段と、
    搬送される農産物に近赤外光領域及び可視光を含む照明光を照射する光源と、
    前記光源で照明した農産物の近赤外光画像及び可視光画像を同時に撮像してa行b列の各画素毎に近赤外光画像情報及び可視光画像情報を抽出する1つの受光手段と、
    前記各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで農産物の輪郭内領域の画素を抽出する輪郭内画素抽出手段と、
    これら抽出した輪郭内領域の二値化画素と前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した各画素の可視光画像情報を抽出する可視光画像情報抽出手段と、
    該可視光画像情報抽出手段で抽出した可視光画像情報により農産物の色及び/又は傷を判定する判定手段と、
    を備えたことを特徴とする農産物の外観検査装置。
  5. 農産物を搬送する搬送手段と、
    搬送される農産物に近赤外光領域及び可視光を含む照明光を照射する光源と、
    前記光源で照明した農産物の近赤外光画像及び可視光画像を同時に撮像してa行b列の各画素毎に近赤外光画像情報及び可視光画像情報を抽出する1つの受光手段と、
    前記各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで農産物の輪郭内領域の画素を抽出する輪郭内画素抽出手段と、
    前記輪郭内画素抽出手段で抽出した輪郭内領域の二値化画素と前記近赤外光画像及び前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した各画素の近赤外光画像情報及び可視光画像情報を抽出する像情報抽出手段と、
    前記画像情報抽出手段で抽出した可視光画像情報により農産物の傷を判定する第1の傷判定手段と、
    前記画像情報抽出手段で抽出した各画素の近赤外光画像情報により農産物の傷を判定する第2の傷判定手段と
    を備え、前記第1及び第2の傷判定手段の結果を総合して農産物の傷判定を行うことを特徴とする農産物の外観検査装置。
  6. 農産物を搬送する搬送手段と、
    搬送される農産物に近赤外光領域及び可視光を含む照明光を照射する光源と、
    前記光源で照明した農産物の近赤外光画像及び可視光画像を同時に撮像してa行b列の各画素毎に近赤外光画像情報及び可視光画像情報を抽出する1つの受光手段と、
    前記各画素の近赤外光画像情報を予め定めた閾値と比較して二値化し、各該二値化画素が該農産物の外形輪郭の内外のいずれに位置するかを区別することで農産物の輪郭内領域の画素を抽出する輪郭内画素抽出手段と、
    前記輪郭内画素抽出手段で抽出した輪郭内領域の二値化画素と前記近赤外光画像及び前記可視光画像との画素間AND演算により前記農産物の輪郭内領域の画素を特定し、特定した各画素の近赤外光画像情報及び可視光画像情報を抽出する像情報抽出手段と、
    前記画像情報抽出手段で抽出した可視光画像情報により農産物の色及び又は傷を判定する第1の判定手段と、
    前記画像情報抽出手段で抽出した各画素の近赤外光画像情報により農産物の傷を判定する第2の判定手段と
    を備えたことを特徴とする農産物の外観検査装置。
JP13889196A 1996-05-31 1996-05-31 農産物の外観検査方法及び装置 Expired - Lifetime JP3614980B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP13889196A JP3614980B2 (ja) 1996-05-31 1996-05-31 農産物の外観検査方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP13889196A JP3614980B2 (ja) 1996-05-31 1996-05-31 農産物の外観検査方法及び装置

Publications (2)

Publication Number Publication Date
JPH09318547A JPH09318547A (ja) 1997-12-12
JP3614980B2 true JP3614980B2 (ja) 2005-01-26

Family

ID=15232543

Family Applications (1)

Application Number Title Priority Date Filing Date
JP13889196A Expired - Lifetime JP3614980B2 (ja) 1996-05-31 1996-05-31 農産物の外観検査方法及び装置

Country Status (1)

Country Link
JP (1) JP3614980B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7812948B2 (en) * 2003-10-17 2010-10-12 Astellas Pharma Inc. Different-kind-of-object detector employing plane spectrometer
JP2006003134A (ja) * 2004-06-16 2006-01-05 Maki Mfg Co Ltd 農産物の外観検査装置
JP4556993B2 (ja) 2007-12-07 2010-10-06 セイコーエプソン株式会社 状態検査システム
JP5213038B2 (ja) * 2008-08-28 2013-06-19 独立行政法人農業・食品産業技術総合研究機構 イチゴ品質測定方法及びイチゴ品質測定装置
JP5888639B2 (ja) * 2010-08-18 2016-03-22 国立大学法人三重大学 色彩画像撮像・解析システム
JP2016033694A (ja) * 2014-07-30 2016-03-10 東芝テック株式会社 物体認識装置及び物体認識プログラム
WO2017168469A1 (ja) * 2016-03-28 2017-10-05 パナソニックIpマネジメント株式会社 外観検査装置と外観検査方法
CN110118735B (zh) * 2018-02-06 2020-08-25 中国农业机械化科学研究院 一种检测香梨公母的高光谱成像检测方法及装置
CN111024710B (zh) * 2019-12-17 2022-04-08 江苏恒宝智能系统技术有限公司 一种农作物异常检测系统及方法
CN112756268B (zh) * 2021-01-27 2023-02-21 延边金刚山食品股份有限公司 一种辣白菜原材料自动筛选装置

Also Published As

Publication number Publication date
JPH09318547A (ja) 1997-12-12

Similar Documents

Publication Publication Date Title
Noordam et al. High-speed potato grading and quality inspection based on a color vision system
US5675419A (en) Scattered/transmitted light information system
JP6590907B2 (ja) 莢果選別システム、莢果選別装置及び莢果選別方法
US6271520B1 (en) Item defect detection apparatus and method
US20060244959A1 (en) Inspecting apparatus and method for foreign matter
US5106195A (en) Product discrimination system and method therefor
JP2008541007A (ja) 食品の異物検出装置
CN1995987A (zh) 基于高光谱图像技术的农畜产品无损检测方法及装置
JPH0321235B2 (ja)
JP3614980B2 (ja) 農産物の外観検査方法及び装置
JP2001037367A (ja) 卵自動選別装置及び不良卵検出装置
JPS5973089A (ja) 電子的傷スキヤナ
US20240420314A1 (en) Foreign material inspection system
JP5455409B2 (ja) 異物選別方法および異物選別設備
US20180369872A1 (en) Method and apparatus for sorting
JPH06103170B2 (ja) 物品の外観検査方法と装置
CN116532381A (zh) 水果分拣机器人的控制方法、装置、电子设备
US5018864A (en) Product discrimination system and method therefor
US7835540B2 (en) Method of detecting bunched-together poster items by analyzing images of their edges
JPH11230960A (ja) 卵の鮮度自動判定装置
JP4318292B2 (ja) 農産物の外観検査装置
JP3311880B2 (ja) 青果物の傷害自動検出装置
JP2004333177A (ja) 被検査物の判別方法とその装置
JP2003251282A (ja) 苺用等階級計測判定装置
JP2642107B2 (ja) 青果物の自動等級判定方法と装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040706

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040902

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041028

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071112

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081112

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313532

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081112

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081112

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081112

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091112

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101112

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111112

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111112

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121112

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131112

Year of fee payment: 9

EXPY Cancellation because of completion of term