JP4720742B2 - 物流量測定方法及び物流量測定装置 - Google Patents

物流量測定方法及び物流量測定装置 Download PDF

Info

Publication number
JP4720742B2
JP4720742B2 JP2006354922A JP2006354922A JP4720742B2 JP 4720742 B2 JP4720742 B2 JP 4720742B2 JP 2006354922 A JP2006354922 A JP 2006354922A JP 2006354922 A JP2006354922 A JP 2006354922A JP 4720742 B2 JP4720742 B2 JP 4720742B2
Authority
JP
Japan
Prior art keywords
bright
score
dark
flow rate
dark part
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006354922A
Other languages
English (en)
Other versions
JP2008164466A (ja
Inventor
弘顕 松本
健司 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Metal Mining Co Ltd
Original Assignee
Sumitomo Metal Mining Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Metal Mining Co Ltd filed Critical Sumitomo Metal Mining Co Ltd
Priority to JP2006354922A priority Critical patent/JP4720742B2/ja
Publication of JP2008164466A publication Critical patent/JP2008164466A/ja
Application granted granted Critical
Publication of JP4720742B2 publication Critical patent/JP4720742B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Description

本発明は、ベルトコンベア等の搬送平面に載って移動するものに対して、画像処理検査によって物流量を測定する物流量測定装置及び物流量測定方法に関し、特に安定した物流推定量を得ることができるようにしたものである。
図1は従来から画像処理により物流量を得るために一般に採用されているラインCCDカメラ1と、光ファイバ照明光源2とシリンドリカル・レンズ3で構成される照明装置の配置図である。なお、後述するように本発明でも基本的には同様の構成のものを使用する。図1において、ラインCCDカメラ1は、その視野5が搬送方向とは直角(搬送方向と交叉する方向)に延び、ラインCCDカメラの視野5がベルトコンベア7の搬送平面7aに垂直が向くように、ベルトコンベア7の上方に配置されている。
そして、ベルトコンベア7上の被測定対象物4がラインCCDカメラの視野5に入ったとき、シリンドリカル・レンズ3によりベルトコンベア7の幅方向に広がった平行光束となるように変換され光ファイバ照明光源2から照明光束が被測定対象物4の上面に照射されるように、光ファイバ照明光源2はベルトコンベア7の斜め上方に配置されている。今、ラインCCDカメラの視野5とベルトコンベア7の搬送平面7aの交差するラインを撮像ポイントPとすると、被測定対象物4が存在しない場合にも、光ファイバ照明光源2からの光束は撮像ポイントPを照射することになる。
ところで画像処理において、より正しい物流推定量を得るには、測定対象物の大きさを認識する必要がある。ベルトコンベア7上のラインCCDカメラ1によって、二次元画像を得ることは容易であるが、ベルトコンベア7の汚れなどの理由により、高さを持った物である事の認識を自動で行うには一工夫が必要になる。
高さの有無情報を得る為には特許文献1に記載されているように照明を斜めに当て、明るい正反射部と暗い影を作る方法がある。この方法によれば図1に示したようにベルトコンベア7の幅方向に線状に延びた平行光束6により、被測定対象物4は照射される。このとき、被測定対象物4の照明側は正反射条件で反射光がカメラへと入る確率が高く、撮像画像において明るく光って写る。一方、被測定対象物4の照明側と反対の側は被測定対象物自身の影になる確率が高く、撮像画像において暗く写る。ベルトコンベア7を照らす照明光は上記の中間的な輝度を示し灰色に写る。または、ベルトコンベア7として灰色に写る様な素材や表面性状の物を選択することが可能である。この様に、被測定対象物の照明側が明るく、反対側が暗く、それ以外の部分が灰色に写る環境を用意する事が可能である。
また特許文献2に記載されているように、隣接する明部と暗部をセット(ペア)と考える事で凹凸を判別する方法がある。この方法ではベルトコンベア上で高さを持った物である事の検出は可能であり、この方法を用いることで( 高さを持たない) 汚れの影響を受けにくく、物流量としては無視して構わない小さすぎる物を大きな物と誤検出する事を防ぐことが可能になる。
特公平2−42407号公報 特開平6−229929号公報
しかし、被測定対象物上面の照明側と反対側の中間で、小さいながらも凹凸があると、その部分にも明暗のコントラストが発生する。その状況を表した画像が図2である。大きな明部と暗部の間に、小さな明部と暗部8が発生しており、それは大きな被測定対象物表面の小さな凹凸に起因している。大きな明部に対する暗部として最も隣接する暗部とペアにする方法では被測定対象物の大きさの認識を大きく間違う状況がしばしば生じる。そして、この様にして不適切な明部と暗部をペアにしてしまう事で物流推定量の精度が落ちる問題がある。
ところで、上記した画像処理では、まず明部に着目し、次にペアとなる暗部を探し出すことで被測定対象物の大きさを推定する。しかし、次々と見つかる多くの明部それぞれに対し、毎回、全画面中を探すのは非効率的である。従って、暗部探索範囲を固定化して限定するようにしている。しかし、これでは上記したように明部と暗部のペアの認識を間違えることにより物流推定量の精度が落ちてしまう結果となることを避けられない。
そこで、本願発明者は種々の実験を繰り返した結果、大きな明部を見つけた時点で、被測定対象物の大きさが大きい確率が高い事が予想されるということがわかった。従って、暗部探索範囲は明部の大きさが大きいほど遠くまで、また、幅方向( 搬送面上において搬送方向と交叉する方向)にも広く暗部探索範囲を広げる事が必要であることがわかったのである。逆に、小さな明部に対しては暗部探索範囲を狭めることで探索時間を短縮することが可能になる。
一方、決められた探索範囲において複数の暗部が見つかった場合、どの暗部をペアとして採用するのかが問題となる。この場合について実験を繰り返した結果、正解確率が高い決定方法として、明部の大きさに対して大きさが近い暗部ほど大きな得点を与え、最も高い得点の暗部を明部のペアとして採用する方法が有効であることがわかった。
また、平行光照明の性質上、明部に対応すべき暗部は、明部の搬送方向後部に現れる確率が高い。従って、幅方向にずれている暗部を明部に対応すべきペアとして採用しないほうが正解確率が高い。そこで、幅方向位置の一致度が高い暗部に対して高い得点を与え、幅方向にずれた暗部に対して小さな得点を与え、最も高い得点の暗部を明部のペアとして採用する方法が有効であることがわかった。
さらに上記した、明部の大きさに近い暗部に高得点を与える方法と、幅方向位置の一致度が高い暗部に対して高得点を与える方法を組み合わせ、それぞれの得点に所定の係数を掛けて合算し、最も高い得点の暗部を明部のペアとして採用する方法が最も有効であるとことがわかった。
さらにまた、搬送する被測定対象物の性状( 粒度、粒度分布、表面状態など) が変わると、上記係数を変えた方が正解確率が高くなることがわかった。
本発明は、かかる事情に鑑みてなされたものであり、その目的とするところは、現実的に存在する様々な表面凹凸を持つ物の検出において、適切な明部と暗部のペアを見つけ出す物流量測定方法及び物流量測定装置を提供することにある。
上記の目的を達成するために、本発明の物流量測定方法は、搬送平面の上に載って移動する被測定対象物に対して搬送平面上方のカメラを用いて撮像する際に、被測定対象物に対し搬送方向の手前側の斜め上方から撮像ポイントに照明光を照射して明暗の付いた画像を撮像できるようにし、被測定対象物の明部と暗部のペアを判別することで被測定対象物の大きさを推定し、物流量を測定するようにした物流量測定方法において、明部に対応すべき暗部を特定する方法として、明部の大きさが大きいほど暗部の探索範囲を広げるようにしたものである。
そして、本発明の別の態様は、前記発明に加えて明部の大きさに対して大きさが近い暗部ほど大きな得点を与え、最も高い得点の暗部を明部のペアとして採用するようにしたものである。
また、本発明の別の態様は、前記発明に加えて明部の幅方向( 搬送面上において搬送方向と交叉する方向) に対しより一致する暗部に高い得点を与え、ずれた暗部に対しては小さな得点を与え、最も高い得点の暗部を明部のペアとして採用するようにしたものである。
また、本発明の別の態様は、前記発明に加えて明部の大きさに対して大きさが近い暗部ほど大きな得点を与える方法と、幅方向の一致度が高い暗部に対して高得点を与える方法を組み合わせ、それぞれの得点に所定の係数を掛けて合算し、最も高い得点をペアとして採用するようにしたものである。
さらにまた、本発明の別の態様は、前記発明に加えて搬送する被測定対象物の粒度、粒度分布、表面状態などの各種性状に応じて、それぞれの得点に掛ける上記所定の係数を変化させるようにしたものである。
一方、本発明の物流量測定装置は、搬送平面の上に載って移動する被測定対象物に対して搬送平面上方に撮像用のカメラを設置し、また撮像ポイントに対し斜め上方から照明光を照射するための照明装置を被測定対象物に対し搬送方向の手前側の搬送平面上方に設置して明暗の付いた画像をカメラで撮像できるようにし、被測定対象物の明部と暗部のペアを判別することで被測定対象物の大きさを推定し、物流量を測定するようにした物流量測定装置おいて、明部として認識された撮像画像の大きさが大きいほど暗部の探索範囲を広げ、その明部に対応すべき暗部を特定するように構成したものである。
そして、本発明の別の態様は、前記発明に加えて明部の大きさに対して撮像した画像の大きさが近い暗部に対して大きな得点を与え、最も高い得点の暗部を明部のペアとして認識させるようにしたものである。
また、本発明の別の態様は、前記発明に加えて明部の幅方向( 搬送面上において搬送方向と交叉する方向) に対しより一致する暗部の撮像画像に対して高い得点を与え、ずれた暗部に対しては小さな得点を与え、最も高い得点の暗部を明部のペアとして認識させるようにしたものである。
また、本発明の別の態様は、前記発明に加えて明部の大きさに対して撮像した画像の大きさが近い暗部に対して大きな得点を与え、また幅方向の一致度が高い暗部の撮像画像に対して高得点を与え、それぞれの得点に所定の係数を掛けて合算し、最も高い得点をペアとして認識させるようにしたものである。
さらにまた、本発明の別の態様は、前記発明に加えて搬送する被測定対象物の粒度、粒度分布、表面状態などの各種性状に応じて、それぞれの得点に掛ける前記所定の係数を適宜設定できるようにしたものである。
本発明の物流量測定方法及び物流量測定装置によれば、明部に対する暗部ペア特定の誤判定が減り、良好な物流量推定ができるようになる。また、物流量推定のみならず、凹凸欠陥の量を、凹凸別や大きさ別に集計する方法として使用する事に関しても同様な有効性がある。
本発明によれば明部に対応すべき暗部を探し出す方法として、明部の大きさが大きいほど暗部の探索範囲を広げるようにする。一方、明部の大きさに対して大きさが近い暗部ほど大きな得点を与える方法と、幅方向の一致度が高い暗部に対して高得点を与える方法を組み合わせ、それぞれの得点に所定の係数を掛けて合算し、最も高い得点をペアとして採用するようにする。
また、測定時にベルトコンベア上を実際に搬送されている被測定対象物の統計的な大きさ( 粒度の絶対値、粒度分布、縦横比) 分布を自動的に計算する。あるいは、被測定対象物の統計的な大きさ情報は検査前において知り得る場合もある。そして、予め知り得た情報、若しくは、取り込み画像によって得られた情報に応じて、探索範囲を拡大するための係数、幅方向の一致度についての得点に対する係数、大きさの一致度についての得点に対する係数をそれぞれ変化させる。
本発明の物流量測定方法及び物流量測定装置を実施例により図に基づいて従来例と比較しながらさらに具体的に説明する。
図1は本発明によるラインCCDカメラと光ファイバ照明光源2とシリンドリカル・レンズ3とで構成された照明装置の配置を示す正面図である。図2は被測定対象物の照明側(対象物右側)明部と、反対側(対象物左側)暗部の撮影画像である。図3は固定的な探索範囲によって正しい暗部を探し出せなかった状態の撮影画像である。図4は最も近接した暗部をペアとして採用したため、大きな明部と小さな暗部をペアと誤認識した状態の撮影画像である。図5は着目した明部に対して暗部を探す際に、近接していたとはいえ幅方向にずれている隣の製品の暗部をペアとして採用してしまう誤判定をしている状態の撮影画像である。図6は本発明の方法を用い、適切にペアを見つけた状態の撮影画像である。
以下、撮像画像から明部に対応する暗部の決め方とそれに基づく測定方法について詳述する。
測定対象とした製品(被測定対象物4)としては高さは20〜70mmの範囲に入っている物を使用した。ベルトコンベア7の製品搬送方向と直角方向(ベルトコンベアの幅方向)の視野5となるようにラインCCDカメラ1をベルトコンベア7の撮像ポイントPの垂直上に配置した。
ラインCCDカメラ1の視野5と平行な形の線状に照明光を出射する光ファイバ照明光源2をベルトコンベア7の搬送方向に対し視野5より手前側上方に配置し、照明光束は水平より45度下方に傾けた。照明光は光ファイバ照明光源2にシリンドリカル・レンズ3を使用して平行光となるように調整した。そして、製品をベルトコンベア7で図1矢印方向へ搬送して測定を行った。
この場合図3に示すように、従来の方法では固定的な探索範囲9で明部に対する暗部ペアの探索を行っていたため、想定していたものより若干大きな製品が来たときに暗部を探し出せず、製品と判定する事ができなかった。あるいは、最大製品サイズを探索範囲にせざるを得なかったため、小さな明部に対しても不必要に広い探索を行い、検査速度を上げることができなかった。
本発明では後述するように、明部の大きさが大きいほど遠くまで暗部の探索範囲9を広げる方法を採用することで、不必要な探索を行わずに大きな製品への対応が容易になり、なおかつ、検査速度を20%上げることができた。
また図4に示すように大きな製品の場合、大きな明部と暗部の間に小さな明部と暗部が発生する事がしばしばあった。この場合従来は、明部に対して最も近接した暗部をペア10として採用していたため、大きな明部と小さな暗部をペアと認識し、実際より小さな製品と誤判定していた。
これに対し本発明では明部の大きさに応じて暗部の探索範囲9を広げるとともに、明部の大きさと近い大きさを持つ暗部に対してより大きな得点を与える方式を採用し、最も高い得点の暗部を明部のペアとして採用する事で、実際の大きさを認識する確率が高くなり物流量推定精度が5ポイント向上した。
また図5に示すように従来は製品が近接している場合、着目した明部に対して暗部を探す際に、近接していた製品の暗部をペア10として採用してしまう誤判定をしていた。
本発明では、明部の重心に対し、幅方向の一致度が高い重心を持つ暗部に高い得点を与え、最も高い得点の暗部を明部のペアとして採用する方法を採用することで誤判定が減り、物流量推定精度が3ポイント向上した。
また、図6に示すように明部の大きさに応じて暗部の探索範囲9を広げ、明部の大きさに近い大きさを持つ暗部に高得点を与え、更に、明部と幅方向一致度が高い暗部に高得点を与える方法を併用し、それぞれの得点に所定の係数0.5を掛けて合算し、最も高い得点を得た暗部をペア10として採用することで誤判定が減り、物流量推定精度が10ポイント向上した。
一方、製品のロットが変わると、製品の粒度と粒度分布が変化していた。粒度と粒度分布は物流量推定を短時間試みる間に推定値を得ることができ、ロットによる違いを検出できた。そして、様々な粒度と粒度分布における、探索範囲拡大係数、明暗部面積一致度得点係数、明暗部重心一致度得点係数の最適値を予め求めておいたので、それを用い、ロット毎に最も適した各係数を使用する事で物流量推定精度が更に2ポイント向上し、85%となった。
ラインCCDカメラと照明装置の配置図である。 被測定対象物の照明側( 対象物右側) 明部と、反対側( 対象物左側) 暗部の撮影画像である。 固定的な探索範囲によって正しい暗部を探し出せなかった状態の撮影画像である。 最も近接した暗部をペアとして採用したため、大きな明部と小さな暗部をペアと誤認識した状態の撮影画像である。 着目した明部に対して暗部を探す際に、近接していたとはいえ幅方向にずれている隣の製品の暗部をペアとして採用してしまう誤判定をしている状態の撮影画像である。 本発明の方法を用い、適切にペアを見つけた状態の撮影画像である。
符号の説明
1 ラインCCDカメラ
2 光ファイバ照明光源
3 シリンドリカル・レンズ
4 被測定対象物
5 ラインCCDカメラの視野
6 照明光束
7 ベルトコンベア
7a 搬送平面
8 被測定対象物表面の小さな凹凸に起因している小さな凹凸による小さな明/ 暗部が発生している状況
9 探索範囲
10 明部+暗部のペアとして認識した領域
P 撮像ポイント

Claims (10)

  1. 搬送平面の上に載って移動する被測定対象物に対して搬送平面上方のカメラを用いて撮像する際に、被測定対象物に対し搬送方向手前側の斜め上方から撮像ポイントに照明を当てて明暗の付いた画像を撮像できるようにし、被測定対象物の明部と暗部のペアを判別することで被測定対象物の大きさを推定し、物流量を測定するようにした物流量測定方法において、明部に対応すべき暗部を特定する方法として、明部の大きさが大きいほど暗部の探索範囲を広げるようにしたことを特徴とする物流量測定方法。
  2. 明部の大きさに対して大きさが近い暗部ほど大きな得点を与え、最も高い得点の暗部を明部のペアとして採用するようにした請求項1に記載の物流量測定方法。
  3. 明部の幅方向( 搬送面上において搬送方向と交叉する方向) に対しより一致する暗部に高い得点を与え、ずれた暗部に対しては小さな得点を与え、最も高い得点の暗部を明部のペアとして採用するようにした請求項1に記載の物流量測定方法。
  4. 明部の大きさに対して大きさが近い暗部ほど大きな得点を与える方法と、幅方向の一致度が高い暗部に対して高得点を与える方法を組み合わせ、それぞれの得点に所定の係数を掛けて合算し、最も高い得点をペアとして採用するようにした請求項1に記載の物流量測定方法。
  5. 搬送する被測定対象物の粒度、粒度分布、表面状態などの各種性状に応じて、それぞれの得点に掛ける前記所定の係数を変化させるようにした請求項4に記載の物流量測定方法。
  6. 搬送平面の上に載って移動する被測定対象物に対して搬送平面上方に撮像用のカメラを設置し、また撮像ポイントに対し斜め上方から照明光を照射するための照明装置を被測定対象物に対し搬送方向手前側の搬送平面上方に設置して明暗の付いた画像をカメラで撮像できるようにし、被測定対象物の明部と暗部のペアを判別することで被測定対象物の大きさを推定し、物流量を測定するようにした物流量測定装置おいて、明部として認識された撮像画像の大きさが大きいほど暗部の探索範囲を広げ、その明部に対応すべき暗部を特定するように構成したことを特徴とする物流量測定装置。
  7. 明部の大きさに対して撮像した画像の大きさが近い暗部に対して大きな得点を与え、最も高い得点の暗部を明部のペアとして認識させるようにした請求項6に記載の物流量測定装置。
  8. 明部の幅方向( 搬送面上において搬送方向と交叉する方向) に対しより一致する暗部の撮像画像に対して高い得点を与え、ずれた暗部に対しては小さな得点を与え、最も高い得点の暗部を明部のペアとして認識させるようにした請求項6に記載の物流量測定装置。
  9. 明部の大きさに対して撮像した画像の大きさが近い暗部に対して大きな得点を与え、また幅方向の一致度が高い暗部の撮像画像に対して高得点を与え、それぞれの得点に所定の係数を掛けて合算し、最も高い得点をペアとして認識させるようにした請求項6に記載の物流量測定装置。
  10. 搬送する被測定対象物の粒度、粒度分布、表面状態などの各種性状に応じて、それぞれの得点に掛ける前記所定の係数を適宜設定できるようにした請求項9に記載の物流量測定装置。
JP2006354922A 2006-12-28 2006-12-28 物流量測定方法及び物流量測定装置 Active JP4720742B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006354922A JP4720742B2 (ja) 2006-12-28 2006-12-28 物流量測定方法及び物流量測定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006354922A JP4720742B2 (ja) 2006-12-28 2006-12-28 物流量測定方法及び物流量測定装置

Publications (2)

Publication Number Publication Date
JP2008164466A JP2008164466A (ja) 2008-07-17
JP4720742B2 true JP4720742B2 (ja) 2011-07-13

Family

ID=39694168

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006354922A Active JP4720742B2 (ja) 2006-12-28 2006-12-28 物流量測定方法及び物流量測定装置

Country Status (1)

Country Link
JP (1) JP4720742B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004265264A (ja) * 2003-03-04 2004-09-24 Matsushita Electric Ind Co Ltd 画像処理装置
JP2005181070A (ja) * 2003-12-18 2005-07-07 Nippon Sheet Glass Co Ltd 透明板状体の欠点検出方法及び欠点検出装置

Also Published As

Publication number Publication date
JP2008164466A (ja) 2008-07-17

Similar Documents

Publication Publication Date Title
CN107735674B (zh) 表面缺陷检测装置、表面缺陷检测方法及钢材的制造方法
WO2015098929A1 (ja) 表面欠陥検出方法及び表面欠陥検出装置
JP6646339B2 (ja) 表面欠陥検出方法、表面欠陥検出装置、及び鋼材の製造方法
JP2020008501A (ja) 表面欠陥検出装置及び表面欠陥検出方法
JP5174540B2 (ja) 木材欠陥検出装置
JP6119663B2 (ja) 表面欠陥検出方法及び表面欠陥検出装置
JP6753553B1 (ja) 表面欠陥検出方法、表面欠陥検出装置、鋼材の製造方法、鋼材の品質管理方法、鋼材の製造設備、表面欠陥判定モデルの生成方法、及び表面欠陥判定モデル
CN107709977B (zh) 表面缺陷检测装置及表面缺陷检测方法
CN114450711A (zh) 工件的表面缺陷检测装置及检测方法、工件的表面检查系统以及程序
JP2007248051A (ja) 対象物表面の欠陥検査方法
JP6387909B2 (ja) 表面欠陥検出方法、表面欠陥検出装置、及び鋼材の製造方法
TW201504591A (zh) 孔洞檢查裝置
JP4720742B2 (ja) 物流量測定方法及び物流量測定装置
JP2009287980A (ja) 外観検査装置
KR101637977B1 (ko) 레이저 비전 시스템을 이용한 용접 조인트의 특징점 검출 방법
JP2015200544A (ja) 表面凹凸検査装置及び表面凹凸検査方法
JP6566903B2 (ja) 表面欠陥検出方法および表面欠陥検出装置
JP2015200604A (ja) 欠陥検出方法及び欠陥検出装置
JP4016381B2 (ja) 表面欠陥検査装置
KR102117697B1 (ko) 표면검사 장치 및 방법
JP2004191070A (ja) 塗装面の検査装置
JP2000275033A (ja) 表面欠陥検査装置
JP2010230450A (ja) 物体表面検査装置
JP5266118B2 (ja) 物体表面の欠陥検査方法および欠陥検査装置
JP2001317927A (ja) スリット形状溝検査装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110321

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140415

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4720742

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150