JP6275622B2 - 走行面上の複数の製品の位置と三次元的な形状を非接触で検出する方法およびスキャナ - Google Patents

走行面上の複数の製品の位置と三次元的な形状を非接触で検出する方法およびスキャナ Download PDF

Info

Publication number
JP6275622B2
JP6275622B2 JP2014217307A JP2014217307A JP6275622B2 JP 6275622 B2 JP6275622 B2 JP 6275622B2 JP 2014217307 A JP2014217307 A JP 2014217307A JP 2014217307 A JP2014217307 A JP 2014217307A JP 6275622 B2 JP6275622 B2 JP 6275622B2
Authority
JP
Japan
Prior art keywords
line
imaging
image
camera
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014217307A
Other languages
English (en)
Other versions
JP2015083975A (ja
Inventor
カール−ルードヴィヒ シナー
カール−ルードヴィヒ シナー
アブデルマレク ナスラオウイ
アブデルマレク ナスラオウイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gerhard Schubert GmbH
Original Assignee
Gerhard Schubert GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gerhard Schubert GmbH filed Critical Gerhard Schubert GmbH
Publication of JP2015083975A publication Critical patent/JP2015083975A/ja
Application granted granted Critical
Publication of JP6275622B2 publication Critical patent/JP6275622B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/06Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness for measuring thickness ; e.g. of sheet material
    • G01B11/0691Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness for measuring thickness ; e.g. of sheet material of objects while moving
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/06Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness for measuring thickness ; e.g. of sheet material
    • G01B11/0608Height gauges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras

Description

本発明は、三次元的な形状を光学的に検出する方法に関する。
産業の多くの分野、特に包装技術においては、走行面(例えば搬送ベルト)上に不揃いに並べられた製品の位置(場合によっては高さも)が検出されねばならないという課題が存在する。また、平面視で円形でない製品の場合はその向きが、平面視で回転対称でない製品の場合はその幾何形状や表面の特徴が検出されねばならないという課題が存在する。これらを検出することで、搬送ベルトに沿って配置されたロボット(いわゆるピッカ)は、製品を正確に把持し、持ち上げ、例えば箱内に配置するように制御されうる。
従来、上記の検出は入射光ラインスキャナによって行なわれていた。当該ラインスキャナは、走行面を横切るように延びており、テレセントリックに線状の像を撮影する。よって、当該ラインスキャナは、走行面に対して垂直に向けられている。撮影像は、処理ユニットにより順次並べられ、走行面の速度に応じた連続した1枚の像が生成される。製品は走行面と異なる色とされることにより、その位置が検出可能とされる。よって、搬送ベルトが汚れると、製品の位置を正確に検出するための製品と走行面の区別がつきにくくなる場合がある。
しかしながら、この手法は、原則的に対象の高さ(すなわち厚さ)の特定には不向きであった。よって、製品の表面に光学的な観点から問題がある場合(光沢がある、鏡状である、走行面との色の差が少ない等)、上記の光学的検出では十分に位置を特定できない場合があった。特に、検出に供される面がアルミ箔や金属面のように反射性である場合、上記の光学的検出は不十分であった。
この問題は、ビスケットのような平坦な製品や細長い棒状の製品が部分的に重なり合っている状況についてもあてはまる。
よって、輪郭に着目すれば、1つの対象物のみならず、部分的に重なっている2つの対象物の検出が容易になる。しかし、両対象物のいずれが下側に位置しているのか、どちらの対象物が上に載っているのか、重なり合うことでどのくらいの高さになっているのかを常に検出できるわけではない。
しかしながら、複数配置されたピッカによってひとかたまりの製品が上流側から順次崩されていく場合において、上記の情報は、下流側に位置するピッカにとって有意である。
搬送ベルト上の製品の三次元的な形状を検出する手法は、周知である。
立体視法においては、2つのカメラが異なる撮像角から撮像を行なう。そして、両画像におけるテクスチャ明度分布の検出がなされる。明度分布の一致に基づいて関連する箇所が特定される。当該箇所を重ねる(相関をとる)ことにより、視差に基づいて当該箇所の高さが容易に特定される。しかしながら、この手法が有効なのはテクスチャが得られる場合のみであり、他の領域においては、依然として高さは特定され得ない。
ストリップ投影法においては、所定のストリップパターンが照射され、異なる撮像角から撮像がなされる。三角測量法は、当該ストリップパターンにおける空間内の各点の位置検出を容易にする。
しかしながら、当該パターンは、その繰り返し構造ゆえにボケを伴う。大きな高さ範囲と高い解像度を両立するために、複数のパターンを続けて対象に投影し、走査がなされることが普通である。
したがって、この方法は、対象が移動する場合には不向きである。
また、この方法は、できるだけ暗い環境を必要とするため、ストリップの端縁が実際の対象物の端縁と区別されるとは限らない。
陰影法においては、対象物が異なる光源により異なる方向から照明される。生じる陰影に基づき、複雑なアルゴリズム手法を通じて対象の高さが特定されうる。
強くかつ精密に構成された表面は、この方法による検出はほぼ不可能であり、良好でない光学的な特性(例えば反射性)を有する表面の検出もほぼ不可能である。
この方法が利用可能だったとしても、その複雑性ゆえに産業規模で用いられることはほとんどなく、天文学の研究のような場において用いられていた。
したがって、本発明は、走行面上における複数の製品の位置および三次元的形状を検出する方法、および当該方法に適した装置を提供することを課題とする。
この目的は、請求項1および19に記載の特徴によって達成される。有利な実施形態は、従属請求項の記載より明らかである。
上記の目的は、製品群が配置された領域の表面において最大限数の点の座標を以下のように特定する方法によって達成される。
表面とスキャナの相対移動方向であるX方向については、位置は既知である。当該表面に対するラインカメラの位置は既知であるからである。例えば、当該表面の上方においてラインカメラが設置される位置は、X方向について既知であり、所定であり、一定である。全てのラインカメラがX方向について同一位置に設置されていることが好ましい。
表面の長手方向を横切る向きであるY方向については、パターンに基づいて位置が特定される。パターンの少なくとも一部は、Y方向について一義的にコード化されている。パターンは、所定の方向および位置に照射される。パターンは、表面をY方向に延びる撮像ラインに沿ってラインカメラなどによって撮像される。パターンにおける光学マーキングの端縁の位置(特に撮像ラインに沿う各光学マーキングの各端縁の位置)は、当該端縁が高さゼロとして定義される表面に投影されたとき、既知である。当該位置は、Y方向における当該端縁の目標位置である。
しかしながら、当該マーキングの端縁が製品上に投影されることにより、高さがゼロより大きくなると、当該端縁のY方向における実際の位置は、上記目標位置からずれる。このずれた位置は、Y方向における実際位置として保存される。
この実際位置におけるZ方向の高さは、目標位置と実際位置のずれ量に基づいて特定される。特定は、既知であるカメラのY方向における位置、当該カメラのZ方向における高さ、および一義的にコード化された各端縁に対する当該カメラの撮像角に基づいて、三角法によりなされる。
よって、撮像ラインと光学マーキングの端縁の各交点における3つの空間座標X、Y、Zが既知となる。
これにより、撮像ラインに沿う高さ変化がまず生成されうる。相対移動中の所定の時点と撮像ライン上の画像を対応付けることにより、当該画像は、移動する面に沿う長手方向(X方向)における所定の位置と対応付けられうる。そして、各撮像ラインに沿う高さ変化に基づいて、載置された製品群を含む表面全体の三次元的な高さ変化が生成されうる。
この三次元的な高さ変化に基づいて、表面上に配置された製品群の位置や向きのみならず、複数の製品が少なくとも部分的に重なり合っているかが明らかになる。
隙間をあけて配列された(好ましくは互いに平行に延びる)複数のストリップが光学マーキングに用いられた場合、処理はとりわけ単純である。ストリップの間にある隙間も、ストリップ自体と同様に、その数、配置、順番、幅に係る光学的処理に使用されうる。
よって、この手法の解像度あるいは精密度は、ストリップまたは隙間の最大幅に依存する。
撮像ラインは、ストリップの延びる方向と直交する向きに延びていることが好ましい。処理を不必要に複雑にしないために、ストリップの延びる方向は、表面の長手方向および移動方向と一致していることが好ましい。
同じ理由により、カメラの撮像方向(カメラが表面に向けられる方向)は、表面に対して垂直である。
光学的に照射されるパターンの少なくとも一部は、一義的にコード化されている。すなわち、パターン全体が繰り返しのない1つの区間のみからなってもよく、各々が繰り返しのないパターンを有する複数の区間が並んでいてもよい。第一の区間から第二の区間へ遷移する箇所は、当該第一の区間におけるいずれの箇所とも異なるコード化がなされていることが好ましい。
よって、パターン内におけるマーキングの位置を一義的に特定可能とするために撮像が必要とされるマーキングの数で定義される最小区間長が存在する。
光学的に照射されるパターンは、それぞれ幅の異なる複数のストリップおよび隙間からなる(例えば3種の幅を有する700本のストリップ)。パターンは、カメラの撮像範囲内において一義的である。パターンは、ストリップと隙間の組合せ(例えば3本の異なるストリップと3本の異なる隙間の組合せ)が左から右へ並ぶように構成されうる。この固有単位組合せ(6本のストリップと隙間の組合せ)が、パターン全体において一度だけ現れるように構成されている。
よって、一区間の長さは、カメラにより一義的に特定されうる程度の大きさを有する必要がある。このとき、少なくとも1つのカメラの撮像領域内における当該区間の位置(例えば、当該区間を撮像する方向の傾斜角)に基づいて、どの区間が単独で処理に供されるのかが特定される。
コード化されたパターンは、ライン方向に沿って複数の部分を含みうる。各部分においては、投影されるパターンの色は同一である。しかしながら、隣接する部分のパターンの色は相違している。パターンの色が相違する部分同士は、別のプロジェクタまたはビーム照射器により照射される。ライン方向に並んで配置された複数のプロジェクタまたはビーム照射器により照射がなされる方が、単一のプロジェクタまたはビーム照明器により照射がなされるよりも色の異なるパターンの投影を容易にできる。また、色に応じた異なる処理が実行されうる。
すなわち、検出可能な最大高さ位置において、パターンの色が異なる隣接部分同士が接するように、もしくはわずかに重なるように配置がなされている。これにより、当該高さ位置よりも下方(特に表面の高さ位置)においては、異なる色のマーキング同士が必ず重なるようになる。
照射されるマーキングが単一色である部分においては、一義的にコード化された区間が複数並ぶように構成されうる。
照射領域が部分的に重なり合う複数のビーム照射器が、マーキングの色が交互に変化するようにパターンの複数の部分を照射する場合、ライン撮像は、ライン方向に配列された複数のラインカメラによって行なわれうる。各ラインカメラは、隣り合う2つのプロジェクタまたはビーム照射器の中間に配置される。検出可能な最大高さ位置において、あるラインカメラの撮像領域と2つ隣に位置するラインカメラの撮像領域同士が接するように、もしくはわずかに重なるように配置がなされている。
よって、各カメラが、隣接するビーム照射器によりその撮像領域内に照射されるマーキングの2色を検出可能であり、かつ色の選択が可能である場合、各部分に対応するカメラ信号の処理時において、一方の色のパターン画像のみが使用されうる。このとき、別の色のパターン画像は、破棄または異なる使用に供されうる。
複数の部分が一部重なり合うことにより、少なくとも一部が重複する情報が得られる。この情報は、処理結果の品質を向上する。
また、複数のビーム照射器とカメラを交互に配列することにより、走査される表面の幅に応じたスキャナのモジュール構造化が容易になる。
製品の表面だけでなく載置面の特性は、光学的特性(反射性であるなど)に係る問題を有しうる。よって、眩惑を伴わないカメラから各画像点について干渉のない画像情報を得るために、複数の点光源が使用されうる。
透明箔の下に配置された製品についても同様である。これにより、透明箔に包装された製品の高さの特定が容易になる。
さらに、ストリップカメラによる撮像は、面発光(特にLEDバーなどの混合光源による混合光)を用いた追加的な照明の下でも遂行されうる。混合光の照射量は、徐々に変化させてもよい。これにより、撮像は複数段階の照明下で行なわれうる。
表面が反射性であるか、およびどの程度反射性が強いかに応じて、同じ照明レベルでも画像の品質が上下するため、複数の入手可能な画像から最良の画質が選択される。光源バーに沿って複数の区間に分け、最良の照明レベルが選択されてもよい。個々の撮像の間のスキャナに対する表面の移動は、処理演算を通じて考慮される。処理部は、相対移動速度を把握している。
パターンが投影された表面の画像に加えて、パターンが投影されていない表面における撮像ラインに沿ったモノクロまたはカラーの画像(いわゆる原画像)が、複数のカメラにより生成されうる。このとき、面発光(特にLEDバーなどの混合光源による混合光)を用いた追加照明を行なう。
通常は1本のラインストリップ画像を演算的に複数組み合わせることにより、表面全体にわたるストリップ画像が得られる。また、複数の原画像を演算的に組み合わせることにより、表面全体にわたるカラーまたはモノクロの画像が得られる。
表面のストリップ画像群から特定された各処理点の三次元座標は、まず後続の機械(ピッカラインなど)に提供される。しかしながら、当該表面の原色画像、当該表面のストリップ画像、当該表面のグレースケールまたはカラースケール画像のいずれかを、操作者がモニタなどに生成してもよい。この場合、グレースケールの各々が特定の高さに関連付けられる。また、カラー画像の場合は、カラースケールの各々が特定の高さを示しうる。
また、パターンの投影を伴う画像とパターンの投影を伴わない原画像のマッチングは、結果(パターン画像が用いられるデータ)の向上に繋がる。特に、凹凸のはっきりした製品が、撮像されたパターンと参照パターンの一義的な対応付けが困難となる程度に大きく投影パターンを変形させる場合に有用である。
さらに、製品群の表面上における位置と向きについて、歪みのない二次元的な平面視画像が、複数のストリップ画像と複数の原画像、あるいは両者の組合せに基づいて、処理部における演算のみを通じて生成されうる。これらの画像は、それぞれ大きな撮像角で撮像される。そして、テレセントリックな平面視画像への変換演算が実行される。テレセントリックな平面視画像は、各点の上方から見た外観と正確に対応している。
上記の目的は、投影装置が表面の上方を横切るように(好ましくは、移動方向と直交する向きに)配置された装置によって達成される。投影装置は、表面を横切るパターンを照射するように構成されている。パターンの少なくとも一部は、一義的にコード化されている。パターンは、光学的に操作可能な複数のマーキングからなる。投影装置は、所定の位置に配置された少なくとも1つのビーム照射装置またはプロジェクタを含んでいる。複数のビーム照射装置またはプロジェクタを含む場合、これらは、ライン方向について異なる位置に配置される。
さらに、少なくとも1つのラインカメラが設けられている。複数のラインカメラが設けられる場合、ライン方向について異なる位置に配置される。このとき、表面の長手方向については、同じ位置に配置されることが好ましい。ラインカメラは、マーキングの各端縁の撮像ラインに沿う実際位置を特定可能である。撮像ラインは、マーキングを横切るようにライン方向に延びている。複数のプロジェクタまたはビーム照射器が配列されている場合、複数のラインカメラは、それぞれ撮像ラインに沿う断面を撮像するように、かつ隣接する2つのプロジェクタまたはビーム照射器の中間に位置するように配置されることが好ましい。
よって、各カメラの撮像角(垂直方向に対する傾き)は小さく、単一のラインカメラによる走査と比較してマーキング(特にストリップ)の歪みが小さくなる。単一のラインカメラの場合、撮像ラインをより大きな撮像角で撮像し、表面からより高い位置に配置される必要があるが、各光学マーキングの端縁に対する撮影角の差が非常に小さくなるため、処理がかなり困難となる。
投影装置およびカメラは、特にこれらが共通の筐体内に配置されている場合、カメラの画像信号用の処理部とともにラインスキャナを形成する。
上記の装置は、さらにモニタを含みうる。モニタは、ストリップパターンを得るように足し合わせられた複数のライン画像を表示するように構成される。複数のライン画像は、ラインカメラにより順次出力される。あるいは、モニタは、順次足し合わせられた原色画像を出力するように構成される。あるいは、モニタは、表面の一部を高さ位置の関数としてカラースケールやグレースケールで表示するように構成される。
走行面の走行方向から見たスキャナを示す図である。 パターンが投影された走行面を示す平面図である。 本発明に係る装置の典型的な応用を示す図である。 異なる形状の製品の場合における、図1aの詳細を示す図である。 (a)は、製品の縦側面上のストリップ画像を示す図である。(b)は、凸状に湾曲した製品上のストリップ画像を示す図である。
以下に、本発明に基づく複数の実施形態を例示的に説明する。
図1cは、本発明に係るラインスキャナの典型的な応用例を示している。
同図は、いわゆるピッカラインの平面図である。ピッカラインは、走行方向X、10に移動する搬送ベルト1を通じて、不規則に配置された製品群を搬送する。当該製品群は、ピッカ20a、20b、20cによりそれぞれ把持される。ピッカ20a、20b、20cは、搬送ベルト1の上方において走行方向に配列されている。当該製品群は、容器22内に正確に位置決めされうる。
本例では、容器群は、搬送ベルト1の両側において容器ベルト23により搬送される。本例では、容器ベルト23による搬送方向は、搬送ベルト1の走行方向と逆である。しかしながら、容器ベルト23による搬送方向は、これに限られるものではない。
本例では、ピッカは、下アームを備えている。下アームは、上アームに装着されている。これにより、下アームは、垂直軸を中心に回動制御可能とされている。上アームは、ベース24に装着されている。これにより、上アームは、垂直軸を中心に回動制御可能とされている。製品を吸引または把持する装置は、下アームの自由端に配置されている。これにより、当該装置の垂直方向における位置が調節可能とされている。
これにより、ピッカは、把持領域を通過する各製品Pに到達して把持可能である。しかしながら、ピッカは、特定の場所と時刻において、その下方を搬送ベルト(表面)1上で移動する各製品Pの位置および向きを知る必要がある。
また、製品群Pは、部分的に重なり合って配置されうる(特に、それらがクッキーのように板状である場合)。よって、スキャナは、製品群の重なりを崩して最も上に位置する製品を把持し、それを容器22内に配置するために、各製品について高さ情報も必要とする。これにより、当該製品の下に位置する次の製品が、次のスキャナにより検知され、取り除かれうる。こうして製品群の重なりが崩されていく。
平面視で円形でない製品Pの位置、向き、および高さは、搬送ベルト(表面)1を横切って延びる少なくとも1つのラインスキャナ21aによって特定される。ラインスキャナ21aは、搬送ベルト1の走行方向におけるピッカ20aの上流側に配置されている。データは、ピッカの動作を制御する制御部25へ送られる。
少なくとも部分的に重なり合っている製品群を容易に崩せるようにするために、複数のラインスキャナ21a、21b、21cが設けられうる。ラインスキャナ21a、21b、21cは、搬送ベルト1の走行方向に離間して配置される。各ラインスキャナは、搬送ベルト1の走行方向における各ピッカの上流側に配置されることが好ましい。
図1aは、搬送ベルト(表面)1の走行方向10から見たラインスキャナを詳細に示している。
複数のビーム照射器Bは、Y方向(ライン方向12)に沿って、一定間隔で配列されている。各ビーム照射器Bは、図1bに示すパターン2を搬送ベルト(表面)1上に投影する。パターン2は、複数のストリップ5からなる。複数のストリップ5は、隙間6を挟んで互いに平行に延びている。
複数のストリップ5は、搬送ベルト1の走行方向10、Xに延びている。少なくとも走査に供される最高位置(例えば製品P1の上面)において、各パターン2の投影領域(照射光入射角をβとする)が相互に接するか重なるように、複数のビーム照射器Bが、ライン方向12、Yに間隔をあけて配列されている。よって、当該位置より下方においては、投影領域は常に重なり合う。重なり合う投影領域においては、パターン(特にストリップ)の赤色成分と青色成分が重なるように投影される。
隣接する2つのビーム照射器Bは、互いに異なる色のパターン2を照射する。すなわち、赤色用の照射器と青色用の照射器が交互に並んでいる。
搬送ベルト(表面)1上には、位置と姿勢について走査に供される製品群P1〜P4が示されている。製品P1は、搬送ベルト(表面)の上方において走査に供される最高位置に対応する高さ寸法を有している。
複数のラインカメラK1〜K4の各々は、隣接する2つのビーム照射器の中間点に配置されている。各ラインカメラは、図1bに平面視で示すパターン2において複数のストリップ5を横切る撮像ライン3上の部分のみを撮影する。
走査に供される最高位置(例えば、製品P1の上面の高さ)において、ラインカメラK1の撮影領域がラインカメラK3の撮影領域と少なくとも接するように、搬送ベルト(表面)1の上方にラインカメラK1〜K4が配列されている。ラインカメラK3は、Y方向についてラインカメラK1に隣接する次のラインカメラK2を挟んで反対側に位置している。ラインカメラK1とラインカメラK3の撮影領域は、走査に供される最高位置において、重なり合っていてもよい。この場合、当該位置よりも下方において、両撮影領域は常に重なり合う。
よって、ラインカメラK1〜K4による撮影領域の重複部分の面積は、各撮影領域の面積の50%を上回っている。これにより、撮像ライン3は、確実に重複した走査に供される。
カメラK1〜K4は、ビーム照射器Bから照射される全ての色を検出および撮影できる。しかしながら、接続される処理ユニットは、ビーム照射器ごとの色のみを選択できる。
カメラK1〜K4により走査される撮像ライン3のX方向における位置、各ビーム照射器BとラインカメラK1〜K4の高さ方向Z、11およびライン方向Y、12における位置、各ラインカメラの撮像角α、および各ビーム照射器の照射光入射角βは、既知であるとする。
この場合、搬送ベルト(表面)1上の各製品P1〜P4の位置および向きの特定は、以下のように実行されうる。
図2に示すように、高さ方向11、Zとライン方向12、Yにおける位置は、搬送ベルト(表面)1または当該走行面上に配置された製品P1、P2の表面におけるできる限り多くの点において特定されるべきである。
各ライン画像のX方向における位置は、一定であるラインスキャナ21(すなわち撮像ライン3)の位置、および既知である各撮像ラインに対する搬送ベルト(表面)1の移動速度に基づいて与えられる。
図1bには、ビーム照射器Bにより照射されるパターン2として、複数のストリップ5が例示されている。
光学マーキング2.1、2.2、2.3のライン方向Y、12における始端縁と終端縁が検査に供される。すなわち、ストリップ5A、5B、5Cと、これらの間に位置する隙間6a、6b、6cが検査に供される。端縁は、ストリップ5と隙間6の間の遷移点に対応している。図2は、光学マーキング2.1、2.2、2.3の撮像ライン3に沿う断面を示している。
搬送ベルト(表面)1上のライン方向Y、12における各ストリップ5の前端縁の位置は、ビーム照射器BのY方向における位置(既知)と搬送ベルト(表面)1からのZ方向における高さ(既知)、およびビーム照射器Bから出射されて当該端縁を形成するビームの出射角β1、β2、β3(既知)より特定される。同様に、撮像ライン3を撮像するカメラKのY方向における位置(既知)、搬送ベルト(表面)1からのZ方向における高さ(既知)、および撮像ライン3の方向における各カメラ画素の撮像角α1、α2、α3が既知である。
よって、ストリップ5Aの場合、その前端縁の目標位置SP1’は、ビーム放射器Bのデータより既知である。目標位置とは、ストリップ5Aの前端縁が搬送ベルト(表面)1に投影される位置である。
この前端縁を撮影するカメラKにとっては、Y方向における実際位置SP1は既知である。
ストリップ5Aの前端縁については、目標位置SP1’と実際位置SP1が同一であるため、当該前端縁は搬送ベルト(表面)1上に投影されており、製品P上には投影されていないと結論できる。
ストリップ5BのY方向における前端縁については、Y方向における目標位置SP2’と実際位置SP2の値が異なっている。ずれ量V2は、特定の高さh2に対応する。h2の値は、カメラKの位置に基づき、カメラ画素の撮像角α2を考慮して自動的に演算されうる。あるいは、h2の値は、ビーム放射器Bの位置に基づき、ストリップ5Aの前端縁に対応するビーム出射角β2を考慮して自動的に演算されうる。
製品P上に投影される全てのストリップの端縁(例えば、ストリップ5Cの前端縁)について同じことが言える。
図1bに示すように、パターン2には、幅の異なる3本のストリップ5A、5B、5Cが含まれている。例えば、ストリップ5Bは、ストリップ5Aの2倍の幅を有しており、ストリップ5Cは、ストリップ5Aの3倍の幅を有している。同様に、パターン2には、幅の異なる3本の隙間6a、6b、6cが含まれている。隙間6bは、隙間6aの2倍の幅を有しており、隙間6cは、隙間6aの3倍の幅を有している。
3つのストリップ5A、5B、5Cと3つの隙間6a、6b、6cからなるグループを起点として、グループごとに各ストリップと各隙間の幅、およびグループ内における位置を変化させることにより、一義的にコード化された区間(最小長区間4)内において連続する6つのマーキングの観察が可能とされ、撮像ライン3に沿う各マーキング(すなわち、マーキングの各端縁)の位置が特定されうる。
なお、図2における製品Pの右半分(特に、図示したカメラKでは視認不可能である右下縁部)は、図示したビーム照射器Bの右側に設けられる別のカメラ(不図示)によって撮像される。
このようにして、撮像ライン3に沿う複数の点について、製品Pの表面の輪郭が特定される。また、撮像ライン3上において製品Pの表面輪郭の始端部および終端部も定まるため、製品PのY方向における位置が特定されうる。
移動する搬送ベルト(表面)1において順次得られるライン画像を連結することにより、全ての製品について各点の位置、向き、および高さが特定可能となる。
図3の(a)は、垂直方向に延びる側面を含んでいる直方体状の製品Pの周縁が撮像され、当該周縁が搬送ベルト(表面)1の移動方向Xに対して正確に直交するように配置されている場合において、搬送ベルト(表面)1を撮影した複数のライン画像が連結されたものの一部を例示している。
パターン2のストリップ5A、5B、5Cは、上記の周縁においてずれ13を生じている。ずれの量は、直方体状の製品Pの高さに対応している。しかしながら、製品Pの表面に投影された各ストリップの一部は真っすぐに延びている。当該製品Pの表面は水平、すなわち搬送ベルト(表面)1と平行であるからである。よって、搬送ベルト(表面)1上に投影された各ストリップの一部も真っすぐに延びている。
図3の(b)は、凸状に湾曲した表面、および下部において垂直方向に延びる端縁を有する製品Pについて、搬送ベルト(表面)1を撮影した複数のライン画像が連結されたものの一部を例示している。
パターン2のストリップ5A、5B、5Cは、周縁においてずれ13を生じている。ずれの量は、垂直方向に延びる端縁の高さに対応している。
搬送ベルト(表面)1に直接投影されている各ストリップの一部は、真っすぐに延びている。他方、凸状に湾曲した製品Pの表面に投影されている各ストリップの一部は、湾曲している。
1:表面、走行面、搬送ベルト、2:パターン、2.1、2.2、2.3:マーキング、3:撮像ライン、4:最小長区間、5A、5B、5C:ストリップ、6a、6b、6c:隙間、10、X:走行方向、11、Z:高さ方向、観察方向、12、Y:ライン方向、13:ずれ、20a、20b、20c:ラインスキャナ、21a、21b、21c:ピッカ、22:容器、23:容器ベルト、24:ベース、25:制御部、B:ビーム照射器、h2、h3:高さの値、K、K1〜K4:カメラ、P、P1〜P4:製品、SP1〜SP3:実際位置、SP1’〜SP3’:目標位置、V2、V3:ずれ量

Claims (21)

  1. 長手方向(10、X)に延びる表面(1)上の製品(P1、P2)の位置と三次元形状を非接触で特定する方法であって、
    前記製品(P1、P2)とともに前記表面(1)を横切る方向に沿って、少なくとも一部が一義的にコード化され、かつ光学的に走査可能なマーキング(2.1、2.2、2.3)を含むパターン(2)を少なくとも一時的に照射する工程と、
    前記マーキング(2.1、2.2、2.3)を横切るように延びる撮像ライン(3)、および当該撮像ライン(3)上に位置する当該マーキング(2.1、2.2、2.3)の端縁の実際位置(SP1、SP2)を、ラインカメラ(K)で撮像する工程と、
    既知であるライン方向(12、Y)における前記端縁の目標位置(SP1’、SP2)からの前記実際位置(SP1、SP2)の当該ライン方向(12、Y)へのずれ量(V1、V2)を特定するとともに、高さ値(h2、h3)に変換する工程と、
    撮像ライン(3)の位置における前記高さ値(h2、h3)に基づいて、当該撮像ライン(3)の高さ変化を特定する工程と、
    前記表面(1)が前記マーキング(2.1、2.2、2.3)と前記撮像ライン(3)に対して前記長手方向(10、X)に相対移動した後、先行する一連の工程を繰り返す工程と、
    前記撮像ライン(3)の高さ変化を隙間なく繋げ、前記表面(1)と当該表面(1)上に載置された前記製品(P1、P2)の三次元的高さ変化を生成する工程と、
    を備えている、方法。
  2. 前記マーキング(2.1、2.2、2.3)は、隙間(6)を挟んで配列する複数のストリップ(5)を含んでおり、
    前記複数のストリップ(5)は、互いに平行に延びている、
    請求項1に記載の方法。
  3. 前記撮像ライン(3)は、前記複数のストリップ(5)の延びる向き(10、X)に直交して延びている、
    請求項2に記載の方法。
  4. 前記ラインカメラ(K)の観察方向(11、Z)は、前記表面(1)に対して垂直である、
    請求項1から3のいずれか一項に記載の方法。
  5. 前記マーキングは、複数のマーキング(2.1、2.2、2.3)を含んでおり、
    前記複数のマーキング(2.1、2.2、2.3)の各々について、前記撮像ライン(3)上に位置する端縁の実際位置(SP1、SP2)が撮像される、
    請求項1から4のいずれか一項に記載の方法。
  6. 前記パターン(2)は、所定数のマーキング(2.1、2.2、2.3)を含むように最小区間(4)を一義的に特定可能とされており、
    前記パターン(2)は、ランダムに選択可能な複数の最小区間(4)を含んでおり、
    第一の最小区間(4)から第二の最小区間(4)へ遷移する箇所は、当該第一の最小区間(4)におけるいずれの箇所とも異なるコード化がなされている、
    請求項1から5のいずれか一項に記載の方法。
  7. 前記パターン(2)は、それぞれ前記ライン方向(12、Y)に延びる複数の部分(7.1、7.2、7.3)を含んでおり、
    前記複数の部分(7.1、7.2、7.3)の各々においては、前記マーキング(2.1、2.2、2.3)の色は同一であり、
    前記複数の部分(7.1、7.2、7.3)のうち隣接する2つの部分については、前記マーキング(2.1、2.2、2.3)の色が相違している、
    請求項1から6のいずれか一項に記載の方法。
  8. 前記複数の最小区間(4)は、前記複数の部分(7.1、7.2、7.3)の各々において前記ライン方向(12、Y)に並んでいる、
    請求項7に記載の方法。
  9. 前記パターン(2)は、複数のプロジェクタまたはビーム照射器(B)により形成されており、
    前記複数のプロジェクタまたはビーム照射器(B)の各々は、前記複数の部分(7.1、7.2、7.3)の対応する1つを形成している、
    請求項7または8に記載の方法。
  10. 前記パターン(2)は、最も大きい高さ寸法を有する被検出製品(P1、P2)の表面に投射される前記複数の部分(7.1、7.2、7.3)のうち隣接する2つが当該表面において接するか重なり合うように照射される、
    請求項9に記載の方法。
  11. 前記ラインカメラ(K)は、前記ライン方向(12、Y)に配列された複数のラインカメラ(K1、K2、K3)を含んでおり、
    前記複数のラインカメラ(K1、K2、K3)の各々は、前記複数のプロジェクタまたはビーム照射器(B)のうち隣接する2つの前記ライン方向(12、Y)における中間に配置されており、
    前記複数のラインカメラ(K1、K2、K3)の各々の撮像領域は、最も大きい高さ寸法を有する被検出製品(P1、P2)の表面において、前記複数のラインカメラの1つ(K1)の撮像領域と、当該ラインカメラ(K1)の2つ隣に配置されているラインカメラ(K3)の撮像領域が接するか重なり合うように定められている、
    請求項9または10に記載の方法。
  12. 記ラインカメラ(K)は少なくとも前記隣接する2つの部分(7.1、7.2)における前記マーキング(2.1、2.2、2.3)の相違する2色を検出可能とされている、
    請求項から11のいずれか一項に記載の方法。
  13. 前記複数の部分(7.1,7.2,7.3)の各々についてカメラ信号を処理する際には、当該部分の色を有する画像が処理され、他の色を有する画像は破棄されるか別処理に用いられる、
    請求項から12のいずれか一項に記載の方法。
  14. 前記ラインカメラ(K)は、前記撮像ライン(3)の原色画像および当該撮像ライン(3)に沿う前記パターン(2)の画像を生成するために、切替方式で順次使用される複数のラインカメラ(K1、K2)を含んでおり
    前記マーキング(2.1、2.2、2.3)および前記撮像ライン(3)に対する前記表面(1)の移動速度は、前記原色画像が複数足し合わせられたものが前記表面(1)の完全にコヒーレントな色画像を提供し、前記撮像ライン(3)のストリップ画像が複数足し合わせられたものが前記表面(1)の連続したストリップ画像を提供するような撮像間隔に基づいて選択される、
    請求項1から13のいずれか一項に記載の方法。
  15. 前記ストリップ画像と前記原色画像の少なくとも一方は、前記ライン方向(12、Y)に沿って延びるLEDバー(8)のような混合光源の点灯下で繰り返され、
    前記混合光源は、前記表面(1)に対して複数段階の追加的な照明を提供する、
    請求項14に記載の方法。
  16. 前記複数のラインカメラの1つ(K1)が利用可能な結果を提供しない部分(7)または区間(4)は、隣接するラインカメラ(K2)による当該部分(7)または区間(4)が処理される、
    請求項14または5に記載の方法。
  17. サンプル画像は、当該サンプル画像より得られるデータを向上させるために、パターンの照射なしに前記原色画像と比較される、
    請求項1から16のいずれか一項に記載の方法。
  18. 少なくとも1つのカメラ(K、K1、K2)からの前記ストリップ画像と前記原色画像に基づいて演算が行なわれ、テレセントリックな二次元画像が生成され、
    前記テレセントリックな二次元画像は、前記表面(1)上の前記製品(P1、P2)について正確で歪のない位置および姿勢を反映する、
    請求項1から17のいずれか一項に記載の方法。
  19. 長手方向(10、X)に延びる表面(1)上の製品(P1、P2)の位置と三次元形状を非接触で特定するスキャナであって、
    プロジェクタまたはビーム照射器(B)を含み、少なくとも一部が一義的にコード化され、かつ光学的に走査可能なマーキング(2.1、2.2、2.3)を含むパターン(2)を、前記表面(1)を横切るように照射するように構成された投影装置と、
    前記マーキング(2.1、2.2、2.3)を横切るように延びる撮像ライン(3)上に位置する当該マーキング(2.1、2.2、2.3)の端縁の実際位置(SP1、SP2)を特定するように構成されたラインカメラ(K、K1、K2)と、
    既知であるライン方向(12、Y)における前記端縁の目標位置(SP1’、SP2)からの前記実際位置(SP1、SP2)の当該ライン方向(12、Y)へのずれ量(V1、V2)に基づいて、高さ方向(11、Z)における高さ値(h2、h3)を演算し、当該高さ値をX値およびY値とともに保存するように構成された処理部と、
    を備えており、
    前記投影装置と前記ラインカメラ(K、K1、K2)は、前記表面(1)に対して前記長手方向(10、X)に相対変位可能である、
    スキャナ。
  20. モニタを備えており、
    前記モニタは、前記ラインカメラ(K、K1、K2)より順次出力された複数のライン画像が足し合わせられたサンプル表示を出力するように、あるいは、前記表面(1)の表面部分をその高さの関数として色スケールやグレースケールで表示するように構成されている、
    請求項19に記載のスキャナ。
  21. 前記投影装置と前記ラインカメラは、ともに前記表面(1)の前記長手方向(10、X)における異なる位置に配置された複数の投影装置と複数のラインカメラ(K、K1、K2)を含んでいる、
    請求項19または20に記載のスキャナ。
JP2014217307A 2013-10-25 2014-10-24 走行面上の複数の製品の位置と三次元的な形状を非接触で検出する方法およびスキャナ Active JP6275622B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102013111761.9A DE102013111761B4 (de) 2013-10-25 2013-10-25 Verfahren und Scanner zum berührungslosen Ermitteln der Position und dreidimensionalen Form von Produkten auf einer laufenden Fläche
DE102013111761.9 2013-10-25

Publications (2)

Publication Number Publication Date
JP2015083975A JP2015083975A (ja) 2015-04-30
JP6275622B2 true JP6275622B2 (ja) 2018-02-07

Family

ID=51730397

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014217307A Active JP6275622B2 (ja) 2013-10-25 2014-10-24 走行面上の複数の製品の位置と三次元的な形状を非接触で検出する方法およびスキャナ

Country Status (5)

Country Link
US (1) US10365086B2 (ja)
EP (1) EP2865987B1 (ja)
JP (1) JP6275622B2 (ja)
CN (1) CN104567724B (ja)
DE (1) DE102013111761B4 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019045152A1 (ko) * 2017-09-01 2019-03-07 (주)비에스텍 비접촉 3차원 측정기를 위한 3차원 통합 광학측정 시스템 및 3차원 통합 광학측정 방법
JP6939640B2 (ja) * 2018-02-23 2021-09-22 オムロン株式会社 画像検査装置および画像検査方法
JP6939641B2 (ja) 2018-02-23 2021-09-22 オムロン株式会社 画像検査装置および画像検査方法
JP7268992B2 (ja) * 2018-11-29 2023-05-08 株式会社キーエンス 拡大観察装置
JP7268991B2 (ja) * 2018-11-29 2023-05-08 株式会社キーエンス 拡大観察装置
DE102021104947B4 (de) * 2021-03-02 2023-05-25 Gerhard Schubert Gesellschaft mit beschränkter Haftung Scanner, damit ausgestattete Ermittlungs-Vorrichtung sowie Verfahren für deren Betrieb
CN113219931A (zh) * 2021-05-27 2021-08-06 赣州科帕机电自动化有限公司 一种智能化工业系统

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CH682516A5 (de) * 1991-02-13 1993-09-30 Samro Bystronic Maschinen Ag Verfahren und Vorrichtung zur Messung einer Dimension eines Körpers und Anwendung dieses Verfahrens.
US5615003A (en) * 1994-11-29 1997-03-25 Hermary; Alexander T. Electromagnetic profile scanner
CA2375013A1 (en) * 1995-11-28 1996-05-30 Alexander Thomas Hermary Electromagnetic profile scanner
WO2000073738A1 (fr) * 1999-05-26 2000-12-07 Sanyo Electric Co., Ltd. Dispositif de mesure de forme
US6912076B2 (en) * 2000-03-17 2005-06-28 Accu-Sort Systems, Inc. Coplanar camera scanning system
JP3867512B2 (ja) * 2000-06-29 2007-01-10 富士ゼロックス株式会社 画像処理装置および画像処理方法、並びにプログラム
US6754370B1 (en) * 2000-08-14 2004-06-22 The Board Of Trustees Of The Leland Stanford Junior University Real-time structured light range scanning of moving scenes
US6650397B2 (en) * 2001-05-25 2003-11-18 Eastman Kodak Company Media width detecting system for an imaging apparatus
US6634552B2 (en) * 2001-09-26 2003-10-21 Nec Laboratories America, Inc. Three dimensional vision device and method, and structured light bar-code patterns for use in the same
EP1625350A1 (en) * 2003-03-18 2006-02-15 Alexander Thomas Hermary Coded-light dual-view profile scanner
US20040222987A1 (en) * 2003-05-08 2004-11-11 Chang Nelson Liang An Multiframe image processing
CN1581920A (zh) * 2003-08-04 2005-02-16 力捷电脑股份有限公司 扫描线位置及宽度的量测方法及其图案
DE102004008904A1 (de) * 2004-02-24 2005-09-08 Siemens Ag Vorrichtung und Verfahren zur Bestimmung von Raumkoordinaten eines Objekts
US20070091174A1 (en) * 2005-09-30 2007-04-26 Topcon Corporation Projection device for three-dimensional measurement, and three-dimensional measurement system
US7454841B2 (en) * 2005-11-01 2008-11-25 Hunter Engineering Company Method and apparatus for wheel alignment system target projection and illumination
GB0608841D0 (en) * 2006-05-04 2006-06-14 Isis Innovation Scanner system and method for scanning
DE102006049695A1 (de) * 2006-10-16 2008-04-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum berührungslosen Erfassen einer dreidimensionalen Kontur
US20080156619A1 (en) * 2006-12-01 2008-07-03 Mehul Patel Range finder
EP2100092B1 (de) * 2006-12-15 2010-06-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und vorrichtung zur dickenmessung
JP4492654B2 (ja) * 2007-08-29 2010-06-30 オムロン株式会社 3次元計測方法および3次元計測装置
FI20075975L (fi) * 2007-12-31 2009-07-01 Metso Automation Oy Rainan mittaus
DE102009015204A1 (de) * 2009-03-26 2010-10-07 Leuze Electronic Gmbh & Co Kg Optischer Sensor
JP4715944B2 (ja) * 2009-04-03 2011-07-06 オムロン株式会社 三次元形状計測装置、三次元形状計測方法、および三次元形状計測プログラム
JP5443303B2 (ja) * 2010-09-03 2014-03-19 株式会社サキコーポレーション 外観検査装置及び外観検査方法
JP5527261B2 (ja) * 2011-03-15 2014-06-18 大日本印刷株式会社 スキャナ装置および物体の三次元形状測定装置
DE102012206472B4 (de) * 2012-04-19 2015-07-09 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Projektionssystem mit statischen mustererzeugungselementen und mehreren optischen kanälen zur optischen 3d-vermessung
ES2593800T3 (es) * 2012-10-31 2016-12-13 Vitronic Dr.-Ing. Stein Bildverarbeitungssysteme Gmbh Procedimiento y patrón de luz para medir la altura o el curso de la altura de un objeto
EP2778601A1 (en) * 2013-03-15 2014-09-17 Siemens Healthcare Diagnostics Inc. Optical metrology by light beam analysis

Also Published As

Publication number Publication date
CN104567724B (zh) 2019-03-08
JP2015083975A (ja) 2015-04-30
US20150116461A1 (en) 2015-04-30
EP2865987B1 (de) 2018-05-30
CN104567724A (zh) 2015-04-29
DE102013111761A1 (de) 2015-04-30
DE102013111761B4 (de) 2018-02-15
EP2865987A1 (de) 2015-04-29
US10365086B2 (en) 2019-07-30

Similar Documents

Publication Publication Date Title
JP6275622B2 (ja) 走行面上の複数の製品の位置と三次元的な形状を非接触で検出する方法およびスキャナ
JP3878023B2 (ja) 三次元計測装置
KR100406843B1 (ko) 색정보를 이용한 실시간 3차원 표면형상 측정방법 및 장치
CN107735645B (zh) 三维形状测量装置
US20070057946A1 (en) Method and system for the three-dimensional surface reconstruction of an object
JPWO2006013635A1 (ja) 3次元形状計測方法及びその装置
JP2019192248A (ja) 物体の連続的な画像をつなぎ合わせるためのシステムおよび方法
US20150324991A1 (en) Method for capturing images of a preferably structured surface of an object and device for image capture
JP5438475B2 (ja) 隙間段差計測装置、隙間段差計測方法、及びそのプログラム
TWI497059B (zh) Multi - surface detection system and method
JP2013140050A (ja) 欠陥検査装置および欠陥検査方法
CN113124771A (zh) 具有校准目标对象的成像系统
JP4808072B2 (ja) フィルタ格子縞板、三次元計測装置及び照明手段
JP2012189479A (ja) 形状計測装置
CN112097684B (zh) 一种基于多姿态带结构光的视觉测量系统及测量方法
JP2017198470A (ja) 計測装置、計測方法、システム及び物品の製造方法
JP6908373B2 (ja) 検査対象物の表面の凹凸を検査する方法及びその表面検査装置
JP3817640B1 (ja) 三次元形状計測システム
JP6624911B2 (ja) 計測装置、計測方法および物品の製造方法
CA2962809C (en) System and method for color scanning a moving article
JP7022661B2 (ja) 形状測定装置および形状測定方法
JP6780533B2 (ja) 形状測定システム及び形状測定方法
KR102174227B1 (ko) 스캔 장치
KR101606720B1 (ko) 3차원 표면 측정 장치 및 방법
JP5786999B2 (ja) 三次元形状計測装置、三次元形状計測装置のキャリブレーション方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180110

R150 Certificate of patent or registration of utility model

Ref document number: 6275622

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250