JP6811505B1 - Picking device and picking method - Google Patents

Picking device and picking method Download PDF

Info

Publication number
JP6811505B1
JP6811505B1 JP2020139585A JP2020139585A JP6811505B1 JP 6811505 B1 JP6811505 B1 JP 6811505B1 JP 2020139585 A JP2020139585 A JP 2020139585A JP 2020139585 A JP2020139585 A JP 2020139585A JP 6811505 B1 JP6811505 B1 JP 6811505B1
Authority
JP
Japan
Prior art keywords
article
gripping
arm
contact
gripping unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020139585A
Other languages
Japanese (ja)
Other versions
JP2022035342A (en
Inventor
浩司 新見
浩司 新見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tottori Institute of Industrial Technology
Original Assignee
Tottori Institute of Industrial Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tottori Institute of Industrial Technology filed Critical Tottori Institute of Industrial Technology
Priority to JP2020139585A priority Critical patent/JP6811505B1/en
Application granted granted Critical
Publication of JP6811505B1 publication Critical patent/JP6811505B1/en
Publication of JP2022035342A publication Critical patent/JP2022035342A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Manipulator (AREA)

Abstract

【課題】汎用性が高く安価に導入可能であって稼働も速やかにおこなうことのできるピッキング技術を提供すること。【解決手段】 同一形状の物品がランダムに収容されたコンテナCから当該物品を一つずつ上空から摘まみ上げるピッキング装置1であって、物品群の3次元情報を取得する視覚センサ10と、取得された物品群の3次元情報に基づいて、球、楕円体、立方体、直方体、その他のサンプル図形の一つにより、物品を強制的に照合してそれぞれの中心位置を算出する照合部33と、先端にそれぞれ触覚センサ27を有し、間隔が狭まることにより物品を把持する少なくとも2本のアーム25からなる把持ユニット21と、把持ユニット21をいずれかの中心位置の上空から降下させ、触覚センサ27による物品への接触検知に基づき、アーム25の間隔を狭めて物品を把持し上昇する動作制御をおこなう開閉制御部38と、を具備したピッキング装置1。【選択図】図1PROBLEM TO BE SOLVED: To provide a picking technique which is highly versatile, can be introduced at low cost, and can be operated promptly. SOLUTION: The picking device 1 picks up the articles one by one from the sky from a container C in which articles of the same shape are randomly stored, and obtains a visual sensor 10 for acquiring three-dimensional information of the article group. Based on the three-dimensional information of the article group, the collation unit 33 forcibly collates the articles with one of the sphere, ellipsoid, cube, rectangular parallelepiped, and other sample figures to calculate the center position of each. The tactile sensor 27 is provided at the tip of each of the tactile sensors 27, and the gripping unit 21 consisting of at least two arms 25 for gripping the article by narrowing the interval and the gripping unit 21 are lowered from the sky at any center position. 1. A picking device 1 including an open / close control unit 38 that controls an operation of gripping and ascending an article by narrowing the distance between the arms 25 based on the detection of contact with the article. [Selection diagram] Fig. 1

Description

本発明はコンテナにばら積みされた部品をコンベア等に載置する際に使用するピッキング装置(ピックアップ装置)に関し、特に、視覚情報と触覚情報とに基づき簡便なピッキングを実現する技術に関する。 The present invention relates to a picking device (pickup device) used when placing parts bulk in a container on a conveyor or the like, and more particularly to a technique for realizing simple picking based on visual information and tactile information.

従来、コンテナに多数ばら積みされた同一形状の部品を取り出し、ベルトコンベア等に載置するピッキングロボットが知られている。ここで、部品の姿勢は一様でなく深さ方向にも積み重なっているので、従来のピッキングロボットは、部品の正確な形状データを入力しておき、高精度視覚センサによって物品群をステレオ撮像し、輪郭マッチングや点群マッチングなどによりデータ照合し、物品の把持位置の決定をおこなっていた。換言すれば、把持動作に移る前に総ての計算をおえ、毎回の動作は異なるものの、物品へのアプローチや把持の際の動きはあらかじめ個別に決定されたものであった。
したがって、視覚センサは、複数の光学系を用いて高精細に情報取得するなど高性能モデルを用いる必要があり、導入費用が極めて高くなるという問題点があった。
また、物品の正確な形状データは一般的にはCADデータが採用されるが、対象物品が変わる毎に個々にデータを入力する必要があり、また、これと視覚センサからの大量な情報とを照合するため、高性能な処理系(PC等)が必要となり、いずれにせよ費用がかかるという問題点があった。
加えて把持位置の決定には部品の種類がかわると毎回チューニングが必要であり、稼働までに場合によっては数ヶ月以上の時間を要するという問題点もあった。
すなわち、従来の技術では、事前に高精細な処理をしてピッキングをおこない、別途緻密なチューニングが必要であって、システムが極めて高価となり、稼働にも時間がかかるという問題点があった。
Conventionally, there is known a picking robot that takes out a large number of parts of the same shape that are piled up in bulk in a container and places them on a belt conveyor or the like. Here, since the postures of the parts are not uniform and are stacked in the depth direction, the conventional picking robot inputs accurate shape data of the parts and stereo-images a group of articles by a high-precision visual sensor. , Data collation was performed by contour matching and point cloud matching to determine the gripping position of the article. In other words, all the calculations were completed before moving to the gripping motion, and although the motion was different each time, the approach to the article and the motion during gripping were individually determined in advance.
Therefore, it is necessary to use a high-performance model for the visual sensor, such as acquiring high-definition information using a plurality of optical systems, and there is a problem that the introduction cost becomes extremely high.
In addition, although CAD data is generally adopted as the accurate shape data of the article, it is necessary to input the data individually every time the target article changes, and this and a large amount of information from the visual sensor are input. In order to collate, a high-performance processing system (PC, etc.) is required, and there is a problem that the cost is high in any case.
In addition, it is necessary to tune each time the type of parts is changed to determine the gripping position, and there is a problem that it may take several months or more to operate.
That is, the conventional technique has a problem that high-definition processing is performed in advance to perform picking, and fine tuning is required separately, the system becomes extremely expensive, and it takes time to operate.

特開平11−123681号公報Japanese Unexamined Patent Publication No. 11-123681 特開2010−184308号公報Japanese Unexamined Patent Publication No. 2010-184308 特開2011−000685号公報Japanese Unexamined Patent Publication No. 2011-000685 特開2011−183537号公報Japanese Unexamined Patent Publication No. 2011-183537 特開2013−212580号公報Japanese Unexamined Patent Publication No. 2013-21250

本発明は上記に鑑みてなされたものであって、汎用性が高く安価に導入可能であって稼働も速やかにおこなうことのできるピッキング技術を提供することを目的とする。 The present invention has been made in view of the above, and an object of the present invention is to provide a picking technique that is highly versatile, can be introduced at low cost, and can be operated quickly.

請求項1に記載のピッキング装置は、同一形状の物品がランダムに収容されたコンテナから当該物品を一つずつ上空から摘まみ上げるピッキング装置であって、コンテナ中の物品群の3次元情報を取得する視覚センサと、視覚センサにより取得された物品群の3次元情報に基づいて、円、球、楕円体、正方形、長方形、立方体、直方体、その他のサンプル図形の一つにより、物品を強制的に照合してそれぞれの中心位置を算出する照合算出手段と、先端にそれぞれ触覚センサを有し、間隔が狭まることにより物品を把持する少なくとも2本のアームからなる把持ユニットと、把持ユニットをいずれかの中心位置の上空から降下させ、触覚センサによる物品への接触検知に基づき、アーム間隔を狭めて物品を把持し上昇する動作制御をおこなう把持制御手段と、を具備したことを特徴とする。 The picking device according to claim 1 is a picking device that picks up articles of the same shape one by one from the sky from a container in which articles of the same shape are randomly stored, and acquires three-dimensional information of a group of articles in the container. Forcing an article by one of a circle, a sphere, an ellipsoid, a square, a rectangle, a cube, a rectangular parallelepiped, or another sample figure based on the visual sensor to be used and the three-dimensional information of the article group acquired by the visual sensor. One of a collation calculation means for collating and calculating the center position of each, a grip unit consisting of at least two arms having a tactile sensor at the tip and gripping an article by narrowing the interval, and a grip unit. It is characterized by being provided with a gripping control means for controlling the movement of the article by lowering it from the sky at the center position and narrowing the arm spacing based on the detection of contact with the article by the tactile sensor.

すなわち、請求項1にかかる発明は、強制照合によるばら積み物品の大まかな位置把握と触覚センサによる現場補正に基づく位置把握とを組み合わせることにより、高スペックなセンサや処理系が不要となる。これにより、汎用性が高く安価に導入可能なシステムを構築できる。現場補正ないし現場対応をおこなうので時間をかけたチューニングを不要とし、速やかな稼働も実現可能である。 That is, the invention according to claim 1 eliminates the need for a high-spec sensor or processing system by combining a rough position grasp of bulk articles by forced collation and a position grasp based on on-site correction by a tactile sensor. As a result, it is possible to construct a system that is highly versatile and can be introduced at low cost. Since on-site correction or on-site response is performed, time-consuming tuning is not required, and quick operation can be realized.

上空から摘まみ上げる動作は、鉛直線上の上下が一般的であるが、角度がついた進入、ピックアップ態様であることを妨げない。
3次元情報とは、物品群の表面の位置情報をいう。すなわち、深さ(奥行き)情報も含めた情報である。解像度の高い画像情報のように高細密である必要はなく、おおよそ物品の形状が把握できるように適宜メッシュ化ないしドット化された3次元情報であればよい。これによりデータ数を少なくし、視覚センサおよび処理系を高スペックとせずに済む。なお、視覚センサはデプスセンサと称されることもある。また、三次元情報の測定方式に限定はなく、たとえば、Active Stereo法、Time of Flight法、Coded Light法などを挙げることができる。
サンプル図形は、利用者側で設定してもよく、視覚センサからの3次元情報に基づき自動的に最適候補が選定されるようにしてもよい。単純なサンプル図形を採用でき処理負担が少なくてすむ。3次元情報の処理や照合処理は、PointCloudLibrary(PCL)のような大規模点群処理ライブラリを利用してもよい。照合に先立ち、設定されたサンプル図形を物品に近づけるように拡大縮小する前処理を施すこともできる。照合に際しては、図形と、対象の輪郭との重なりが最も大きくなることをもって判定してもよいし、それぞれの表面の法線方向との一致度を比較して判定する例を挙げることができる。図形を回転させて試行評価するのはもちろんのこと、深さ方向の情報に基づき、設定図形の大きさを上記前処理とは別に調整してもよい。
照合により算出する中心位置は、図形の中心や重心であるほか、物品によっては、所定のルールに従ってずらした位置とすることもできる。
少なくとも2本のアームからなる、とは、2本の場合には触覚センサが対向するように向かい合わせればよく、このほか、3本による把持、4本による把持も妨げないことを意味する。3本であれば120°回転対称、4本であれば90°回転対称とするのが好ましい。
触覚センサとは、物体への接触の有無の検知に加え、接触の程度を適宜数値化して出力するセンサである。いわゆる圧力センサは一点の数値もしくは平均値としての一つの数値を出力するのに対し、触覚センサは、荷重がかかる方向に概ね垂直な面内の複数箇所にてたとえば圧力値をそれぞれ出力し、接触の程度ないし様相(ピンポイントで圧力がかかっている、右に傾いて接触している、脈動している、など)を評価可能とするセンサである(この意味において圧力センサをある程度近接した範囲内で複数組み合わせてそれぞれの出力値を用いることにより触覚センサとすることもできる)。
触覚センサ部分そのものが物品に面接触してピックアップする態様が好ましい。リアルタイムに把持圧力をモニタリングして、物品が落ちそうになったことを検知でき把持圧力を強められるからである。なお、表面はゴム等、摩擦力の大きな素材とすることが好ましい。
ピックアップ順は、3次元データに基づき物品の高さ順とするのが好ましい。
触覚センサによる物品への接触検知に基づき物品を把持する、とは、接触後そのまま単に狭めるだけでなく、たとえば、更に1mm把持ユニットを降下させてから狭めるような動作制御も含まれていてもよいものとする。
アーム間隔を狭める態様は、アームの取付位置などそれぞれの基端側を中心として先端の間隔が狭まるように回転する態様であっても、アームの基端間隔が狭まることにより先端が狭まる態様であってもよく(この場合はアームは互いに平行であることが好ましい)、これらの複合的な動作であってもよい。
The operation of picking up from the sky is generally up and down on the vertical line, but it does not prevent the approach and pickup modes at an angle.
The three-dimensional information refers to the position information on the surface of the article group. That is, it is information including depth (depth) information. It does not have to be as dense as high-resolution image information, but may be three-dimensional information that is appropriately meshed or dotted so that the shape of the article can be roughly grasped. This reduces the number of data and eliminates the need for high specifications for visual sensors and processing systems. The visual sensor is sometimes called a depth sensor. Further, the measurement method of the three-dimensional information is not limited, and examples thereof include an Active Stereo method, a Time of Flight method, and a Code Light method.
The sample figure may be set by the user, or the optimum candidate may be automatically selected based on the three-dimensional information from the visual sensor. A simple sample figure can be adopted and the processing load can be reduced. A large-scale point cloud processing library such as PointCloudLibry (PCL) may be used for the processing and collation processing of the three-dimensional information. Prior to collation, it is also possible to perform preprocessing for enlarging / reducing the set sample figure so as to be closer to the article. In collation, the determination may be made based on the fact that the overlap between the figure and the contour of the target is the largest, and an example of determining by comparing the degree of coincidence with the normal direction of each surface can be given. In addition to rotating the figure for trial evaluation, the size of the set figure may be adjusted separately from the preprocessing based on the information in the depth direction.
The center position calculated by collation is the center of the figure or the center of gravity, and depending on the article, the center position may be shifted according to a predetermined rule.
The fact that it is composed of at least two arms means that in the case of two arms, the tactile sensors may face each other so as to face each other, and in addition, gripping by three arms and gripping by four arms are not hindered. If there are three, it is preferably 120 ° rotationally symmetric, and if there are four, it is preferably 90 ° rotationally symmetric.
The tactile sensor is a sensor that detects the presence or absence of contact with an object and outputs the degree of contact as an appropriate numerical value. The so-called pressure sensor outputs one numerical value or one numerical value as an average value, whereas the tactile sensor outputs, for example, pressure values at a plurality of points in a plane substantially perpendicular to the direction in which the load is applied, and makes contact with each other. It is a sensor that can evaluate the degree or appearance of (pinpoint pressure, tilted contact to the right, pulsating, etc.) (in this sense, the pressure sensor is within a range close to some extent. It can also be used as a tactile sensor by combining a plurality of them and using each output value).
It is preferable that the tactile sensor portion itself comes into surface contact with the article and picks it up. This is because the gripping pressure can be monitored in real time to detect that the article is about to fall and the gripping pressure can be increased. The surface is preferably made of a material having a large frictional force such as rubber.
The pick-up order is preferably the height order of the articles based on the three-dimensional data.
Gripping an article based on the detection of contact with an article by a tactile sensor does not only mean that the article is narrowed as it is after the contact, but may also include motion control such that the gripping unit is further lowered by 1 mm and then narrowed. It shall be.
The mode of narrowing the arm spacing is a mode in which the tip is narrowed by narrowing the base end spacing of the arm even if the rotation is such that the tip spacing is narrowed around each base end side such as the mounting position of the arm. It may be (in this case, the arms are preferably parallel to each other), or it may be a combination of these movements.

請求項2に記載のピッキング装置は、請求項1に記載のピッキング装置において、触覚センサは物品を面接触して把持する扁平なパッド体としてアーム先端の取付面に取り付けられており、取付面の法線方向は、アーム基端と取付面とを結ぶ線に対して75°〜55°であることを特徴とする。 The picking device according to claim 2 is the picking device according to claim 1, wherein the tactile sensor is attached to the mounting surface at the tip of the arm as a flat pad body that grips the article by surface contact. The normal direction is 75 ° to 55 ° with respect to the line connecting the base end of the arm and the mounting surface.

すなわち、請求項2にかかる発明は、把持ユニット先端が広がる構成として、進入ミスを緩和し、深い位置での安定的な把持を実現する。 That is, the invention according to claim 2 has a structure in which the tip of the gripping unit is widened to alleviate entry mistakes and realize stable gripping at a deep position.

パッド体は、対向する位置関係(アームが3本以上である場合は、降下方向を軸として内側に対称的に配された位置関係)とすることはいうまでもない。
なお、75°〜55°とは、アーム先端がそれまでのアーム部分に対して15°〜35°角度がついて開いていることを意味する。75°を超えると角度をつける効果が十分に発揮されず、55°に満たないと広がりすぎてかえって把持安定性が発揮されない。
Needless to say, the pad bodies have an opposing positional relationship (when there are three or more arms, the pad bodies are symmetrically arranged inward with respect to the descending direction).
Note that 75 ° to 55 ° means that the tip of the arm is open at an angle of 15 ° to 35 ° with respect to the arm portion up to that point. If it exceeds 75 °, the effect of making an angle is not sufficiently exhibited, and if it is less than 55 °, it spreads too much and the gripping stability is not exhibited.

請求項3に記載のピッキング装置は、請求項1または2に記載のピッキング装置において、いずれかの触覚センサが物品への接触を検知したのちに、他のアームの触覚センサが当該物品への接触を検知するまで当該他のアーム側に把持ユニットを移動させる移動制御手段と、移動制御手段による把持ユニットの移動距離に基づき中心位置を補正する補正手段と、具備し、把持制御手段は、補正手段により補正された中心位置から当該物品を把持する動作制御をおこなうことを特徴とする。 The picking device according to claim 3 is the picking device according to claim 1 or 2, in which one of the tactile sensors detects contact with the article, and then the tactile sensor of the other arm contacts the article. The gripping control means is provided with a movement control means for moving the gripping unit to the other arm side until the detection is detected, and a correction means for correcting the center position based on the movement distance of the gripping unit by the movement control means. It is characterized in that the motion control for gripping the article is performed from the center position corrected by.

すなわち、請求項3にかかる発明は、触覚センサによる現場補正に基づくより正確な位置把握を実現する。 That is, the invention according to claim 3 realizes more accurate position grasping based on on-site correction by a tactile sensor.

補正された中心位置から当該物品を把持する動作制御とは、把持ユニットを水平移動して、新たな中心位置からそのままアームの間隔を狭める態様であってもよく、新たな中心位置に至ってから再び下降し(仕様の態様によっては上昇してから下降させてもよい)、接触検知して再度2回目の中心だし(更に三回目の中心だし・・)をしてから挟持を開始するようにしてもよい。補正は修正と言い換えることもできる。
なお、他のアームの触覚センサが当該物品への接触を検知するまで当該他のアーム側に把持ユニットを移動させる際に、はじめに接触を検知した触覚センサは、その姿勢を保持したままでもよく(この場合は把持ユニットの移動により物品から離れる)、把持ユニットの移動に伴い接触を保つように制御してもよい。
The motion control for gripping the article from the corrected center position may be a mode in which the gripping unit is horizontally moved to narrow the distance between the arms as it is from the new center position, and after reaching the new center position again. It descends (it may be ascended and then lowered depending on the aspect of the specification), and after contact detection, the second centering (and the third centering ...) is performed before the pinching is started. May be good. Correction can be rephrased as correction.
When the gripping unit is moved to the other arm side until the tactile sensor of the other arm detects the contact with the article, the tactile sensor that first detects the contact may keep its posture ( In this case, the movement of the gripping unit causes the article to move away from the article), and the movement of the gripping unit may be controlled to maintain contact.

請求項4に記載のピッキング装置は、請求項1、2または3に記載のピッキング装置において、触覚センサは、降下方向の前方側と後方側との少なくとも二カ所における、接触に由来する変位値または圧力値をそれぞれ出力し、触覚センサからの出力値を入力し、前方側の出力値が一定値以上であり、かつ、後方側の出力値が前方側の出力値に漸近して所定範囲内に収まったか、未だ収まっていないかを判定する判定手段を具備し、把持制御手段は、アーム間隔を狭め、判定手段により収まっていないと判定されたら、アーム間隔を広げて把持ユニットを下降させて再びアーム間隔を狭める動作を、判定手段により収まったと判定されるまで繰り返し、アーム間隔を狭め、判定手段により収まったと判定されたら、把持ユニットを上昇させる動作制御をおこなうことを特徴とする。 The picking device according to claim 4 is the picking device according to claim 1, 2 or 3, wherein the tactile sensor is a displacement value or a displacement value derived from contact at at least two places, a front side and a rear side in the descending direction. Each pressure value is output, the output value from the tactile sensor is input, the output value on the front side is above a certain value, and the output value on the rear side asymptotically approaches the output value on the front side within a predetermined range. The gripping control means narrows the arm spacing, and when it is determined by the determining means that the gripping control means does not fit, the arm spacing is widened and the gripping unit is lowered again to determine whether the gripping unit is fitted or not yet fitted. The operation of narrowing the arm spacing is repeated until it is determined by the determination means that the arm spacing is narrowed, and when it is determined that the arm spacing is within the determination means, the operation control of raising the gripping unit is performed.

すなわち、請求項4にかかる発明は、いわゆる探り動作をおこない、ある程度深い位置までアームを進入させ、安定的な面接触把持を実現する。請求項3に従属する態様においては、より安定的かつミスのないピックアップを実現する。 That is, the invention according to claim 4 performs a so-called search operation, advances the arm to a certain depth, and realizes stable surface contact gripping. In the aspect subordinate to claim 3, more stable and error-free pickup is realized.

降下方向の前側と後側は、アームの延伸方向の先側と基側と表現することもできる。
触覚センサは、前後2カ所でだけでなく、左右2カ所も加えて、4カ所のデータを出力するようにしてもよい。また、触覚センサは各アーム先端にあるので、各触覚センサの前後2カ所のそれぞれの出力値を用いて判定してもよい。軽く挟んだときに、各触覚センサの偏りを確認し、均等でなければ中心位置の再設定をおこなうようにしてもよい。
変位値は、触覚センサの構成によるが、たとえば、パッドの沈み込み量でもよく、パッド内の光の透過度もしくは透過度に基づき換算される変位量を採用することもできる。
広げる量や下降量は適宜設定できるが、それぞれ数ミリとする例を挙げることができる。アーム2本の場合は、両方のセンサの前方側がほぼ同時に接触検出限界となる位置に中心をずらしながら、再度1mm降下して判定をおこなうような、なぞり進入とでもいうべき補正ないし駆動をおこなうこともできる(アームが3本以上でも同様である)。
The front side and the rear side in the descending direction can also be expressed as the front side and the base side in the extending direction of the arm.
The tactile sensor may output data at four locations, not only at two locations in the front and rear, but also at two locations on the left and right. Further, since the tactile sensor is located at the tip of each arm, the determination may be made using the output values of the two front and rear positions of each tactile sensor. When it is lightly pinched, the bias of each tactile sensor may be confirmed, and if it is not even, the center position may be reset.
The displacement value depends on the configuration of the tactile sensor, but may be, for example, the amount of sinking of the pad, or the amount of displacement converted based on the transmittance or the transmittance of light in the pad may be adopted.
The amount of expansion and the amount of descent can be set as appropriate, but an example of setting each to several millimeters can be given. In the case of two arms, the front side of both sensors shifts the center to the position where the contact detection limit is reached almost at the same time, and the correction or drive, which can be called a trace approach, is performed by descending 1 mm again to make a judgment. It can also be done (the same applies to three or more arms).

請求項5に記載のピッキング方法は、先端に触覚センサを有する回転対称に配されたアームが均等に間隔を狭めて把持対象である物品を把持して持ち上げる把持ユニットと、物品群の3次元情報を取得する視覚センサと、をもちいて、同一形状の物品がランダムに収容されたコンテナから当該物品を一つずつ上空から摘まみ上げるピッキング方法であって、所定の楕円体形状、直方体形状、その他のサンプル図形を視覚センサにより取得された物品群の3次元情報に当てはめて、物品を強制的に照合してそれぞれの中心位置を算出し、持ち上げる物品を決定して、当該物品の中心位置の上空から把持ユニットを降下させ、いずれかの触覚センサが物品への接触を検知した場合に、他のアームの触覚センサが当該物品への接触を検知するまで当該他のアーム側に把持ユニットを移動させ、把持ユニットの移動距離に基づき中心位置を補正して、当該補正された中心位置の鉛直線上から当該物品を把持して持ち上げることを特徴とする。 The picking method according to claim 5 is a gripping unit in which arms arranged symmetrically with a tactile sensor at the tip grip and lift an article to be gripped evenly at close intervals, and three-dimensional information of an article group. This is a picking method in which articles of the same shape are picked up one by one from the sky from a container in which articles of the same shape are randomly stored, using a visual sensor to acquire a predetermined ellipsoidal shape, rectangular parallelepiped shape, etc. By applying the sample figure of the above to the three-dimensional information of the article group acquired by the visual sensor, the articles are forcibly collated to calculate the center position of each, the article to be lifted is determined, and the sky above the center position of the article. When one of the tactile sensors detects contact with the article, the gripping unit is moved to the other arm side until the tactile sensor of the other arm detects the contact with the article. The center position is corrected based on the moving distance of the gripping unit, and the article is gripped and lifted from the vertical line of the corrected center position.

すなわち、請求項5にかかる発明は、強制照合によるばら積み物品の大まかな位置把握と触覚センサによる現場補正に基づく正確な位置把握とを組み合わせることにより、高スペックなセンサや処理系が不要となる。これにより、汎用性が高く安価に導入可能なシステムを構築できる。現場補正をおこなうので時間をかけたチューニングを不要とし、速やかな稼働も実現可能である。 That is, the invention according to claim 5 eliminates the need for a high-spec sensor or processing system by combining a rough position grasp of bulk articles by forced collation and an accurate position grasp based on on-site correction by a tactile sensor. As a result, it is possible to construct a system that is highly versatile and can be introduced at low cost. Since on-site correction is performed, time-consuming tuning is not required, and quick operation can be realized.

請求項6に記載のピッキング方法は、請求項5に記載のピッキング方法において、触覚センサは、降下方向の前方側と後方側との少なくとも二カ所において接触圧を出力するものであって、前方側の接触圧が所定値以上であり、後方側の接触圧が前方側の接触圧に漸近して所定範囲内に収まるまで、アームを開いては把持ユニット降下させてアームを閉じる動作を繰り返してから、物品を持ち上げることを特徴とする。 The picking method according to claim 6 is the picking method according to claim 5, wherein the tactile sensor outputs contact pressure at at least two locations, a front side and a rear side in the descending direction, and the front side. After repeating the operation of opening the arm, lowering the gripping unit, and closing the arm until the contact pressure on the rear side is asymptotically close to the contact pressure on the front side and falls within the predetermined range. , It is characterized by lifting an article.

すなわち、請求項6にかかる発明は、いわゆる探り動作をおこない、ある程度深い位置までアームを進入させ、安定的でミスのないピックアップを実現する。 That is, the invention according to claim 6 performs a so-called search operation, advances the arm to a certain depth, and realizes a stable and error-free pickup.

接触圧とは接触に由来する変位値または圧力値をいう。 Contact pressure refers to the displacement value or pressure value derived from contact.

本発明によれば、汎用性が高く安価に導入可能であって稼働も速やかにおこなうことのできるピッキング技術を提供することができる。 According to the present invention, it is possible to provide a picking technique that is highly versatile, can be introduced at low cost, and can be operated quickly.

ピッキング装置1の外観模式図である。It is a schematic diagram of the appearance of the picking apparatus 1. 高さ約77mmのスタンフォードバニーと、それを視覚センサで撮影して得られる3次元情報の再構築画像の例である。This is an example of a Stanford bunny with a height of about 77 mm and a reconstructed image of three-dimensional information obtained by photographing it with a visual sensor. 把持ユニット21の外観構成を示した模式図である。It is a schematic diagram which showed the appearance structure of the gripping unit 21. 触覚センサ27の構造を示した説明図である。It is explanatory drawing which showed the structure of the tactile sensor 27. 処理装置30の機能的構成を示したブロック図である。It is a block diagram which showed the functional structure of the processing apparatus 30. コンテナにのったスタンフォードバニーを視覚センサで撮像した様子と、その3次元情報を用いて球形にて強制的に照合した例を示した写真である。It is a photograph showing an image of a Stanford bunny in a container taken by a visual sensor and an example of forcibly collating it in a spherical shape using the three-dimensional information. 人によるつまみあげ動作のセンサ変位量の解析結果を示した図である。It is a figure which showed the analysis result of the sensor displacement amount of the pick-up operation by a person. ピッキング処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a picking process.

以下、本発明の実施の形態を図面を参照しながら詳細に説明する。ここでは、2アームによるばら積み部品のピックアップをする例について説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. Here, an example of picking up bulk parts by two arms will be described.

図1は、本発明のピッキング装置の外観模式図である。なお、説明の便宜上、各図において各構成の縮尺は必ずしも同一とはしていない。
ピッキング装置1は、コンテナC内にばら積み収容された同一形状の物品を一つずつピックアップして、ベルトコンベア(図示せず)に載置する装置である。なお、以降では、主としてピックアップするところまでを詳述し、その後、どのようにコンベアに載置するかの記載は省略する。ただし、汎用技術を用いて整列載置等することは容易である。
FIG. 1 is a schematic external view of the picking device of the present invention. For convenience of explanation, the scale of each configuration is not necessarily the same in each figure.
The picking device 1 is a device that picks up articles of the same shape that are bulk-loaded and stored in the container C one by one and places them on a belt conveyor (not shown). In the following, the details up to the point of picking up will be described in detail, and then the description of how to place the conveyor on the conveyor will be omitted. However, it is easy to align and place them using general-purpose technology.

従来のピッキング装置は、物品のCADデータをあらかじめ入力しておき、高精細・高解像度で撮影された3次元情報(3次元データ)ないしデプスデータに基づいて完全照合をおこない、物品の位置や姿勢を総て把握してから把持動作を精密に決定し、当該物品をピックアップするものである。
一方、本発明は、以下説明するように、物品の位置や姿勢を大まかに把握し、現場対応にて把持動作を決定していく点が大きく異なる。
In the conventional picking device, the CAD data of the article is input in advance, and the position and posture of the article are completely collated based on the three-dimensional information (three-dimensional data) or depth data taken in high definition and high resolution. After grasping all of the above, the gripping operation is precisely determined and the article is picked up.
On the other hand, the present invention is largely different in that the position and posture of the article are roughly grasped and the gripping operation is determined in response to the site, as will be described below.

ピッキング装置1は、主として、視覚センサ10と、多関節ロボット20と、処理装置30と、により構成される。 The picking device 1 is mainly composed of a visual sensor 10, an articulated robot 20, and a processing device 30.

視覚センサ10は、コンテナCの載置面の上空からコンテナCを含む領域を撮影し、物品群の3次元情報を取得する。より具体的には、物品がどのように重なっているかを含めた物品群の凹凸情報を取得する。撮影の方式は特に限定されないが、ここでは、Coded Light(IR)方式を採用する。このような視覚センサの例としては、インテル社RealSense(登録商標)SR300を挙げることができる。赤外プロジェクタと、赤外カメラとRGBカメラを備え、安価であって、簡便に3次元情報を取得できる。
図2は、高さ約77mmのスタンフォードバニーと、それを視覚センサで撮影して得られる3次元情報の再構築画像の例である。
再構築画像のドット間隔は解像度以下で任意に設定できるが、扱う部品の大きさおよび形状により、1mm〜5mmとすることができる。換言すれば、数百〜数千ドットで物品を再構築して後述の照合用図形と照合させるため、視覚センサ10も処理装置30も高スペックとする必要がなく低廉に導入することができる。
The visual sensor 10 photographs an area including the container C from the sky above the mounting surface of the container C, and acquires three-dimensional information of the article group. More specifically, the unevenness information of the article group including how the articles are overlapped is acquired. The shooting method is not particularly limited, but here, the Code Light (IR) method is adopted. An example of such a visual sensor is Intel RealSense® SR300. Equipped with an infrared projector, an infrared camera, and an RGB camera, it is inexpensive and can easily acquire three-dimensional information.
FIG. 2 is an example of a Stanford bunny having a height of about 77 mm and a reconstructed image of three-dimensional information obtained by photographing the Stanford bunny with a visual sensor.
The dot spacing of the reconstructed image can be arbitrarily set below the resolution, but can be 1 mm to 5 mm depending on the size and shape of the parts to be handled. In other words, since the article is reconstructed with hundreds to thousands of dots and collated with the collation figure described later, neither the visual sensor 10 nor the processing device 30 needs to have high specifications and can be introduced at low cost.

多関節ロボット20は、把持ユニット21と、把持ユニット21を自在に移動・配向させる多関節部22と、により構成される。多関節部22により、把持ユニット21にピックアップのための進入−後退動作をさせ、ピックアップ後には移送動作、コンベアへの載置動作をさせることができる。なお、本実施の形態では、進入動作、後退動作は、鉛直線上でおこなわれ、把持ユニット21の延伸方向(配向方向)も鉛直線上であるものとする。
把持ユニット21は、2本のアーム25と、アーム25を取り付けかつ開閉する基端駆動部26と、により構成される。図3は、把持ユニット21の外観構成を示した模式図である。
アーム25は、25mm×150mm×6mmの板体であって、向かい合っており、いずれも先端30mm部分がそれまでの部分と25°の角度で外側に広げてある。このようにアーム25を外側に拡径させると、ちょうど人が人差指と親指でものを摘まむときに指の腹が傾いていて好適なつまみが実現されるのと同様に、安定的な把持を実現する。
また、当該先端部分内側には、外形が扁平な円柱パッド(直径18mm高さ7mm)である触覚センサ27が取り付けられている。表面素材はゴムであり、パッド表面にて物品を面接触して把持する。
触覚センサ27は、周縁内側の0時方向、3時方向、6時方向、9時方向の4カ所で荷重のかかり方を知得する。図4は、触覚センサ27の構造を示した説明図である。図4aは外観構成であり、図4bは、センサの内部構造を示した平面模式図であり、図4cは、荷重がかかった際の、光の透過の様子を示した説明図である。
図示したように、パッド内部はスポンジでできており、パッドへの荷重に応じて大きくなったスポンジ密度を、内部の光透過量の変化として数値化し、圧力値に換算して出力する。これを4カ所でおこなうことにより、荷重のかかり方が把握できる。
特に、触覚センサ27では、0時方向をアーム25の先端側(前側)、9時方向を基端駆動部26側(後側)に向きを揃えてアーム25に取り付けている。後述するように、少なくとも前後2カ所で荷重のかかり具合(物品への面接触具合)を知得することで、十全な把持を実現する。
以上説明した触覚センサ27の例としては、タッチエンス社のショッカクポットPOTU−001−1を挙げることができ、低廉に導入することが可能である。
The articulated robot 20 is composed of a gripping unit 21 and an articulated portion 22 that freely moves and orients the gripping unit 21. The articulated portion 22 allows the gripping unit 21 to perform an approach-reverse operation for picking up, and after picking up, a transfer operation and a placement operation on a conveyor. In the present embodiment, the approaching motion and the retracting motion are performed on the vertical line, and the stretching direction (orientation direction) of the gripping unit 21 is also on the vertical line.
The gripping unit 21 is composed of two arms 25 and a base end driving unit 26 for attaching and opening and closing the arms 25. FIG. 3 is a schematic view showing the external configuration of the gripping unit 21.
The arms 25 are plates of 25 mm × 150 mm × 6 mm, facing each other, and the tip 30 mm portion is spread outward at an angle of 25 ° with the previous portion. By expanding the diameter of the arm 25 to the outside in this way, stable gripping is achieved, just as when a person picks a thing with the index finger and the thumb, the pad of the finger is tilted and a suitable knob is realized. Realize.
Further, a tactile sensor 27, which is a cylindrical pad (diameter 18 mm, height 7 mm) having a flat outer shape, is attached to the inside of the tip portion. The surface material is rubber, and the article is gripped by surface contact on the pad surface.
The tactile sensor 27 knows how to apply the load at four locations inside the peripheral edge: 0 o'clock, 3 o'clock, 6 o'clock, and 9 o'clock. FIG. 4 is an explanatory diagram showing the structure of the tactile sensor 27. 4a is an external configuration, FIG. 4b is a schematic plan view showing the internal structure of the sensor, and FIG. 4c is an explanatory view showing a state of light transmission when a load is applied.
As shown in the figure, the inside of the pad is made of sponge, and the sponge density that increases according to the load on the pad is quantified as a change in the amount of light transmitted inside, converted into a pressure value, and output. By doing this at four locations, it is possible to understand how the load is applied.
In particular, the tactile sensor 27 is attached to the arm 25 with the 0 o'clock direction aligned with the tip end side (front side) of the arm 25 and the 9 o'clock direction with the proximal end driving unit 26 side (rear side). As will be described later, sufficient gripping is realized by knowing how the load is applied (the degree of surface contact with the article) at at least two places in the front and rear.
As an example of the tactile sensor 27 described above, the shock pot POTU-001-1 manufactured by Touchence Co., Ltd. can be mentioned and can be introduced at low cost.

次に、処理装置30について説明する。
処理装置30は、いわゆるパーソナルコンピュータを利用することができ、CPUやメモリ、ストレージ、モニタ等は汎用品を採用できるので、ここでは、ハードウェアの詳細な説明は省略する。
処理装置30の具体的な機能的構成としては、3次元情報入力部31と、サンプル図形設定部32と、照合部33と、中心算出・補正部34と、多関節制御部35と、触覚情報入力部36と、判定部37と、開閉制御部38と、を有する。図5は、処理装置30の機能的構成を示したブロック図である。多関節制御部35と開閉制御部38とが主として請求項にいう把持制御を担う。これらの機能部は、処理装置30にインストールされた処理プログラムやOSといったソフトウェア、および、各ハードウェアとの共働により実現される。
Next, the processing apparatus 30 will be described.
Since the processing device 30 can use a so-called personal computer and general-purpose products such as a CPU, memory, storage, and monitor can be adopted, detailed description of hardware will be omitted here.
Specific functional configurations of the processing device 30 include a three-dimensional information input unit 31, a sample graphic setting unit 32, a collation unit 33, a center calculation / correction unit 34, an articulated control unit 35, and tactile information. It has an input unit 36, a determination unit 37, and an open / close control unit 38. FIG. 5 is a block diagram showing a functional configuration of the processing device 30. The articulated control unit 35 and the open / close control unit 38 mainly carry out the gripping control according to the claim. These functional units are realized by cooperating with software such as a processing program and an OS installed in the processing device 30 and each hardware.

3次元情報入力部31は、視覚センサ10により取得される物品群の3次元情報を逐次入力する。必要に応じてRAMやハードディスクに格納する制御もおこなう。
サンプル図形設定部32は、円、球、楕円体、正方形、長方形、立方体、直方体といった単純図形と、3次元情報入力部31から入力された3次元情報と、に基づいて照合用図形を設定する。
3次元情報から物品群の表面凹凸がわかり、奥行き方向の値に大きな差がある部分の情報に基づき、ランダム配置ながらも上層にある物品それぞれの輪郭が大まかに判定できる(特に高い位置における輪郭を用いるのが好適である)。その情報に基づき、照合用図形を選定する。本実施の形態では、球形により照合をおこなうものとする。また、球の半径は適宜調整されたあとのものが照合に用いられる。このほか、3軸長さを調整した回転楕円体を用いたり、3辺長さを調整した直方体を用いたりすることもできる。
The three-dimensional information input unit 31 sequentially inputs the three-dimensional information of the article group acquired by the visual sensor 10. It also controls storage in RAM or hard disk as needed.
The sample figure setting unit 32 sets a matching figure based on a simple figure such as a circle, a sphere, an ellipsoid, a square, a rectangle, a cube, or a rectangular parallelepiped, and three-dimensional information input from the three-dimensional information input unit 31. ..
The surface unevenness of the article group can be understood from the three-dimensional information, and the contour of each article in the upper layer can be roughly determined based on the information of the portion where the value in the depth direction has a large difference (especially the contour at a high position). It is preferable to use it). Based on that information, a collation figure is selected. In the present embodiment, collation is performed by a spherical shape. Further, the radius of the sphere is used for collation after being appropriately adjusted. In addition, a spheroid whose three-axis length is adjusted can be used, or a rectangular parallelepiped whose three-sided length is adjusted can be used.

照合部33は、3次元情報に基づいて、照合用図形である球形を強制的に物品に一致させる。上層にある物品は輪郭にほとんど断絶が生じないため、断絶率の小さなものから照合する(そしてピックアップする)。なお、物品の薄い部分であって下の部品との間に大きな段差がない場合であっても、他の物品は向きがランダムであって当該部分に大きな段差が生じているものもあるため、そのようなデータで薄い部分を補完すればよい。断絶部分も同様に補完できる。
照合の手法は特に限定されないが、最尤推定、たとえば、輪郭を含めて、対象とする物品の表面形状、各点の法線方向といった特徴量に基づき、球を少しずつ動かして、体積重複率が最も高くなる位置を算出し、それが所定値以上であれば照合された(両図形は一致する)と判定する例を挙げることができる。
なお、3次元情報は順次入力されてくるので、ピックアップ後は奥にあった物品が表出した3次元情報となり、次の照合に際しては、この更新された3次元情報を用いる。
図6は、コンテナにのったスタンフォードバニーを視覚センサで撮像した様子(図6a)と、その3次元情報を用いて球形にて強制的に照合した例を示した写真である(図6b)。
The collation unit 33 forcibly matches the spherical shape, which is a collation figure, with the article based on the three-dimensional information. Since the articles in the upper layer have almost no breaks in the contour, the ones with the smallest break rate are collated (and picked up). Even if the thin part of the article does not have a large step between it and the lower part, other articles may have a random orientation and a large step may occur in the part. Such data can be used to supplement the thin part. The disconnection part can be complemented in the same way.
The collation method is not particularly limited, but the maximum likelihood estimation, for example, the volume overlap ratio by moving the sphere little by little based on the feature quantity such as the surface shape of the target article including the contour and the normal direction of each point. An example can be given in which the position where is highest is calculated, and if it is equal to or more than a predetermined value, it is determined that they are collated (both figures match).
Since the three-dimensional information is input in sequence, the article in the back becomes the three-dimensional information displayed after the pickup, and this updated three-dimensional information is used in the next collation.
FIG. 6 is a photograph showing an image of a Stanford bunny in a container taken by a visual sensor (FIG. 6a) and an example of forcibly collating the Stanford bunny in a spherical shape using the three-dimensional information (FIG. 6b). ..

中心算出・補正部34は、照合部33により照合された球に基づき、その球の中心座標を物品の中心に設定する。
また、中心算出・補正部34は、後述のファーストコンタクトとセカンドコンタクトに基づく把持ユニット21の移動距離から、物品の中心を補正する。
The center calculation / correction unit 34 sets the center coordinates of the sphere to the center of the article based on the sphere collated by the collation unit 33.
Further, the center calculation / correction unit 34 corrects the center of the article from the moving distance of the gripping unit 21 based on the first contact and the second contact described later.

多関節制御部35は、多関節部22を制御して、中心算出・補正部34により設定されたもしくは再設定された、把持すべき物品に対する中心座標の座標値の鉛直上空に把持ユニット21を移動させる。このとき把持ユニット21の姿勢は、その中心線が鉛直下方に向くように姿勢制御する。
そして、多関節制御部35は、把持ユニット21を降下させ、物品を把持後再び上昇する(ピックアップする)。なお、その後はコンベア等に適宜物品を載置し、再びコンテナC上空に戻りピッキングを繰り返す。
また、多関節制御部35は、判定部37が初めての接触(ファーストコンタクト)を検知した場合に、他方のアーム25側に把持ユニット21を移動させる(判定部37が二回目の接触(セカンドコンタクト)を検知するまで移動を続ける)。
更に、多関節制御部35は、判定部37により所定範囲に収まったと判定されたら(辺底部37が、深く安定的な位置までアーム25が進入し物品を把持していると判定したら)、把持ユニット21を上昇させる動作制御をおこなう。
The articulated control unit 35 controls the articulated unit 22 and sets the gripping unit 21 vertically above the coordinate values of the center coordinates with respect to the article to be gripped, which is set or reset by the center calculation / correction unit 34. Move. At this time, the posture of the gripping unit 21 is controlled so that its center line faces vertically downward.
Then, the articulated control unit 35 lowers the gripping unit 21, grips the article, and then raises (picks up) the article again. After that, the article is appropriately placed on a conveyor or the like, returned to the sky above the container C, and picking is repeated.
Further, when the determination unit 37 detects the first contact (first contact), the articulated control unit 35 moves the gripping unit 21 to the other arm 25 side (the determination unit 37 makes the second contact (second contact). ) Is detected).
Further, when the multi-joint control unit 35 determines that the determination unit 37 is within the predetermined range (when the side bottom portion 37 determines that the arm 25 has entered a deep and stable position and is gripping the article), the multi-joint control unit 35 grips The operation control for raising the unit 21 is performed.

触覚情報入力部36は、二つの触覚センサ27の計8カ所から、逐次圧力値を入力する。 The tactile information input unit 36 sequentially inputs pressure values from a total of eight locations of the two tactile sensors 27.

判定部37は、多関節制御部35の制御に基づく把持ユニット21の降下にともない、どちらかの触覚センサ27が物品への接触を検知したか否かを判定する(ファーストコンタクトを判定する)。
また、判定部37は、多関節制御部35による、反対側のアーム25の触覚センサ27が物品への接触を検知したか否かを判定する(セカンドコンタクトを判定する)。
更に、判定部37は、触覚センサ27の先側からと後側からの圧力値の推移に基づき、前側の圧力値が一定値以上であり、かつ、後側の圧力値と前側の圧力値との差が所定範囲内に収まったか、未だ収まっていないかを判定する(順次繰り返しおこなうことで、後側の圧力値が前側の圧力値に漸近して所定範囲内に収まったかを判定する)。
The determination unit 37 determines whether or not one of the tactile sensors 27 has detected contact with the article as the gripping unit 21 is lowered under the control of the articulated control unit 35 (determines the first contact).
Further, the determination unit 37 determines whether or not the tactile sensor 27 of the arm 25 on the opposite side of the articulated control unit 35 has detected contact with the article (determines the second contact).
Further, the determination unit 37 determines that the pressure value on the front side is equal to or higher than a certain value and the pressure value on the rear side and the pressure value on the front side are determined based on the transition of the pressure value from the front side and the rear side of the tactile sensor 27. It is determined whether the difference between the two is within the predetermined range or not yet (by repeating the process sequentially, it is determined whether the pressure value on the rear side asymptotically approaches the pressure value on the front side and is within the predetermined range).

この判定は、本願発明者が触覚センサ27を人差指と親指のそれぞれの腹に取り付けて物品を把持する事前実験に基づく。図7は、人によるつまみあげ動作のセンサ変位量の解析結果を示した図である。図示したように、指が物品に当たってから摘まみ上げるときには、先に探り動作として、指を深く入れる動作と広げる動作が繰り返され(図では、前側の変位量の3つのピークとして表れている)、深く入って安定な挟持として判断して摘まみ上げる(図では、後側の変位量が前側の変位量と同程度になっている)。ピッキング装置1では、この動作を現場対応としておこなわせている。 This determination is based on a prior experiment in which the inventor of the present application attaches the tactile sensor 27 to the abdomen of the index finger and the thumb and grips the article. FIG. 7 is a diagram showing the analysis result of the sensor displacement amount of the pick-up operation by a person. As shown in the figure, when the finger hits the article and then picks it up, the action of deeply inserting the finger and the action of spreading it are repeated as the first exploration motion (in the figure, it appears as three peaks of the displacement amount on the front side). Go deep and pick it up as a stable pinch (in the figure, the amount of displacement on the rear side is about the same as the amount of displacement on the front side). In the picking device 1, this operation is performed as a field response.

開閉制御部38は、把持ユニット21の中心線に対して対称にアーム25の間隔を狭める(最終的には物品を挟持する)、または、広げる動作をおこなう。
特に、判定部37と共働して、物品のある程度深い位置まで進入して安定的な把持をおこなう。すなわち、開閉制御部38は、アーム25の間隔を狭めた際、判定部37により後側の圧力値が十分でないと判定されたら、アーム25間隔をわずかに広げ、把持ユニット21のわずかな降下後に再びアーム25間隔を狭める動作を、判定部37により圧力値が所定範囲に収まったと判定されるまで繰り返す。
なお、把持ユニット21の降下開始前のアーム25の広げ間隔は、3次元情報に基づき適宜設定しておく。ただし、誤差があるにしても、概ね、物品の把持すべき部分の形状は3次元情報であらかじめわかっているので、たとえば、当該把持予定部分の物品間隔の5mmずつ増しでアーム25を広げておき、把持予定位置の上空10mmの高さにあるとき、アーム25を狭めていき、ファーストコンタクトを探るなどしてもよい。
The open / close control unit 38 performs an operation of narrowing (finally holding an article) or widening the distance between the arms 25 symmetrically with respect to the center line of the gripping unit 21.
In particular, in cooperation with the determination unit 37, the article enters a certain deep position to perform stable gripping. That is, when the opening / closing control unit 38 narrows the distance between the arms 25 and the determination unit 37 determines that the pressure value on the rear side is not sufficient, the opening / closing control unit 38 slightly widens the distance between the arms 25 and after the gripping unit 21 is slightly lowered. The operation of narrowing the distance between the arms 25 is repeated until the determination unit 37 determines that the pressure value is within the predetermined range.
The spread interval of the arm 25 before the start of descent of the gripping unit 21 is appropriately set based on the three-dimensional information. However, even if there is an error, the shape of the part to be gripped of the article is generally known in advance from the three-dimensional information, so for example, the arm 25 is expanded by increasing the distance between the articles to be gripped by 5 mm. When the arm 25 is at a height of 10 mm above the planned gripping position, the arm 25 may be narrowed to search for the first contact.

次に、一部重複するが、ピッキング装置1によるピッキング方法の流れについて説明する。図8は、ピッキング処理の流れを示すフローチャートである。 Next, although partially overlapping, the flow of the picking method by the picking device 1 will be described. FIG. 8 is a flowchart showing the flow of the picking process.

ばら積み収容された同一形状の物品が入ったコンテナCを、ピッキング装置1の視野内に載置する(ステップS1)。
視覚センサ10が、その物品群を撮影し3次元情報として所定時間間隔(たとえば0.1秒間隔)で処理装置30に出力する(ステップS2)。
処理装置30では、入力された3次元情報から輪郭抽出をおこない、大きさを調整した照合用図形を決定する(ステップS3)。
処理装置30は、さらに、照合用図形を用いて、物品群から物品をそれぞれ強制的に照合していき照合用図形の中心を物品の中心位置として算出する(ステップS4)。
持ち上げる物品を決定し、当該物品の中心位置の上空から把持ユニット21を降下させる(ステップS5)。
A container C containing articles of the same shape stored in bulk is placed in the field of view of the picking device 1 (step S1).
The visual sensor 10 photographs the group of articles and outputs the three-dimensional information to the processing device 30 at predetermined time intervals (for example, 0.1 second intervals) (step S2).
The processing device 30 performs contour extraction from the input three-dimensional information and determines a collation figure whose size has been adjusted (step S3).
Further, the processing device 30 forcibly collates the articles from the article group using the collation figure, and calculates the center of the collation figure as the center position of the article (step S4).
The article to be lifted is determined, and the gripping unit 21 is lowered from above the center position of the article (step S5).

いずれかの触覚センサ27が物品への接触を検知したかを判定し、すなわちファーストコンタクトがあったかを検知し(ステップS6)、検知した場合に(ステップS6:Yes)、他方のアーム25の触覚センサ27が当該物品への接触を検知するまで(セカンドコンタクトを検知するまで)当該他方のアーム25側に把持ユニット21を移動させる(ステップS7)。
把持ユニット21の移動距離を算出し、移動距離に基づき中心位置を修正する(ステップS8)。
修正された中心位置の鉛直線上から把持ユニット21を下降させ、片側のアーム25の前側の接触圧が所定値A以上であって、後側の接触圧が前側の接触圧に比して所定範囲B内にあるかを判定する(ステップS9)。所定範囲内にない場合(ステップS9:No)、アーム25間隔を2mm広げ、把持ユニット21を2mm降下させ、再びアーム25間隔を狭める。すなわち探り動作をおこなう(ステップS10)。このとき、少なくとも、二つの前側の接触圧が所定値Aになるまで間隔を狭める。再び、後側の接触圧と前側の接触圧との差が所定範囲B内となったかを判定する(ステップS9)。これを、二つの後側の接触圧が満たすようになるまで、間隔微少広げ→微小降下→前側接触圧A以上となるまで間隔狭め→・・との判定および駆動を繰り返す。探りながら、安定的な把持が可能となる、ある程度深い位置まで、しっかりとした把持となるまでアーム25を進入させる動作である。
It is determined whether any of the tactile sensors 27 has detected contact with the article, that is, whether there has been a first contact (step S6), and if detected (step S6: Yes), the tactile sensor of the other arm 25. The gripping unit 21 is moved to the other arm 25 side until 27 detects a contact with the article (until a second contact is detected) (step S7).
The moving distance of the gripping unit 21 is calculated, and the center position is corrected based on the moving distance (step S8).
The gripping unit 21 is lowered from the vertical line at the corrected center position, the contact pressure on the front side of the arm 25 on one side is equal to or higher than the predetermined value A, and the contact pressure on the rear side is within a predetermined range as compared with the contact pressure on the front side. It is determined whether it is in B (step S9). If it is not within the predetermined range (step S9: No), the arm 25 spacing is widened by 2 mm, the gripping unit 21 is lowered by 2 mm, and the arm 25 spacing is narrowed again. That is, the search operation is performed (step S10). At this time, the interval is narrowed until at least the contact pressures on the two front sides reach a predetermined value A. Again, it is determined whether the difference between the contact pressure on the rear side and the contact pressure on the front side is within the predetermined range B (step S9). This is repeated until the two rear contact pressures are satisfied, the interval is slightly widened, the interval is slightly lowered, and the interval is narrowed until the front contact pressure is A or more. While searching, it is an operation of advancing the arm 25 to a certain deep position where stable grip is possible until a firm grip is achieved.

所定範囲B内となったら(ステップS9:Yes)、把持ユニット21を上昇させ、コンベアに載置し(ステップS11)、スタートに戻る。 When it is within the predetermined range B (step S9: Yes), the gripping unit 21 is raised and placed on the conveyor (step S11), and the process returns to the start.

以上説明したように、ピッキング装置1およびそのピッキング方法は、汎用性が高く安価なシステム導入を可能とするものであって、現場対応をおこなうことでチューニング等も不要であり速やかな稼働を実現する。 As described above, the picking device 1 and its picking method enable the introduction of a highly versatile and inexpensive system, and by performing on-site support, tuning and the like are not required, and prompt operation is realized. ..

なお、本発明は上記の態様に限定されない。たとえば、物品が極めて軽い場合や、弾性率が高いものである場合には、通常稼働であるとファーストコンタクトにて、物品がはじかれてしまう可能性がある。このような場合には、接触センサに近接検知機能を加え、接触速度をおとようにしてもよい。また、近接をもって接触と判定し、セカンドコンタクトを探るよう把持ユニットを移動させるようにしてもよい(その後の降下、探り動作等は、通常どおり、ただし、ピックアップまでの各種の動きの速度はおとすのが好ましい)。 The present invention is not limited to the above aspects. For example, if the article is extremely light or has a high elastic modulus, the article may be repelled by the first contact during normal operation. In such a case, a proximity detection function may be added to the contact sensor to reduce the contact speed. Alternatively, the gripping unit may be moved so as to search for the second contact by determining that the contact is close to each other (subsequent descent, search operation, etc. are normal, but the speed of various movements up to the pickup is slowed down. Is preferable).

本発明によれば、視覚と触覚による汎用的な産業用ロボットのランダムピッキングを安価に実現し、中小企業における導入を促進できる。 According to the present invention, random picking of a general-purpose industrial robot by sight and touch can be realized at low cost, and introduction in small and medium-sized enterprises can be promoted.

1 ピッキング装置
10 視覚センサ
20 多関節ロボット
21 把持ユニット
22 多関節部
25 アーム
26 基端駆動部
27 触覚センサ
30 処理装置
31 3次元情報入力部
32 サンプル図形設定部
33 照合部
34 中心算出・補正部
35 多関節制御部
36 触覚情報入力部
37 判定部
38 開閉制御部
1 Picking device 10 Visual sensor 20 Articulated robot 21 Gripping unit 22 Articulated unit 25 Arm 26 Base end drive unit 27 Tactile sensor 30 Processing device 31 3D information input unit 32 Sample graphic setting unit 33 Matching unit 34 Center calculation / correction unit 35 Articulated control unit 36 Tactile information input unit 37 Judgment unit 38 Open / close control unit

Claims (6)

同一形状の物品がランダムに収容されたコンテナから当該物品を一つずつ上空から摘まみ上げるピッキング装置であって、
コンテナ中の物品群の3次元情報を取得する視覚センサと、
視覚センサにより取得された物品群の3次元情報に基づいて、円、球、楕円体、正方形、長方形、立方体、直方体、その他のサンプル図形の一つにより、物品を強制的に照合してそれぞれの中心位置を算出する照合算出手段と、
先端にそれぞれ触覚センサを有し、間隔が狭まることにより物品を把持する少なくとも2本のアームからなる把持ユニットと、
把持ユニットをいずれかの中心位置の上空から降下させ、触覚センサによる物品への接触検知に基づき、アーム間隔を狭めて物品を把持し上昇する動作制御をおこなう把持制御手段と、
を具備したことを特徴とするピッキング装置。
A picking device that picks up articles of the same shape one by one from the sky from a container in which they are randomly stored.
A visual sensor that acquires three-dimensional information of a group of articles in a container,
Based on the 3D information of the article group acquired by the visual sensor, the articles are forcibly collated by one of a circle, a sphere, an ellipsoid, a square, a rectangle, a cube, a rectangular parallelepiped, and other sample figures, and each article is collated. A collation calculation means for calculating the center position and
A gripping unit consisting of at least two arms that have tactile sensors at the tips and grip the article by narrowing the distance.
A gripping control means that lowers the gripping unit from the sky at any center position and controls the movement of gripping and ascending the article by narrowing the arm spacing based on the contact detection of the article by the tactile sensor.
A picking device characterized by being equipped with.
触覚センサは物品を面接触して把持する扁平なパッド体としてアーム先端の取付面に取り付けられており、
取付面の法線方向は、アーム基端と取付面とを結ぶ線に対して75°〜55°であることを特徴とする請求項1に記載のピッキング装置。
The tactile sensor is attached to the mounting surface at the tip of the arm as a flat pad body that grips the article by surface contact.
The picking device according to claim 1, wherein the normal direction of the mounting surface is 75 ° to 55 ° with respect to a line connecting the base end of the arm and the mounting surface.
いずれかの触覚センサが物品への接触を検知したのちに、他のアームの触覚センサが当該物品への接触を検知するまで当該他のアーム側に把持ユニットを移動させる移動制御手段と、
移動制御手段による把持ユニットの移動距離に基づき中心位置を補正する補正手段と、
を具備し、
把持制御手段は、補正手段により補正された中心位置から当該物品を把持する動作制御をおこなうことを特徴とする請求項1または2に記載のピッキング装置。
A movement control means for moving the gripping unit to the other arm side until the tactile sensor of the other arm detects the contact with the article after one of the tactile sensors detects the contact with the article.
A correction means that corrects the center position based on the movement distance of the gripping unit by the movement control means,
Equipped with
The picking device according to claim 1 or 2, wherein the picking control means controls an operation of gripping the article from a central position corrected by the correction means.
触覚センサは、降下方向の前方側と後方側との少なくとも二カ所における、接触に由来する変位値または圧力値をそれぞれ出力し、
触覚センサからの出力値を入力し、前方側の出力値が一定値以上であり、かつ、後方側の出力値が前方側の出力値に漸近して所定範囲内に収まったか、未だ収まっていないかを判定する判定手段を具備し、
把持制御手段は、アーム間隔を狭め、判定手段により収まっていないと判定されたら、アーム間隔を広げて把持ユニットを下降させて再びアーム間隔を狭める動作を、判定手段により収まったと判定されるまで繰り返し、アーム間隔を狭め、判定手段により収まったと判定されたら、把持ユニットを上昇させる動作制御をおこなうことを特徴とする請求項1、2または3に記載のピッキング装置。
The tactile sensor outputs the displacement value or the pressure value derived from the contact at at least two places, the front side and the rear side in the descending direction, respectively.
The output value from the tactile sensor is input, the output value on the front side is above a certain value, and the output value on the rear side asymptotically approaches the output value on the front side and falls within the predetermined range, or has not yet fallen. Equipped with a determination means for determining whether or not
The gripping control means narrows the arm spacing, and when it is determined by the determining means that it does not fit, the gripping control means repeats the operation of widening the arm spacing, lowering the gripping unit, and narrowing the arm spacing again until it is determined by the determining means. The picking device according to claim 1, 2 or 3, wherein the arm spacing is narrowed and motion control is performed to raise the gripping unit when it is determined by the determination means.
先端に触覚センサを有する回転対称に配されたアームが均等に間隔を狭めて把持対象である物品を把持して持ち上げる把持ユニットと、物品群の3次元情報を取得する視覚センサと、をもちいて、
同一形状の物品がランダムに収容されたコンテナから当該物品を一つずつ上空から摘まみ上げるピッキング方法であって、
所定の楕円体形状、直方体形状、その他のサンプル図形を視覚センサにより取得された物品群の3次元情報に当てはめて、物品を強制的に照合してそれぞれの中心位置を算出し、
持ち上げる物品を決定して、当該物品の中心位置の上空から把持ユニットを降下させ、いずれかの触覚センサが物品への接触を検知した場合に、他のアームの触覚センサが当該物品への接触を検知するまで当該他のアーム側に把持ユニットを移動させ、把持ユニットの移動距離に基づき中心位置を補正して、当該補正された中心位置の鉛直線上から当該物品を把持して持ち上げることを特徴とするピッキング方法。
Using a gripping unit in which arms arranged symmetrically with a tactile sensor at the tip grip and lift an article to be gripped evenly, and a visual sensor that acquires three-dimensional information of the article group. ,
This is a picking method in which articles of the same shape are picked up one by one from the sky from a container in which they are randomly stored.
A predetermined ellipsoidal shape, rectangular parallelepiped shape, and other sample figures are applied to the three-dimensional information of the article group acquired by the visual sensor, and the articles are forcibly collated to calculate the center position of each.
The article to be lifted is determined, the gripping unit is lowered from the sky above the center position of the article, and when one of the tactile sensors detects contact with the article, the tactile sensor of the other arm makes contact with the article. The feature is that the gripping unit is moved to the other arm side until it is detected, the center position is corrected based on the moving distance of the gripping unit, and the article is gripped and lifted from the vertical line of the corrected center position. Picking method to do.
触覚センサは、降下方向の前方側と後方側との少なくとも二カ所において接触圧を出力するものであって、
前方側の接触圧が所定値以上であり、後方側の接触圧が前方側の接触圧に漸近して所定範囲内に収まるまで、アームを開いては把持ユニット降下させてアームを閉じる動作を繰り返してから、物品を持ち上げることを特徴とする請求項5に記載のピッキング方法。
The tactile sensor outputs contact pressure at least at two locations, the front side and the rear side in the descending direction.
The operation of opening the arm, lowering the gripping unit, and closing the arm is repeated until the contact pressure on the front side is equal to or higher than the predetermined value and the contact pressure on the rear side gradually approaches the contact pressure on the front side and falls within the predetermined range. The picking method according to claim 5, wherein the article is then lifted.
JP2020139585A 2020-08-20 2020-08-20 Picking device and picking method Active JP6811505B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020139585A JP6811505B1 (en) 2020-08-20 2020-08-20 Picking device and picking method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020139585A JP6811505B1 (en) 2020-08-20 2020-08-20 Picking device and picking method

Publications (2)

Publication Number Publication Date
JP6811505B1 true JP6811505B1 (en) 2021-01-13
JP2022035342A JP2022035342A (en) 2022-03-04

Family

ID=74096204

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020139585A Active JP6811505B1 (en) 2020-08-20 2020-08-20 Picking device and picking method

Country Status (1)

Country Link
JP (1) JP6811505B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114080999A (en) * 2021-11-06 2022-02-25 天津市广源畜禽养殖有限公司 Intelligent screening partial shipment system of egg

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04240087A (en) * 1991-01-21 1992-08-27 Fuji Electric Co Ltd Gripping method and device
JP2555824B2 (en) * 1991-10-30 1996-11-20 日本電装株式会社 High-speed picking device for piled parts
JP2679490B2 (en) * 1991-11-08 1997-11-19 株式会社デンソー High-speed picking device for piled parts
JPH08323678A (en) * 1995-05-25 1996-12-10 Sanyo Electric Co Ltd Soft object grip device
JP7154815B2 (en) * 2018-04-27 2022-10-18 キヤノン株式会社 Information processing device, control method, robot system, computer program, and storage medium

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114080999A (en) * 2021-11-06 2022-02-25 天津市广源畜禽养殖有限公司 Intelligent screening partial shipment system of egg
CN114080999B (en) * 2021-11-06 2023-02-28 天津市广源畜禽养殖有限公司 Intelligent screening partial shipment system of egg

Also Published As

Publication number Publication date
JP2022035342A (en) 2022-03-04

Similar Documents

Publication Publication Date Title
JP7301147B2 (en) Autonomous pick-and-place of unknown objects
US11772262B2 (en) Detecting slippage from robotic grasp
US20200311956A1 (en) Automated Manipulation Of Transparent Vessels
US20230321821A1 (en) Method and system for object grasping
US10786899B2 (en) Device for calculating stowage pattern and robot controller
Eppner et al. Grasping unknown objects by exploiting shape adaptability and environmental constraints
CN116834040A (en) Robot system with object loss management mechanism
JP2017177294A (en) Robot control device, robot control method, robot system and computer program
US8504204B2 (en) Automated positioning of an organic polarized object
CN107009358A (en) A kind of unordered grabbing device of robot based on one camera and method
WO2020190166A1 (en) Method and system for grasping an object by means of a robotic device
US20200406476A1 (en) Actuator apparatus, object taking-out method using actuator apparatus, and object taking-out system
CN108818586B (en) Object gravity center detection method suitable for automatic grabbing by manipulator
JP6811505B1 (en) Picking device and picking method
CN108942916A (en) Workpiece extraction system
JP2016196077A (en) Information processor, information processing method, and program
Son et al. Tactile sensing and stiffness control with multifingered hands
JP2021146452A (en) Handling device, control device, and control program
Lu et al. Precise in-hand manipulation of soft objects using soft fingertips with tactile sensing and active deformation
CN114683251A (en) Robot grabbing method and device, electronic equipment and readable storage medium
Jamone et al. Benchmarking the grasping capabilities of the icub hand with the ycb object and model set
WO2023187006A1 (en) Controlling a robotic manipulator for packing an object
CN116901054A (en) Method, system and storage medium for recognizing position and posture
Fujimoto et al. Picking up dishes based on active groping with multisensory robot hand
RU2745380C1 (en) Method and system for capturing objects using robotic device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200820

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200820

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20201125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201208

R150 Certificate of patent or registration of utility model

Ref document number: 6811505

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250