JP2016097481A - 情報処理装置、情報処理方法、プログラム - Google Patents
情報処理装置、情報処理方法、プログラム Download PDFInfo
- Publication number
- JP2016097481A JP2016097481A JP2014236991A JP2014236991A JP2016097481A JP 2016097481 A JP2016097481 A JP 2016097481A JP 2014236991 A JP2014236991 A JP 2014236991A JP 2014236991 A JP2014236991 A JP 2014236991A JP 2016097481 A JP2016097481 A JP 2016097481A
- Authority
- JP
- Japan
- Prior art keywords
- container
- component
- parts
- state
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Manipulator (AREA)
Abstract
Description
第1の実施形態にかかる情報処理装置3および情報処理装置3を備えるピッキングシステムについて、図1を参照して説明する。第1の実施形態にかかる情報処理装置3は、画像取得部31と、部品位置姿勢推定部32と、山積み状態推定部33と、部品状態判断部34とを備える。そして、情報処理装置3は、撮像装置2、部品供給装置5、ロボット制御装置41と接続されることで、ピッキングシステムを構成している。
ステップS1では、撮像装置2が部品11を含んだ領域を撮影する。撮影される領域は部品11を置くことができる容器底面13全体が含まれる領域である。撮影する画像の枚数は後の部品位置姿勢推定処理や山積み状態推定処理で扱うデータによって異なる。撮影されたデータは画像信号として画像取得部32に送られる。
ステップS2では、部品位置姿勢推定部32は、撮影画像に基づいて、把持すべき部品の位置姿勢推定を行う。位置姿勢の推定方法としては、画像データの部分領域からSIFTなどの特徴量を抽出した特徴量を使って、画像特徴から2Dのモデルフィッティングを行うことで推定する。また、例えば予め複数の部品の姿勢データを保持しておき、それぞれの姿勢データの特徴量と、画像データの部分領域の特徴量とを比較することで推定しても良い。ただし、位置姿勢推定方法はこれに限るものではなく、例えば撮像装置を複数台のカメラから構成したステレオ法や、プロジェクタなどの投影部を用意し、位相シフト法や空間符号化法などのアクティブステレオ法を用いて距離画像を求め、距離画像とのモデルフィッティングによって、把持すべき部品の位置姿勢を推定しても良い。部品位置姿勢推定部32は、推定した位置姿勢情報をロボット制御部41に送出する。
ステップS3aでは、ロボット制御部41は、部品位置姿勢推定部32からの出力に応じて、ロボットハンド42に命令を出力し、ロボットハンド42は、受け取った命令に応じて、部品11を把持して取り出す。この処理は次に説明するステップS3と並列して処理を行う。そして、ステップS3bで終了命令があった場合には処理を終了させる。一方、終了命令が無かった場合は、メインループに合流し、処理を続ける。
ステップS3では、山積み状態推定部33は、画像データに基づいて、容器1内の部品の山積み状態として、部品領域と底面領域を検出する。図3は部品領域と底面領域の検出結果の一例である。部品領域と底面領域の検出法方としては、部品11と容器底面13の色が異なることを利用して、色によって領域分割を行い、部品領域と底面領域を検出する。ただし、この方法に限るわけではなく、例えば、容器の底面に円マーカー等のテクスチャを一定間隔に描いておき、画像データから円マーカーを検出することによって、底面領域を検出しても良いし、ステレオ法やアクティブステレオ法によって求めた距離画像に基づいて、山積みに部品11が存在している領域での距離計測値と、容器の底面13までの距離計測値と、の違いから部品領域と底面領域を検出しても良い。
ステップS4では、部品状態判断部34は、容器底面における部品領域と底面領域の割合に基づいて、部品の不足状態を判断する。不足状態の判断方法としては、底面13の全領域に占める部品領域の割合を求め、その割合が閾値以下であれば部品不足であると判断する。また底面領域の割合から逆算して求めても良い。山積みの状態が狭い領域に高く積みあがっている場合は、部品の数は十分多いが、把持しやすい部品は少ないため、この場合も同様に部品不足であると判断する。
ステップS5では、部品供給装置5は、部品の供給を行う。部品タンクから一定量の部品を容器12内に送り込むことで部品を供給する。部品の供給およびロボットでの把持ステップを終えると、ステップS1に戻り、再び画像の撮影ステップから行っていく。
第2の実施形態では、山積み状態推定方法として、部品11および容器12を計測した距離画像の分布を構成し、その結果に基づいて部品状態判断を行う。第2実施形態に係る部品不足を検知するロボットピッキングシステムの概略構成は図1と同様である。第2実施形態のフローチャートは第1実施形態で説明した図2とほぼ同様であるため、同様の処理に関しては説明を省略し、差異があるステップS3とS4に関して説明する。
第3の実施形態では、部品が不足している場合に、それをユーザに警告する。図5は第3実施形態に係る部品不足を検知するロボットピッキングシステムの概略構成である。第1実施形態で説明した図1とほぼ同様であるが、本実施形態では、部品供給部5ではなく、部品不足警告部6を有する点が異なる。図6は第3実施形態のフローチャートである。このフローチャートも第1実施形態で説明した図2とほぼ同様であるため、同様の処理に関しては説明を省略し、差異があるステップS6(第1の実施形態のステップS5に相当)に関して説明する。
容器の底面13は水平面である必要はなく、斜面になっていても良い。その場合、次のような方法で部品の山積み状態検知および部品の不足状態判断を行うことができる。部品を斜面に置くと部品はその重みで斜面を滑るものとすると、部品は自然と斜面の低い位置に集まり、部品の数が多くなると、斜面の高い位置にも存在できるようになる。そこで、底面13のある高さに線を引いておき、撮像装置2で撮影した画像からその線が見えるかどうか検出することによって、部品の不足状態を判断することができる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
第1の実施形態では部品領域と底面領域を検出して、部品の不足状態を判断する。部品領域または底面領域の割合を計算するだけであるため、非常に高速に処理を行うことができる。また、入力として二次元画像1枚だけでも部品の不足状態を判断することができる。
Claims (7)
- 物体が格納された容器を含む画像を取得する取得手段と、
前記画像に基づいて前記物体の位置姿勢を推定する位置姿勢推定手段と、
前記位置姿勢推定手段によって推定された位置姿勢に基づいて、保持手段に物体を保持するように制御する制御手段と、
前記画像に基づいて前記容器内の状態を推定する状態推定手段と、
前記状態推定手段によって推定された結果に基づいて、前記容器内の物体が不足しているか否かを判断する判断手段と、
前記判断手段によって判断された結果を出力する出力手段とを備えることを特徴とする情報処理装置。 - 前記状態推定手段は、前記物体の領域と前記容器の底面領域のうち、少なくともいずれか一方を検出し、該検出された結果に基づいて前記容器内の物体が不足しているか否かを判断することを特徴とする請求項1に記載の情報処理装置。
- 前記状態推定手段は、前記物体の前記容器内での分布を取得し、該取得した分布に基づいて、前記容器内の物体が不足しているか否かを判断することを特徴とする請求項1に記載の情報処理装置。
- 更に、前記判断手段によって前記容器内の物体が不足していると判断された場合に、前記容器に物体を供給する供給手段を備えることを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
- 更に、前記判断手段によって前記容器内の物体が不足していると判断された場合に、前記容器内の物体が不足していることを報知する報知手段を備えることを特徴とする請求項1乃至4のいずれか1項に記載の情報処理装置。
- 物体が格納された容器を含む画像を取得する取得工程と、
前記画像に基づいて前記物体の位置姿勢を推定する位置姿勢推定工程と、
前記位置姿勢推定工程において推定された位置姿勢に基づいて、保持手段に物体を保持するように制御する制御工程と、
前記画像に基づいて前記容器内の状態を推定する状態推定工程と、
前記状態推定工程において推定された結果に基づいて、前記容器内の物体が不足しているか否かを判断する判断工程と、
前記判断工程において判断された結果を出力する出力工程とを備えることを特徴とする情報処理装置。 - コンピュータを、請求項1乃至5のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014236991A JP6562619B2 (ja) | 2014-11-21 | 2014-11-21 | 情報処理装置、情報処理方法、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014236991A JP6562619B2 (ja) | 2014-11-21 | 2014-11-21 | 情報処理装置、情報処理方法、プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016097481A true JP2016097481A (ja) | 2016-05-30 |
JP2016097481A5 JP2016097481A5 (ja) | 2017-11-30 |
JP6562619B2 JP6562619B2 (ja) | 2019-08-21 |
Family
ID=56076404
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014236991A Active JP6562619B2 (ja) | 2014-11-21 | 2014-11-21 | 情報処理装置、情報処理方法、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6562619B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018144157A (ja) * | 2017-03-03 | 2018-09-20 | 株式会社キーエンス | ロボットシミュレーション装置、ロボットシミュレーション方法、ロボットシミュレーションプログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 |
JP2019098431A (ja) * | 2017-11-29 | 2019-06-24 | 株式会社東芝 | 情報処理装置及び仕分システム |
JP2019155535A (ja) * | 2018-03-13 | 2019-09-19 | オムロン株式会社 | ワークピッキング装置及びワークピッキング方法 |
JP6909937B1 (ja) * | 2021-01-15 | 2021-07-28 | Dmg森精機株式会社 | 無人搬送システム |
CN114051443A (zh) * | 2019-07-03 | 2022-02-15 | 首选网络株式会社 | 信息处理装置、机器人系统以及信息处理方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001105361A (ja) * | 1999-10-07 | 2001-04-17 | Meidensha Corp | ピッキングシステム |
JP2004196548A (ja) * | 2002-10-25 | 2004-07-15 | Fanuc Ltd | 物品搬送システム及び搬送方法 |
JP2012192478A (ja) * | 2011-03-16 | 2012-10-11 | Fuji Electric Co Ltd | ピッキング用部品供給装置、および部品ピッキング装置 |
-
2014
- 2014-11-21 JP JP2014236991A patent/JP6562619B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001105361A (ja) * | 1999-10-07 | 2001-04-17 | Meidensha Corp | ピッキングシステム |
JP2004196548A (ja) * | 2002-10-25 | 2004-07-15 | Fanuc Ltd | 物品搬送システム及び搬送方法 |
JP2012192478A (ja) * | 2011-03-16 | 2012-10-11 | Fuji Electric Co Ltd | ピッキング用部品供給装置、および部品ピッキング装置 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018144157A (ja) * | 2017-03-03 | 2018-09-20 | 株式会社キーエンス | ロボットシミュレーション装置、ロボットシミュレーション方法、ロボットシミュレーションプログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 |
JP2019098431A (ja) * | 2017-11-29 | 2019-06-24 | 株式会社東芝 | 情報処理装置及び仕分システム |
JP7062418B2 (ja) | 2017-11-29 | 2022-05-16 | 株式会社東芝 | 情報処理装置及び仕分システム |
JP2019155535A (ja) * | 2018-03-13 | 2019-09-19 | オムロン株式会社 | ワークピッキング装置及びワークピッキング方法 |
WO2019176829A1 (ja) * | 2018-03-13 | 2019-09-19 | オムロン株式会社 | ワークピッキング装置及びワークピッキング方法 |
US11667036B2 (en) | 2018-03-13 | 2023-06-06 | Omron Corporation | Workpiece picking device and workpiece picking method |
CN114051443A (zh) * | 2019-07-03 | 2022-02-15 | 首选网络株式会社 | 信息处理装置、机器人系统以及信息处理方法 |
JP6909937B1 (ja) * | 2021-01-15 | 2021-07-28 | Dmg森精機株式会社 | 無人搬送システム |
JP2022023766A (ja) * | 2021-01-15 | 2022-02-08 | Dmg森精機株式会社 | 無人搬送システム |
Also Published As
Publication number | Publication date |
---|---|
JP6562619B2 (ja) | 2019-08-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6562619B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP5213105B2 (ja) | 映像ネットワークシステム及び映像データ管理方法 | |
JP6694039B1 (ja) | 魚体サイズ算出装置 | |
JP2014132488A5 (ja) | ||
JP6570296B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2017520050A5 (ja) | ||
US20160217326A1 (en) | Fall detection device, fall detection method, fall detection camera and computer program | |
JP2013214947A5 (ja) | ||
CN113167569B (zh) | 体积测量装置、系统、方法和程序 | |
CN103460242A (zh) | 信息处理装置、信息处理方法、以及位置信息的数据结构 | |
JP2015103104A5 (ja) | ||
EP3434621B1 (en) | Instruction projecting device, parcel sorting system and instruction projecting method | |
EP3434623B1 (en) | Projection indicator, cargo assortment system, and projection indicating method | |
US20220327721A1 (en) | Size estimation device, size estimation method, and recording medium | |
JP2014222825A (ja) | 映像処理装置および映像処理方法 | |
TWI571099B (zh) | 深度估測裝置及方法 | |
JP2008015815A (ja) | 画像処理装置、および画像処理プログラム | |
JP6805199B2 (ja) | 設備監視システム | |
US20160073089A1 (en) | Method for generating 3d image and electronic apparatus using the same | |
JP2018038087A5 (ja) | ||
JP2015038699A (ja) | 拡張現実画像生成システム、3次元形状データ生成装置、拡張現実提示装置、拡張現実画像生成方法、及びプログラム | |
JP2017184136A5 (ja) | ||
JP6127399B2 (ja) | ステレオカメラ装置及びプログラム | |
US20180124381A1 (en) | Structured-light-based three-dimensional scanning method, apparatus and system thereof | |
US8619119B2 (en) | Digital photographing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171018 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171018 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181026 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190625 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190723 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6562619 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |