JP5953658B2 - ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 - Google Patents

ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 Download PDF

Info

Publication number
JP5953658B2
JP5953658B2 JP2011117111A JP2011117111A JP5953658B2 JP 5953658 B2 JP5953658 B2 JP 5953658B2 JP 2011117111 A JP2011117111 A JP 2011117111A JP 2011117111 A JP2011117111 A JP 2011117111A JP 5953658 B2 JP5953658 B2 JP 5953658B2
Authority
JP
Japan
Prior art keywords
image
robot
lens
hand
reference image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011117111A
Other languages
English (en)
Other versions
JP2012245570A5 (ja
JP2012245570A (ja
Inventor
務 澤田
務 澤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011117111A priority Critical patent/JP5953658B2/ja
Priority to PCT/JP2012/060248 priority patent/WO2012160901A1/ja
Priority to US14/114,333 priority patent/US9358690B2/en
Priority to CN201280023849.XA priority patent/CN103561917B/zh
Publication of JP2012245570A publication Critical patent/JP2012245570A/ja
Publication of JP2012245570A5 publication Critical patent/JP2012245570A5/ja
Priority to US15/142,611 priority patent/US9802320B2/en
Application granted granted Critical
Publication of JP5953658B2 publication Critical patent/JP5953658B2/ja
Priority to US15/716,022 priority patent/US10421190B2/en
Priority to US16/543,617 priority patent/US10675764B2/en
Priority to US16/852,556 priority patent/US11014245B2/en
Priority to US16/852,560 priority patent/US11000954B2/en
Priority to US17/237,055 priority patent/US11794351B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Program-controlled manipulators
    • B25J9/16Program controls
    • B25J9/1694Program controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • B25J11/008Manipulators for service tasks
    • B25J11/0085Cleaning
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/0058Means for cleaning manipulators, e.g. dust removing means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J19/00Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
    • B25J19/02Sensing devices
    • B25J19/021Optical sensing devices
    • B25J19/023Optical sensing devices including video camera means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Program-controlled manipulators
    • B25J9/16Program controls
    • B25J9/1674Program controls characterised by safety, monitoring, diagnostic
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0268Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
    • G05D1/0272Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means comprising means for registering the travel distance, e.g. revolutions of wheels
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/39Robotics, robotics to robotics hand
    • G05B2219/39053Probe, camera on hand scans many points on own robot body, no extra jig

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Manipulator (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本明細書に開示の技術は、例えば人の住環境で活動し、人とコミュニケーションをしたり、物体把持などの作業をしたりするロボット装置及びロボット装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体に係り、特に、カメラのレンズの汚れと傷、及び、ハンドの汚れと傷の違いを検出するロボット装置及びロボット装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体に関する。
急激な高齢化社会の到来により、高齢者ができる限り要介護状態とならず健康で活き活きと暮らせること、また、要介護状態となってもできる限り悪化を防ぎ、自立した生活を送ることができる社会としなければならない。今後、介護や家事手伝いのニーズが高まるにつれ、1人のユーザーに対して1人のヘルパーを付けると、ヘルパーの数が不足する。そこで、高齢者介護施設や高齢者を抱える家庭を中心として、人とコミュニケーションをとり、さらには物体把持などの作業をして家事や介護を人に代行することを目的としたロボットなどのメカトロ機器への要求が高まっている。
この種のロボット装置の多くは、カメラを備え、カメラの撮影画像に基づいて作業空間内の物体を検出又は認識して、把持などの作業を行なう。このため、カメラのレンズに汚れや傷があると、物体の検出・認識性能に大きく影響し、作業効率の低下にもつながる。また、ハンドなどの物体の把持部に汚れがあると、把持した物体を汚してしまい、人に手渡す際に心的に悪い影響を与えてしまう。
例えば、同一領域における複数の画像を比較し、同一領域における画像間の差異からカメラのレンズの汚れの有無を検出するロボット装置について提案がなされている(例えば、特許文献1を参照のこと)。しかしながら、このロボット装置は、同一領域における画像間の差異がカメラのレンズの汚れと傷のいずれに起因するものか、言い換えれば、カメラのレンズの汚れと傷の相違を検出することはできない。また、このロボット装置は、ハンドの汚れを検出したり、ハンドの汚れと傷の相違を検出したりすることもできない。
特開2008−160635号公報
本明細書で開示する技術の目的は、カメラのレンズの汚れと傷、及び、ハンドの汚れと傷の違いを好適に検出することができる、優れたロボット装置及びロボット装置の制御方法を提供することにある。
本願は、上記課題を参酌してなされたものであり、請求項1に記載の技術は、
カメラと、
ハンドと、
前記カメラで撮像した画像を処理するとともに、ハンドの動作を制御する制御部と、
を具備し、
前記制御部は、
前記ハンドを前記カメラに対して特定の位置に設定して前記ハンドを撮像したリファレンス画像を取得し、
汚れ検査時に前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出し、
前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する、
ロボット装置である。
本願の請求項2に記載の技術によれば、請求項1に記載のロボット装置の制御部は、前記第1の検査画像と前記リファレンス画像が画像全体にわたって相関が高いときには前記カメラのレンズ及び前記ハンドのいずれにも汚れがないと判定し、画像上に相関の低い低相関部位があるときには前記低相関部位で前記カメラのレンズ又は前記ハンドの汚れを検出するように構成されている。
本願の請求項3に記載の技術によれば、請求項2に記載のロボット装置の制御部は、前記第2の検査画像と前記第1の検査画像を比較したときに、画像上の前記低相関部位において相関が高いときには前記カメラのレンズに汚れがあると判定し、画像上の前記低相関部位において相関が低いときには前記ハンドに汚れがあると判定するように構成されている。
本願の請求項4に記載の技術によれば、請求項1に記載のロボット装置の制御部は、前記カメラのレンズに汚れがあると判定したときには、前記カメラのレンズの汚れ部分を拭いた後、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第3の検査画像を前記リファレンス画像と比較して、前記カメラのレンズの傷の有無を検出するように構成されている。
本願の請求項5に記載の技術によれば、請求項1に記載のロボット装置の制御部は、前記ハンドに汚れがあると判定したときには、前記ハンドの汚れ部分を拭いた後、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第4の検査画像を前記リファレンス画像と比較して、前記ハンドの傷の有無を検出するように構成されている。
また、本願の請求項6に記載の技術は、
ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
を有するロボット装置の制御方法である。
また、本願の請求項7に記載の技術は、
ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
をコンピューターに実行させる、ロボット装置を制御するためのコンピューター・プログラムである。
本願の請求項7に係るコンピューター・プログラムは、コンピューター上で所定の処理を実現するようにコンピューター可読形式で記述されたコンピューター・プログラムを定義したものである。換言すれば、本願の請求項7に係るコンピューター・プログラムをコンピューターにインストールすることによって、コンピューター上では協働的作用が発揮され、本願の請求項6に係るロボット装置の制御方法と同様の作用効果を得ることができる。
また、本願の請求項8に記載の技術は、
ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
をコンピューターに実行させるロボット装置の制御プログラムを格納するプログラム記憶媒体である。
本明細書に開示の技術によれば、カメラのレンズの汚れと傷、及び、ハンドの汚れと傷の違いを好適に検出することができる、優れたロボット装置及びロボット装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体を提供することができる。
本明細書に開示の技術のさらに他の目的、特徴や利点は、後述する実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
図1は、本明細書で開示する技術を適用可能なロボット装置100の外観を示した図である。 図2は、本明細書で開示する技術を適用可能なロボット装置100の関節自由度構成を模式的に示した図である。 図3は、本明細書で開示する技術を適用可能なロボット装置100の機能的構成を模式的に示した図である。 図4は、制御ユニット320の構成を示した図である。 図5は、ロボット装置100がカメラのレンズの汚れと傷、及び、ハンドの汚れと傷の違いを検出するための処理手順を示したフローチャートである。 図6は、頭部のステレオ・カメラ・レンズにハンドを近接させて、ハンド画像Aを取得する様子を示した図である。 図7は、頭部の魚眼カメラ・レンズにハンドを近接させて、ハンド画像Aを取得する様子を示した図である。 図8は、リファレンス画像として取得したハンド画像Aの一例を示した図である。 図9は、ハンド画像Aと、部位Xを含むハンド画像Bを並べて示した図である。 図10は、カメラのレンズの汚れ又は傷があるために、ハンド画像B及びハンド画像Cの両画像上の部位Xで相関が高くなる様子を示した図である。 図11は、ハンドの表面のレンズの汚れ又は傷があるために、ハンドの移動とともに汚れ又は傷が移動して、ハンド画像B及びハンド画像Cの両画像上の部位Xで相関が低くなる様子を示した図である。 図12は、ロボット装置100が頭部の魚眼カメラ・レンズの汚れを拭き取っている様子を示した図である。
以下、図面を参照しながら本明細書に開示の技術の実施形態について詳細に説明する。
図1には、本明細書で開示する技術を適用可能なロボット装置100の外観を示している。ロボット装置100は、複数のリンクを関節で接続されたリンク構造帯であり、各関節はアクチュエーターによって動作する。図2には、このロボット装置100の関節自由度構成を模式的に示している。図示のロボット装置100は、主に家庭環境に設置されて家事や介護などを行なうが、産業用などさまざまな用途で使用することも可能である。
図示のロボット装置100は、移動手段として、ベース部に対向する2輪の駆動輪101R及び101Lを備えている。各駆動輪101R及び101Lは、それぞれピッチ回りに回転する駆動輪用アクチュエーター102R及び102Lによって駆動する。なお、図2中において、参照番号151、152、153は、実在しない劣駆動関節であり、ロボット装置100の床面に対するX方向(前後方向)の並進自由度、Y方向(左右方向)の並進自由度、並びに、ヨー回りの回転自由度にそれぞれ相当し、ロボット装置100が仮想世界を動き回ることを表現したものである。
移動手段は、股関節を介して上体に接続される。腰関節は、ピッチ回りに回転する腰関節ピッチ軸アクチュエーター103によって駆動する。上体は、左右2肢の腕部と、首関節を介して接続される頭部で構成される。左右の腕部は、それぞれ肩関節3自由度、肘関節2自由度、手首関節2自由度の、計7自由度とする。肩関節3自由度は、肩関節ピッチ軸アクチュエーター104R/L、肩関節ロール軸アクチュエーター105R/L、肩関節ヨー軸アクチュエーター106R/Lによって駆動する。肘関節2自由度は、肘関節ピッチ軸アクチュエーター107R/L、肘関節ヨー軸アクチュエーター108R/Lによって駆動する。手首関節2自由度は、手首関節ロール軸アクチュエーター109R/L、手首関節ピッチ軸アクチュエーター110R/Lによって駆動する。また、首関節2自由度は、首関節ピッチ軸アクチュエーター111、首関節ヨー軸アクチュエーター112によって駆動する。また、手関節1自由度は、手関節ロール軸アクチュエーター113R/Lによって駆動する。
なお、図示のロボット装置100は、対向2輪式の移動手段を備えているが、本明細書で開示する技術の要旨は、対向2輪式の移動手段に限定されるものではない。例えば、脚式の移動手段を備えたロボット装置100であっても、同様に本明細書で開示する技術を適用することができる。
図3には、ロボット装置100の機能的構成を模式的に示している。ロボット装置100は、全体の動作の統括的制御やその他のデータ処理を行なう制御ユニット320と、入出力部340と、駆動部350と、電源部360とで構成される。以下、各部について説明する。
入出力部340は、入力部として、ロボット装置100の目に相当するカメラ305、耳に相当するマイクロフォン306、頭部や背中などの部位に配設されてユーザーの接触を感知する感圧センサー308などを含む。また、出力部として、口に相当するスピーカー307、点滅の組み合わせや点灯のタイミングにより顔の表情を形成するLEDインジケーター(目ランプ)309などを装備している。なお、カメラ305は、左右の眼に相当するステレオ・カメラの他に、頭部のほぼ中央の魚眼レンズ付きカメラを含んでいてもよい。
駆動部350は、ロボット装置100の各関節における自由度を実現するための機能モジュールであり、それぞれの関節におけるロール、ピッチ、ヨーなど軸毎に設けられた複数の駆動ユニットで構成される。各駆動ユニットは、所定軸回りの回転動作を行うモーター351と、モーター351の回転位置を検出するエンコーダー352と、エンコーダー352の出力に基づいてモーター351の回転位置や回転速度を適応的に制御するドライバー353の組み合わせで構成される。
電源部360は、ロボット装置100内の各電気回路などに対して給電を行なう機能モジュールであり、充電バッテリー361と、充電バッテリー361の充放電状態を管理する充放電制御部362とで構成される。
また、図4には、制御ユニット320の構成をさらに詳細に図解している。同図に示すように、制御ユニット320は、メイン・コントローラーとしてのCPU(Central Processing Unit)401が、メモリーやその他の各回路コンポーネントや周辺機器とバス接続された構成となっている。CPU401は、アドレスを指定することによってバス408上の各装置と通信することができる。
RAM(Random Access Memory)402は、CPU401が実行するプログラム・コードをロードしたり、実行プログラムによる作業データの一時的な保存したりするために使用される。ROM(Read Only Memory)403は、電源投入時に実行する自己診断テスト・プログラムや、ロボット装置100の動作を規定する制御プログラムなどを恒久的に格納している。不揮発性メモリー404は、例えばEEPROM(Electrically Erasable and ProgrammableROM)のように電気的に消去再書き込みが可能なメモリー素子で構成され、暗号鍵やその他のセキュリティ情報、出荷後にインストールすべき制御プログラムなどの逐次更新すべきデータを不揮発的に保持するために使用される。
ロボット装置100の制御プログラムには、カメラ305やマイクロフォン306、感圧センサー308などのセンサー入力を処理して認識する認識処理プログラムや、各関節モーター351の駆動やスピーカー307の音声出力などの動作を制御する制御プログラムなどが含まれる。
インターフェース405は、制御ユニット320外の機器と相互接続し、データ交換を可能にするための装置である。インターフェース405は、例えば、カメラ305やマイクロフォン306、スピーカー307との間でデータ入出力を行なう。また、インターフェース405は、駆動部350内の各ドライバー353−1…との間でデータやコマンドの入出力を行なう。インターフェース25は、IEEE1394などのパラレル・インターフェース、USB(Universal Serial Bus)インターフェース、メモリーカード・インターフェース(カード・スロット)などのような、コンピューターの周辺機器接続用の汎用インターフェースを備え、ローカル接続された外部機器との間でプログラムやデータの移動を行なうようにしてもよい。
さらに、制御ユニット320は、無線通信インターフェース406やネットワーク・インターフェース・カード(NIC)407などを含み、Bluetoothのような近接無線データ通信や、IEEE802.11のような無線ネットワーク、あるいはインターネットなどの広域ネットワークを経由して、外部のさまざまなホスト・コンピューターとデータ通信を行なうことができる。
本実施形態に係るロボット装置100は、自律動作により、カメラ305のレンズの汚れと傷を検出する機能を備えているが、ハンドなどロボット装置100の特定の部位をカメラ305で撮像した画像をリファレンス画像として、カメラ305のレンズの汚れと傷を検出する点に主な特徴がある。ここで、ハンドをカメラ305で撮像した画像をリファレンス画像として用いる場合、検出時において、検出された汚れや傷がカメラ305レンズ又はハンドの双方に起因する可能性があるが、本実施形態に係るロボット装置100は、後述するように、カメラ305レンズ又はハンドのうちいずれに起因するものか、並びに、汚れと傷の違いを検出することができる。
ハンドなどの物体の把持部に汚れがあると、把持した物体を汚してしまい、人に手渡す際に心的に悪い影響を与えてしまう。これに対し、本実施形態に係るロボット装置100は、ハンドの汚れを検出し、さらには自律的な清掃動作などにより汚れを除去することができるので、ユーザーに心的に悪い影響を与えなくて済む。
図5には、ロボット装置100がカメラのレンズの汚れと傷、及び、ハンドの汚れと傷の違いを検出するための処理手順をフローチャートの形式で示している。
この処理手順を開始する前提として、リファレンス画像を事前に取得しておく。上述したようにハンドを撮影した画像をリファレンス画像に用いる場合、カメラ305に対してハンドを特定の位置に設定して撮像したハンド画像をリファレンス画像として登録する。リファレンス画像に用いるハンド画像を、以下では「ハンド画像A」と呼ぶことにする。
カメラ305が、左右の眼に相当するステレオ・カメラの他に、頭部のほぼ中央の魚眼レンズ付きカメラを含んでいる場合、ステレオ・カメラ・レンズ、及び、魚眼カメラ・レンズの双方について、ハンド画像Aを取得し、登録しておく。図6には、頭部のステレオ・カメラ・レンズにハンドを近接させて、ハンド画像Aを取得する様子を示している。また、図7には、頭部の魚眼カメラ・レンズにハンドを近接させて、ハンド画像Aを取得する様子を示している。また、図8には、リファレンス画像として取得したハンド画像Aの一例(同図中、点線で囲んだ領域がハンド画像Aに相当)を示している。
検出処理では、まず、検出画像を取得する(ステップS501)。検出画像の取得は、図6並びに図7に示したような、リファレンス画像を取得するときと同じ姿勢をとり、頭部のステレオ・カメラ、並びに、頭部の魚眼レンズ付きカメラの各々で、ハンドの撮影を行なう。検出画像として取得したハンド画像を、以下では「ハンド画像B」と呼ぶことにする。
次いで、ハンド画像Aとハンド画像Bの相関をとる(ステップS502)。カメラのレンズ、及び、ハンドの表面のいずれにも、汚れも傷もなければ、ハンド画像Aとハンド画像Bは、画像全体にわたって相関が高いはずである。したがって、ステップS502で画像間の相関をとった結果、画像全体にわたって相関が高いときには、カメラのレンズ、及び、ハンドの表面のいずれにも、汚れも傷もないと判定して(ステップS503)、本処理ルーチンを終了する。
他方、ハンド画像Aを取得した後、カメラのレンズが汚れ、又は傷が入った場合、並びに、ハンドの表面が汚れ、又は傷が入った場合には、汚れ又は傷がある部位で画像間の相関が低くなる。そこで、ステップS502で画像間の相関をとった結果、相関の低い部位が検出されたときには、カメラのレンズ又はハンドの表面のうち少なくとも一方に、汚れや傷があると判定して、後続の処理を実行する。ここで、画像間の相関の低い部位を、以下では「部位X」と呼ぶことにする。図9には、ハンド画像Aと、部位Xを含むハンド画像Bを並べて示している(同図中、点線で囲んだ領域がそれぞれハンド画像A、ハンド画像Bに相当)。同図から、部位Xにおいて画像間の相関が低くなることを理解できよう。
ステップS502で、カメラのレンズ又はハンドの表面のうち少なくとも一方に、汚れや傷があると判定した場合、続いて、部位Xにおいて相関が低くなった原因がカメラのレンズ又はハンドの表面のいずれであるかを特定するための処理を実施する。
まず、図6並びに図7に示したような、リファレンス画像を取得するときと同様の姿勢で、ハンドをカメラに対して移動させて、ハンドの別の位置を撮像する(ステップS504)。このときの取得画像を、以下では「ハンド画像C」とする。そして、ハンド画像Bとハンド画像Cの相関をとる(ステップS505)。
ハンド画像Aとハンド画像Bの相関をとった際に、相関が低かった部位Xが、カメラのレンズの汚れ又は傷に起因するものであれば、ハンドを移動させても、画像上の部位Xの相関は高いままである。したがって、ステップS505において、ハンド画像B及びハンド画像C間で相関をとり、画像上の部位Xの相関が依然として高いときには、カメラのレンズに汚れ又は傷があると判定する(ステップS506)。図10には、カメラのレンズの汚れ又は傷があるために、ハンド画像B及びハンド画像Cの両画像上の部位Xで相関が高くなる様子を示している(同図中、点線で囲んだ領域がそれぞれハンド画像B、ハンド画像Cに相当)。
他方、ハンド画像Bの部位Xがハンドの表面の汚れ又は傷に起因するものであれば、ハンドを移動させたときのハンド画像上ではその部位も移動する。したがって、ハンド画像Bとハンド画像Cの相関をとり、画像上の部位Xの相関は低くなったときには、ハンドの表面に汚れ又は傷があると判定する(ステップS507)。図11には、ハンドの表面のレンズの汚れ又は傷があるために、ハンドの移動とともに汚れ又は傷が移動して、ハンド画像B及びハンド画像Cの両画像上の部位Xで相関が低くなる様子を示している(同図中、点線で囲んだ領域がそれぞれハンド画像B、ハンド画像Cに相当)。
カメラのレンズに汚れ又は傷があると判定した場合、まず汚れであると仮定して、部位Xに相当するレンズの汚れの部分を清掃する(ステップS508)。レンズの清掃作業は、ユーザーが手作業で行ってもよいが、本実施形態では、ロボット装置100がハンドを用い、レンズ・クリーナーなどで汚れを拭取るという自律的な作業とする。図12には、ロボット装置100が頭部の魚眼カメラ・レンズの汚れを拭き取っている様子を示している。
レンズの汚れを拭き取った後、再度、図6並びに図7に示したような、リファレンス画像を取得するときと同じ姿勢をとり、頭部のステレオ・カメラ、並びに、頭部の魚眼レンズ付きカメラの各々で、ハンドの撮影を行なう(ステップS509)。拭き取り後に取得したハンド画像を、以下では「ハンド画像B´」と呼ぶことにする。そして、ハンド画像Aとハンド画像B´の相関を改めてとる(ステップS510)。
カメラのレンズの汚れであれば、清掃により部位Xにおけるレンズの汚れが除去され、ハンド画像B´はリファレンス画像であるハンド画像Aに近づく。ハンド画像Aとハンド画像B´の相関をとった結果、画像全体にわたって相関が高いときには、カメラのレンズの清掃が終了したとして(ステップS512)、本処理ルーチンを終了する。
他方、カメラのレンズの傷であれば、清掃しても除去されないので、ハンド画像B´は部位Xにおいてハンド画像Aとの相関が低いままである。ハンド画像Aとハンド画像B´の相関をとった結果、相関の低い部位が検出されたときには、カメラのレンズの傷であると判定する(ステップS511)。カメラのレンズに傷がある場合、ロボット装置100は、ユーザーにレンズの交換要求を行なってから(ステップS513)、本処理ルーチンを終了するようにしてもよい。
また、ハンドの表面に汚れ又は傷があると判定した場合、まず汚れであると仮定して、部位Xに相当するハンドの表面の汚れの部分を清掃する(ステップS514)。ハンドの清掃作業は、ユーザーが手作業で行ってもよいが、本実施形態では、ロボット装置100の自律的な作業とする。
ハンドの表面の汚れを拭き取った後、再度、図6並びに図7に示したような、リファレンス画像を取得するときと同じ姿勢をとり、頭部のステレオ・カメラ、並びに、頭部の魚眼レンズ付きカメラの各々で、ハンドの撮影を行ない(ステップS515)、ハンド画像B´を取得する。そして、ハンド画像Aとハンド画像B´の相関を改めてとる(ステップS516)。
ハンドの表面のレンズの汚れであれば、清掃により部位Xにおけるハンドの表面の汚れが除去され、ハンド画像B´はリファレンス画像であるハンド画像Aに近づく。ハンド画像Aとハンド画像B´の相関をとった結果、画像全体にわたって相関が高いときには、ハンドの表面のレンズの清掃が終了したとして(ステップS518)、本処理ルーチンを終了する。
他方、ハンドの表面の傷であれば、清掃しても除去されないので、ハンド画像B´は部位Xにおいてハンド画像Aとの相関が低いままである。ハンド画像Aとハンド画像B´の相関をとった結果、相関の低い部位が検出されたときには、ハンドの表面の傷であると判定する(ステップS517)。ハンドの表面に傷がある場合、ロボット装置100は、ユーザーにハンドの交換要求を行なってから(ステップS519)、本処理ルーチンを終了するようにしてもよい。
なお、図5には図示しなかったが、ステップS511におけるカメラのレンズの清掃終了後や、ステップS516におけるハンドの表面の清掃終了後に、ロボット装置100は、図6並びに図7に示したような姿勢を取ってハンドを撮像し、リファレンス画像を更新するようにしてもよい。
上述したように、本実施形態に係るロボット装置100は、カメラのレンズの汚れを自動的に検出し、清掃することができる。また、カメラのレンズの汚れを自動で検出し、清掃することによって、画像の誤検出を軽減することができる。さらに、ロボット装置100は、カメラのレンズの傷を自動で検出し、ユーザーに交換を要求することができる。
また、本実施形態に係るロボット装置100は、ハンドの表面の汚れを自動的に検出し、清掃することができる。また、ハンドの表面の汚れを自動で検出し、清掃することによって、ハンドで把持した物体を清潔に保つことができる。さらに、ロボット装置100は、ハンドの表面の傷を自動で検出し、ユーザーに交換を要求することができる。
なお、本明細書の開示の技術は、以下のような構成をとることも可能である。
(1)カメラと、ハンドと、前記カメラで撮像した画像を処理するとともに、ハンドの動作を制御する制御部を具備し、
前記制御部は、
前記ハンドを前記カメラに対して特定の位置に設定して前記ハンドを撮像したリファレンス画像を取得し、
汚れ検査時に前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出し、
前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する、
ロボット装置。
(2)前記制御部は、前記第1の検査画像と前記リファレンス画像が画像全体にわたって相関が高いときには前記カメラのレンズ及び前記ハンドのいずれにも汚れがないと判定し、画像上に相関の低い低相関部位があるときには前記低相関部位で前記カメラのレンズ又は前記ハンドの汚れを検出する、(1)に記載のロボット装置。
(3)前記制御部は、前記第2の検査画像と前記第1の検査画像を比較したときに、画像上の前記低相関部位において相関が高いときには前記カメラのレンズに汚れがあると判定し、画像上の前記低相関部位において相関が低いときには前記ハンドに汚れがあると判定する、(2)に記載のロボット装置。
(4)前記制御部は、前記カメラのレンズに汚れがあると判定したときには、前記カメラのレンズの汚れ部分を拭いた後、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第3の検査画像を前記リファレンス画像と比較して、前記カメラのレンズの傷の有無を検出する、(1)に記載のロボット装置。
(5)前記制御部は、前記ハンドに汚れがあると判定したときには、前記ハンドの汚れ部分を拭いた後、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第4の検査画像を前記リファレンス画像と比較して、前記ハンドの傷の有無を検出する、(1)に記載のロボット装置。
(6)ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
を有するロボット装置の制御方法。
(7)ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、をコンピューターに実行させる、ロボット装置を制御するためのコンピューター・プログラム。
(8)ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、をコンピューターに実行させるロボット装置の制御プログラムを格納するプログラム記憶媒体
以上、特定の実施形態を参照しながら、本明細書で開示する技術について詳細に説明してきた。しかしながら、本明細書に開示の技術の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。
本明細書では、対向2輪型のロボット装置に適用した実施形態を中心に説明してきたが、本明細書で開示する技術の要旨はこれに限定されるものではない。他の移動手段を備え、あるいは移動手段を備えていなくても、カメラ並びにハンドを備えたロボット装置であれば、同様に本技術を適用することができる。
また、本明細書では、ロボット装置のハンドを撮像した画像をリファレンス画像に用いているが、ハンド以外のロボット装置の他の部位を撮像した画像をリファレンス画像に用いることもできる。
また、本明細書では、家庭用ロボットに関する実施形態を中心に説明してきたが、勿論、産業用ロボットを始めさまざまな用途のロボット装置に対しても、同様に本技術を適用することができる。
要するに、例示という形態で本技術を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
100…ロボット装置
101…駆動輪
102…駆動輪用アクチュエーター
103…腰関節ピッチ軸アクチュエーター
104…肩関節ピッチ軸アクチュエーター
105…肩関節ロール軸アクチュエーター
106…肩関節ヨー軸アクチュエーター
107…肘関節ピッチ軸アクチュエーター
108…肘関節ヨー軸アクチュエーター
109…手首関節ロール軸アクチュエーター
110…首関節ピッチ軸アクチュエーター
111…首関節ピッチ軸アクチュエーター
113…手関節ロール軸アクチュエーター
151、152、153…劣駆動関節
305…カメラ
306…マイクロフォン
307…スピーカー
308…感圧センサー
309…LEDインジケーター
320…制御ユニット
340…入出力部
350…駆動部
351…モーター
352…エンコーダー
353…ドライバー
360…電源部
361…充電バッテリー
362…充放電制御部
401…CPU
402…RAM
403…ROM
404…不揮発性メモリー
405…インターフェース
406…無線通信インターフェース
407…ネットワーク・インターフェース・カード
408…バス

Claims (13)

  1. 可動部と撮像装置を備えたロボットのためのロボット制御装置であって、
    前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得し、
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの前記特定の部位を撮像し第1の画像を取得し、
    前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定し、
    前記レンズに汚れがあると判定した場合には
    前記可動部により前記レンズを清掃
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像し第2の画像を取得し、
    前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力するよう制御する
    ロボット制御装置。
  2. 前記第1の画像を前記リファレンス画像全体において相関が所定の値より高いときには前記レンズに汚れがないと判定し、画像の一部だけ相関が低いときには前記レンズに汚れがあると判定する、
    請求項1に記載のロボット制御装置。
  3. 前記レンズに汚れがあると判定した場合、前記レンズを拭くように前記可動部を制御する、
    請求項1に記載のロボット制御装置。
  4. 前記第1の画像を前記リファレンス画像と比較した結果に基づいて、前記レンズ又は前記特定の部位の汚れの有無を判定する、
    請求項1に記載のロボット制御装置。
  5. 前記第1の画像と前記リファレンス画像全体において相関が所定の値より高いときには前記撮像装置のレンズ及び前記特定の部位のいずれにも汚れがないと判定し、画像の一部だけ相関が低いときには前記レンズ又は前記特定の部位に汚れがあると判定する、
    請求項4に記載のロボット制御装置。
  6. 前記特定の部位を前記第1の画像を撮影したときの位置から移動した後に前記撮像装置で撮像した第3の画像を前記第1の画像と比較して、前記レンズ又は前記特定の部位のうちのいずれに汚れがあるかを判定する、
    請求項1に記載のロボット制御装置。
  7. 前記第3の画像と前記第1の画像を比較したときに、前記第1の画像と前記リファレンス画像間で相関が低い部位における前記第3の画像と前記第1の画像間の相関が所定の値より高いときには前記レンズに汚れがあると判定し、前記部位において相関が所定の値より低いときには前記特定の部位に汚れがあると判定する、
    請求項6に記載のロボット制御装置。
  8. 前記特定の部位に汚れがあると判定した場合、前記可動部に前記特定の部位を清掃させ、
    清掃した後の前記特定の部位を前記撮像装置により撮像した第4の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する、
    請求項6に記載のロボット制御装置。
  9. 前記可動部は前記ロボットのハンドである、
    請求項1に記載のロボット制御装置。
  10. 可動部と撮像装置を備えたロボットのためのロボット装置の制御方法であって、
    前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得するステップと、
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの特定の部位を撮像し第1の画像を取得するステップと、
    前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定する判定ステップと、
    前記レンズに汚れがあると判定した場合、前記可動部により前記レンズを清掃させる清掃ステップと、
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像し第2の画像を取得するステップと、
    前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する出力ステップと、
    を有するロボット装置の制御方法。
  11. 可動部と撮像装置を備えたロボットのためのロボット装置を制御するためのコンピューター・プログラムであって、
    前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得する取得ステップ、
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの特定の部位を撮像し第1の画像を取得するステップ、
    前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定する判定ステップ、
    前記レンズに汚れがあると判定した場合、前記可動部により前記レンズを清掃させる清掃ステップ、
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像し第2の画像を取得するステップと、
    前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する出力ステップ、
    をコンピューターに実行させるコンピューター・プログラム。
  12. 可動部と撮像装置を備えたロボットのためのロボット装置を制御プログラム格納するプログラム記憶媒体であって、前記制御プログラムは、
    前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得する取得ステップ、
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの特定の部位を撮像し第1の画像を取得するステップ、
    前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定する判定ステップ、
    前記レンズに汚れがあると判定した場合、前記可動部により前記レンズを清掃させる清掃ステップ、
    前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像し第2の画像を取得するステップと、
    前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する出力ステップ、
    をコンピューターに実行させる、プログラム記憶媒体。
  13. 可動部と、撮像装置と、請求項1乃至9のいずれかに記載のロボット制御装置を備えたロボット装置。
JP2011117111A 2011-05-25 2011-05-25 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 Expired - Fee Related JP5953658B2 (ja)

Priority Applications (10)

Application Number Priority Date Filing Date Title
JP2011117111A JP5953658B2 (ja) 2011-05-25 2011-05-25 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置
US14/114,333 US9358690B2 (en) 2011-05-25 2012-04-16 Robot device, method of controlling robot device, computer program, and program storage medium
CN201280023849.XA CN103561917B (zh) 2011-05-25 2012-04-16 机器人设备和控制机器人设备的方法
PCT/JP2012/060248 WO2012160901A1 (ja) 2011-05-25 2012-04-16 ロボット装置及びロボット装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体
US15/142,611 US9802320B2 (en) 2011-05-25 2016-04-29 Robot device, method of controlling robot device, computer program, and program storage medium
US15/716,022 US10421190B2 (en) 2011-05-25 2017-09-26 Robot device, method of controlling robot device, computer program, and program storage medium
US16/543,617 US10675764B2 (en) 2011-05-25 2019-08-19 Robot device, method of controlling robot device, computer program, and program storage medium
US16/852,556 US11014245B2 (en) 2011-05-25 2020-04-20 Robot device, method of controlling robot device, computer program, and program storage medium
US16/852,560 US11000954B2 (en) 2011-05-25 2020-04-20 Robot device, method of controlling robot device, computer program, and program storage medium
US17/237,055 US11794351B2 (en) 2011-05-25 2021-04-22 Robot device, method of controlling robot device, computer program, and program storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011117111A JP5953658B2 (ja) 2011-05-25 2011-05-25 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016104196A Division JP6103112B2 (ja) 2016-05-25 2016-05-25 撮像装置及び撮像装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体

Publications (3)

Publication Number Publication Date
JP2012245570A JP2012245570A (ja) 2012-12-13
JP2012245570A5 JP2012245570A5 (ja) 2014-06-19
JP5953658B2 true JP5953658B2 (ja) 2016-07-20

Family

ID=47216986

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011117111A Expired - Fee Related JP5953658B2 (ja) 2011-05-25 2011-05-25 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置

Country Status (4)

Country Link
US (7) US9358690B2 (ja)
JP (1) JP5953658B2 (ja)
CN (1) CN103561917B (ja)
WO (1) WO2012160901A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5953658B2 (ja) * 2011-05-25 2016-07-20 ソニー株式会社 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置
KR102102378B1 (ko) * 2013-12-12 2020-05-29 엘지전자 주식회사 로봇 청소기 및 이의 제어 방법
CN107357287A (zh) * 2014-01-21 2017-11-17 宝时得科技(中国)有限公司 自动割草机
EP2899692B1 (en) * 2014-01-28 2019-09-04 Honda Research Institute Europe GmbH Method, system, imaging device, movable device and program product for detecting static elements in video and image sources
CN103997622B (zh) * 2014-03-27 2017-02-22 上海海事大学 无人值守监控摄像头的自动清洗方法
US20150302569A1 (en) * 2014-04-22 2015-10-22 General Electric Company Sensing system for a cooktop appliance with airflow protected sensor
US9751210B2 (en) 2014-11-26 2017-09-05 Irobot Corporation Systems and methods for performing occlusion detection
US9519289B2 (en) 2014-11-26 2016-12-13 Irobot Corporation Systems and methods for performing simultaneous localization and mapping using machine vision systems
US9538170B1 (en) * 2015-09-08 2017-01-03 Hon Hai Precision Co., Ltd. Camera lens cleaning system and method of using same
CN106527444B (zh) * 2016-11-29 2020-04-14 深圳市元征科技股份有限公司 清洁机器人的控制方法及清洁机器人
JP2019030218A (ja) * 2017-08-01 2019-02-21 国立大学法人電気通信大学 人型ロボットなどのサイバーフィジカルシステムにおける物理機能例外処理方式
JP6608894B2 (ja) 2017-09-27 2019-11-20 ファナック株式会社 ロボットシステム
TWI656954B (zh) * 2017-12-27 2019-04-21 高明鐵企業股份有限公司 具有鏡頭自動清潔功能之夾爪結構總成
JP6666370B2 (ja) 2018-01-31 2020-03-13 ファナック株式会社 物質付着シミュレーション装置
US10952591B2 (en) 2018-02-02 2021-03-23 Dishcraft Robotics, Inc. Intelligent dishwashing systems and methods
JP6678844B2 (ja) * 2018-02-16 2020-04-08 三菱電機株式会社 異常検出装置及び異常検出方法
WO2019183902A1 (zh) * 2018-03-29 2019-10-03 深圳达闼科技控股有限公司 检测镜头的方法及装置、电子设备和计算机可读存储介质
JP7327596B2 (ja) * 2018-08-10 2023-08-16 カシオ計算機株式会社 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム
JP7354528B2 (ja) * 2018-08-10 2023-10-03 カシオ計算機株式会社 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム
CN113068501A (zh) * 2020-01-06 2021-07-06 苏州宝时得电动工具有限公司 一种智能割草机
JP6965398B1 (ja) * 2020-05-14 2021-11-10 エヌ・ティ・ティ・コミュニケーションズ株式会社 遠隔制御システム、遠隔作業装置、映像処理装置およびプログラム
CN112113375B (zh) * 2020-10-15 2024-07-26 北华大学 3d雪雕打印机器人
CN113649318B (zh) * 2021-07-30 2022-08-23 中古文物保护集团有限公司 一种现场在线文物修复用仿生机械人
CN117677476A (zh) * 2021-08-03 2024-03-08 发那科株式会社 机器人系统、控制装置、诊断方法以及诊断程序
CN115379197A (zh) * 2022-04-12 2022-11-22 北京朝歌数码科技股份有限公司 用于在生产线上检测摄像头产品的镜头表面的方法和装置
CN114613072B (zh) * 2022-04-18 2023-06-23 宁波小遛共享信息科技有限公司 共享车辆的还车控制方法、装置和电子设备
CN114778558B (zh) * 2022-06-07 2022-09-09 成都纵横通达信息工程有限公司 基于视频图像的桥梁监测装置、系统及方法
CN115464668B (zh) * 2022-10-13 2024-10-01 中国环境科学研究院 一种智能实验室安全巡检机器人
CN115847450B (zh) * 2023-02-24 2023-04-18 东莞市喜成电子科技有限公司 一种巡检机器人
KR20250019210A (ko) * 2023-07-31 2025-02-10 삼성전자주식회사 이동 로봇 및 이동 로봇의 제어 방법
CN119488240A (zh) * 2023-08-17 2025-02-21 感进机器人(深圳)有限公司 清洁设备的控制方法和清洁设备
US12474718B1 (en) * 2025-05-07 2025-11-18 Copart, Inc. Undercarriage imaging rover

Family Cites Families (80)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62203460A (ja) * 1986-03-04 1987-09-08 Canon Inc 画像読取装置
JPS62203461A (ja) * 1986-03-04 1987-09-08 Canon Inc 画像読取方式
JPH03163951A (ja) * 1989-11-22 1991-07-15 Nagano Japan Radio Co 画像読取部の汚れ検出装置
DE69123212T2 (de) * 1990-09-28 1997-04-10 Isuzu Motors Ltd Bilddetektionssystem für Wagen
JP3123095B2 (ja) * 1991-03-29 2001-01-09 株式会社日立製作所 ディスプレイの画面欠点検出方法
JP3181729B2 (ja) * 1992-11-09 2001-07-03 マツダ株式会社 塗膜欠陥検出におけるレンズ汚れ検出方法及びその装置
US5453676A (en) * 1994-09-30 1995-09-26 Itt Automotive Electrical Systems, Inc. Trainable drive system for a windshield wiper
JP3199984B2 (ja) * 1995-06-19 2001-08-20 旭光学工業株式会社 光学部材検査装置
US6587573B1 (en) * 2000-03-20 2003-07-01 Gentex Corporation System for controlling exterior vehicle lights
US8120652B2 (en) * 1997-04-02 2012-02-21 Gentex Corporation System for controlling vehicle equipment
US6681163B2 (en) * 2001-10-04 2004-01-20 Gentex Corporation Moisture sensor and windshield fog detector
US20120116632A1 (en) * 1997-04-02 2012-05-10 Bechtel Jon H System for controlling vehicle equipment
JP3851423B2 (ja) * 1997-08-28 2006-11-29 株式会社ミツバ ワイパ制御方法
DE19742657A1 (de) * 1997-09-26 1999-04-01 Bosch Gmbh Robert Wischvorrichtung
DE19756502C2 (de) * 1997-11-07 1999-12-16 Daimler Chrysler Ag Steuereinrichtung für eine Scheibenwischereinrichtung
DE69934650T2 (de) * 1998-10-26 2007-04-26 Fuji Photo Film Co., Ltd., Minami-Ashigara Verfahren und Vorrichtung zum Reinigen eines Objektivs sowie Verfahren und Vorrichtung zum Wiederverwenden einer Mehrweg Kamera
US6791681B2 (en) * 2001-06-14 2004-09-14 Matsushita Electric Industrial Co., Ltd. Apparatus and method for determining existence range of foreign substance
US6596978B2 (en) * 2001-06-28 2003-07-22 Valeo Electrical Systems, Inc. Stereo imaging rain sensor
US6617564B2 (en) * 2001-10-04 2003-09-09 Gentex Corporation Moisture sensor utilizing stereo imaging with an image sensor
DE10201522A1 (de) * 2002-01-17 2003-07-31 Bosch Gmbh Robert Verfahren und Vorrichtung zur Erkennung von Sichtbehinderungen bei Bildsensorsystemen
JP2004153422A (ja) * 2002-10-29 2004-05-27 Toshiba Corp 撮影装置、顔照合装置、撮影装置の汚れ検知方法、及び顔照合方法
JP2004289532A (ja) 2003-03-24 2004-10-14 Fuji Photo Film Co Ltd 自動撮影装置
JP4245452B2 (ja) 2003-10-06 2009-03-25 富士通株式会社 レンズの汚れ判定方法及び装置
JP4092282B2 (ja) * 2003-11-13 2008-05-28 三機工業株式会社 路面灯または反射鏡のガラス面洗浄方法とその洗浄システム
US20050205781A1 (en) * 2004-01-08 2005-09-22 Toshifumi Kimba Defect inspection apparatus
KR100571834B1 (ko) * 2004-02-27 2006-04-17 삼성전자주식회사 청소 로봇의 바닥 먼지 검출 방법 및 장치
EP1729562A1 (en) * 2004-03-30 2006-12-13 DeLaval Holding AB Arrangement and method for determining positions of the teats of a milking animal
US7359093B2 (en) * 2004-05-14 2008-04-15 Xerox Corporation Systems and methods for streak detection in image array scanning using overdetermined scanners and column filtering
US20060048800A1 (en) * 2004-09-09 2006-03-09 Rast Rodger H Automated building exterior cleaning apparatus
JP4150858B2 (ja) * 2004-09-17 2008-09-17 コニカミノルタビジネステクノロジーズ株式会社 画像読取装置
US7718943B2 (en) * 2004-09-29 2010-05-18 Gentex Corporation Moisture sensor for optically detecting moisture
EP1817689B1 (en) * 2004-11-18 2014-03-12 Gentex Corporation Improved image acquisition and processing systems for vehicle equipment control
JP4528648B2 (ja) * 2005-02-28 2010-08-18 シャープ株式会社 自走式ロボットシステム
JP4483631B2 (ja) * 2005-03-08 2010-06-16 株式会社デンソー ワイパ駆動制御装置
JP2006268498A (ja) * 2005-03-24 2006-10-05 Funai Electric Co Ltd 自走式掃除機
DE102005021671A1 (de) * 2005-05-11 2006-11-16 Bayerische Motoren Werke Ag Reinigungsvorrichtung für eine Kamera eines Kraftfahrzeugs
JP4388912B2 (ja) * 2005-05-31 2009-12-24 株式会社ニデック 眼鏡レンズ加工装置
US7587081B2 (en) * 2005-09-28 2009-09-08 Deere & Company Method for processing stereo vision data using image density
US20070127135A1 (en) * 2005-11-01 2007-06-07 Nikon Corporation Exposure apparatus, exposure method and device manufacturing method
US8553088B2 (en) * 2005-11-23 2013-10-08 Mobileye Technologies Limited Systems and methods for detecting obstructions in a camera field of view
US7516002B2 (en) * 2006-01-10 2009-04-07 Guardian Industries Corp. Rain sensor for detecting rain or other material on window of a vehicle or on other surface
JP4956009B2 (ja) * 2006-02-02 2012-06-20 キヤノン株式会社 撮像装置及びその制御方法
FR2901218B1 (fr) * 2006-05-22 2009-02-13 Valeo Vision Sa Procede de detection de pluie sur un parebrise
WO2007141858A1 (ja) * 2006-06-08 2007-12-13 Fujitsu Limited 汚れ検出方式
JP4127297B2 (ja) * 2006-06-09 2008-07-30 ソニー株式会社 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
JP4771539B2 (ja) * 2006-07-26 2011-09-14 キヤノン株式会社 画像処理装置及びその制御方法及びプログラム
JP2007098567A (ja) * 2006-09-25 2007-04-19 Hitachi Ltd 自律制御型ロボットおよびその制御装置
JP4240108B2 (ja) * 2006-10-31 2009-03-18 ソニー株式会社 画像記憶装置、撮像装置、画像記憶方法およびプログラム
JP2008160635A (ja) * 2006-12-26 2008-07-10 Matsushita Electric Ind Co Ltd カメラ状態検出方法
US7961946B2 (en) * 2007-05-15 2011-06-14 Digisensory Technologies Pty Ltd Method and system for background estimation in localization and tracking of objects in a smart video camera
JP4664327B2 (ja) * 2007-05-16 2011-04-06 株式会社日立ハイテクノロジーズ パターン検査方法
GB0717986D0 (en) * 2007-09-14 2007-10-24 Cnh Belgium Nv A method and apparatus for detecting errors in electronically processed images
JP5141317B2 (ja) * 2008-03-14 2013-02-13 オムロン株式会社 対象画像検出デバイス、制御プログラム、および該プログラムを記録した記録媒体、ならびに対象画像検出デバイスを備えた電子機器
DE102008033204A1 (de) * 2008-07-15 2010-02-04 Trw Automotive Electronics & Components Gmbh Optischer Sensor
WO2010038223A1 (en) * 2008-10-01 2010-04-08 Hi-Key Limited A method and a system for detecting the presence of an impediment on a lens of an image capture device to light passing through the lens of an image capture device
CN102215674B (zh) * 2008-10-10 2013-07-17 米克股份有限公司 原地进行水下网清洁和检查的装置
DE102008061616B4 (de) * 2008-12-11 2021-06-10 Bcs Automotive Interface Solutions Gmbh Optische Sensorvorrichtung
DE102008062977A1 (de) * 2008-12-23 2010-06-24 Adc Automotive Distance Control Systems Gmbh Optisches Modul mit multifokaler Optik zur Erfassung von Fern- und Nahbereich in einem Bild
TW201027220A (en) * 2009-01-05 2010-07-16 Primax Electronics Ltd Method for assembling an image capturing device
JP5195465B2 (ja) * 2009-01-28 2013-05-08 トヨタ自動車株式会社 ロボット制御装置及び方法
US8466960B2 (en) * 2009-02-16 2013-06-18 Ricoh Company, Ltd. Liquid droplet recognition apparatus, raindrop recognition apparatus, and on-vehicle monitoring apparatus
JP5469899B2 (ja) * 2009-03-31 2014-04-16 株式会社トプコン 自動追尾方法及び測量装置
DE102009018319A1 (de) * 2009-04-22 2010-10-28 Wincor Nixdorf International Gmbh Selbstbedienungsterminal mit mindestens einer Kamera zum Erkennen von Manipulationsversuchen
US8376595B2 (en) * 2009-05-15 2013-02-19 Magna Electronics, Inc. Automatic headlamp control
CN101961221B (zh) * 2009-07-22 2012-05-30 泰怡凯电器(苏州)有限公司 除尘装置
KR101430330B1 (ko) 2010-02-15 2014-08-13 가부시키가이샤 리코 투명체 검출 시스템 및 투명 평판 검출 시스템
EP2544148A4 (en) * 2010-03-04 2014-10-29 Nec Corp FOREIGN OBJECT EVALUATION DEVICE, FOREIGN OBJECT EVALUATION METHOD, AND FOREIGN OBJECT EVALUATION PROGRAM
KR101634248B1 (ko) * 2010-03-11 2016-06-28 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 저장매체
JP5953658B2 (ja) * 2011-05-25 2016-07-20 ソニー株式会社 ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置
US8977002B2 (en) 2011-07-11 2015-03-10 Bae Systems Information And Electronic Systems Integration Inc. Method of point source target detection for multispectral imaging
US8493505B2 (en) * 2011-10-05 2013-07-23 Hwan Ming Enterprise Co., Ltd. Automatic clean device for a surveillance camera
IL217093A (en) * 2011-12-19 2015-06-30 P S I Pool Services Israel Ltd Automatic Pool Cleaner and Energy Saving Pool Cleaner Method
JP6117634B2 (ja) * 2012-07-03 2017-04-19 クラリオン株式会社 レンズ付着物検知装置、レンズ付着物検知方法、および、車両システム
JP5883732B2 (ja) * 2012-07-03 2016-03-15 クラリオン株式会社 環境認識装置
JP5957378B2 (ja) * 2012-12-28 2016-07-27 株式会社日立ハイテクノロジーズ 欠陥観察方法および欠陥観察装置
JP2015022192A (ja) * 2013-07-19 2015-02-02 株式会社ニューフレアテクノロジー 検査装置
US10529076B2 (en) * 2015-05-14 2020-01-07 Sony Corporation Image processing apparatus and image processing method
US9538170B1 (en) * 2015-09-08 2017-01-03 Hon Hai Precision Co., Ltd. Camera lens cleaning system and method of using same
KR102595300B1 (ko) * 2016-07-04 2023-10-31 삼성전자주식회사 검사 방법 및 시스템, 및 이를 이용한 반도체 패키지의 제조 방법
KR101898217B1 (ko) * 2016-12-29 2018-09-12 엘지디스플레이 주식회사 검사장비 및 이를 이용한 검사방법

Also Published As

Publication number Publication date
US20160236352A1 (en) 2016-08-18
US10421190B2 (en) 2019-09-24
US9802320B2 (en) 2017-10-31
US20200238532A1 (en) 2020-07-30
US10675764B2 (en) 2020-06-09
CN103561917A (zh) 2014-02-05
US11014245B2 (en) 2021-05-25
US9358690B2 (en) 2016-06-07
US20210237277A1 (en) 2021-08-05
US20180015617A1 (en) 2018-01-18
US11000954B2 (en) 2021-05-11
US20200238533A1 (en) 2020-07-30
WO2012160901A1 (ja) 2012-11-29
US20190366555A1 (en) 2019-12-05
US20140074292A1 (en) 2014-03-13
JP2012245570A (ja) 2012-12-13
CN103561917B (zh) 2017-03-29
US11794351B2 (en) 2023-10-24

Similar Documents

Publication Publication Date Title
JP5953658B2 (ja) ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置
JP6103112B2 (ja) 撮像装置及び撮像装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体
CN102896630B (zh) 机器人装置及其控制方法、计算机程序以及机器人系统
CN110781714B (zh) 图像处理装置、图像处理方法
CN102414696A (zh) 物体学习机器人和方法
CN105269582B (zh) 机器人、机器人系统以及控制方法
JP6364836B2 (ja) ロボット、ロボットシステム、及び制御装置
JP2013184257A (ja) ロボット装置及びロボット装置の制御方法、並びにコンピューター・プログラム
US20150343642A1 (en) Robot, robot system, and control method
JP6365710B2 (ja) ロボット制御装置及びロボットの制御方法、並びにコンピューター・プログラム
JP2015182212A (ja) ロボットシステム、ロボット、制御装置、及び制御方法
JP6881268B2 (ja) 把持装置、把持判定方法および把持判定プログラム
CN113878588A (zh) 面向卡扣式连接的基于触觉反馈的机器人柔顺装配方法
AU2019232900B2 (en) System and method for intelligent 3d imaging guided robotic gripper
JP2011008791A (ja) ロボットの対象物認識方法
JP2015085495A (ja) ロボット、ロボットシステム、及び制御装置
JP6248694B2 (ja) ロボット、ロボットシステム、及び制御装置
CN114599485B (zh) 主从系统以及控制方法
JP2013173209A (ja) ロボット装置及びロボット装置の制御方法、並びにコンピューター・プログラム
Huang et al. Position and force hybrid control of a flexible tool held by a manipulator hand.

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140502

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160530

R151 Written notification of patent or utility model registration

Ref document number: 5953658

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees