JP5953658B2 - ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 - Google Patents
ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 Download PDFInfo
- Publication number
- JP5953658B2 JP5953658B2 JP2011117111A JP2011117111A JP5953658B2 JP 5953658 B2 JP5953658 B2 JP 5953658B2 JP 2011117111 A JP2011117111 A JP 2011117111A JP 2011117111 A JP2011117111 A JP 2011117111A JP 5953658 B2 JP5953658 B2 JP 5953658B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- robot
- lens
- hand
- reference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Program-controlled manipulators
- B25J9/16—Program controls
- B25J9/1694—Program controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J11/00—Manipulators not otherwise provided for
- B25J11/008—Manipulators for service tasks
- B25J11/0085—Cleaning
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/0058—Means for cleaning manipulators, e.g. dust removing means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J19/00—Accessories fitted to manipulators, e.g. for monitoring, for viewing; Safety devices combined with or specially adapted for use in connection with manipulators
- B25J19/02—Sensing devices
- B25J19/021—Optical sensing devices
- B25J19/023—Optical sensing devices including video camera means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Program-controlled manipulators
- B25J9/16—Program controls
- B25J9/1674—Program controls characterised by safety, monitoring, diagnostic
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0272—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means comprising means for registering the travel distance, e.g. revolutions of wheels
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
- H04N23/811—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39053—Probe, camera on hand scans many points on own robot body, no extra jig
Landscapes
- Engineering & Computer Science (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Electromagnetism (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Manipulator (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
カメラと、
ハンドと、
前記カメラで撮像した画像を処理するとともに、ハンドの動作を制御する制御部と、
を具備し、
前記制御部は、
前記ハンドを前記カメラに対して特定の位置に設定して前記ハンドを撮像したリファレンス画像を取得し、
汚れ検査時に前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出し、
前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する、
ロボット装置である。
ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
を有するロボット装置の制御方法である。
ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
をコンピューターに実行させる、ロボット装置を制御するためのコンピューター・プログラムである。
ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
をコンピューターに実行させるロボット装置の制御プログラムを格納するプログラム記憶媒体である。
(1)カメラと、ハンドと、前記カメラで撮像した画像を処理するとともに、ハンドの動作を制御する制御部を具備し、
前記制御部は、
前記ハンドを前記カメラに対して特定の位置に設定して前記ハンドを撮像したリファレンス画像を取得し、
汚れ検査時に前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出し、
前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する、
ロボット装置。
(2)前記制御部は、前記第1の検査画像と前記リファレンス画像が画像全体にわたって相関が高いときには前記カメラのレンズ及び前記ハンドのいずれにも汚れがないと判定し、画像上に相関の低い低相関部位があるときには前記低相関部位で前記カメラのレンズ又は前記ハンドの汚れを検出する、(1)に記載のロボット装置。
(3)前記制御部は、前記第2の検査画像と前記第1の検査画像を比較したときに、画像上の前記低相関部位において相関が高いときには前記カメラのレンズに汚れがあると判定し、画像上の前記低相関部位において相関が低いときには前記ハンドに汚れがあると判定する、(2)に記載のロボット装置。
(4)前記制御部は、前記カメラのレンズに汚れがあると判定したときには、前記カメラのレンズの汚れ部分を拭いた後、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第3の検査画像を前記リファレンス画像と比較して、前記カメラのレンズの傷の有無を検出する、(1)に記載のロボット装置。
(5)前記制御部は、前記ハンドに汚れがあると判定したときには、前記ハンドの汚れ部分を拭いた後、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第4の検査画像を前記リファレンス画像と比較して、前記ハンドの傷の有無を検出する、(1)に記載のロボット装置。
(6)ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、
汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、
前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、
を有するロボット装置の制御方法。
(7)ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、をコンピューターに実行させる、ロボット装置を制御するためのコンピューター・プログラム。
(8)ハンドをロボットのカメラに対して特定の位置に設定して前記ハンドを撮像してリファレンス画像を取得するステップと、汚れ検査時において、前記ハンドを前記特定の位置に設定して前記ハンドを撮像した第1の検査画像を前記リファレンス画像と比較して、前記カメラのレンズ又は前記ハンドの汚れの有無を検出する汚れ検出ステップと、前記汚れ検出ステップにおいて前記カメラのレンズ又は前記ハンドの汚れを検出したときに、前記ハンドを前記特定の位置から移動して前記ハンドを撮像した第2の検査画像を前記第1の検査画像と比較して、前記カメラのレンズ又は前記ハンドのうちのいずれに汚れがあるかを判定する判定ステップと、をコンピューターに実行させるロボット装置の制御プログラムを格納するプログラム記憶媒体
101…駆動輪
102…駆動輪用アクチュエーター
103…腰関節ピッチ軸アクチュエーター
104…肩関節ピッチ軸アクチュエーター
105…肩関節ロール軸アクチュエーター
106…肩関節ヨー軸アクチュエーター
107…肘関節ピッチ軸アクチュエーター
108…肘関節ヨー軸アクチュエーター
109…手首関節ロール軸アクチュエーター
110…首関節ピッチ軸アクチュエーター
111…首関節ピッチ軸アクチュエーター
113…手関節ロール軸アクチュエーター
151、152、153…劣駆動関節
305…カメラ
306…マイクロフォン
307…スピーカー
308…感圧センサー
309…LEDインジケーター
320…制御ユニット
340…入出力部
350…駆動部
351…モーター
352…エンコーダー
353…ドライバー
360…電源部
361…充電バッテリー
362…充放電制御部
401…CPU
402…RAM
403…ROM
404…不揮発性メモリー
405…インターフェース
406…無線通信インターフェース
407…ネットワーク・インターフェース・カード
408…バス
Claims (13)
- 可動部と撮像装置を備えたロボットのためのロボット制御装置であって、
前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得し、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの前記特定の部位を撮像して第1の画像を取得し、
前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定し、
前記レンズに汚れがあると判定した場合には、
前記可動部により前記レンズを清掃し、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像して第2の画像を取得し、
前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力するよう制御する、
ロボット制御装置。 - 前記第1の画像を前記リファレンス画像全体において相関が所定の値より高いときには前記レンズに汚れがないと判定し、画像の一部だけ相関が低いときには前記レンズに汚れがあると判定する、
請求項1に記載のロボット制御装置。 - 前記レンズに汚れがあると判定した場合、前記レンズを拭くように前記可動部を制御する、
請求項1に記載のロボット制御装置。 - 前記第1の画像を前記リファレンス画像と比較した結果に基づいて、前記レンズ又は前記特定の部位の汚れの有無を判定する、
請求項1に記載のロボット制御装置。 - 前記第1の画像と前記リファレンス画像全体において相関が所定の値より高いときには前記撮像装置のレンズ及び前記特定の部位のいずれにも汚れがないと判定し、画像の一部だけ相関が低いときには前記レンズ又は前記特定の部位に汚れがあると判定する、
請求項4に記載のロボット制御装置。 - 前記特定の部位を前記第1の画像を撮影したときの位置から移動した後に前記撮像装置で撮像した第3の画像を前記第1の画像と比較して、前記レンズ又は前記特定の部位のうちのいずれに汚れがあるかを判定する、
請求項1に記載のロボット制御装置。 - 前記第3の画像と前記第1の画像を比較したときに、前記第1の画像と前記リファレンス画像間で相関が低い部位における前記第3の画像と前記第1の画像間の相関が所定の値より高いときには前記レンズに汚れがあると判定し、前記部位において相関が所定の値より低いときには前記特定の部位に汚れがあると判定する、
請求項6に記載のロボット制御装置。 - 前記特定の部位に汚れがあると判定した場合、前記可動部に前記特定の部位を清掃させ、
清掃した後の前記特定の部位を前記撮像装置により撮像した第4の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する、
請求項6に記載のロボット制御装置。 - 前記可動部は前記ロボットのハンドである、
請求項1に記載のロボット制御装置。 - 可動部と撮像装置を備えたロボットのためのロボット装置の制御方法であって、
前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得するステップと、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの特定の部位を撮像して第1の画像を取得するステップと、
前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定する判定ステップと、
前記レンズに汚れがあると判定した場合に、前記可動部により前記レンズを清掃させる清掃ステップと、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像して第2の画像を取得するステップと、
前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する出力ステップと、
を有するロボット装置の制御方法。 - 可動部と撮像装置を備えたロボットのためのロボット装置を制御するためのコンピューター・プログラムであって、
前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得する取得ステップ、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの特定の部位を撮像して第1の画像を取得するステップ、
前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定する判定ステップ、
前記レンズに汚れがあると判定した場合に、前記可動部により前記レンズを清掃させる清掃ステップ、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像して第2の画像を取得するステップと、
前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する出力ステップ、
をコンピューターに実行させるコンピューター・プログラム。 - 可動部と撮像装置を備えたロボットのためのロボット装置を制御プログラム格納するプログラム記憶媒体であって、前記制御プログラムは、
前記撮像装置により前記ロボットの特定の部位を撮像したリファレンス画像を取得する取得ステップ、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして前記撮像装置により前記ロボットの特定の部位を撮像して第1の画像を取得するステップ、
前記第1の画像と前記リファレンス画像と比較して、前記撮像装置のレンズの汚れの有無を判定する判定ステップ、
前記レンズに汚れがあると判定した場合に、前記可動部により前記レンズを清掃させる清掃ステップ、
前記ロボットを前記リファレンス画像の撮影時と同じ姿勢にして、前記レンズを清掃した後の前記撮像装置により前記特定の部位を撮像して第2の画像を取得するステップと、
前記第2の画像を前記リファレンス画像又は前記第1の画像と比較した結果に基づく通知を出力する出力ステップ、
をコンピューターに実行させる、プログラム記憶媒体。 - 可動部と、撮像装置と、請求項1乃至9のいずれかに記載のロボット制御装置を備えたロボット装置。
Priority Applications (10)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011117111A JP5953658B2 (ja) | 2011-05-25 | 2011-05-25 | ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 |
| US14/114,333 US9358690B2 (en) | 2011-05-25 | 2012-04-16 | Robot device, method of controlling robot device, computer program, and program storage medium |
| CN201280023849.XA CN103561917B (zh) | 2011-05-25 | 2012-04-16 | 机器人设备和控制机器人设备的方法 |
| PCT/JP2012/060248 WO2012160901A1 (ja) | 2011-05-25 | 2012-04-16 | ロボット装置及びロボット装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体 |
| US15/142,611 US9802320B2 (en) | 2011-05-25 | 2016-04-29 | Robot device, method of controlling robot device, computer program, and program storage medium |
| US15/716,022 US10421190B2 (en) | 2011-05-25 | 2017-09-26 | Robot device, method of controlling robot device, computer program, and program storage medium |
| US16/543,617 US10675764B2 (en) | 2011-05-25 | 2019-08-19 | Robot device, method of controlling robot device, computer program, and program storage medium |
| US16/852,556 US11014245B2 (en) | 2011-05-25 | 2020-04-20 | Robot device, method of controlling robot device, computer program, and program storage medium |
| US16/852,560 US11000954B2 (en) | 2011-05-25 | 2020-04-20 | Robot device, method of controlling robot device, computer program, and program storage medium |
| US17/237,055 US11794351B2 (en) | 2011-05-25 | 2021-04-22 | Robot device, method of controlling robot device, computer program, and program storage medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011117111A JP5953658B2 (ja) | 2011-05-25 | 2011-05-25 | ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016104196A Division JP6103112B2 (ja) | 2016-05-25 | 2016-05-25 | 撮像装置及び撮像装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2012245570A JP2012245570A (ja) | 2012-12-13 |
| JP2012245570A5 JP2012245570A5 (ja) | 2014-06-19 |
| JP5953658B2 true JP5953658B2 (ja) | 2016-07-20 |
Family
ID=47216986
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011117111A Expired - Fee Related JP5953658B2 (ja) | 2011-05-25 | 2011-05-25 | ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 |
Country Status (4)
| Country | Link |
|---|---|
| US (7) | US9358690B2 (ja) |
| JP (1) | JP5953658B2 (ja) |
| CN (1) | CN103561917B (ja) |
| WO (1) | WO2012160901A1 (ja) |
Families Citing this family (32)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5953658B2 (ja) * | 2011-05-25 | 2016-07-20 | ソニー株式会社 | ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 |
| KR102102378B1 (ko) * | 2013-12-12 | 2020-05-29 | 엘지전자 주식회사 | 로봇 청소기 및 이의 제어 방법 |
| CN107357287A (zh) * | 2014-01-21 | 2017-11-17 | 宝时得科技(中国)有限公司 | 自动割草机 |
| EP2899692B1 (en) * | 2014-01-28 | 2019-09-04 | Honda Research Institute Europe GmbH | Method, system, imaging device, movable device and program product for detecting static elements in video and image sources |
| CN103997622B (zh) * | 2014-03-27 | 2017-02-22 | 上海海事大学 | 无人值守监控摄像头的自动清洗方法 |
| US20150302569A1 (en) * | 2014-04-22 | 2015-10-22 | General Electric Company | Sensing system for a cooktop appliance with airflow protected sensor |
| US9751210B2 (en) | 2014-11-26 | 2017-09-05 | Irobot Corporation | Systems and methods for performing occlusion detection |
| US9519289B2 (en) | 2014-11-26 | 2016-12-13 | Irobot Corporation | Systems and methods for performing simultaneous localization and mapping using machine vision systems |
| US9538170B1 (en) * | 2015-09-08 | 2017-01-03 | Hon Hai Precision Co., Ltd. | Camera lens cleaning system and method of using same |
| CN106527444B (zh) * | 2016-11-29 | 2020-04-14 | 深圳市元征科技股份有限公司 | 清洁机器人的控制方法及清洁机器人 |
| JP2019030218A (ja) * | 2017-08-01 | 2019-02-21 | 国立大学法人電気通信大学 | 人型ロボットなどのサイバーフィジカルシステムにおける物理機能例外処理方式 |
| JP6608894B2 (ja) | 2017-09-27 | 2019-11-20 | ファナック株式会社 | ロボットシステム |
| TWI656954B (zh) * | 2017-12-27 | 2019-04-21 | 高明鐵企業股份有限公司 | 具有鏡頭自動清潔功能之夾爪結構總成 |
| JP6666370B2 (ja) | 2018-01-31 | 2020-03-13 | ファナック株式会社 | 物質付着シミュレーション装置 |
| US10952591B2 (en) | 2018-02-02 | 2021-03-23 | Dishcraft Robotics, Inc. | Intelligent dishwashing systems and methods |
| JP6678844B2 (ja) * | 2018-02-16 | 2020-04-08 | 三菱電機株式会社 | 異常検出装置及び異常検出方法 |
| WO2019183902A1 (zh) * | 2018-03-29 | 2019-10-03 | 深圳达闼科技控股有限公司 | 检测镜头的方法及装置、电子设备和计算机可读存储介质 |
| JP7327596B2 (ja) * | 2018-08-10 | 2023-08-16 | カシオ計算機株式会社 | 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム |
| JP7354528B2 (ja) * | 2018-08-10 | 2023-10-03 | カシオ計算機株式会社 | 自律移動装置、自律移動装置のレンズの汚れ検出方法及びプログラム |
| CN113068501A (zh) * | 2020-01-06 | 2021-07-06 | 苏州宝时得电动工具有限公司 | 一种智能割草机 |
| JP6965398B1 (ja) * | 2020-05-14 | 2021-11-10 | エヌ・ティ・ティ・コミュニケーションズ株式会社 | 遠隔制御システム、遠隔作業装置、映像処理装置およびプログラム |
| CN112113375B (zh) * | 2020-10-15 | 2024-07-26 | 北华大学 | 3d雪雕打印机器人 |
| CN113649318B (zh) * | 2021-07-30 | 2022-08-23 | 中古文物保护集团有限公司 | 一种现场在线文物修复用仿生机械人 |
| CN117677476A (zh) * | 2021-08-03 | 2024-03-08 | 发那科株式会社 | 机器人系统、控制装置、诊断方法以及诊断程序 |
| CN115379197A (zh) * | 2022-04-12 | 2022-11-22 | 北京朝歌数码科技股份有限公司 | 用于在生产线上检测摄像头产品的镜头表面的方法和装置 |
| CN114613072B (zh) * | 2022-04-18 | 2023-06-23 | 宁波小遛共享信息科技有限公司 | 共享车辆的还车控制方法、装置和电子设备 |
| CN114778558B (zh) * | 2022-06-07 | 2022-09-09 | 成都纵横通达信息工程有限公司 | 基于视频图像的桥梁监测装置、系统及方法 |
| CN115464668B (zh) * | 2022-10-13 | 2024-10-01 | 中国环境科学研究院 | 一种智能实验室安全巡检机器人 |
| CN115847450B (zh) * | 2023-02-24 | 2023-04-18 | 东莞市喜成电子科技有限公司 | 一种巡检机器人 |
| KR20250019210A (ko) * | 2023-07-31 | 2025-02-10 | 삼성전자주식회사 | 이동 로봇 및 이동 로봇의 제어 방법 |
| CN119488240A (zh) * | 2023-08-17 | 2025-02-21 | 感进机器人(深圳)有限公司 | 清洁设备的控制方法和清洁设备 |
| US12474718B1 (en) * | 2025-05-07 | 2025-11-18 | Copart, Inc. | Undercarriage imaging rover |
Family Cites Families (80)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS62203460A (ja) * | 1986-03-04 | 1987-09-08 | Canon Inc | 画像読取装置 |
| JPS62203461A (ja) * | 1986-03-04 | 1987-09-08 | Canon Inc | 画像読取方式 |
| JPH03163951A (ja) * | 1989-11-22 | 1991-07-15 | Nagano Japan Radio Co | 画像読取部の汚れ検出装置 |
| DE69123212T2 (de) * | 1990-09-28 | 1997-04-10 | Isuzu Motors Ltd | Bilddetektionssystem für Wagen |
| JP3123095B2 (ja) * | 1991-03-29 | 2001-01-09 | 株式会社日立製作所 | ディスプレイの画面欠点検出方法 |
| JP3181729B2 (ja) * | 1992-11-09 | 2001-07-03 | マツダ株式会社 | 塗膜欠陥検出におけるレンズ汚れ検出方法及びその装置 |
| US5453676A (en) * | 1994-09-30 | 1995-09-26 | Itt Automotive Electrical Systems, Inc. | Trainable drive system for a windshield wiper |
| JP3199984B2 (ja) * | 1995-06-19 | 2001-08-20 | 旭光学工業株式会社 | 光学部材検査装置 |
| US6587573B1 (en) * | 2000-03-20 | 2003-07-01 | Gentex Corporation | System for controlling exterior vehicle lights |
| US8120652B2 (en) * | 1997-04-02 | 2012-02-21 | Gentex Corporation | System for controlling vehicle equipment |
| US6681163B2 (en) * | 2001-10-04 | 2004-01-20 | Gentex Corporation | Moisture sensor and windshield fog detector |
| US20120116632A1 (en) * | 1997-04-02 | 2012-05-10 | Bechtel Jon H | System for controlling vehicle equipment |
| JP3851423B2 (ja) * | 1997-08-28 | 2006-11-29 | 株式会社ミツバ | ワイパ制御方法 |
| DE19742657A1 (de) * | 1997-09-26 | 1999-04-01 | Bosch Gmbh Robert | Wischvorrichtung |
| DE19756502C2 (de) * | 1997-11-07 | 1999-12-16 | Daimler Chrysler Ag | Steuereinrichtung für eine Scheibenwischereinrichtung |
| DE69934650T2 (de) * | 1998-10-26 | 2007-04-26 | Fuji Photo Film Co., Ltd., Minami-Ashigara | Verfahren und Vorrichtung zum Reinigen eines Objektivs sowie Verfahren und Vorrichtung zum Wiederverwenden einer Mehrweg Kamera |
| US6791681B2 (en) * | 2001-06-14 | 2004-09-14 | Matsushita Electric Industrial Co., Ltd. | Apparatus and method for determining existence range of foreign substance |
| US6596978B2 (en) * | 2001-06-28 | 2003-07-22 | Valeo Electrical Systems, Inc. | Stereo imaging rain sensor |
| US6617564B2 (en) * | 2001-10-04 | 2003-09-09 | Gentex Corporation | Moisture sensor utilizing stereo imaging with an image sensor |
| DE10201522A1 (de) * | 2002-01-17 | 2003-07-31 | Bosch Gmbh Robert | Verfahren und Vorrichtung zur Erkennung von Sichtbehinderungen bei Bildsensorsystemen |
| JP2004153422A (ja) * | 2002-10-29 | 2004-05-27 | Toshiba Corp | 撮影装置、顔照合装置、撮影装置の汚れ検知方法、及び顔照合方法 |
| JP2004289532A (ja) | 2003-03-24 | 2004-10-14 | Fuji Photo Film Co Ltd | 自動撮影装置 |
| JP4245452B2 (ja) | 2003-10-06 | 2009-03-25 | 富士通株式会社 | レンズの汚れ判定方法及び装置 |
| JP4092282B2 (ja) * | 2003-11-13 | 2008-05-28 | 三機工業株式会社 | 路面灯または反射鏡のガラス面洗浄方法とその洗浄システム |
| US20050205781A1 (en) * | 2004-01-08 | 2005-09-22 | Toshifumi Kimba | Defect inspection apparatus |
| KR100571834B1 (ko) * | 2004-02-27 | 2006-04-17 | 삼성전자주식회사 | 청소 로봇의 바닥 먼지 검출 방법 및 장치 |
| EP1729562A1 (en) * | 2004-03-30 | 2006-12-13 | DeLaval Holding AB | Arrangement and method for determining positions of the teats of a milking animal |
| US7359093B2 (en) * | 2004-05-14 | 2008-04-15 | Xerox Corporation | Systems and methods for streak detection in image array scanning using overdetermined scanners and column filtering |
| US20060048800A1 (en) * | 2004-09-09 | 2006-03-09 | Rast Rodger H | Automated building exterior cleaning apparatus |
| JP4150858B2 (ja) * | 2004-09-17 | 2008-09-17 | コニカミノルタビジネステクノロジーズ株式会社 | 画像読取装置 |
| US7718943B2 (en) * | 2004-09-29 | 2010-05-18 | Gentex Corporation | Moisture sensor for optically detecting moisture |
| EP1817689B1 (en) * | 2004-11-18 | 2014-03-12 | Gentex Corporation | Improved image acquisition and processing systems for vehicle equipment control |
| JP4528648B2 (ja) * | 2005-02-28 | 2010-08-18 | シャープ株式会社 | 自走式ロボットシステム |
| JP4483631B2 (ja) * | 2005-03-08 | 2010-06-16 | 株式会社デンソー | ワイパ駆動制御装置 |
| JP2006268498A (ja) * | 2005-03-24 | 2006-10-05 | Funai Electric Co Ltd | 自走式掃除機 |
| DE102005021671A1 (de) * | 2005-05-11 | 2006-11-16 | Bayerische Motoren Werke Ag | Reinigungsvorrichtung für eine Kamera eines Kraftfahrzeugs |
| JP4388912B2 (ja) * | 2005-05-31 | 2009-12-24 | 株式会社ニデック | 眼鏡レンズ加工装置 |
| US7587081B2 (en) * | 2005-09-28 | 2009-09-08 | Deere & Company | Method for processing stereo vision data using image density |
| US20070127135A1 (en) * | 2005-11-01 | 2007-06-07 | Nikon Corporation | Exposure apparatus, exposure method and device manufacturing method |
| US8553088B2 (en) * | 2005-11-23 | 2013-10-08 | Mobileye Technologies Limited | Systems and methods for detecting obstructions in a camera field of view |
| US7516002B2 (en) * | 2006-01-10 | 2009-04-07 | Guardian Industries Corp. | Rain sensor for detecting rain or other material on window of a vehicle or on other surface |
| JP4956009B2 (ja) * | 2006-02-02 | 2012-06-20 | キヤノン株式会社 | 撮像装置及びその制御方法 |
| FR2901218B1 (fr) * | 2006-05-22 | 2009-02-13 | Valeo Vision Sa | Procede de detection de pluie sur un parebrise |
| WO2007141858A1 (ja) * | 2006-06-08 | 2007-12-13 | Fujitsu Limited | 汚れ検出方式 |
| JP4127297B2 (ja) * | 2006-06-09 | 2008-07-30 | ソニー株式会社 | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
| JP4771539B2 (ja) * | 2006-07-26 | 2011-09-14 | キヤノン株式会社 | 画像処理装置及びその制御方法及びプログラム |
| JP2007098567A (ja) * | 2006-09-25 | 2007-04-19 | Hitachi Ltd | 自律制御型ロボットおよびその制御装置 |
| JP4240108B2 (ja) * | 2006-10-31 | 2009-03-18 | ソニー株式会社 | 画像記憶装置、撮像装置、画像記憶方法およびプログラム |
| JP2008160635A (ja) * | 2006-12-26 | 2008-07-10 | Matsushita Electric Ind Co Ltd | カメラ状態検出方法 |
| US7961946B2 (en) * | 2007-05-15 | 2011-06-14 | Digisensory Technologies Pty Ltd | Method and system for background estimation in localization and tracking of objects in a smart video camera |
| JP4664327B2 (ja) * | 2007-05-16 | 2011-04-06 | 株式会社日立ハイテクノロジーズ | パターン検査方法 |
| GB0717986D0 (en) * | 2007-09-14 | 2007-10-24 | Cnh Belgium Nv | A method and apparatus for detecting errors in electronically processed images |
| JP5141317B2 (ja) * | 2008-03-14 | 2013-02-13 | オムロン株式会社 | 対象画像検出デバイス、制御プログラム、および該プログラムを記録した記録媒体、ならびに対象画像検出デバイスを備えた電子機器 |
| DE102008033204A1 (de) * | 2008-07-15 | 2010-02-04 | Trw Automotive Electronics & Components Gmbh | Optischer Sensor |
| WO2010038223A1 (en) * | 2008-10-01 | 2010-04-08 | Hi-Key Limited | A method and a system for detecting the presence of an impediment on a lens of an image capture device to light passing through the lens of an image capture device |
| CN102215674B (zh) * | 2008-10-10 | 2013-07-17 | 米克股份有限公司 | 原地进行水下网清洁和检查的装置 |
| DE102008061616B4 (de) * | 2008-12-11 | 2021-06-10 | Bcs Automotive Interface Solutions Gmbh | Optische Sensorvorrichtung |
| DE102008062977A1 (de) * | 2008-12-23 | 2010-06-24 | Adc Automotive Distance Control Systems Gmbh | Optisches Modul mit multifokaler Optik zur Erfassung von Fern- und Nahbereich in einem Bild |
| TW201027220A (en) * | 2009-01-05 | 2010-07-16 | Primax Electronics Ltd | Method for assembling an image capturing device |
| JP5195465B2 (ja) * | 2009-01-28 | 2013-05-08 | トヨタ自動車株式会社 | ロボット制御装置及び方法 |
| US8466960B2 (en) * | 2009-02-16 | 2013-06-18 | Ricoh Company, Ltd. | Liquid droplet recognition apparatus, raindrop recognition apparatus, and on-vehicle monitoring apparatus |
| JP5469899B2 (ja) * | 2009-03-31 | 2014-04-16 | 株式会社トプコン | 自動追尾方法及び測量装置 |
| DE102009018319A1 (de) * | 2009-04-22 | 2010-10-28 | Wincor Nixdorf International Gmbh | Selbstbedienungsterminal mit mindestens einer Kamera zum Erkennen von Manipulationsversuchen |
| US8376595B2 (en) * | 2009-05-15 | 2013-02-19 | Magna Electronics, Inc. | Automatic headlamp control |
| CN101961221B (zh) * | 2009-07-22 | 2012-05-30 | 泰怡凯电器(苏州)有限公司 | 除尘装置 |
| KR101430330B1 (ko) | 2010-02-15 | 2014-08-13 | 가부시키가이샤 리코 | 투명체 검출 시스템 및 투명 평판 검출 시스템 |
| EP2544148A4 (en) * | 2010-03-04 | 2014-10-29 | Nec Corp | FOREIGN OBJECT EVALUATION DEVICE, FOREIGN OBJECT EVALUATION METHOD, AND FOREIGN OBJECT EVALUATION PROGRAM |
| KR101634248B1 (ko) * | 2010-03-11 | 2016-06-28 | 삼성전자주식회사 | 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 저장매체 |
| JP5953658B2 (ja) * | 2011-05-25 | 2016-07-20 | ソニー株式会社 | ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 |
| US8977002B2 (en) | 2011-07-11 | 2015-03-10 | Bae Systems Information And Electronic Systems Integration Inc. | Method of point source target detection for multispectral imaging |
| US8493505B2 (en) * | 2011-10-05 | 2013-07-23 | Hwan Ming Enterprise Co., Ltd. | Automatic clean device for a surveillance camera |
| IL217093A (en) * | 2011-12-19 | 2015-06-30 | P S I Pool Services Israel Ltd | Automatic Pool Cleaner and Energy Saving Pool Cleaner Method |
| JP6117634B2 (ja) * | 2012-07-03 | 2017-04-19 | クラリオン株式会社 | レンズ付着物検知装置、レンズ付着物検知方法、および、車両システム |
| JP5883732B2 (ja) * | 2012-07-03 | 2016-03-15 | クラリオン株式会社 | 環境認識装置 |
| JP5957378B2 (ja) * | 2012-12-28 | 2016-07-27 | 株式会社日立ハイテクノロジーズ | 欠陥観察方法および欠陥観察装置 |
| JP2015022192A (ja) * | 2013-07-19 | 2015-02-02 | 株式会社ニューフレアテクノロジー | 検査装置 |
| US10529076B2 (en) * | 2015-05-14 | 2020-01-07 | Sony Corporation | Image processing apparatus and image processing method |
| US9538170B1 (en) * | 2015-09-08 | 2017-01-03 | Hon Hai Precision Co., Ltd. | Camera lens cleaning system and method of using same |
| KR102595300B1 (ko) * | 2016-07-04 | 2023-10-31 | 삼성전자주식회사 | 검사 방법 및 시스템, 및 이를 이용한 반도체 패키지의 제조 방법 |
| KR101898217B1 (ko) * | 2016-12-29 | 2018-09-12 | 엘지디스플레이 주식회사 | 검사장비 및 이를 이용한 검사방법 |
-
2011
- 2011-05-25 JP JP2011117111A patent/JP5953658B2/ja not_active Expired - Fee Related
-
2012
- 2012-04-16 US US14/114,333 patent/US9358690B2/en active Active
- 2012-04-16 CN CN201280023849.XA patent/CN103561917B/zh not_active Expired - Fee Related
- 2012-04-16 WO PCT/JP2012/060248 patent/WO2012160901A1/ja not_active Ceased
-
2016
- 2016-04-29 US US15/142,611 patent/US9802320B2/en active Active
-
2017
- 2017-09-26 US US15/716,022 patent/US10421190B2/en active Active
-
2019
- 2019-08-19 US US16/543,617 patent/US10675764B2/en active Active
-
2020
- 2020-04-20 US US16/852,556 patent/US11014245B2/en active Active
- 2020-04-20 US US16/852,560 patent/US11000954B2/en active Active
-
2021
- 2021-04-22 US US17/237,055 patent/US11794351B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| US20160236352A1 (en) | 2016-08-18 |
| US10421190B2 (en) | 2019-09-24 |
| US9802320B2 (en) | 2017-10-31 |
| US20200238532A1 (en) | 2020-07-30 |
| US10675764B2 (en) | 2020-06-09 |
| CN103561917A (zh) | 2014-02-05 |
| US11014245B2 (en) | 2021-05-25 |
| US9358690B2 (en) | 2016-06-07 |
| US20210237277A1 (en) | 2021-08-05 |
| US20180015617A1 (en) | 2018-01-18 |
| US11000954B2 (en) | 2021-05-11 |
| US20200238533A1 (en) | 2020-07-30 |
| WO2012160901A1 (ja) | 2012-11-29 |
| US20190366555A1 (en) | 2019-12-05 |
| US20140074292A1 (en) | 2014-03-13 |
| JP2012245570A (ja) | 2012-12-13 |
| CN103561917B (zh) | 2017-03-29 |
| US11794351B2 (en) | 2023-10-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5953658B2 (ja) | ロボット制御装置及びロボット装置の制御方法、コンピューター・プログラム、プログラム記憶媒体、並びにロボット装置 | |
| JP6103112B2 (ja) | 撮像装置及び撮像装置の制御方法、コンピューター・プログラム、並びにプログラム記憶媒体 | |
| CN102896630B (zh) | 机器人装置及其控制方法、计算机程序以及机器人系统 | |
| CN110781714B (zh) | 图像处理装置、图像处理方法 | |
| CN102414696A (zh) | 物体学习机器人和方法 | |
| CN105269582B (zh) | 机器人、机器人系统以及控制方法 | |
| JP6364836B2 (ja) | ロボット、ロボットシステム、及び制御装置 | |
| JP2013184257A (ja) | ロボット装置及びロボット装置の制御方法、並びにコンピューター・プログラム | |
| US20150343642A1 (en) | Robot, robot system, and control method | |
| JP6365710B2 (ja) | ロボット制御装置及びロボットの制御方法、並びにコンピューター・プログラム | |
| JP2015182212A (ja) | ロボットシステム、ロボット、制御装置、及び制御方法 | |
| JP6881268B2 (ja) | 把持装置、把持判定方法および把持判定プログラム | |
| CN113878588A (zh) | 面向卡扣式连接的基于触觉反馈的机器人柔顺装配方法 | |
| AU2019232900B2 (en) | System and method for intelligent 3d imaging guided robotic gripper | |
| JP2011008791A (ja) | ロボットの対象物認識方法 | |
| JP2015085495A (ja) | ロボット、ロボットシステム、及び制御装置 | |
| JP6248694B2 (ja) | ロボット、ロボットシステム、及び制御装置 | |
| CN114599485B (zh) | 主从系统以及控制方法 | |
| JP2013173209A (ja) | ロボット装置及びロボット装置の制御方法、並びにコンピューター・プログラム | |
| Huang et al. | Position and force hybrid control of a flexible tool held by a manipulator hand. |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140502 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140502 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150512 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150706 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151215 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160129 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160517 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160530 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5953658 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |