JP4177385B2 - ネットワーク基盤のロボット制御システム及びネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法 - Google Patents

ネットワーク基盤のロボット制御システム及びネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法 Download PDF

Info

Publication number
JP4177385B2
JP4177385B2 JP2006114587A JP2006114587A JP4177385B2 JP 4177385 B2 JP4177385 B2 JP 4177385B2 JP 2006114587 A JP2006114587 A JP 2006114587A JP 2006114587 A JP2006114587 A JP 2006114587A JP 4177385 B2 JP4177385 B2 JP 4177385B2
Authority
JP
Japan
Prior art keywords
robot
speed
video data
control
client
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006114587A
Other languages
English (en)
Other versions
JP2006331404A (ja
Inventor
炳權 崔
賢植 沈
準久 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2006331404A publication Critical patent/JP2006331404A/ja
Application granted granted Critical
Publication of JP4177385B2 publication Critical patent/JP4177385B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1679Programme controls characterised by the tasks executed
    • B25J9/1689Teleoperation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00Manipulators not otherwise provided for
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/40Robotics, robotics mapping to robotics vision
    • G05B2219/40174Robot teleoperation through internet

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Manipulator (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本発明はロボット制御システムに係り、特に、ネットワーク基盤のロボット制御システム及びネットワーク基盤のロボット制御システムにおいてロボット速度を制御する方法に関する。
一般に、各種の感覚に対応するセンサーをもって、特定の指令に従って自ら判断して行動する機械をロボットという。この種のロボットは、ユーザーが与える役目により使い分けられるが、近年、掃除用のロボット、玩具型のロボットなどのヒューマンロボットへと次第に発展しており、さらには、1台のロボットが多数の機能を併せ持つように開発されている。
また、ロボットは、人間とのコミュニケーションにより各種のサービスを提供可能に開発されているが、最近に至っては、URC(Ubiquitous Robotic Companion)システムなどのネットワーク技術を基にロボットを制御可能にするシステムが開発されている。
ネットワーク基盤のロボット制御システムにおいて、ユーザーは、PDA(Personal Digital Assistant)、ウェブパッド、携帯電話、パソコンなどのクライアントを用いて遠隔にてロボットを制御することができる。クライアントは、ユーザーの要求を受け、インターネット、無線LAN、移動通信網(CDMA、GSM)などの有無線ネットワークを介して遠隔にてロボットを制御する。ロボットは、クライアントの制御による動作を行い、映像データをクライアントに与える。これにより、ユーザーは、ロボットの制御に際し、クライアントの画面を介してロボットからの映像を目視しながらロボットを制御する。
ところが、クライアントは、その種別ごとにプロセッサの性能が異なり、且つ、相異なる通信環境下に置かれている。例えば、普通の場合、パソコンは、データ処理能力が良好であり、データの転送速度が高いのに対し、携帯電話やPDAなどはパソコンよりもデータ処理能力に劣っており、データの転送速度も低い。
もし、それぞれのクライアントにロボットの映像データを同じ映像データパケットとして与えた場合、データ処理能力が良好であり、しかも、データの受信速度が高いクライアントの場合、映像データパケットを成功的に受信して処理することができる。しかし、データ処理能力が悪く、しかも、データ受信速度が低いクライアントの場合、映像データパケットの受信を成功的に行うことが困難であり、受信された映像データを処理することができないため、動作が止まったり、エラーが生じたりする可能性がある。
このため、従来には、クライアントの映像データの受信速度及びデータ処理能力によって各クライアントに与えられる1秒当たりの映像データパケット量を調節したり、映像データの画質を調節していた。
例えば、従来には、データ処理能力が良好であり、データの受信速度が高いクライアントの場合、ロボットからの映像データパケットの受信及び処理が迅速に行われることから、ロボットからの映像データパケットをそのままクライアントに転送していた。これに対し、データ処理能力に劣っており、データの受信速度が低いクライアントの場合、映像データパケットの受信が遅いため、ロボットからの映像データパケットの数を低減してからクライアントに転送していた。
データ処理能力が良好であり、データ受信速度が高いクライアント場合、ロボットからの映像データパケットがそのままクライアントに転送されるため、クライアントの画面には映像が途切れることなくスムーズに表示され、ユーザーがロボットを制御する上で特に問題がない。しかしながら、データ処理能力が劣っており、データの受信速度が低いクライアントの場合、ロボットからの映像データパケットがいずれも受信されるのではなく、飛び飛びに受信されるため、画面にはロボットからの映像がスムーズに連続することなく、途切れて表示されてしまう。このため、ユーザーは、データ処理能力が劣っており、データの受信速度が低いクライアントに表示される映像を用いて、現在ロボットがいかなる状態にあるのかが判断し難くなり、その結果、ロボットの制御が困難になるという問題点がある。
例えば、ロボットが1秒当たり10フレームの映像データパケットを与えるとしたとき、従来には、パソコンなどの高性能のクライアントにはロボットからの1秒当たり10フレームの映像データパケットをそのまま与え、携帯電話などの低性能のクライアントには、ロボットからの映像データパケットを1秒当たり10フレーム以下(例えば、7または5フレーム)に低減してから与えていた。ところが、この場合、高性能のクライアントに与えられて表示される映像は、ロボットの移動速度と略等速にて変わるが、低性能のクライアントに与えられて表示される映像は、決してロボットの移動速度でなめらかに変わることはない。このことは、ユーザーにとって、ロボットを制御し難くなるという問題点がある。
本発明は上述した事情に鑑みてなされたものであり、その目的は、クライアントの映像データの受信状態に応じてロボットの速度を制御することにより、ユーザーにロボットの制御を円滑に行わせるネットワーク基盤のロボット制御システム及び方法を提供するところにある。
また、本発明の他の目的は、ロボットの速度をクライアントに与えられて表示される映像データの画面の変化速度に合わせて制御するネットワーク基盤のロボット制御システム及び方法を提供するところにある。
上記の問題点を解決するために、本発明は、ネットワーク基盤のロボット制御システムであって、所定の動作の実行に伴い撮影される映像データフレームを与え、ロボット制御メッセージを受信するとき、受信されたロボット制御メッセージに含まれているロボットの制御速度によって速度を変更するロボットと、上記ロボットからの映像データフレームを受信し、受信された映像データフレームをクライアントの性能によって処理して送るサーバーと、上記サーバーを介して上記ロボットによって撮影された映像データフレームを受信し、上記映像データフレームの受信状態によってロボットの制御速度を計算し、ロボットの制御速度を含むロボット制御メッセージを生成して上記ロボットに送るクライアントと、を備える。
さらに、本発明は、ネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法であって、上記ロボットによって撮影された映像データフレームを受信するステップと、上記映像データフレームの受信状態によってロボットの制御速度を計算するステップと、上記ロボットの制御速度を含むロボット制御メッセージを生成して上記ロボットに送るステップと、を含む。
本発明によるシステムは、クライアントによる映像データの受信状態に応じてロボットの速度を制御することから、ユーザーがクライアントの性能に影響されることなく円滑にロボットを制御することができる。
すなわち、本発明は、クライアントによる映像データの受信状態に応じてロボットの速度を制御することから、受信された映像データフレームの枚数が少ない場合であっても、ロボットの映像データをクライアントの画面に途切れることなくスムーズに表示することができる。これにより、本発明によれば、ユーザーがクライアントの画面に表示される映像データを目視しながら円滑にロボットを制御することができる。
さらに、本発明は、ロボットの速度を制御するためのメッセージを簡単なパケットにすることから、ロボット速度の制御に際し、クライアントとサーバーとの通信を簡単に行うことができる。
以下、本発明による好適な実施の形態を添付図面に基づいて詳述する。本発明を説明するにあたり、関連する公知の構成や機能の詳細については、本発明の要旨を曖昧にしないために省略している。
図1は、本発明の実施の形態によるネットワーク基盤のロボット制御システムの構成図である。図1を参照すると、本発明の実施の形態によるネットワーク基盤のロボット制御システムは、クライアント100、有無線ネットワーク150、URCサーバー200、アクセスポイント250、ロボット300を備える。
クライアント100は、PDA、ウェブパッド101、携帯電話102、パソコン103などの有無線通信端末であっても良く、ユーザーの要求により、有無線ネットワーク150を介してURCサーバー200に接続して認証される。クライアント100は、認証時に自分のIDとパスワードをURCサーバー200に与え、クライアントの種別に関する情報をさらに与える。例えば、クライアント100は、自分がPDAであれば、その旨を知らせる情報、パソコンであれば、その旨を知らせる情報、携帯電話であれば、その旨を知らせる情報をURCサーバー200に与える。
また、クライアント100は、ロボットの制御のためのロボット制御メッセージをURCサーバー200に送り、URCサーバー200からロボット300の映像データパケットを受信して出力する。そして、クライアント100は、ロボット300の映像データパケットを受信すると、1秒当たりの受信映像データフレームの枚数によってロボットの適正な制御速度を計算し、この計算結果に基づき、ロボットの制御速度を含むロボット制御メッセージを生成してURCサーバー300に送る。
有無線ネットワーク150はTCP/IP基盤の有無線網であって、インターネット、無線LAN、移動通信網(CDMA、GSM)などであっても良い。この有無線ネットワーク150は、クライアント100とURCサーバー200とのデータ通信を中継する。
URCサーバー200は、クライアント100が接続されると、認証過程を行い、クライアント100からのIDとパスワードからクライアント100の種別を認識する。そして、URCサーバー200は、クライアント100の種別によってロボット300からの映像データパケットを処理して送る。例えば、URCサーバー200は、クライアント100がパソコンであるか、PDAであるか、それとも、携帯電話であるかによってロボット300からの映像データフレームの枚数を調節するか、あるいは、画質を変える。そして、URCサーバー200は、クライアント100の種別によって、処理された映像データパケットを当該クライアント100に送る。アクセスポイント250は、URCサーバー200とロボット300との中継機であって、URCサーバー200とロボット300とのデータの送受信を可能にする。
ロボット300は、Baucus2301、Imaro3302、Cubo303、Watchdog304などの各種の知能ロボットであっても良い。このロボット300は、URCサーバー200を介してクライアント100からのロボット制御メッセージを受信する。そして、ロボット300は、受信されたロボット制御メッセージに含まれている制御指令に基づいて動作し、動作中に撮影される映像に対する映像データフレームをURCサーバー200に送る。また、ロボット300は、受信されたロボット制御メッセージに含まれているロボットの制御速度によって自分の速度(例えば、移動速度またはカメラ速度)を変更する。
これにより、本発明の実施の形態によるネットワーク基盤のロボット制御システムは、クライアント100の映像データの受信状態によってロボット300の速度を変更することにより、たとえ映像データの受信状態が悪い場合であっても、ロボット300からの映像データが途切れることなく、クライアント100の画面にスムーズに表示される。その結果、ユーザーは、クライアント100の画面に表示されるロボット映像のデータを目視しながら、ロボットを円滑に制御することができる。
以下、このような構成を有するネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法を詳述する。図2は、本発明の実施の形態によるネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法を示すフローチャートである。図2を参照すると、ロボット300は、ステップS210において、カメラによって撮影される映像による映像データフレームをURCサーバー200に送る。
URCサーバー200は、ロボット300からの映像データフレームを受信し、ステップS220において、映像データフレームをクライアント100に合うように処理する。例えば、URCサーバー200は、クライアント100がパソコンであるか、PDAであるか、それとも携帯電話であるかによってロボット300からの映像データフレームの枚数を調節するか、あるいは、画質を変化させる。そして、URCサーバー200は、ステップS230において、クライアント100の種別によって処理された映像データパケットを当該クライアント100に送る。例えば、URCサーバー200は、ロボットが1秒当たり10フレームの映像データパケットを与えるとしたとき、パソコンなどの高性能の種別のクライアント100にはロボットからの1秒当たり10フレームの映像データパケットをそのまま与える。そして、URCサーバー200は、携帯電話など低性能の種別のクライアント100には、ロボットからの映像データパケットを1秒当たり10フレーム以下(例えば、7または5フレーム)に低減して与えるか、それとも、画質を低めた10フレームを送る。
このように、クライアント100によって映像データパケットの数を調節するか、あるいは、映像データの画質を低める場合、データの受信速度が高くて処理能の良好なクライアントには、1秒当たり多数の映像データパケットが与えられて映像データがスムーズに表示される。ところが、データの受信速度が低くて処理能に劣っているクライアントには1秒当たり少ない映像データパケットが与えられ、映像データが途切れて表示される。そして、このように映像データが途切れて表示される場合、ロボットの映像データの画面がスムーズに変化するのではなく、画面の変化が激しいため、ユーザーは、映像データ画面を目視しながらロボットを制御することが困難になる。
このため、クライアント100は、ステップS240において、自分の映像データの受信状態、すなわち、1秒当たりの受信映像データフレームの枚数によってロボットの制御速度を変更する。すなわち、クライアント100は、1秒当たりの受信映像データフレームの枚数が多ければ、ロボットの制御速度を相対的に高く、且つ、1秒当たりの受信映像データフレームの枚数が少なければ、ロボットの制御速度を相対的に低く変更する。
そして、クライアント100は、ステップS250において、変更されたロボットの制御速度を含むロボット制御メッセージをURCサーバー200に送る。ロボット制御メッセージには、ロボット300に所定の動作を行わせるための指令が含まれる。
URCサーバー200は、ステップS260において、クライアント100からのロボット制御メッセージをロボット300に伝える。ロボット300は、ステップS270において、URCサーバー200からロボット制御メッセージを受信し、ロボット制御メッセージに含まれているロボットの制御速度によって自分の速度を変更する。
以下、本発明の実施の形態によるクライアント100の構成及び動作について詳述する。図3は、本発明の実施の形態によるクライアント100のブロック構成図である。
図3を参照すると、本発明の実施の形態によるクライアント100は、送受信部110、映像データ処理部120、ユーザーインターフェース部130、ロボットの制御速度計算部140、ロボット制御メッセージ生成部150を備えてなる。
送受信部110は、URCサーバー200と通信を行い、ユーザーの要求によってURCサーバー200にロボット制御メッセージを送り、URCサーバー200からロボット300によって撮影された周辺映像の映像データパケットを受信する。
映像データ処理部130は、受信された映像データパケットを処理してユーザーインターフェース部130に伝え、1秒当たりの受信映像データパケットの枚数を計算してロボットの制御速度計算部140に与える。
ユーザーインターフェース部130は、液晶ディスプレイ(LCD)などの表示装置と、タッチパネル、キーパッドなどの入力装置などを備えることができ、ロボット制御画面を表示し、このロボット制御画面を介してユーザーからロボット制御指令を入力される。
図4は、本発明の実施の形態によるクライアント100のロボット制御画面の一例を示す図である。図4を参照すると、ロボット制御画面は、映像データを表示する映像データ表示ウィンドウ42と、ロボット300の移動を制御するための指令が入力されるロボット移動制御指令入力ウィンドウ44と、ロボット300のカメラ動作を制御するための指令が入力されるロボットカメラ制御指令入力ウィンドウ46とを備える。
ユーザーインターフェース部130は、映像データ処理部120によって処理されたロボット300からの映像データを映像データ表示ウィンドウ42に表示し、ロボット移動制御指令入力ウィンドウ44及びロボットカメラ制御指令入力ウィンドウ46を介してユーザーからロボット制御指令を入力される。ユーザーは、映像データ表示ウィンドウ42に表示される映像を目視しながら、ロボット移動制御指令入力ウィンドウ44及びロボットカメラ制御指令入力ウィンドウ46の各指令ボタンを選択してロボットを制御することができる。
ロボットの制御速度計算部140は、映像データ処理部120によって計算された1秒当たりの受信映像データパケットの枚数によってロボットの制御速度を計算する。本発明の実施の形態によると、ロボットの制御速度計算部140は、基本値に設定されているロボット速度にクライアント100が受信する1秒当たりの受信映像フレームの枚数fcによる速度加重値を乗じて、新しいロボット速度Vnewを計算する。
ロボット制御メッセージ生成部150は、ロボット300に所定の動作を行わせるためのロボット制御メッセージを生成し、ロボット制御メッセージに新たに計算されたロボット速度Vnewによるロボット速度情報を含める。このとき、ロボット速度情報は、ロボットの移動速度、またはロボットカメラ速度などであっても良い。ロボット制御メッセージ生成部150は、新たに計算されたロボット速度Vnewによるロボット速度情報を含むロボット制御メッセージを送受信部110を介してURCサーバー200に送信する。
以下、このような構成を有するクライアント100のロボット速度の制御方法を詳述する。図5は、本発明の実施の形態によるクライアント100のロボット速度を制御する動作を示すフローチャートである。図5を参照すると、クライアント100は、ステップS502において、映像パケットを受信する。すなわち、クライアント100は、URCサーバー200からロボット300によって撮影された周辺映像の映像データパケットを受信する。
ロボット300の映像データパケットが受信されると、クライアント100は、受信された映像データパケットを表示し、ステップS504において、1秒当たり受信フレームの枚数を計算する。すなわち、クライアント100は、1秒に何枚のフレームが受信されるかを計算する。
そして、クライアント100は、ステップ506において、1秒当たりの受信フレームの枚数の計算結果に基づき、ロボットの制御速度を変更する。例えば、本発明の実施の形態によると、クライアント100は、あらかじめ基本値に設定されているロボット速度にクライアント100が受信する1秒当たりの受信映像フレームの枚数fcによる速度加重値を乗じて、新しいロボット速度Vnewを計算する。そして、クライアント100は、計算された新しいロボット速度Vnewによってロボットの制御速度を変更する。
本発明の実施の形態によると、ロボットの制御速度を計算する式は、下記式1の通りである。
式中、Vnewは新たに計算されたロボット速度、Vbaseは基本値に設定されているロボット速度、aは速度加重値、fcは1秒当たりの受信映像フレームの枚数、fmaxは1秒当たりの映像フレームの最大枚数である。
前式1を参照すると、ロボットの制御速度計算部140は、基本値に設定されているロボット速度にクライアント100に受信する1秒当たりの受信映像フレームの枚数fcによる速度加重値aを乗じて、新しいロボット速度Vnewを計算する。
本発明の実施の形態によると、速度加重値aは、
により決められる。
図6Aおよび図6Bは、本発明の実施の形態による速度加重値を示す図である。図6Aおよび図6Bは、本発明の実施の形態による速度加重値グラフの一例を示す図である。
図6Aおよび図6Bを参照すると、横軸は1秒当たりの映像フレームの最大枚数に対する実際に受信される1秒当たりのフレームの枚数の割合(fc/fmax)であり、縦軸は速度加重値aである。
まず、図6Aは、速度加重値が
である場合である。図6Aにおいて、速度加重値aは、1秒当たりの映像フレームの最大枚数に対する実際に受信される1秒当たりのフレームの枚数の割合(fc/fmax)に比例する。
これにより、クライアント100に受信される1秒当たりの映像フレームの枚数が多ければ、新しく計算されるロボット速度は高く、クライアント100に受信される1秒当たりの映像フレームの枚数が少なければ、新しく計算されるロボット速度は低い。
しかしながら、fc/fmaxが小さな場合は、映像データが途切れて表示される可能性が高いため、ロボットの速度を大いに高める必要があるが、fc/fmaxが大きな場合には、たとえ最大枚数の映像フレームが受信されなかったとしても、映像データが正常に表示されるため、ロボットの速度を大いに高める必要はない。
このため、1秒当たりの受信フレームの枚数が少ないときは、速度加重値の増大量を大きくし、1秒当たりの受信フレームの枚数が多いときは、加重値の増大量を小さくすることが一層好ましい。
これにより、本発明の実施の形態においては、1秒当たりの受信フレームの枚数が少ないときは、速度加重値の増大量を大きくし、1秒当たりの受信フレームの枚数が多いときは、速度加重値の増大量を小さくするために、速度加重値を
のように決める。
図6Bは、速度加重値が
である場合を示す。図6Bを参照すると、fc/fmaxが小さければ、1秒当たりの受信映像フレームの枚数が増大するほど、速度加重値の増大量が多く、fc/fmaxが大きければ、1秒当たりの受信映像フレームの枚数が増大しても、速度加重値の増大量が少ない。
クライアント100は、上述したように、1秒当たりの受信映像フレームの枚数によって速度加重値aを決め、ロボット基本速度Vbaseに速度加重値aを乗じて新しいロボット速度Vnewを計算する。そして、クライアント100は、計算された新しいロボット速度Vnewによってロボットの制御速度を変更する。
次いで、クライアント100は、ステップS508において新たに計算されたロボット速度Vnewによるロボットの制御速度を含むロボット制御メッセージを生成する。ロボット制御メッセージは、ロボット300に所定の動作を行わせるためのものであり、ロボットの制御速度フィールドを含む。ロボットの制御速度フィールドは、ロボットの移動速度を制御するフィールドと、ロボットカメラの速度を制御するためのフィールドなどとを含む。
図7Aおよび図7Bは、本発明の実施の形態によるロボット制御メッセージフォーマットの一例を示す図である。図7Aは、ロボットの移動速度を制御するためのロボット制御メッセージのフォーマットであり、図7Bは、ロボットカメラの速度を制御するためのロボット制御メッセージのフォーマットである。
まず、図7Aを参照すると、ロボットの移動速度を制御するためのロボット制御メッセージは、MSG_TYPEフィールド610、ロボット方向フィールド630、ロボット速度フィールド640、セッティングフィールド650、予備フィールド660を含む。
MSG_TYPEフィールド610は、ロボット制御メッセージがロボット速度を制御するためのメッセージであるかどうかを知らせる情報を含む。
ロボット方向フィールド630は、ロボットの方向を制御するためのものであり、ロボットを制御する方向情報を含む。
ロボット速度フィールド640は、ロボットの速度を制御するためのものであり、新たに計算されたロボット速度Vnew情報によって変更されたロボットの最大線速度値vmax642とロボットの最大角速度値wmax644を含む。
新たに計算されたロボット速度Vnew情報は、新たに計算されたロボットの線速度Vnewと角速度wnewなどを含む。線速度はロボットが直線運動をするときにおける、運動方向への速度である。角速度は、ロボットが旋回するときにおける回転方向への速度である。
本発明の実施の形態によると、新しいロボットの線速度Vnewは下記式2により計算される。
式中、vnewは新たに計算されたロボット線速度、vbaseは基本値に設定されているロボット線速度、aは速度加重値、fcは1秒当たりの受信映像フレームの枚数、fmaxは1秒当たりの映像フレームの最大枚数である。
また、本発明の実施の形態によると、新しいロボットの角速度wnewは下記式3により計算される。
式中、wnewは新たに計算されたロボット角速度、wbaseは基本値に設定されているロボット線速度、aは速度加重値、fcは1秒当たりの受信映像フレームの枚数、fmaxは1秒当たりの映像フレームの最大枚数である。
本発明の実施の形態によると、ロボット速度フィールド640のロボットの最大線速度vmax642には新たに計算されたロボットの線速度Vnewが含まれ、ロボットの最大角速度値wmax644には新たに計算されたロボットの角速度wnewが含まれる。このとき、線速度の単位はm/秒であり、角速度の単位は°/秒である。例えば、新たに計算されたロボットの線速度Vnewが50m/secであり、かつ、角速度が20°/秒であれば、vmaxの値は50であり、wmaxの値は20である。
Settingフィールド650は、ロボットの障害物の回避機能を用いるかどうかを指定するためのものであり、障害物の回避機能の使用有無の値が含まれる。例えば、Settingフィールドには、障害物の回避機能を用いる場合、00000001の値が含まれる。そして、障害物の回避機能を用いない場合、00000000の値が含まれる。
Reservedフィールド660は、その他のフラグ値として使用可能であり、今後、音声認識用にも使用可能である。
一方、図7Bを参照すると、ロボットカメラ速度を制御するためのロボット制御メッセージは、MSG_TYPEフィールド710、カメラ座標フィールド730、ズームフィールド740、カメラ速度フィールド750、Reservedフィールド760を含む。
MSG_TYPEフィールド710は、ロボット制御メッセージ情報を示すためのものであり、ロボットカメラを制御するためのメッセージであるかどうかを知らせる情報を含む。
カメラ座標フィールド730は、カメラの左右/上下動を制御するためのものであり、パン732値とチルト744値を含む。パン値はカメラの左右動の座標値であり、負(−)の値は右側への移動を意味し、正(+)の値は左側への移動を意味する。チルトの値は、カメラの上下動の座標値であり、負(−)の値は上方への移動を意味し、正(+)の値は下方への移動を意味する。例えば、カメラを右側に30°下方に50°移動するように制御する場合、パン732値とチルト744値は(−30、50)となる。
Zoomフィールド740は、カメラのズームイン/アウトを制御するためのものであり、カメラレンズを何倍ズームインまたはズームアウトするかに関するズームイン/アウト倍率を含む。
カメラ速度フィールド750は、ロボットカメラの速度を制御するためのものであり、カメラ速度を含む。
本発明の実施の形態によると、ロボットカメラの速度は下記式4により計算される。
式中、v_cameranewは新たに計算されたロボットカメラの速度、v_camerabaseは基本値に設定されているロボットカメラの速度、aは速度加重値、fcは1秒当たりの受信映像フレームの枚数、fmaxは1秒当たりの映像フレームの最大枚数である。そして、ロボットカメラの速度は、ロボットのカメラに対する左右動、上下動、ズームイン/アウト倍率を意味する。
Reservedフィールド760は、その他のフラグ値として使用可能であり、今後、音声認識用に使用可能である。
上述したロボット制御メッセージを生成した後、クライアント100は、ステップ510において、上記生成されたロボット制御メッセージをURCサーバー300を介してロボット300に送る。
すると、ロボット300は、URCサーバー200からロボット制御メッセージを受信し、ロボット制御メッセージに含まれているロボットの移動速度及びロボットカメラの速度によって自分の移動速度及びカメラ速度を変更する。
本発明の実施の形態によるネットワーク基盤のロボット制御システムの構成図。 本発明の実施の形態によるネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法に対するフローチャート。 本発明の実施の形態によるクライアントのブロック構成図。 本発明の実施の形態によるクライアントのロボット制御画面の一例を示す図。 本発明の実施の形態によるクライアントでロボット速度制御のための動作フローチャート。 本発明の実施の形態による速度加重値グラフの一例を示す図。 本発明の実施の形態による速度加重値グラフの一例を示す図。 本発明の実施の形態によるロボット制御メッセージフォーマットの一例を示す図。 本発明の実施の形態によるロボット制御メッセージフォーマットの一例を示す図。
符号の説明
100:クライアント
200:URCサーバー
210:映像データフレーム
220:映像データフレーム処理
230:映像データパケット
240:映像データ受信状態によるロボット制御速度の変更
250:ロボット制御メッセージ
260:ロボット制御メッセージ
270:速度変更
300:ロボット

Claims (13)

  1. ネットワーク基盤のロボット制御システムであって、
    所定の動作の実行に伴い撮影される映像データフレームを送信し、ロボット制御メッセージを受信するとき、受信されたロボット制御メッセージに含まれているロボットの制御速度によって速度を変更するロボットと、
    前記ロボットからの映像データフレームを受信し、有無線ネットワークを介して遠隔にてロボットを制御する装置であるクライアントの種別に応じて、前記ロボットから受信した映像データのフレーム数又は画質を調整して送信するサーバーと、
    前記サーバーを介して前記ロボットによって撮影された映像データフレームを受信し、 1秒当たりの受信映像データフレームの枚数で表される、前記映像データフレームの受信状態によって、前記枚数に依存する関数を使用してロボットの制御速度を計算し、ロボットの制御速度を含むロボット制御メッセージを生成して前記ロボットに送る、有無線ネットワークを介して遠隔にてロボットを制御する装置であるクライアントと、
    を備え
    前記ロボットの制御速度は、
    又は
    (ただし、V new は新たに計算されたロボット速度、V base は基本値に設定されているロボット速度、aは速度加重値、f c は1秒当たりの受信映像フレームの枚数、f max は1秒当たりの映像フレームの最大枚数)により計算されることを特徴とするシステム。
  2. 前記ロボットの制御速度は、前記ロボットの移動速度を含むことを特徴とする請求項1に記載のシステム。
  3. 前記ロボットの移動速度は、前記ロボットの移動方向に対する線速度と、前記ロボットの回転方向に対する回転角速度とを含むことを特徴とする請求項2に記載のシステム。
  4. 前記ロボットの制御速度は、前記ロボットカメラの上下/左右動速度及びズームイン/アウト倍率の調整速度のいずれかであるカメラ速度を含むことを特徴とする請求項1に記載のシステム。
  5. 前記ロボットの制御速度は、前記ロボットカメラの上下/左右動速度及びズーム速度のいずれかの速度を含むことを特徴とする請求項3に記載のシステム。
  6. 前記クライアントは、
    前記サーバーから前記ロボットによって撮影された周辺映像の映像データパケットを受信し、前記サーバーにロボット制御メッセージを送る送受信部と、
    前記1秒当たりの受信映像データフレームの数を計算する映像データ処理部と、
    前記1秒当たりの受信映像データフレームの数によってロボット速度を計算するロボットの制御速度計算部と、
    前記処理された映像データを表示するユーザーインターフェース部と、
    前記1秒当たりの受信映像データフレームの数によって、前記枚数に依存する関数を使用してロボットの制御速度を計算するロボットの制御速度計算部と、
    前記ロボットの制御速度を含むロボット制御メッセージを生成するロボット制御メッセージ生成部と、を備えることを特徴とする請求項1に記載のシステム。
  7. 前記ロボットの制御速度計算部は、あらかじめ設定されたロボット基本速度に前記1秒当たりの受信映像フレームの枚数による速度加重値を乗じて、前記枚数に依存する関数を使用して、新しいロボットの制御速度を計算することを特徴とする請求項6に記載のシステム。
  8. ネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法であって、
    前記ロボットによって撮影された映像データフレームを受信するステップと、
    1秒当たりの受信映像データフレームの枚数で表される、前記映像データフレームの受信状態によって、前記枚数に依存する関数を使用してロボットの制御速度を計算するステップと、
    前記ロボットの制御速度を含むロボット制御メッセージを生成して前記ロボットに送るステップと、
    を含み、
    前記ロボットの制御速度は、
    又は
    (ただし、V new は新たに計算されたロボット速度、V base は基本値に設定されているロボット速度、aは速度加重値、f c は1秒当たりの受信映像フレームの枚数、f max は1秒当たりの映像フレームの最大枚数)により計算されることを特徴とする方法。
  9. 前記ロボットが、前記ロボット制御メッセージに含まれているロボットの制御速度によってロボットの速度を変更するステップをさらに含むことを特徴とする請求項8に記載の方法。
  10. 前記ロボットの制御速度は、前記ロボットの移動速度を含むことを特徴とする請求項8に記載の方法。
  11. 前記ロボットの移動速度は、前記ロボットの移動方向に対する線速度と、前記ロボットの回転方向に対する回転角速度とを含むことを特徴とする請求項10に記載の方法。
  12. 前記ロボットの制御速度は、前記ロボットカメラの上下/左右動速度及びズームイン/アウト倍率の調整速度のいずれかであるカメラ速度を含むことを特徴とする請求項8に記載の方法。
  13. 前記ロボットの制御速度は、前記ロボットカメラの上下/左右動速度及びズーム速度を含むことを特徴とする請求項11に記載の方法。
JP2006114587A 2005-05-24 2006-04-18 ネットワーク基盤のロボット制御システム及びネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法 Expired - Fee Related JP4177385B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020050043722A KR100594165B1 (ko) 2005-05-24 2005-05-24 네트워크 기반 로봇 제어 시스템 및 네트워크 기반 로봇제어 시스템에서 로봇 속도 제어 방법

Publications (2)

Publication Number Publication Date
JP2006331404A JP2006331404A (ja) 2006-12-07
JP4177385B2 true JP4177385B2 (ja) 2008-11-05

Family

ID=37183264

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006114587A Expired - Fee Related JP4177385B2 (ja) 2005-05-24 2006-04-18 ネットワーク基盤のロボット制御システム及びネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法

Country Status (3)

Country Link
US (1) US7890210B2 (ja)
JP (1) JP4177385B2 (ja)
KR (1) KR100594165B1 (ja)

Families Citing this family (73)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040162637A1 (en) * 2002-07-25 2004-08-19 Yulun Wang Medical tele-robotic system with a master remote station with an arbitrator
US7813836B2 (en) 2003-12-09 2010-10-12 Intouch Technologies, Inc. Protocol for a remotely controlled videoconferencing robot
US8077963B2 (en) 2004-07-13 2011-12-13 Yulun Wang Mobile robot with a head-based movement mapping scheme
KR100902662B1 (ko) * 2004-12-30 2009-06-15 삼성전자주식회사 단말용 데이터 포맷을 이용한 통신 제어 시스템 및 그 방법
US9198728B2 (en) 2005-09-30 2015-12-01 Intouch Technologies, Inc. Multi-camera mobile teleconferencing platform
US8849679B2 (en) 2006-06-15 2014-09-30 Intouch Technologies, Inc. Remote controlled robot system that provides medical images
KR100769909B1 (ko) * 2006-09-06 2007-10-24 엘지전자 주식회사 이동 로봇 및 그 동작방법
TW200827957A (en) * 2006-12-21 2008-07-01 Ind Tech Res Inst Method for information transmission with backbone network and a position monitoring system for multiple robotic devices
US9160783B2 (en) 2007-05-09 2015-10-13 Intouch Technologies, Inc. Robot system that operates through a network firewall
KR101469246B1 (ko) * 2007-08-07 2014-12-12 삼성전자주식회사 로봇에서 사진 촬영하는 장치 및 방법
US10875182B2 (en) 2008-03-20 2020-12-29 Teladoc Health, Inc. Remote presence system mounted to operating room hardware
US8179418B2 (en) 2008-04-14 2012-05-15 Intouch Technologies, Inc. Robotic based health care system
US8170241B2 (en) 2008-04-17 2012-05-01 Intouch Technologies, Inc. Mobile tele-presence system with a microphone system
US9193065B2 (en) 2008-07-10 2015-11-24 Intouch Technologies, Inc. Docking system for a tele-presence robot
US9842192B2 (en) 2008-07-11 2017-12-12 Intouch Technologies, Inc. Tele-presence robot system with multi-cast features
US8340819B2 (en) 2008-09-18 2012-12-25 Intouch Technologies, Inc. Mobile videoconferencing robot system with network adaptive driving
US8996165B2 (en) 2008-10-21 2015-03-31 Intouch Technologies, Inc. Telepresence robot with a camera boom
US8463435B2 (en) 2008-11-25 2013-06-11 Intouch Technologies, Inc. Server connectivity control for tele-presence robot
US9138891B2 (en) 2008-11-25 2015-09-22 Intouch Technologies, Inc. Server connectivity control for tele-presence robot
US20100152897A1 (en) * 2008-12-16 2010-06-17 MULLER Jeffrey Method & apparatus for controlling the attitude of a camera associated with a robotic device
US8849680B2 (en) 2009-01-29 2014-09-30 Intouch Technologies, Inc. Documentation through a remote presence robot
US8897920B2 (en) 2009-04-17 2014-11-25 Intouch Technologies, Inc. Tele-presence robot system with software modularity, projector and laser pointer
US11399153B2 (en) 2009-08-26 2022-07-26 Teladoc Health, Inc. Portable telepresence apparatus
US8384755B2 (en) 2009-08-26 2013-02-26 Intouch Technologies, Inc. Portable remote presence robot
US11154981B2 (en) 2010-02-04 2021-10-26 Teladoc Health, Inc. Robot user interface for telepresence robot system
US8670017B2 (en) 2010-03-04 2014-03-11 Intouch Technologies, Inc. Remote presence system including a cart that supports a robot face and an overhead camera
US10343283B2 (en) 2010-05-24 2019-07-09 Intouch Technologies, Inc. Telepresence robot system that can be accessed by a cellular phone
US10808882B2 (en) 2010-05-26 2020-10-20 Intouch Technologies, Inc. Tele-robotic system with a robot face placed on a chair
KR101251184B1 (ko) * 2010-08-05 2013-04-08 서울대학교산학협력단 구동 명령을 이용한 비젼 트래킹 시스템 및 방법
US9264664B2 (en) 2010-12-03 2016-02-16 Intouch Technologies, Inc. Systems and methods for dynamic bandwidth allocation
CN103459099B (zh) 2011-01-28 2015-08-26 英塔茨科技公司 与一个可移动的远程机器人相互交流
US9323250B2 (en) 2011-01-28 2016-04-26 Intouch Technologies, Inc. Time-dependent navigation of telepresence robots
US10769739B2 (en) 2011-04-25 2020-09-08 Intouch Technologies, Inc. Systems and methods for management of information among medical providers and facilities
US9098611B2 (en) 2012-11-26 2015-08-04 Intouch Technologies, Inc. Enhanced video interaction for a user interface of a telepresence network
US20140139616A1 (en) 2012-01-27 2014-05-22 Intouch Technologies, Inc. Enhanced Diagnostics for a Telepresence Robot
US8836751B2 (en) 2011-11-08 2014-09-16 Intouch Technologies, Inc. Tele-presence system with a user interface that displays different communication links
US8902278B2 (en) 2012-04-11 2014-12-02 Intouch Technologies, Inc. Systems and methods for visualizing and managing telepresence devices in healthcare networks
US9251313B2 (en) 2012-04-11 2016-02-02 Intouch Technologies, Inc. Systems and methods for visualizing and managing telepresence devices in healthcare networks
US9361021B2 (en) 2012-05-22 2016-06-07 Irobot Corporation Graphical user interfaces including touchpad driving interfaces for telemedicine devices
EP2852881A4 (en) 2012-05-22 2016-03-23 Intouch Technologies Inc GRAPHIC USER INTERFACES CONTAINING TOUCH PAD TOUCH INTERFACES FOR TELEMEDICINE DEVICES
JP6202544B2 (ja) 2012-08-27 2017-09-27 アクティエボラゲット エレクトロラックス ロボット位置決めシステム
CN110710920B (zh) 2013-04-15 2021-12-14 伊莱克斯公司 具有伸出的侧刷的机器人真空吸尘器
JP6217952B2 (ja) 2013-04-15 2017-10-25 アクティエボラゲット エレクトロラックス ロボット真空掃除機
JP6166107B2 (ja) * 2013-06-17 2017-07-19 株式会社Ihiエアロスペース 無人移動体の遠隔操縦システム及び無人移動体
US10617271B2 (en) 2013-12-19 2020-04-14 Aktiebolaget Electrolux Robotic cleaning device and method for landmark recognition
JP6494118B2 (ja) 2013-12-19 2019-04-03 アクチエボラゲット エレクトロルックス 障害物の乗り上げの検出に伴うロボット掃除機の制御方法、並びに、当該方法を有するロボット掃除機、プログラム、及びコンピュータ製品
EP3084539B1 (en) 2013-12-19 2019-02-20 Aktiebolaget Electrolux Prioritizing cleaning areas
EP3084540B1 (en) 2013-12-19 2021-04-14 Aktiebolaget Electrolux Robotic cleaning device and operating method
EP3082541B1 (en) 2013-12-19 2018-04-04 Aktiebolaget Electrolux Adaptive speed control of rotating side brush
KR102116596B1 (ko) 2013-12-19 2020-05-28 에이비 엘렉트로룩스 나선형 패턴으로 이동하는 사이드 브러시를 구비한 로봇 진공 청소기
JP6455737B2 (ja) 2013-12-19 2019-01-23 アクチエボラゲット エレクトロルックス 方法、ロボット掃除機、コンピュータプログラムおよびコンピュータプログラム製品
CN105848545B (zh) 2013-12-20 2019-02-19 伊莱克斯公司 灰尘容器
ES2681802T3 (es) 2014-07-10 2018-09-17 Aktiebolaget Electrolux Método para detectar un error de medición en un dispositivo de limpieza robotizado
CN106659345B (zh) 2014-09-08 2019-09-03 伊莱克斯公司 机器人真空吸尘器
WO2016037636A1 (en) 2014-09-08 2016-03-17 Aktiebolaget Electrolux Robotic vacuum cleaner
EP3230814B1 (en) 2014-12-10 2021-02-17 Aktiebolaget Electrolux Using laser sensor for floor type detection
CN107072454A (zh) 2014-12-12 2017-08-18 伊莱克斯公司 侧刷和机器人吸尘器
WO2016095966A1 (en) 2014-12-16 2016-06-23 Aktiebolaget Electrolux Cleaning method for a robotic cleaning device
WO2016095965A2 (en) 2014-12-16 2016-06-23 Aktiebolaget Electrolux Experience-based roadmap for a robotic cleaning device
CN107405034B (zh) 2015-04-17 2022-09-13 伊莱克斯公司 机器人清洁设备以及控制所述机器人清洁设备的方法
JP6736831B2 (ja) 2015-09-03 2020-08-05 アクチエボラゲット エレクトロルックス ロボット清掃デバイスのシステム、清掃デバイスを制御する方法、コンピュータプログラム及びコンピュータプログラム製品
EP3430424B1 (en) 2016-03-15 2021-07-21 Aktiebolaget Electrolux Robotic cleaning device and a method at the robotic cleaning device of performing cliff detection
US11122953B2 (en) 2016-05-11 2021-09-21 Aktiebolaget Electrolux Robotic cleaning device
US11862302B2 (en) 2017-04-24 2024-01-02 Teladoc Health, Inc. Automated transcription and documentation of tele-health encounters
KR20200013657A (ko) 2017-06-02 2020-02-07 에이비 엘렉트로룩스 로봇 청소 장치 전방의 표면의 레벨차를 검출하는 방법
US10483007B2 (en) 2017-07-25 2019-11-19 Intouch Technologies, Inc. Modular telehealth cart with thermal imaging and touch screen user interface
US11636944B2 (en) 2017-08-25 2023-04-25 Teladoc Health, Inc. Connectivity infrastructure for a telehealth platform
CN111093447B (zh) 2017-09-26 2022-09-02 伊莱克斯公司 机器人清洁设备的移动控制
EP3540549A1 (de) * 2018-03-15 2019-09-18 Siemens Aktiengesellschaft Verfahren und system zum begrenzen einer mechanischen bewegung und/oder eines wirkungsbereichs einer maschine
US10617299B2 (en) 2018-04-27 2020-04-14 Intouch Technologies, Inc. Telehealth cart that supports a removable tablet with seamless audio/video switching
CN108814446A (zh) * 2018-07-06 2018-11-16 杭州它人机器人技术有限公司 无人驾驶尘推车及其运行方法
JP2021117854A (ja) * 2020-01-29 2021-08-10 株式会社日立製作所 移動体を制御するシステム
CN112162294B (zh) * 2020-10-10 2023-12-15 北京布科思科技有限公司 一种基于激光传感器的机器人结构检测方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0633546B1 (en) * 1993-07-02 2003-08-27 Siemens Corporate Research, Inc. Background recovery in monocular vision
JPH08256318A (ja) 1995-03-17 1996-10-01 Fujitsu Ltd テレビ会議システムのカメラ制御装置
US6799065B1 (en) * 1998-12-08 2004-09-28 Intuitive Surgical, Inc. Image shifting apparatus and method for a telerobotic system
JP3980205B2 (ja) 1998-12-17 2007-09-26 コニカミノルタホールディングス株式会社 作業ロボット
US7047105B2 (en) * 2001-02-16 2006-05-16 Sanyo Electric Co., Ltd. Robot controlled by wireless signals
US6739078B2 (en) * 2001-08-16 2004-05-25 R. Morley, Inc. Machine control over the web
US7079924B2 (en) * 2002-11-07 2006-07-18 The Regents Of The University Of California Vision-based obstacle avoidance
JP2004208001A (ja) 2002-12-25 2004-07-22 Sharp Corp 無線通信システム、無線通信方法、無線通信プログラム及びプログラム記録媒体
US7756322B2 (en) * 2003-08-18 2010-07-13 Honda Motor Co., Ltd. Picture taking mobile robot

Also Published As

Publication number Publication date
KR100594165B1 (ko) 2006-06-28
US7890210B2 (en) 2011-02-15
US20060271238A1 (en) 2006-11-30
JP2006331404A (ja) 2006-12-07

Similar Documents

Publication Publication Date Title
JP4177385B2 (ja) ネットワーク基盤のロボット制御システム及びネットワーク基盤のロボット制御システムにおけるロボット速度の制御方法
CN108513070B (zh) 一种图像处理方法、移动终端及计算机可读存储介质
AU2014290798B2 (en) Wireless video camera
JP5724346B2 (ja) 映像表示装置、映像表示システム、映像表示方法およびプログラム
EP2942936B1 (en) Zoom input and camera selection
JP2007043505A (ja) 撮像システムとカメラ制御装置およびパノラマ画像生成方法とプログラム
CN107211089B (zh) 跟踪系统、终端装置、相机装置、跟踪摄影方法及程序
CN105657257A (zh) 全景照片的拍摄方法、装置、系统、移动终端及自拍杆
JP2015119338A (ja) 制御装置、撮像システム、制御方法、及び、プログラム
WO2014065127A1 (ja) 情報処理端末、撮像機、情報処理方法、プログラム、および遠隔撮像システム
JP2016100636A (ja) 撮像装置
JP2016208416A (ja) コミュニケーションシステムおよびその制御方法
JP6608196B2 (ja) 情報処理装置、情報処理方法
CN107925723A (zh) 摄像设备
JP6231757B2 (ja) 撮像装置、情報処理装置及びそれらの制御方法、プログラム
EP2942945A1 (en) System and method of precision remote ptz control of ip cameras
CN103475808A (zh) 给图像拍摄装置的操作者显示图像的方法、系统和装置
JP2004289658A (ja) 撮像システムおよび撮像装置の操作方法
JP2012227603A (ja) カメラ制御装置、カメラ制御装置の制御方法
JP2023070252A (ja) 情報処理装置、方法及びプログラム
JP6819403B2 (ja) 情報出力装置、プログラム及び情報出力方法
JP2007104273A (ja) メッセージングシステム、サーバ装置およびプログラム
CN105100602A (zh) 摄像设备及其控制方法
JP6702675B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
JP2023141330A (ja) 撮像装置、制御方法、およびプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080722

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080821

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4177385

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees