JP2007331061A - 移動型ロボットシステムにおけるマニピュレータ遠隔操作方法 - Google Patents

移動型ロボットシステムにおけるマニピュレータ遠隔操作方法 Download PDF

Info

Publication number
JP2007331061A
JP2007331061A JP2006165836A JP2006165836A JP2007331061A JP 2007331061 A JP2007331061 A JP 2007331061A JP 2006165836 A JP2006165836 A JP 2006165836A JP 2006165836 A JP2006165836 A JP 2006165836A JP 2007331061 A JP2007331061 A JP 2007331061A
Authority
JP
Japan
Prior art keywords
manipulator
mobile robot
obstacle
image
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006165836A
Other languages
English (en)
Other versions
JP4558682B2 (ja
Inventor
Mitsuru Takahashi
充 高橋
Kazuhiko Hino
一彦 日野
Yoshiyuki Kanamori
義之 金森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2006165836A priority Critical patent/JP4558682B2/ja
Publication of JP2007331061A publication Critical patent/JP2007331061A/ja
Application granted granted Critical
Publication of JP4558682B2 publication Critical patent/JP4558682B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Manipulator (AREA)

Abstract

【課題】障害物の3次元形状や大きさを視認して遠隔移動型ロボット操作において障害物の除去や回避する行動ができるようにした遠隔操作ロボットシステムを提供することにある。
【解決手段】カメラと距離計測装置を備えたマニピュレータを設置した移動型ロボットシステムのマニピュレータを操縦システムにより遠隔操作する方法であって、表示装置に表示されたカメラ画像を見ながら少なくとも障害物がカメラ画像内に映し出されるようにマニピュレータを遠隔操作する操作過程と、該操作過程で映し出された少なくとも障害物についての3次元形状を前記距離計測装置により計測する計測過程とを有することを特徴とする。
【選択図】 図1

Description

本発明は、カメラと距離計測センサとを備えたマニピュレータを有する移動型ロボットシステムを操縦システムから遠隔操作するマニピュレータ遠隔操作方法に関し、特に障害物がカメラ画像内に映し出されるようにマニピュレータを遠隔操作して該障害物の3次元形状について距離計測センサを用いて計測する移動型ロボットシステムにおけるマニピュレータ遠隔操作方法に関する。
マニピュレータとは、人間の腕を模擬した多関節を有する機械である。あらかじめ動作内容をマニピュレータまたはマニピュレータに接続されたコンピュータに記憶させておくことで、決められた動作を行うことができる。精密な作業を高速で繰り返し行うことができるので、工場など生産ラインの現場などで利用されている。また、医療分野においては、医師がマニピュレータを遠隔操作し、手術などを行う利用方法もある。
人が近づけない場所へロボットを移動させ、マニピュレータを遠隔操作することで、本来人間に及ぶ危険を未然に回避するといった利用法が提案されている。
遠隔操作を行う場合、オペレータはマニピュレータが見える位置にいるか、またはロボットの有するカメラから映し出される画像や映像を見ながら操作することになる。例えば、ロボットに装着されたセンサが走行中に障害となる物体を検知したときに、オペレータはカメラ画像を見て障害物を判断する。このとき、カメラ画像を元にロボットに障害物の除去や回避などの行動を指示することができる。
しかし、オペレータがカメラ画像から障害物を正確に確認できない場合がある。カメラ画像はあくまで二次元表示であるため距離感が分りづらく、また立体的形状を把握することが難しい。そこで、カメラ画像に映し出された基準となる物体の大きさから他の物体の大きさを推定するか、ロボットにレーザレーダセンサなどの距離計測装置を搭載し、障害物の大きさを測定する方法が用いられている。
特許文献1(特開2004−257927号公報)は、遠隔操作によって物体の3次元形状を計測できる装置について記載している。この方法では、マニピュレータ先端部に3次元形状計測装置を備え、測定装置を所望の位置に移動させて、所望位置から測定対象物の3次元形状を計測できる。
特許文献2(特開2002−84531号公報)では、ロボットにカメラを取り付けて、遠隔操縦可能な移動型ロボットシステムを実現している。この方法では、オペレータは遠隔地点の情報についてカメラ画像を通じて取得できる。
特許文献3(特開2003−256025号公報)には、目的作業の要件から決まる幾何要素間の空間的な拘束を含んだ形式で軌道などの幾何要素を予めパラメトリックモデリング手法によって定義し、ライブラリ化及びメニュー化しておくことで、実際の教示段階では少ないステップで様々な拘束条件を設定できるようにしたロボット動作教示技術が記載されている。
特開2004−257927号公報 特開2002−84531号公報 特開2003−256025号公報
従来のロボットシステムでは、単純にカメラを備えて画像を取得したり、非移動型ロボットのマニピュレータにカメラや3次元形状計測装置を個別に備えたりするのみである。このため、離れた地点でロボット本体を移動させた後にカメラ画像を取得し、同時に障害物の3次元形状を把握することは難しい。また、3次元形状を把握したのちにロボットの自己位置と障害物との位置関係を視覚的に把握することも難しい。
本発明の目的は、上記課題を解決すべく、移動型ロボットシステムにおいて、マニピュレータに設置した距離計測装置を用いて、障害物の3次元形状や大きさをオペレータが視認できるようにして、遠隔ロボット操作による障害物の除去や回避行動が行えるようにした移動型ロボットシステムにおけるマニピュレータ遠隔操作方法を提供することにある。
上記目的を達成するために、本発明は、カメラと距離計測装置を備えたマニピュレータを設置した移動型ロボットシステムと、入力装置と表示装置とを備えた操縦システムとの間を通信により送受信できるように構成し、前記移動型ロボットシステムの前記マニピュレータを前記操縦システムから前記通信を用いて遠隔操作する方法であって、前記カメラで撮像したカメラ画像(平面的な濃淡画像又はカラー画像)の情報を前記移動型ロボットシステムから前記操縦システムに送信して前記カメラ画像を前記表示装置に表示する第1の表示過程と、該第1の表示過程で前記表示装置に表示されたカメラ画像を見ながら少なくとも障害物が前記カメラ画像内に映し出されるように、前記入力装置に入力された操作指示を前記操縦システムから前記通信によって前記移動型ロボットシステムに送信して前記マニピュレータを遠隔操作する操作過程と、該操作過程での前記マニピュレータの遠隔操作によって前記表示装置に表示されたカメラ画像内に映し出された少なくとも障害物についての3次元形状を前記距離計測装置により計測する計測過程とを有することを特徴とする。
また、本発明は、更に、前記計測過程で計測した少なくとも障害物についての3次元形状の情報を前記移動型ロボットシステムから前記操縦システムに送信して前記障害物についての3次元形状(立体画像)を前記表示装置に表示する第2の表示過程を有することを特徴とする。
また、本発明は、前記第2の表示過程において、前記表示装置に表示する前記障害物についての3次元形状(立体画像)に対して、前記第1の表示過程で前記表示装置に表示するカメラ画像(平面的な濃淡画像又はカラー画像)を重ねて表示することを特徴とする。
また、本発明は、前記第2の表示過程において、更に、前記移動型ロボットシステムにおける前記マニピュレータを含む移動型ロボット本体の3次元形状(立体画像)を重ねて表示することを特徴とする。
即ち、本発明は、カメラ画像を基に移動型ロボットの障害物となる物体を発見したとき、操作指示によりマニピュレータを移動させてカメラの角度を変え、所望の角度で取得されるカメラ画像で障害物を確認し、該確認された障害物までの距離を距離計測装置によって計測する。このとき、距離計測装置にはカメラ画像で映し出される物体を計測できるように計測範囲をプログラムしておく。さらに、マニピュレータの各関節軸回転角度はセンサ(エンコーダ)によって既知であるため、距離計測装置から障害物までの直線距離L、水平方向角度α、奥行方向角度βが測定できる。そして、計測した距離と角度に三角関数を用いることによって、距離計測装置と対象物までの水平方向及び奥行方向の距離を求めることができる。すなわち、3次元における距離計測装置と障害物との位置関係が求まることになり、障害物の形状を立体的に表現することができる。さらに、マニピュレータは移動できるため、障害物に対して複数の角度から立体的形状を把握することができる。
また、本発明は、求まった立体的形状(立体画像)とカメラ画像(平面的な濃淡画像又はカラー画像)を重ね合わせることにより、障害物の表面模様とその立体的形状を同時に把握することができる。
また、本発明は、移動型ロボットシステムの本体の3次元形状(立体画像)を加えることで、オペレータは障害物との位置関係を明確に把握することが可能である。
本発明によれば、遠隔操作可能な移動型ロボットシステムのマニピュレータを操縦システムにより操作し、所望の角度でカメラ画像を見ながら障害物や調査対象物の表面画像と距離計測装置による3次元形状を把握することができるため、人が近づけないような危険地帯においても遠隔からロボット操作によって、人間に及ぶ危険を回避しながら安全に現地の詳細な3次元情報を収集することが可能となる。
本発明に係る移動型ロボットシステム及び移動型ロボットシステムにおけるマニピュレータ遠隔操作方法の実施の形態について図面を用いて詳細に説明する。
図1は本発明に係る移動型ロボットシステムの一実施の形態を示す図であって、本発明に係る移動型ロボットシステムは、遠隔ロボット操作可能な操縦システム20とロボット本体システム1とから構成される。操縦システム20は、遠隔地から通信を使用して移動型(走行)ロボット本体5を操作可能に構成され、移動型ロボット本体5に備えられたマニピュレータ9やカメラ13及び距離計測装置10等を、通信装置27、8を介して制御可能である。マニピュレータ9は、例えば、肩部9d、上腕9a、前腕9b及び手首9c等を備えて構成される。オペレータ25は、遠隔地から操縦システム20を通じて移動型ロボット本体5の操縦を行い、移動型ロボット本体5から情報を受け取る。
操縦システム20は、オペレータ25が遠隔地から画像表示装置23に映し出されるカメラ画像を基にして、入力装置22を用いて移動型ロボット本体5を移動させたり、マニピュレータ9を構成する各関節軸の角度を与えることで距離計測装置10及びカメラ13を搭載したマニピュレータ9の位置を移動させたり、具体的なマニピュレータ9を含めたロボット本体5に関する操作指示を行う。指示処理装置21は、入力装置22で入力されたオペレータ25の操作情報28を受け取り、通信用操作データに変換すると共に、該変換された操作データを通信装置27からロボット本体システム1の通信装置8に送信することになる。
ロボット本体システム1は、操縦システム側と通信を行う通信装置8と、ロボット側へ送信された操作データを基に、移動型(走行)ロボット本体5の走行も含めてマニピュレータ9並びに該マニピュレータ9に搭載された距離計測装置10やカメラ13を動作させるための駆動制御データを生成すると共に距離計測装置10で計測される距離データを基にマニピュレータ9の座標系(カメラ座標系)での例えば障害物30の3次元立体形状を算出する信号処理装置11と、カメラ13から撮像したカメラ画像データを取得し、該取得されたカメラ画像データを通信用カメラ画像データに変換する画像処理装置12とを備えて構成される。信号処理装置11は、さらに移動型ロボット本体5の各種装置(例えばエンコーダ)からの一部フィードバック情報も受けて上記駆動制御データを生成することになる。そして、画像処理装置12で変換された通信用カメラ画像データや信号処理装置11で生成したロボット本体の動作情報は、通信装置8を介して操縦システム側の通信装置27に送信され、指示処理装置21から画像情報29として画像表示装置23に表示されてオペレータ25へ伝えられることになる。その結果、遠隔地から入力装置22を用いて操作情報28を入力することによって、移動型ロボット本体5として障害になる障害物30の外形情報(カメラ画像)が画像表示装置23に表示されて得られるように、マニピュレータ9やカメラ13の角度を操作することが可能となる。
即ち、本発明は、障害物30などの対象物体までの距離を計測することが可能な距離計測装置10を搭載したマニピュレータ9を有する移動型ロボット本体5において、マニピュレータ9に装着されたカメラ13からのカメラ画像(平面的な濃淡画像又はカラー画像)を基にしてマニピュレータ9を移動させ、マニピュレータ9に設置した距離計測装置10を用いてカメラ画像内に映し出された障害物30までの距離を計測することにより少なくとも障害物30等の3次元立体形状を取得することにある。
ところで、距離計測装置10は、その正面側に位置する障害物等の対象物体の3次元表面形状を、レーザ光を用いて3角測量法に従って自身の座標系(x,y,z)で計測すると共に、該計測した対象物体の3次元形状を表す情報を出力して信号処理装置11に送信するように構成される。即ち、距離計測装置10は、レーザ光源(図示せず)から対象物体に向けて出射されるレーザ光の進行方向にほぼ垂直な仮想平面を想定すると共に、該仮想平面上にて互に直交するx軸方向及びy軸方向に沿って分割した多数の微小エリアを想定する。そして、距離計測装置10は、上記多数の微小エリアにレーザ光を順次照射し、対象物体からの反射光によって上記微小エリアを規定する対象物体の表面までの距離をz軸方向距離として順次検出し、対象物体の表面を微小エリアに分割した各分割エリア位置を表わすx,y,z座標に関する情報(データ)を得て距離計測装置に面した対象物体の表面形状を計測するものである。従って、距離計測装置10は、出射レーザ光の向きをx軸方向に変化させるx軸方向走査器(偏向器)(図示せず)と、出射レーザ光の向きをy軸方向に変化させるy軸方向走査器(偏向器)(図示せず)と、対象物体の表面から反射された反射レーザ光を受光して対象物体の表面までの距離を検出する距離検出器(図示せず)とを備えて構成される。距離検出器としては、出射レーザ光の光路に追従して回転し、対象物体の表面にて反射された反射レーザ光を集光する結像レンズ及び該集光したレーザ光を受光するCCDなどの複数の受光素子を一列に配列したラインセンサからなり、ラインセンサによる反射光の受光位置によって対象物体の表面までの距離を検出できるように構成される。
次に、本発明に係るロボットシステム全体の処理の流れについて図2に示すフローチャートを用いて説明する。まず、オペレータ25は入力装置22を用いて遠隔地にある操縦システム20から、ロボット本体システム1の移動型ロボット本体5に対してカメラ画像の取得を指示する(S1)。カメラ13は常に最新の画像を取得し続けるものとして、その後、特に画像取得の指示を行う必要はない。オペレータ25が入力装置22を用いて画像取得を指示すると、該指示は操作情報28として指示処理装置21へ送信される。指示処理装置21は、操作情報28を通信形式の操作データに変換する。通常、通信情報量を削減するために指示処理装置21にて情報の圧縮変換を行う。データを圧縮変換後、指示処理装置21に具備された通信装置27にデータが送信される。操縦システム20の通信装置27は、離れた地点にある移動型ロボット本体5に具備された通信装置8に対して情報を伝送する。このときの通信方式は、代表的には無線LANなどが挙げられるが、これに限定するものではない。
移動型ロボット本体5の通信装置8はデータ受信後、連結されている信号処理装置11へデータを送る。信号処理装置11は、圧縮されたデータを解凍した後、指示対象の移動型ロボット本体5が動作できるようなデータに変換して移動型ロボット本体へ送信する。例えば、カメラ13に画像取得指示を行う場合には、カメラ13に対して取得指示が出され、カメラ13は画像取得を実行する。取得した画像は画像処理装置12へ送信され、圧縮などの変換が行われる。一般的に画像データの場合、操作情報に比べるとファイルサイズは大きなものとなる。さらに、画像取得頻度が時間当たりで多くなるよう設定すれば、通信量は膨大となる。従って、画像処理装置12を信号処理装置11とは別で利用することで、信号処理装置11へかかる負荷を減らしている。ただし、画像ファイルサイズが非常に小さく、取得頻度も少ない場合、この限りではない。
カメラ13で取得された画像データは画像処理装置12で圧縮後、移動型ロボット本体5の通信装置8へ送信されて、操縦システム側の通信装置27へ転送される。指示処理装置21は圧縮された画像データを解凍し、画像情報29として画像表示装置23に表示する(S2)。
以上の処理の流れから、オペレータ25は画像表示装置23によりカメラ画像を観測することができる。このとき、カメラ画像のほかにカメラのステータス情報、例えばカメラ13のパン・チルト/ズームなどの各数値が移動型ロボット本体5から送信されていれば、この情報もオペレータは確認することができる。ロボット本体及び具備された各装置をオペレータが操作し、取得した情報をフィードバックさせてオペレータが確認できる手順は同様の処理の流れとなる。これ以降、同様のデータフローについては省略する。
次に、カメラ画像表示後、距離計測装置10のキャリブレーションを行う(S3)。図3にはキャリブレーション開始(S31)からのフローを示す。キャリブレーションでは、距離計測装置10が例えば障害物30の3次元情報を計測する際の基本的な設定を行う。カメラ13の水平方向視野角は既知であり、この視野角を距離計測装置10の水平方向角度の最大値に割付けることで、距離計測装置10での水平方向の3次元形状計測範囲が定まる(S32)。次に、同様にカメラ13の高さ−奥行方向(仰方向)視野角を距離計測装置10の高さ方向角度の最大値に割付ける(S33)。距離計測の範囲を決定した後、計測座標(微小エリア)の数を設定する。ここでは、水平方向座標数をm、高さ方向座標数をnとして、計測座標数はn×m点となる(S34)。nおよびmは、利用する距離計測装置に依存する場合もあるが、計測座標数が多いほど詳細な3次元形状を計測することができる。オペレータが座標数を指定するか、あらかじめ設定した値を読み込む。
キャリブレーション後、オペレータ25は画像表示装置23に映し出された画像を見ながら、入力装置22にてマニピュレータ9及びカメラ13の角度を変更する(S4)。マニピュレータ9は複数の関節軸を備え、関節軸に対して角度を指定すればその角度へ移動する。カメラ13については、パン・チルト/ズーム機能を備えたものを利用すれば、オペレータは入力装置22からカメラ13の角度を変更可能となる。ただし、カメラ13の角度を変更した場合、キャリブレーションをやり直す必要がある。その場合は、距離計測装置10の計測範囲について、カメラ13の角度変更分を加算すればよい。
この後、距離計測装置10に対して距離計測を指示すれば(S5)、3次元形状の計測が開始される(S51)。距離計測のフローを図4に示す。まず、距離計測装置10は、カメラ画像の範囲内において、障害物30の表面の座標までの距離Lと、マニピュレータ9のエンコーダから検出される各関節軸の角度から水平−奥行方向の角度αを計測する(S6)。計測される二つの値L,αについては、同時に得られるものとする。次に、これら値L,αと、マニピュレータ9のエンコーダから得られる高さ−奥行方向の角度βを基に、障害物30の表面座標(x,y,z)を計算する(S7)。
座標の計算フローを図5に示す。図5では、座標計算を開始すると(S71)、図7に示すように距離計測装置10によって計測される障害物30までの直線距離L(F5)と、マニピュレータ9のエンコーダから得られる角度α(F3)を用いて、三角関数によって水平方向の座標x=−Lcosαを計算する(S72)。座標xの値は、距離計測装置10の計測結果から求めることができる。次に、マニピュレータ9のエンコーダから得られる角度β(F4)を用いて高さ方向の座標y=−Lcos(90°−α)cosβを求める(S73)。さらに、直線距離Lと角度βから、奥行方向の座標z=Lcos(90°−α)sinβを求める(S74)。βはマニピュレータ9の各関節軸の角度から既知である。例えば、信号処理装置11はこれら計算結果として、障害物30の表面の座標である(x,y,z)をロボット本体5に設けられた記憶装置(図示せず)に保存する(S75)。以上より、ロボット本体システム1のロボット本体5は障害物30の座標を求め、記憶装置(図示せず)に記憶することができる。このときのイメージを図7に示す。9はマニピュレータで、その上に距離計測装置10を具備し、x−L平面上での水平軸とLのなす角度αをF3、y−z平面上での高さ方向軸とLのなす角度βをF4、直線距離をF5、障害物を30、障害物表面の座標(x,y,z)をF7、カメラを13、障害物30までの距離Lをy−z平面に投影させたときの距離をA(F9)で示す。
図4に示すように、ステップS7の後、例えばロボット本体5の信号処理装置11は座標を逐次計算して障害物30の表面全体の形状を求める。障害物30に対して、例えばx軸方向走査器(偏向器)を用いて水平方向に距離計測の対象座標を移動させる(S76)。具体的には、例えばx軸方向走査器(偏向器)を用いて距離計測装置10の放射する計測レーザ光の照射角度を変更する。水平方向の終端まで距離計測を行った後、例えばy軸方向走査器(偏向器)を用いて障害物30に対して高さ方向に距離計測の対象座標を移動させる(S77)。また、これは、マニピュレータ9の角度を高さ方向に動かすことでも実現することは可能である。あとは、高さ方向の終端まで同様の計測を繰り返す(S78)。
以上、ロボット本体5の例えば信号処理装置11で求まった障害物30の表面座標(x,y,z)の集合を、ロボット本体システム1から通信装置8及び27を介して操縦システム20の指示処理装置21に送信することによって、画像表示装置23に障害物30の3次元の形状を表示することができる(S8)。なお、形状表示には、求まった3次元座標点同士を面として捉えるモデリング技法であるサーフェスモデルなどを利用することで視覚効果を高めることもできる。
さらに、画像表示装置23に障害物と移動型ロボット本体との相対関係を3次元で表示することで、オペレータの操作性が向上する(S9)。図8(c)に示すような移動型ロボット本体5についての3次元画像82については、モデリングソフトなどを用いて、予め移動型ロボット本体5の形状を作成し、ロボット本体システム1に設けられた記憶装置(図示せず)又は操縦システム20に設けられた記憶装置(図示せず)に記憶しておく。また、図8(c)に示すようなマニピュレータ9の座標と障害物30との相対位置は、マニピュレータ9と距離計測装置10との相対的位置関係が決まっているので、距離計測装置10を用いて計測される距離L、並びにマニピュレータ9のエンコーダから検出される水平−奥行方向の角度α、高さ−奥行方向の角度βを基に把握することが可能となる。また、マニピュレータ9の各関節軸はセンサ(エンコーダ)により既知であるため、移動型ロボット本体5の座標やマニピュレータ9の関節軸を含めた形状(配置も含む)は、例えば信号処理装置11又は指示処理装置21内のCPUによって計算することが可能である。
次に、遠隔地にある操縦システム20の指示処理装置21は、カメラ画像を重畳するか否かを判断し(S10)、重畳する場合には、図8(a)に示すカメラ13で撮像したカメラ画像の上に、図8(b)に示すロボット本体システム1から操縦システム20に送信して画像表示装置23に障害物30や移動型ロボット本体5等の3次元形状を、図8(c)に示すように重畳させて画像表示装置23に表示する(S11)。その後、オペレータ25は画像表示装置23に表示された重畳画像を見ながら、別の視点から障害物の外形情報を取得するか否かの判断を行い(S12)、移動型ロボット本体5が視点を変えて障害物の外形情報を取得する(障害物の形状計測を行う)場合には、オペレータ25が入力装置22を用いて移動型ロボット本体5に対して視点を変える指示を出し、移動型ロボット本体5は該指示に従ってマニピュレータ9の角度を変更して、障害物30の3次元形状計測を行って外形形状を取得して記憶装置(図示せず)に記憶する。そして、ロボット本体システム1から操縦システム20に通信を用いて送信することによって、操縦システム20の指示処理装置21は、画像表示装置23に別の視点からの障害物の外形情報(3次元形状)を表示することが可能となる。
以上説明したように、遠隔地にある操縦システム20の画像表示装置23において、移動型ロボット本体5のカメラ13から取得した画像を3次元の障害物形状画像に重ねて表示することで、障害物の表面や周辺情報を詳しく把握することができる。即ち、図8(b)に示す障害物レイヤーの上に図8(a)に示すカメラ画像レイヤーを重畳することによって図8(c)に示す重畳画像が得られ、障害物の表面や周辺情報を詳しく把握することができる。
次に、重畳画像作成のフローについて図6を用いて説明する。即ち、重畳開始後(S111)、カメラ画像と3次元形状画像を対応付けるため、例えば距離計測装置10の信号処理を行う信号処理装置11とカメラ13で撮像したカメラ画像の処理を行う画像処理装置12との間において距離計測装置10でのキャリブレーションで計算したn×mの計測座標を、カメラ13で撮像したカメラ画像のサイズに均等に割り当てる(S112)。その後、例えば信号処理装置11は、画像処理装置12で処理するカメラ画像と同サイズの3次元空間において、例えば距離計測装置10で計測した3次元座標をプロットする(S113)。次に、信号処理装置11と画像処理装置12との間においてカメラ画像を3次元プロット画像のテクスチャとして上に重ね合わせて重畳を行う(S114)。このように重ね合わされた重畳画像を移動型ロボット本体5から通信を用いて操縦システム20の指示処理装置21に送信することによって、画像表示装置23は図8(c)に示す重畳画像を表示することができることになる。これにより、オペレータ25は、移動型ロボット本体と障害物の相対的な位置関係を把握し、全体像を見ながら入力装置22を用いてマニピュレータ操作を行うための指示などを行うことができる。
以上説明したように、本実施の形態によれば、遠隔操作可能な移動型ロボットのマニピュレータを、遠隔地においてカメラ画像を見ながら操作することによって、障害物や調査対象物の表面画像と3次元形状とを把握することができるため、人が近づけないような危険地帯においても遠隔からロボット操作によって、人間に及ぶ危険を回避しながら安全に現地の詳細な3次元情報を収集することが可能となる。
本発明に係る遠隔操作可能なロボットシステムの実施の形態を示した概略構成図である。 本発明に係る3次元形状計測時のフローの一実施例を示す図である。 本発明に係る3次元形状計測時の初期設定のフローの一実施例を示す図である。 本発明に係る距離計測時のフローの一実施例を示す図である。 本発明に係る3次元形状計測時の座標計算フローの一実施例を示す図である。 本発明に係る画像重畳のフローの一実施例を示す図である。 本発明に係る3次元形状計測時のマニピュレータと障害物の位置関係を示す図である。 本発明に係る画像重畳のイメージを示す図である。
符号の説明
1…ロボット本体システム、5…移動型ロボット本体、8…通信装置、9…マニピュレータ、10…距離計測装置、11…信号処理装置、12…画像処理装置、13…カメラ、20…操縦システム、21…指示処理装置、22…入力装置、23…画像表示装置、25…オペレータ、27…通信装置、30…障害物。

Claims (4)

  1. カメラと距離計測装置を備えたマニピュレータを設置した移動型ロボットシステムと、入力装置と表示装置とを備えた操縦システムとの間を通信により送受信できるように構成し、前記移動型ロボットシステムの前記マニピュレータを前記操縦システムから前記通信を用いて遠隔操作する方法であって、
    前記カメラで撮像したカメラ画像の情報を前記移動型ロボットシステムから前記操縦システムに送信して前記カメラ画像を前記表示装置に表示する第1の表示過程と、
    該第1の表示過程で前記表示装置に表示されたカメラ画像を見ながら少なくとも障害物が前記カメラ画像内に映し出されるように、前記入力装置に入力された操作指示を前記操縦システムから前記通信によって前記移動型ロボットシステムに送信して前記マニピュレータを遠隔操作する操作過程と、
    該操作過程での前記マニピュレータの遠隔操作によって前記表示装置に表示されたカメラ画像内に映し出された少なくとも障害物についての3次元形状を前記距離計測装置により計測する計測過程とを有することを特徴とする移動型ロボットシステムにおけるマニピュレータ遠隔操作方法。
  2. 更に、前記計測過程で計測した少なくとも障害物についての3次元形状の情報を前記移動型ロボットシステムから前記操縦システムに送信して前記障害物についての3次元形状を前記表示装置に表示する第2の表示過程を有することを特徴とする請求項1に記載の移動型ロボットシステムにおけるマニピュレータ遠隔操作方法。
  3. 前記第2の表示過程において、前記表示装置に表示する前記障害物についての3次元形状に対して、前記第1の表示過程で前記表示装置に表示するカメラ画像を重ねて表示することを特徴とする請求項2に記載の移動型ロボットシステムにおけるマニピュレータ遠隔操作方法。
  4. 前記第2の表示過程において、更に、前記移動型ロボットシステムにおける前記マニピュレータを含む移動型ロボット本体の3次元形状を重ねて表示することを特徴とする請求項3に記載の移動型ロボットシステムにおけるマニピュレータ遠隔操作方法。
JP2006165836A 2006-06-15 2006-06-15 移動型ロボットシステムにおけるマニピュレータ遠隔操作方法 Active JP4558682B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006165836A JP4558682B2 (ja) 2006-06-15 2006-06-15 移動型ロボットシステムにおけるマニピュレータ遠隔操作方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006165836A JP4558682B2 (ja) 2006-06-15 2006-06-15 移動型ロボットシステムにおけるマニピュレータ遠隔操作方法

Publications (2)

Publication Number Publication Date
JP2007331061A true JP2007331061A (ja) 2007-12-27
JP4558682B2 JP4558682B2 (ja) 2010-10-06

Family

ID=38931029

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006165836A Active JP4558682B2 (ja) 2006-06-15 2006-06-15 移動型ロボットシステムにおけるマニピュレータ遠隔操作方法

Country Status (1)

Country Link
JP (1) JP4558682B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010064161A (ja) * 2008-09-09 2010-03-25 Fuji Electric Systems Co Ltd 遠隔操作支援装置
JP2013111672A (ja) * 2011-11-25 2013-06-10 Chiba Inst Of Technology 無人走行体を用いた環境情報の取得システム
JP2015093345A (ja) * 2013-11-11 2015-05-18 株式会社安川電機 ロボットシミュレーション装置、ロボットシミュレーション方法、およびロボットシミュレーションプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105965486A (zh) * 2016-07-22 2016-09-28 广东电网有限责任公司电力科学研究院 一种电力作业机器人系统
JP7230626B2 (ja) * 2019-03-25 2023-03-01 株式会社Ihi ロボット装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6471691A (en) * 1987-09-14 1989-03-16 Ishikawajima Harima Heavy Ind Display system for manipulator
JPH05126521A (ja) * 1991-11-08 1993-05-21 Toshiba Corp 遠隔操作マニピユレータ用位置測定装置
JPH1034570A (ja) * 1996-07-19 1998-02-10 Fujitsu Ltd ロボット遠隔制御システム
JP2001179668A (ja) * 1999-12-28 2001-07-03 Toshiba Corp 事故対応ロボットシステム
JP2002254361A (ja) * 2001-02-27 2002-09-10 National Institute Of Advanced Industrial & Technology 移動マニピュレータの遠隔操作装置
JP2003251581A (ja) * 2002-03-03 2003-09-09 Tmsuk Co Ltd ロボット装置およびロボット遠隔操作システム
JP2003299674A (ja) * 2002-04-12 2003-10-21 Masasuke Shiraishi 手術台装置
JP2006113858A (ja) * 2004-10-15 2006-04-27 Mitsubishi Heavy Ind Ltd 移動体の遠隔操作支援方法及びシステム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6471691A (en) * 1987-09-14 1989-03-16 Ishikawajima Harima Heavy Ind Display system for manipulator
JPH05126521A (ja) * 1991-11-08 1993-05-21 Toshiba Corp 遠隔操作マニピユレータ用位置測定装置
JPH1034570A (ja) * 1996-07-19 1998-02-10 Fujitsu Ltd ロボット遠隔制御システム
JP2001179668A (ja) * 1999-12-28 2001-07-03 Toshiba Corp 事故対応ロボットシステム
JP2002254361A (ja) * 2001-02-27 2002-09-10 National Institute Of Advanced Industrial & Technology 移動マニピュレータの遠隔操作装置
JP2003251581A (ja) * 2002-03-03 2003-09-09 Tmsuk Co Ltd ロボット装置およびロボット遠隔操作システム
JP2003299674A (ja) * 2002-04-12 2003-10-21 Masasuke Shiraishi 手術台装置
JP2006113858A (ja) * 2004-10-15 2006-04-27 Mitsubishi Heavy Ind Ltd 移動体の遠隔操作支援方法及びシステム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010064161A (ja) * 2008-09-09 2010-03-25 Fuji Electric Systems Co Ltd 遠隔操作支援装置
JP2013111672A (ja) * 2011-11-25 2013-06-10 Chiba Inst Of Technology 無人走行体を用いた環境情報の取得システム
JP2015093345A (ja) * 2013-11-11 2015-05-18 株式会社安川電機 ロボットシミュレーション装置、ロボットシミュレーション方法、およびロボットシミュレーションプログラム
CN104626153A (zh) * 2013-11-11 2015-05-20 株式会社安川电机 机器人模拟装置以及机器人模拟方法

Also Published As

Publication number Publication date
JP4558682B2 (ja) 2010-10-06

Similar Documents

Publication Publication Date Title
JP4167954B2 (ja) ロボット及びロボット移動方法
CN113613852B (zh) 机器人手术碰撞检测系统
KR101049266B1 (ko) 이동형 로봇
US10730180B2 (en) User interface for a teleoperated robot
JP3343682B2 (ja) ロボット動作教示装置および動作教示方法
JP6445092B2 (ja) ロボットの教示のための情報を表示するロボットシステム
JP5390813B2 (ja) 空間情報表示装置及び支援装置
US11420335B2 (en) Information processing apparatus, information processing method, and information processing system
JP2006113858A (ja) 移動体の遠隔操作支援方法及びシステム
JP2016107379A (ja) 拡張現実対応ディスプレイを備えたロボットシステム
JP4558682B2 (ja) 移動型ロボットシステムにおけるマニピュレータ遠隔操作方法
JP2008254150A (ja) ロボットの教示装置及び教示方法
JP6445151B2 (ja) ロボット装置及びロボット装置の移動制御方法
KR20190136962A (ko) 역각 시각화 장치, 로봇 및 역각 시각화 프로그램
JP2010131751A (ja) 移動型ロボット
US20200361092A1 (en) Robot operating device, robot, and robot operating method
JPH05318361A (ja) 物体操作方式
US20240033930A1 (en) Remote control manipulator system and remote control assistance system
JP6368503B2 (ja) 障害物監視システム及びプログラム
EP3465362A1 (en) User interface for a teleoperated robot
JP3376029B2 (ja) ロボットの遠隔操作装置
JP2003271993A (ja) モニタ画像処理方法及び画像モニタシステム並びに保全作業システム
JP2011112579A (ja) 形状測定装置
JP2004243454A (ja) ロボットの工具形状指定装置および工具干渉チェック装置
CN116945157A (zh) 信息处理系统和方法、机器人系统和控制方法、物品制造方法、以及记录介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100420

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100706

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100721

R150 Certificate of patent or registration of utility model

Ref document number: 4558682

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 3