JP4517085B2 - ロボット遠隔制御システム - Google Patents

ロボット遠隔制御システム Download PDF

Info

Publication number
JP4517085B2
JP4517085B2 JP2004084536A JP2004084536A JP4517085B2 JP 4517085 B2 JP4517085 B2 JP 4517085B2 JP 2004084536 A JP2004084536 A JP 2004084536A JP 2004084536 A JP2004084536 A JP 2004084536A JP 4517085 B2 JP4517085 B2 JP 4517085B2
Authority
JP
Japan
Prior art keywords
robot
omnidirectional
remote control
communication
omnidirectional visual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004084536A
Other languages
English (en)
Other versions
JP2005271094A (ja
Inventor
敬宏 宮下
浩 石黒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ATR Advanced Telecommunications Research Institute International
Original Assignee
ATR Advanced Telecommunications Research Institute International
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ATR Advanced Telecommunications Research Institute International filed Critical ATR Advanced Telecommunications Research Institute International
Priority to JP2004084536A priority Critical patent/JP4517085B2/ja
Publication of JP2005271094A publication Critical patent/JP2005271094A/ja
Application granted granted Critical
Publication of JP4517085B2 publication Critical patent/JP4517085B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

この発明はロボット遠隔制御システムに関し、特にたとえば、ロボットと遠隔制御装置とを含み、ロボットの周囲の様子を表示する、ロボット遠隔制御システムに関する。
この種の従来のロボット遠隔操作システムの一例が非特許文献1に開示される。この非特許文献1では、人間型ロボットHRP−1Sを遠隔操作し、着座して運転を行うタイプの建設機械の代行運転操作を行うシステムが紹介される。ロボットが操作される可搬型遠隔操作装置では、操作者の前方に3つのディスプレイが設置され、操作者はこれらのディスプレイの少なくとも1つに表示されるロボット搭載カメラからの映像を見ながら、ロボットを操作する。
また、非特許文献2では、ロボットに対する遠隔操作プラットフォームとして『スーパーコックピット』と呼ばれるシステムが紹介されている。このシステムでは、ロボットの頭部には内蔵ステレオカメラのほか計8つのCCDカメラが設けられ、水平視野角150度、垂直視野角117度をカバーする9面の大型スクリーンが操作者の前方に設けられ、そのスクリーンにロボットの視点からの3次元映像が表示される。
"プレス・リリース (4)人間型ロボットによる建設機械の代行運転の実現"、ホーム>プレス・リリース>働く人間型ロボット、[online]、2002年4月10日、産業技術総合研究所、[平成16年3月16日検索]、インタネット<URL:http://www.aist.go.jp/aist_j/press_release/pr20020410/hrp/pr20020410_4.html> "MSTC、人間協調・共存型ロボットの研究プロジェクトのプラットフォームを公開"、ASCII24/ニュース/テクノロジー/デバイス、[online]、2000年4月7日、アスキー株式会社、[平成16年3月13日検索]、インタネット<URL:http://ascii24.com/news/i/tech/article/2000/04/07/608220-000.html>
上述の非特許文献1および2のシステムでは、いずれも、ロボットの前方の眺めを操作者の前方に設けたディスプレイまたはスクリーンに表示するだけである。したがって、操作者はロボットの前方以外の周囲の様子を見るためには、たとえばロボットを移動または旋回させてカメラの視野範囲を変更しなければならなかったので、操作が面倒であった。また、この場合、周囲の状況が把握できていないので、周囲の危険度も分からず、ロボットの操作に危険性があった。特にコミュニケーションロボット等のように周りに人間が存在する可能性が高い場合には、周囲の状況を把握できていないと人間とぶつかってしまうおそれが強かった。
それゆえに、この発明の主たる目的は、ロボットを操作し易い、ロボット遠隔制御システムを提供することである。
この発明の他の目的は、安全性を向上できる、ロボット遠隔制御システムを提供することである。
請求項1の発明は、身振りおよび音声の少なくとも一方を用いてコミュニケーションを図る機能を備え、胴体部と、その上方に設けられる頭部と、頭部に設けられ、当該コミュニケーションロボットに接近した人や物体等を撮影して映像信号を取り込む眼カメラとを含むコミュニケーションロボットと、コミュニケーションロボットを遠隔制御するための遠隔制御装置とを含むロボット遠隔制御システムであって、コミュニケーションロボットは、眼カメラとは別に設けられ、当該コミュニケーションロボットの存在する環境や周囲の状況を確認するために、当該コミュニケーションロボットの周囲の全方位視覚情報を取得する全方位視覚センサと、全方位視覚センサで取得した全方位視覚情報を受けてその全方位視覚情報を遠隔制御装置へ送信する第1送信手段と、遠隔制御装置から送信された操作入力情報を受信する第1受信手段と、第1受信手段で受信した操作入力情報に基づいて当該コミュニケーションロボットの動作を制御する制御手段とを含み、制御手段によってコミュニケーションロボットの動作を制御する前に、全方位視覚センサで取得した全方位視覚情報を第1送信手段によって送信し、遠隔制御装置は、第1送信手段によって送信された視覚情報を受信する第2受信手段と、人間がその内部に入れる大きさを有する球面スクリーンを含み、球面スクリーンの内面で、受信した全方位視覚情報に基づいて全方位画像を表示する全方位表示手段と、球面スクリーンの内部空間に配置され、内部空間に入った操作者によって操作される操作手段と、操作手段の操作による操作入力情報をロボットへ送信する第2送信手段とを含み操作者は球面スクリーン内にいて、球面スクリーンに表示された全方位画像を見ながら操作手段を操作するようにした、ロボット遠隔制御システムである。
請求項1の発明では、ロボット遠隔制御システムは、コミュニケーションロボットと遠隔制御装置とを含む。コミュニケーションロボットは、身振りおよび音声の少なくとも一方を用いてコミュニケーションを図る機能を備え、胴体部と、その上方に設けられる頭部と、頭部に設けられる眼カメラを備え、この眼カメラは、コミュニケーションロボットに接近した人の顔や他の部分ないし物体等を撮影して映像信号を出力する。コミュニケーションロボットは、またこの眼カメラとは別に、全方位視覚センサを含み、この全方位視覚センサは当該ロボットの周囲の全方位の視覚情報を取得する。第1送信手段は、全方位視覚センサで取得した全方位視覚情報を遠隔制御装置へ送信する。遠隔制御装置では第2受信手段が送信された全方位視覚情報を受信する。そして、全方位表示手段は、受信した全方位視覚情報に基づいて全方位画像を球面スクリーンの内面に表示する。球面スクリーンの内部空間に配置された操作手段は、操作者によって操作されるものであり、操作者は球面スクリーンの内部空間に入っている。したがって、操作者は、球面スクリーンの内部にいて、この全方位表示手段に表示されたロボットの周囲の全方位画像を見ながら、操作手段を操作することができる。そして、第2送信手段は、操作手段の操作による操作入力情報をロボットへ送信する。ロボットでは、第1受信手段が送信された操作入力情報を受信する。そして、制御手段は、受信した操作入力情報に基づいて当該ロボットの動作を制御する。したがって、請求項1の発明によれば、操作者は、遠隔制御装置の球面スクリーン内に居ながらにして、ロボットの全周囲の様子をロボットの視点から見渡すようにしてロボットを制御することができるので、ロボットを容易に操作することができる。また、ロボットは、制御手段によって操作入力情報に基づく当該ロボットの動作制御を行う前に、全方位視覚センサで取得した視覚情報を取得し、当該視覚情報を第1送信手段によって送信する。したがって、遠隔制御装置では、ロボットの行動が開始される前に、全方位表示手段によってロボットの周囲の全方位画像が球面スクリーンの内面に表示されるので、操作者はロボットを操作する前に、ロボットの存在する周囲の状況を確認することができるので、たとえばロボットが周囲の人間や物体とぶつかったり転倒したりすることを回避でき、安全性を向上できる。
請求項の発明は、請求項1の発明に従属し、ロボットは、身振りおよび音声の少なくとも一方を用いてコミュニケーションを図る機能を備えたコミュニケーションロボットを含む。
請求項の発明では、身振りおよび音声の少なくとも一方を用いてコミュニケーションを図る機能を備えたコミュニケーションロボットが適用され得る。したがって、請求項の発明によれば、操作者はコミュニケーションロボットの視点からその全周囲の様子を見渡して操作できるので、ロボットの気持ちになって人間などとコミュニケーションを行うことができる。したがって、操作がし易く、しかもコミュニケーションし易い。
この発明によれば、ロボットに設けられた全方位視覚センサによって取得された全方位画像を、操作手段の配置される全方位表示手段に表示するようにしたので、操作者はロボットの存在する環境の全周囲を、そのロボットの視点から見渡して当該ロボットを制御することができる。したがって、操作者はあたかもロボットに乗り移ったような状態で操作することになるので、ロボットを容易に制御することができる。また、ロボットの周囲の状況を把握してから操作することができるので、安全性を向上できる。
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
図1を参照して、この実施例の遠隔制御システム10は、操作対象であるロボット12と、このロボット12を操作者14が操作するための遠隔制御装置16とを含む。
このロボット12には円周方向360度の全方位の撮像が可能である全方位視覚センサ18が設けられている。この全方位視覚センサ18によって取得した全方位画像がロボット12から遠隔制御装置16へ送信され、遠隔制御装置16では操作者14にロボット12の全周囲の様子を映し出す映像が提供されることとなる。
ロボット12は、たとえば主として人間1などのコミュニケーションの対象とコミュニケーションすることを目的とした相互作用指向のコミュニケーションロボットであり、身振りおよび音声の少なくとも一方を用いて人間1とコミュニケーションを行う機能を備えている。
より詳しくは、図2を参照して、ロボット12は台車20を含み、この台車20の下面にはロボット12を移動させる車輪22が設けられる。車輪22は車輪モータ24(図3参照)によって駆動され、台車20すなわちロボット12を前後左右任意の方向に動かすことができる。
なお、図2においては省略するが、台車20の前面には衝突センサ26(図3参照)が取り付けられ、この衝突センサ26は台車20への人や他の障害物の接触を検知する。つまり、ロボット12の移動中に障害物との接触を検知すると、直ちに車輪22の駆動を停止してロボット12の移動を急停止させる。
台車20の上には、多角形柱のセンサ取付パネル28が設けられ、このセンサ取付パネル28の各面には超音波距離センサ30が取り付けられる。この実施例では24個の超音波距離センサ30が周囲360度にわたるように設けられる。この超音波距離センサ30は、ロボット12の周囲の主として人との距離を計測するものである。
また、台車20の上には、さらに、その下部がセンサ取付パネル28に囲まれて、ロボット12の胴体が直立するように設けられる。この胴体は、下部胴体32と上部胴体34とによって構成され、下部胴体32および上部胴体34は、連結部36によって互いに連結される。図示は省略するが、連結部36には昇降機構が内蔵されていて、この昇降機構を用いることによって、上部胴体32の高さすなわちロボット12の背の高さを変化させることができる。昇降機構は、後述するように、腰モータ38(図3参照)によって駆動される。
上部胴体34のほぼ中央には、マイク40が設けられる。マイク40は、周囲の音、とりわけコミュニケーション対象である人の声を取り込む。なお、マイク40の設置位置は上部胴体34に限られず適宜変更され得る。
また、上部胴体34のたとえば背面には、全方位の視覚情報を一度に検知できる全方位視覚センサ18が棒状の取付具によって設けられ、ロボット10の周囲の状況を撮像可能なように頭頂部よりも上方に配置される。全方位視覚センサ18は、たとえば、周方向360度を映し出す双曲面鏡を円筒ガラスで支持する構造を有し、鏡面上の中心部には円筒ガラスによる内面反射を解消するための円錐状の突起が下向きに取り付けられる。突起の先の下方にはカメラ用ののぞき穴が設けられ、レンズを介してたとえばCCDやCMOSのような固体撮像素子を用いるカメラが設けられる。この全方位視覚センサ18では、双曲面鏡で反射された周囲360度の画像がのぞき穴およびレンズを介してカメラによって取得される。円筒ガラスによる内面反射は鏡面上の突起によって解消することができるので、ゴースト画像を解消して実画像を取得することが可能である。この全方位視覚センサ18はたとえばヴイストン株式会社(http://www.vstone.co.jp/)の製品を使用することができる。
上部胴体34の両肩には、それぞれ、肩関節42Rおよび42Lによって、上腕44Rおよび44Lが胴体部分に対して変位自在に設けられる。肩関節42Rおよび42Lは3軸の自由度を有する。肩関節42Rは、X軸、Y軸およびZ軸のそれぞれの軸廻りにおいて上腕44Rの角度を制御できる。他方、肩関節42Lは、A軸、B軸およびC軸のそれぞれの軸廻りにおいて上腕44Lの角度を制御できる。また、上腕44Rおよび44Lのそれぞれの先端には、1軸の肘関節46Rおよび46Lを介して、前腕48Rおよび48Lが設けられる。肘関節46Rおよび46LはそれぞれW軸およびD軸の軸廻りにおいて前腕48Rおよび48Lの角度を制御できる。また、前腕48Rおよび48Lのそれぞれの先端には、手50Rおよび50Lがそれぞれ固定的に設けられる。ただし、指や掌の機能が必要な場合には、球形に代えて人の手の形状をしたものを用いることも可能である。これら右腕および左腕の各関節における各軸はここでは図示しないモータによってそれぞれ制御される。すなわち、右腕および左腕のそれぞれ4個のモータが、図3において、それぞれ右腕モータ52および左腕モータ54として表される。
また、図2では省略するが、上部胴体34の肩関節42Rおよび42Lを含む肩の部分や上述の上腕44Rおよび44Lならびに前腕48Rおよび48Lには、それぞれ、タッチセンサ56(図3で包括的に示す)が設けられていて、これらのタッチセンサ56は、人がロボット10の当該各部位に触れたかどうかを検知する。
上部胴体34の中央上方には、首関節58を介して頭部60が、人間の頭と同様に俯仰・回転可能に取付けられる。首関節58は3軸の自由度を有し、S軸、T軸およびU軸の各軸廻りに角度制御可能である。この3軸の首関節58は、3つのモータ、すなわち、図3に示す頭部モータ62によって制御される。
また、頭部60には、人の口に相当する位置にスピーカ64が設けられる。スピーカ64は、ロボット12が、それの周辺の人に対して音声によってコミュニケーションを図るために用いられる。
また、頭部60の前面の「目」に相当する位置には、2つの眼球部66Rおよび66Lが設けられる。眼球部66Rおよび66Lは、それぞれ眼カメラ68Rおよび68Lを含む。なお、眼球部66Rと眼球部66Lはまとめて眼球部66で示すこともある。また、眼カメラ68Rと眼カメラ68Lは図3ではまとめて眼カメラ68で示される。
眼カメラ68は、ロボット10に接近した人の顔や他の部分ないし物体等を撮影して、その映像信号を取り込む。眼カメラ68としては、上述した全方位視覚センサ18と同様のカメラを用いることができる。眼カメラ68は眼球部66内に固定され、眼球部66は眼球支持部(図示せず)を介して頭部60内の所定位置に俯仰・回転可能に取り付けられる。眼球支持部は、2軸の自由度を有し、α軸およびβ軸の各軸廻りに角度制御可能である。眼球部66Rおよび66Lの2軸の眼球支持部は、それぞれ2つのモータ、すなわち、図3に示す右眼球モータ70および左眼球モータ72によって制御される。
図3はロボット12の電気的な構成を示すブロック図であり、この図3を参照して、ロボット12はCPU74を含む。CPU74はマイクロコンピュータ或いはプロセサとも呼ばれ、ロボット12の全体的な制御を担当する。CPU74は、バス76を介して、メモリ78、モータ制御ボード80、センサ入力/出力ボード82、音声入力/出力ボード84および通信LANボード86に接続される。
メモリ78は、図示は省略するが、ROMもしくはHDDおよびRAMを含み、ROMやHDDにはロボット12の制御プログラムが予め記憶され、RAMはワークメモリやバッファメモリとして用いられる。制御プログラムは、たとえば各センサまたはカメラによる検知情報を検出するプログラム、外部のコンピュータすなわち遠隔制御装置16の制御用コンピュータ92と通信するためのプログラム、受信した操作入力情報に基づいてコミュニケーション行動や移動などの動作を制御するためのプログラム等を含む。メモリ78にはまた、コミュニケーション行動などの動作を実行するためのデータが記憶され、そのデータは、たとえば、個々の行動を実行する際に、スピーカ64から発生すべき音声または声の音声データ(音声合成データ)、および所定の身振りを提示するための角度データ等を含む。なお、所定のコミュニケーション行動などの各動作の角度データおよび音声データ等は、それぞれの識別子に対応付けられてメモリ78に記憶されている。
ロボット12は、所定のコミュニケーション行動の一例として次に挙げるような種々の行動を取ることが可能である。たとえば、「こんにちは」と話しかける。「握手しよう」と言って一方の腕を前方に差し出す。「抱っこしてね」と言って両腕を広げ、前方で輪をつくって抱きつく。
モータ制御ボード80は、たとえばDSPで構成され、各腕や頭部および眼球部等の各モータの駆動を制御する。すなわち、モータ制御ボード80は、CPU74からの制御データを受け、右眼球部66Rの2軸のそれぞれの角度を制御する2つのモータ(図3では、まとめて「右眼球モータ」として示す。)70の回転角度を制御する。同様に、モータ制御ボード80は、CPU74からの制御データを受け、左眼球部66Lの2軸のそれぞれの角度を制御する2つのモータ(図3では、まとめて「左眼球モータ」として示す。)72の回転角度を制御する。また、モータ制御ボード80は、CPU74からの制御データを受け、右肩関節42Rの3軸のそれぞれの角度を制御する3つのモータと右肘関節46Rの1軸の角度を制御する1つのモータとの計4つのモータ(図3では、まとめて「右腕モータ」として示す。)52の回転角度を調節する。同様に、モータ制御ボード80は、CPU74からの制御データを受け、左肩関節42Lの3軸のそれぞれの角度を制御する3つのモータと左肘関節46Lの1軸の角度を制御する1つのモータとの計4つのモータ(図3では、まとめて「左腕モータ」として示す。)54の回転角度を調整する。さらに、モータ制御ボード80は、CPU74からの制御データを受け、首関節58の3軸のそれぞれの角度を制御する3つのモータ(図3では、まとめて「頭部モータ」として示す。)62の回転角度を制御する。さらにまた、モータ制御ボード80は、CPU74からの制御データを受け、腰モータ38および車輪22を駆動する2つのモータ(図3では、まとめて「車輪モータ」と示す。)24の回転角度を制御する。
なお、この実施例の上述のモータは、車輪モータ24を除いて、制御を簡単化するためにそれぞれステッピングモータ或いはパルスモータであるが、車輪モータ24と同様に、直流モータであってもよい。
センサ入力/出力ボード82も、同様に、DSPで構成され、各センサやカメラからの信号を取り込んでCPU74に与える。すなわち、全方位視覚センサ18からの映像信号が、必要に応じてこのセンサ入力/出力ボード82で所定の処理を施された後、CPU74に入力される。また、超音波距離センサ30のそれぞれからの反射時間(距離情報)に関するデータがこのセンサ入力/出力ボード82を通してCPU74に入力される。眼カメラ68からの映像信号も、同様に、必要に応じて所定の処理を施された後、CPU74に入力される。また、複数のタッチセンサ56からの信号がセンサ入力/出力ボード82を介してCPU74に与えられる。さらに、衝突センサ26からの信号も、同様に、CPU74に与えられる。
音声入力/出力ボード84も、同様に、DSPで構成され、CPU74から与えられる音声合成データに従った音声または声がスピーカ64から出力される。また、マイク40からの音声入力が、音声入力/出力ボード82を介してCPU74に取り込まれる。
通信LANボード86も、同様に、DSPで構成され、無線通信装置88と接続される。通信LANボード86および無線通信装置88は、図示しない無線LANアクセスポイントを介してLAN、インタネットのようなネットワーク90(図1)に接続される。ロボット12はこの実施例ではネットワーク90を介して遠隔制御装置16と通信を行うことができる。具体的には、通信LANボード86は、全方位視覚センサ18によって検知した視覚情報を遠隔制御装置16に送信させる。また、通信LANボード86は遠隔制御装置16から制御情報を受信して、受信したデータをCPU74に与える。なお、ロボット12と遠隔制御装置16とが無線により直接通信するように構成してもよい。
図1に戻って、遠隔制御装置16は操作者14がロボット12の遠隔操作を行うためのインタフェースであり、この装置16の全体的な動作を制御する制御用コンピュータ92を含む。この制御用コンピュータ92には、操作者によって実際に操作される操作部94が接続される。また、この遠隔制御装置16は、離れたところにいるロボット12の全周囲の映像を操作者14に提示する全方位ディスプレイとしても機能するものである。全方位ディスプレイは、没入型ディスプレイの1つであり、たとえば「Personal Omnidirectional Visualizer」(http://ed-02.ams.eng.osaka-u.ac.jp/orig/homepages2/japanese/projects/key_devices/html/pov.htm)が適用される。つまり、遠隔制御装置16は、人間がその内部に入れる大きさ(たとえば直径2m程度)を有しその内面が全面スクリーンとなるFRP製等の球面スクリーン96を含む。この球面スクリーン96の内部空間にはステンレス製等の半球ミラー98およびプロジェクタ100が設けられる。
制御用コンピュータ92はPCやワークステーション等であってよい。制御用コンピュータ92は、図示は省略するがCPUを含み、CPUにはメモリや入出力インタフェース等が接続され、さらに入出力インタフェースを介して操作部94、プロジェクタ100および通信装置等が接続される。メモリにはこの制御用コンピュータ92の動作を制御するためのプログラムおよび必要なデータが記憶される。プログラムは、たとえば操作部94からの操作入力を検出するプログラム、ロボット12と通信するためのプログラム、プロジェクタ100を用いて画像を表示させるためのプログラム等を含む。この制御用コンピュータ92は入出力インタフェースおよび通信装置を介してたとえばインタネットのようなネットワーク90と接続されており、ロボット12との間でデータを送受信することができる。具体的には、制御用コンピュータ92は、操作部94からの操作入力データを含む制御情報をロボット12に送信する。また、制御用コンピュータ92は、ロボット12からの全方位画像データを含む視覚情報を受信する。
操作部94は、操作者14によって操作される操作スイッチ、操作ボタンまたはジョイスティックなどの手段を含む。操作部94は、球面スクリーン96の内部空間に配置され、つまり、全方位画像を見ることができる位置に配置される。ただし、操作部94は、操作者14によって持ち運び可能または携帯可能に形成されてよいし、球面スクリーン96内に固定的に設けられてもよい。また、操作部94は制御用コンピュータ92に有線または無線のどちらで接続されてもよい。操作部94は操作者14による操作に応じた操作入力信号を制御用コンピュータ92に与える。操作者14はこの操作部94を操作することによって、ロボット12を操作することができる。たとえば、ロボット12の各関節の各軸の角度や車輪モータ24による移動などを制御することができる。あるいは、予め設定しておいた身振りや発話を含む所定のコミュニケーション行動を実行させることも可能である。
プロジェクタ100は球面スクリーン96内においてたとえば操作者14の座る椅子の背後などの所定位置に配置される。半球ミラー98は球面スクリーン96の上方の内面の所定位置に設置される。プロジェクタ100は、制御用コンピュータ92と有線または無線で接続されており、制御用コンピュータ92によって画像データが与えられる。この画像データは、ロボット12に設けられた全方位視覚センサ18によって取得されたロボット12の周囲の全方位画像である。プロジェクタ100は、与えられた画像データに基づいてその画像(全方位画像)を半球ミラー98へ投影する。そして、半球ミラー98によって反射された投影光は球面スクリーン96の内面に映し出される。すなわち、球面スクリーン96には、ロボット12の周方向360度の眺めがそのまま表示される。したがって、操作者14は、自分の周囲360度の球面スクリーン96に映し出された、ロボット12の周方向360度の全方位画像を見ながら操作部94を操作して、ロボット12を操作することができる。
なお、半球ミラー98とプロジェクタ100の配置は球面スクリーン96上の解像度が最適になるように調整されている。また、球面スクリーン96に映し出される投影画像に歪が生じないように、制御コンピュータ92ではロボット12からの画像情報を補正するようにしている。つまり、球面スクリーン96には、ロボット12の周囲の眺めがそのまま、歪なく映し出される。
この遠隔制御システム10では、ロボット12と遠隔制御装置16とは互いに離れた場所に配置される。ロボット12は、たとえば会議場、仕事場、あるいは観光地などの、操作者14が行けない場所に代わりに配置される。そして、操作者14は遠隔制御装置16の球面スクリーン96内に入ってロボット12の操作を行う。操作者14は、ロボット12に設けられた全方位視覚センサ18によって取得されて球面スクリーン96に映し出される画像から、ロボット12の存在する場の状況を視覚的に体験することができる。
ロボット12の遠隔操作を行う際には、操作入力に基づいたコミュニケーション行動などの動作を開始する前に、まず、ロボット12(CPU74)が、全方位視覚センサ18でロボット12の周囲の全方位画像を取得する。そして、ロボット12は取得した全方位画像データを遠隔制御装置16の制御用コンピュータ92へ送信する。この全方位画像の取得および送信はたとえば一定周期で繰り返し実行される。
ロボット12のデータ送信に応じて、制御用コンピュータ92は全方位画像データを受信する。そして、制御用コンピュータ92は受信した全方位画像データを補正し、その画像データをプロジェクタ100に与える。プロジェクタ100は与えられた画像データに基づいてその画像を半球ミラー98に投影する。
このようにして、球面スクリーン96には、ロボット12の全方位視覚センサ18で取得したロボット12の周囲の全方位の映像がリアルタイムで映し出される。したがって、操作者14は球面スクリーン96に映し出されるロボット12の全周囲の様子をリアルタイムで見渡すことができるとともに、ロボット12の周りの環境をリアルタイムで見ながらロボット12の操作を行うことができる。
制御用コンピュータ92は操作部92からの操作入力があったとき、操作入力データを検出する。そして、制御用コンピュータ92は操作入力データを含む制御情報をロボット12に送信する。たとえば、操作者14がロボット12の各部位などを直接操作した場合には、各モータの角度制御データを含む操作入力データが送信される。また、所定のコミュニケーション行動の実行を指示する操作が行われた場合には、その行動の識別子を含む操作入力データが送信される。
制御用コンピュータ92のデータ送信に応じて、ロボット12は制御情報を受信する。そして、ロボット12は制御情報(操作入力データ)に基づいて、その動作を制御する。たとえば、各モータの制御データを受信した場合には、ロボット12のCPU74は、そのデータに基づいて各モータを制御して、各部位または車輪22等を動作させる。また、所定のコミュニケーション行動の実行指示データを受信した場合には、ロボット12のCPU74は、識別子に基づいてメモリ78から該当するコミュニケーション行動を実行するためのデータを読み出してその行動を実行し、各部位等を動作させたりスピーカ64から所定の音声を出力させたりする。
このようにして、操作者14は球面スクリーン96に映されたロボット12の全周囲の環境をロボット12の視点から見渡してロボット12の操作を行うことができる。したがって、操作者14は、まるでロボット12の居る場所に存在するような感覚で、あるいは、あたかもロボットに乗り移ったような状態で操作することになるので、ロボット12を容易に操作することができる。
また、ロボット12が行動を開始する前に、まず全方位画像を取得して全方位ディスプレイに表示するようにしているので、操作者14は、操作部94を操作してロボット12を実際に移動させたり周囲の状況確認のために旋回させたりあるいはコミュニケーション行動を実行させたりする前に、ロボット12の存在する環境や周囲の状況を確認することができる。したがって、たとえばロボット12が周囲の人間や物体とぶつかってしまうことや、転倒なども回避することができ、安全性を向上することができる。
さらにまた、ロボット12がコミュニケーションロボットである場合には、操作者14は全方位ディスプレイの空間の中でロボット12の視点からの全周囲の映像を見渡してロボット12を操作することができるので、自分があたかもロボット12になったかのように、ロボット12の気持ちになって人間などとコミュニケーションを行うことができる。したがって、操作がし易く、しかもコミュニケーションがし易くなる。
図4にはこの遠隔制御システム10の動作が示される。この図4を参照して、ロボット12のCPU74は、まず、ステップS1で、全方位視覚センサ18で検出した全方位画像をセンサ入力/出力ボード82を介して取得してメモリ78に一時記憶する。次に、ステップS3で、ロボット12は、取得した全方位画像データを通信LANボード86および無線通信装置88を用いてネットワーク90を介して遠隔制御装置16へ送信する。
これに応じて、ステップS21で、遠隔制御装置16の制御用コンピュータ92のCPUは、全方位画像データを受信してメモリに一時記憶する。そして、ステップS23で、全方位画像を投影する。具体的には、制御用コンピュータ92は、受信した全方位画像データを補正してからプロジェクタ100にその全方位画像データを与え、プロジェクタ100によってその全方位画像を半球ミラー98に投影させる。これによって、球面スクリーン96の内面には全方位画像が映し出される。
続いて、制御用コンピュータ92は、操作部94からの操作入力があった場合、ステップS25で、操作入力データを検出してメモリに一時記憶する。そして、ステップS27で、操作入力データを含む制御データをネットワーク90を介してロボット12へ送信する。
これに応じて、ステップS5で、ロボット12は、無線通信装置88および通信LANボード86を用いて操作入力データを受信してメモリ78に一時記憶する。そして、ステップS7で、ロボット12は、受信した操作入力データに基づいて動作を制御する。たとえば、操作入力データがコミュニケーション行動の実行指示データであった場合には、CPU74は、当該コミュニケーション行動の識別子に基づいて、メモリ78から該当する角度制御データおよび音声データを読み出して、モータ制御ボード80を介して各モータを制御するとともに、音声入力/出力ボード84を介してスピーカ64からその音声を出力する。一方、操作入力データが直接入力された角度制御データであった場合は、CPU74は、その角度制御データに基づいてモータ制御ボード80を介して各モータを制御する。
また、遠隔制御装置16の制御用コンピュータ92では、ステップS29で終了と判断されるまで、ステップS21からステップS27の処理を繰り返す。たとえば操作者14が遠隔操作の終了を指示する操作をした場合等にステップS29で“YES”と判断される。また、ロボット12では、ステップS9で終了と判断されるまでステップS1からステップS7の処理を繰り返す。たとえば制御用コンピュータ92から終了を指示する操作入力データを受信した場合等にステップS9で“YES”と判断される。
この発明の一実施例の遠隔制御システムの概要を示す図解図である。 図1のロボットの一例を示す外観図である。 図2のロボットの電気的構成を示すブロック図である。 図1実施例の遠隔制御システムの動作を示すフロー図である。
符号の説明
10 …ロボット遠隔制御システム
12 …ロボット
16 …遠隔制御装置
18 …全方位視覚センサ
74 …CPU
78 …メモリ
80 …モータ制御ボード
82 …センサ入力/出力ボード
84 …音声入力/出力ボード
86 …通信LANボード
92 …制御用コンピュータ
94 …操作部
96 …球面スクリーン
98 …半球ミラー
100 …プロジェクタ

Claims (1)

  1. 身振りおよび音声の少なくとも一方を用いてコミュニケーションを図る機能を備え、胴体部と、その上方に設けられる頭部と、前記頭部に設けられ、当該コミュニケーションロボットに接近した人や物体等を撮影して映像信号を取り込む眼カメラとを含むコミュニケーションロボットと、前記コミュニケーションロボットを遠隔制御するための遠隔制御装置とを含むロボット遠隔制御システムであって、
    前記コミュニケーションロボットは、
    前記眼カメラとは別に設けられ、当該コミュニケーションロボットの存在する環境や周囲の状況を確認するために、当該コミュニケーションロボットの周囲の全方位視覚情報を取得する全方位視覚センサと、
    前記全方位視覚センサで取得した全方位視覚情報を受けてその全方位視覚情報を前記遠隔制御装置へ送信する第1送信手段と、
    前記遠隔制御装置から送信された操作入力情報を受信する第1受信手段と、
    前記第1受信手段で受信した操作入力情報に基づいて当該コミュニケーションロボットの動作を制御する制御手段とを含み、前記制御手段によって前記コミュニケーションロボットの動作を制御する前に、前記全方位視覚センサで取得した全方位視覚情報を前記第1送信手段によって送信し、
    前記遠隔制御装置は、
    前記第1送信手段によって送信された前記全方位視覚情報を受信する第2受信手段と、
    人間がその内部に入れる大きさを有する球面スクリーンを含み、前記球面スクリーンの内面で、前記第2受信手段によって受信した前記全方位視覚情報に基づいて全方位画像を表示する全方位表示手段と、
    前記球面スクリーンの内部空間に配置され、前記内部空間に入った操作者によって操作される操作手段と、
    前記操作手段の操作による操作入力情報を前記ロボットへ送信する第2送信手段とを含み
    記操作者は前記球面スクリーン内にいて、前記球面スクリーンに表示された全方位画像を見ながら前記操作手段を操作するようにした、ロボット遠隔制御システム。
JP2004084536A 2004-03-23 2004-03-23 ロボット遠隔制御システム Expired - Lifetime JP4517085B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004084536A JP4517085B2 (ja) 2004-03-23 2004-03-23 ロボット遠隔制御システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004084536A JP4517085B2 (ja) 2004-03-23 2004-03-23 ロボット遠隔制御システム

Publications (2)

Publication Number Publication Date
JP2005271094A JP2005271094A (ja) 2005-10-06
JP4517085B2 true JP4517085B2 (ja) 2010-08-04

Family

ID=35171281

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004084536A Expired - Lifetime JP4517085B2 (ja) 2004-03-23 2004-03-23 ロボット遠隔制御システム

Country Status (1)

Country Link
JP (1) JP4517085B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007160427A (ja) * 2005-12-12 2007-06-28 Advanced Telecommunication Research Institute International ロボット制御システム
JP5140889B2 (ja) * 2006-08-10 2013-02-13 サンリツオートメイション株式会社 ゆらぎ補正による画像表示方法及びその方法を用いた動体リモートコントロールシステム
CA2720886A1 (en) * 2010-11-12 2012-05-12 Crosswing Inc. Customizable virtual presence system
CN107272725B (zh) * 2017-08-08 2020-08-25 广州一衍信息科技有限公司 具有视觉反馈的球形机器人运动控制系统及运动控制方法
CN109278015A (zh) * 2018-12-03 2019-01-29 仇国璘 一种工业用全方位多角度机器人
CN111736694B (zh) * 2020-06-11 2024-03-05 上海境腾信息科技有限公司 一种远程会议的全息呈现方法、存储介质及系统

Also Published As

Publication number Publication date
JP2005271094A (ja) 2005-10-06

Similar Documents

Publication Publication Date Title
JP4822319B2 (ja) コミュニケーションロボットおよびそれを用いた注意制御システム
JP4386367B2 (ja) コミュニケーションロボット改良システム
JP5186723B2 (ja) コミュニケーションロボットシステムおよびコミュニケーションロボットの視線制御方法
JP5033994B2 (ja) コミュニケーションロボット
JP6340301B2 (ja) ヘッドマウントディスプレイ、携帯情報端末、画像処理装置、表示制御プログラム、表示制御方法、及び表示システム
KR20110055062A (ko) 로봇 시스템 및 그 제어 방법
JP2007190659A (ja) ロボット遠隔操作システム
JP2006272471A (ja) コミュニケーションロボット
JP4565196B2 (ja) コミュニケーションロボット
JP2007196300A (ja) ロボット制御システム
JP4962940B2 (ja) 道案内システム
JP4517086B2 (ja) コミュニケーションロボットシステムおよびロボット制御装置
JP4517085B2 (ja) ロボット遠隔制御システム
JP2007160427A (ja) ロボット制御システム
JP4798581B2 (ja) ロボットシステム
JP3942599B2 (ja) コミュニケーションロボット
JP2007130691A (ja) コミュニケーションロボット
JP2004042151A (ja) コミュニケーションロボット
JP4793904B2 (ja) コミュニケーションロボットシステムおよびコミュニケーションロボット
JP2011000656A (ja) 案内ロボット
JP7242448B2 (ja) 仮想現実制御装置、仮想現実制御方法およびプログラム
JP6558764B2 (ja) テレプレゼンスロボット
WO2012008553A1 (ja) ロボットシステム
WO2021230363A1 (ja) 遠隔制御システム、遠隔作業装置、映像処理装置およびプログラム
JP2004227276A (ja) 人間のコミュニケーション行動記録システムおよび方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080911

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20081216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090216

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090220

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20090313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100315

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100408

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4517085

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140528

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250