JP2020127102A - 移動体制御システム、移動体、表示方法およびプログラム - Google Patents

移動体制御システム、移動体、表示方法およびプログラム Download PDF

Info

Publication number
JP2020127102A
JP2020127102A JP2019017605A JP2019017605A JP2020127102A JP 2020127102 A JP2020127102 A JP 2020127102A JP 2019017605 A JP2019017605 A JP 2019017605A JP 2019017605 A JP2019017605 A JP 2019017605A JP 2020127102 A JP2020127102 A JP 2020127102A
Authority
JP
Japan
Prior art keywords
image
target
moving body
distance
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019017605A
Other languages
English (en)
Inventor
拓実 河村
Takumi Kawamura
拓実 河村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kanagawa Institute of Industrial Science and Technology
Original Assignee
Kanagawa Institute of Industrial Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kanagawa Institute of Industrial Science and Technology filed Critical Kanagawa Institute of Industrial Science and Technology
Priority to JP2019017605A priority Critical patent/JP2020127102A/ja
Publication of JP2020127102A publication Critical patent/JP2020127102A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】移動体と目標物体との距離をユーザが直感的に把握できる移動体制御システム等を提供する。【解決手段】移動体制御システムは、撮像部と、制御部と、表示部とを有している。撮像部は移動体に保持され、第1視点から目標物体を撮像した第1目標画像を含む第1画像を生成(取得)するとともに、第1視点とは異なる第2視点から上記目標物体を撮像した第2目標画像を含む第2画像を生成する。制御部は、移動体と上記目標物体との距離が目標距離に近付くほど第1目標画像と第2目標画像とが近付くように第1画像と前記第2画像とを組み合わせて複合画像を出力する。表示部は、ユーザに対して複合画像を表示する。【選択図】図1

Description

本発明は移動体制御システム、移動体、表示方法およびプログラムに関する。
ユーザがロボットを遠隔操作するための技術が開発されている。例えば所定の移動手段を有する移動体をユーザが操作する場合に、当該移動体に設置されたカメラが撮像した画像をユーザが観察しながら移動手段を操作する場合がある。このような場合に、移動体と、移動体が有するカメラが撮像した画像により検出される目標物体との距離をユーザに認識させる技術は、ユーザが的確な操作を行うための重要な要素となる。
移動体と目標物体との距離をユーザに認識させる技術として、例えばデジタルスチルカメラに搭載される二重像合致式のレンジファインダの技術を採用することが考えられる(特許文献1)。
また立体視像と対象物とが関連性を持っているように視認させる表示を行う技術として、立体視像を生成可能な表示装置と、対象物までの距離を測定する深度センサと、を含む入出力装置が提案されている(特許文献2)。
さらに、作業機の姿勢および位置の少なくとも一方を検出する位置検出部と、作業機械から作業対象までの距離の情報を求める距離検出装置と、処理装置とを有する画像表示システムが提案されている(特許文献3)。この処理装置は、位置検出部と距離検出装置から得られた作業対象の位置の情報を用いて作業具と対向する作業対象上において、作業具の一部に対応する部分を含み、かつ旋回体が旋回する方向に沿って延びる画像を生成して、表示装置に表示させる。
特開2002−303917号公報 国際公開2014/128750号公報 特開2018−035645号公報
しかしながら、特許文献1に記載の技術は単に光学的な処理のみにより二重像を生成するものであって、生成される二重像がユーザにとって認識困難となるおそれがある。特許文献2に記載の技術はデプスマップの作成やポリゴンの生成が必要となるため煩雑なシステムを必要とする。特許文献3に記載の技術は作業対象の距離を検出するために作業対象の環境に依存する必要があり、地面が認識できない環境には適用できない。
本発明はこのような課題を解決するためになされたものであり、移動体と目標物体との距離をユーザが直感的に把握できる移動体制御システム等を提供するものである。
本発明にかかる移動体制御システムでは、ユーザが目標物体と移動体との距離が目標距離になるように移動体を移動させる。移動体は、ユーザの操作により移動する。移動体制御システムは、撮像部と、制御部と、表示部とを有している。撮像部は移動体に保持され、第1視点から目標物体を撮像した第1目標画像を含む第1画像を生成(取得)するとともに、第1視点とは異なる第2視点から上記目標物体を撮像した第2目標画像を含む第2画像を生成する。制御部は、移動体と上記目標物体との距離が目標距離に近付くほど第1目標画像と第2目標画像とが近付くように第1画像と前記第2画像とを組み合わせて複合画像を出力する。表示部は、ユーザに対して複合画像を表示する。
このような構成により、ユーザは表示部に表示されている第1目標画像と第2目標画像とが近付いているか否かを観察しながら移動体を操作することができる。
本発明にかかる移動体は、目標物体との距離が予め設定された目標距離であることを表示可能な複合画像を取得する。この移動体は、駆動部と、撮像部と、制御部と、を有する。駆動部は、ユーザの操作情報を用いて移動体を移動させる。撮像部は、第1視点から目標物体を撮像した第1目標画像を含む第1画像を生成するとともに、第1視点とは異なる第2視点から目標物体を撮像した第2目標画像を含む第2画像を生成する。制御部は、目標物体との距離が目標距離に近付くほど前記第1目標画像と前記第2目標画像とが近付くように第1画像と第2画像とを組み合わせて複合画像を出力する。
このような構成により、移動体は、移動体と目標物体との距離が目標距離に近付いているか否かを直感的に把握しやすい画像を出力する。これにより例えばユーザは移動体から出力された複合画像としての合成画像データに含まれる合成画像を見ながら直感的に移動体を操作することができる。
本発明にかかる距離表示方法は、目標物体と移動体との距離、とくに目標距離との乖離をユーザに認識させる。距離表示方法は、距離設定ステップと、画像取得ステップと、複合画像出力ステップと、表示ステップとを有する。距離設定ステップでは、目標距離を設定する。画像取得ステップでは、移動体に保持され、第1視点から前記目標物体を撮像した第1目標画像を含む第1画像を生成するとともに、第1視点とは異なる第2視点から目標物体を撮像した第2目標画像を含む第2画像を生成する撮像部から、第1画像および第2画像を取得する。複合画像出力ステップでは、移動体と目標物体との距離が目標距離に近付くほど第1目標画像と第2目標画像とが近付くように第1画像と第2画像とを組み合わせて複合画像を出力する。表示ステップは、複合画像を表示する。
このような構成により、距離表示方法は、移動体と目標物体との距離が目標距離に近付いているか否かを直感的に把握しやすい画像を表示部に表示する。
本発明にかかるプログラムは、コンピュータに目標物体と移動体との距離、とくに目標距離との乖離をユーザに認識させる距離表示方法を実行させる。この距離表示方法は、距離設定ステップと、画像取得ステップと、複合画像生成ステップと、表示ステップとを有する。距離設定ステップでは、予め設定された距離である目標距離を設定する。画像取得ステップでは、移動体に保持され、第1視点から目標物体を撮像した第1目標画像を含む第1画像を生成するとともに、第1視点とは異なる第2視点から目標物体を撮像した第2目標画像を含む第2画像を生成する撮像部から第1画像および第2画像を取得する。複合画像出力ステップでは、移動体と目標物体との距離が目標距離に近付くほど第1目標画像と第2目標画像とが近付くように第1画像と第2画像とを組み合わせて複合画像を出力する。表示ステップでは、複合画像を表示する。
このような構成により、プログラムは、移動体と目標物体との距離が目標距離に近付いているか否かを直感的に把握しやすい画像を表示部に表示する。
本発明によれば、移動体と目標物体との距離をユーザが直感的に把握できる移動体制御システム等を提供することができる。
実施の形態1にかかる移動体制御システムの概略構成図である。 実施の形態1にかかる移動体制御システムの機能ブロック図である。 実施の形態1にかかる移動体の上面図である。 実施の形態1にかかる移動体制御システムが行う処理のフローチャートである。 移動体制御システムが行う画像処理の一例を示すフローチャートである。 移動体制御システムが行う画像処理の一例を示すフローチャートである。 移動体と目標物体との位置関係の例を示す図である。 合成画像の例を示す第1の図である。 合成画像の例を示す第2の図である。 合成画像の例を示す第3の図である。 移動体制御システムが行う画像処理の第2の例を示す図である。 移動体制御システムが行う画像処理の第3の例を示す図である。 移動体と目標物体との位置関係を示す斜視図である。 移動体制御システムが行う画像処理の第4の例を示す図である。 実施の形態1の変形例にかかる移動体の斜視図である。 実施の形態1の変形例による画像処理の例を示す図である。 実施の形態2にかかる移動体および合成画像の例を示す第1の図である。 実施の形態2にかかる移動体および合成画像の例を示す第2の図である。 実施の形態3にかかる移動体の上面図である。 実施の形態4にかかる移動体の上面図である。 実施の形態4にかかる移動体制御システムの画像処理の例を示す図である。 実施の形態5にかかる移動体の斜視図である。 実施の形態6にかかる移動体の側面図である。 実施の形態6の変形例にかかる移動体の側面図である。
説明の明確化のため、以下の記載および図面は、適宜、省略、および簡略化がなされている。なお、各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。
<実施の形態1>
以下、図面を参照しながら実施の形態1について説明する。実施の形態1にかかる移動体制御システムを用いて、ユーザは、目標物体と移動体との距離が予め設定された目標距離になるように移動体を移動させる。
まず図1および図2を参照しながら実施の形態1にかかる移動体制御システム100の構成について説明する。図1は、実施の形態1にかかる移動体制御システムの概略構成図である。図2は、実施の形態1にかかる移動体制御システムの機能ブロック図である。図に示す移動体制御システム100は、ユーザの操作により移動体110を所望の位置に移動させるためのシステムである。なお、構成要素の位置関係を説明するための便宜的なものとして、図1には、右手系の直交座標系が付されている。また、図2以降において、直交座標系が付されている場合、図1のX軸、Y軸、およびZ軸方向と、これらの直交座標系のX軸、Y軸、およびZ軸方向はそれぞれ一致している。
移動体制御システム100は、移動体110および操作装置120を有する。移動体110は物体(目標物体)900を搬送することを目的としたフォークリフトであり、操作装置120から受ける遠隔操作により動作が制御される。図1は、移動体110が目標物体である物体900を搬送するために、物体900に接近している状況を示している。このような状況下、ユーザUは、移動体制御システム100を利用して移動体110を物体900から予め設定された距離に移動させる。
移動体110は主な構成として、第1通信部111、移動体制御部112、第1撮像部113、第2撮像部114および駆動部115を有している。また移動体110はその他に、物体を搬送する手段として物体保持部116を有している。
第1通信部111は、移動体110が生成したデータを操作装置120に送信するとともに、操作装置120から種々の信号を受ける通信装置である。本実施の形態における第1通信部111は無線通信により操作装置120と信号の送受信を行う構成となっており、移動体110の天板の上に設けられている。なお、有線通信によっても本発明は実施できる。
図2に示すように、第1通信部111は、移動体制御部112に接続し、移動体制御部112からの指示を受けるとともに移動体制御部112から受け取った所定の信号を操作装置120操作装置120の有する第2通信部121に送信する。また第1通信部111は第2通信部121から所定の信号を受け取り、受け取った信号を移動体制御部112に供給する。
移動体制御部112は、CPU(Central Processing Unit)等の情報処理装置やメモリ等を有し、移動体110の各構成を制御する。図1に示す移動体110において、移動体制御部112は天板の下に設置されているが、移動体制御部112は各構成要素を制御可能であれば任意の場所に設置されていてもよい。
移動体制御部112は、第1撮像部113および第2撮像部114から画像データを受け取り、受け取った画像データに対して所定の処理を施し、第1通信部111を介して所定の処理を施したデータを操作装置120に供給する。また移動体制御部112は、第1通信部111を介して操作装置120から所定の信号を受け取り、受け取った信号に応じた処理を行う。例えば、操作装置120から駆動部115を駆動させるための指示信号が供給された場合には、移動体制御部112は、この指示信号に応じて駆動部115を駆動させる。
第1撮像部113および第2撮像部114は、移動体110の天板の上に移動体110の前方が撮像できるように保持されている撮像装置である。これらは移動体110の天板から着脱可能であってもよい。第1撮像部113の撮像範囲と第2撮像部114の撮像範囲とは、少なくとも一部が重なるように配置されている。これにより、第1撮像部113および第2撮像部114は物体900をそれぞれ撮像できる。第1撮像部113および第2撮像部114は、それぞれが撮像した画像のデータである画像データを移動体制御部112に供給する。
駆動部115は移動体110の移動手段であり、駆動輪を回転させる駆動モータ、移動面に設置され駆動モータにより回転する駆動輪等を有している。駆動部115は移動体制御部112からの指示信号を受け取り、受け取った指示信号に応じて駆動モータを駆動させる。駆動モータが回転することにより移動体110は前進、後退、右旋回および左旋回を行う。
次に操作装置120について説明する。操作装置120は、移動体110から離れた位置で、ユーザUが移動体110を遠隔操作するための装置である。図に示す操作装置120はタブレット型の装置であり、ユーザUが所定の位置で操作を行う。操作装置120は主な構成として、第2通信部121、操作装置制御部122、表示部123および操作受付部124を有している。
第2通信部121は、操作装置制御部122から所定の信号を受け取り、受け取った信号を移動体110に送信する。また第2通信部121は、移動体110から所定の信号を受け取り、受け取った信号を操作装置制御部122に供給する。
操作装置制御部122は、CPU等の情報処理装置やメモリ等を有し、操作装置120の各構成を制御する。また操作装置制御部122は、第2通信部121を介して受け取った画像データに所定の処理を施し、これを表示部123に供給する。さらに操作装置制御部122は操作受付部124から操作信号を受け取り、受け取った操作信号を、第2通信部121を介して移動体110に供給する。
表示部123は操作装置制御部122から供給される画像データ等を表示する表示装置である。表示部123に表示される画像は、第1撮像部113および第2撮像部114がそれぞれ生成した画像データの少なくとも一方が予め設定された画像処理され、1つの画像として生成されたものである。なお、予め設定された画像処理の詳細については後述する。また表示部123はユーザUからの操作を受け付けるための操作ボタン等も併せて表示する。
操作受付部124はユーザUからの操作を受け付け、受け付けた操作により生成される操作信号を操作装置制御部122に供給する。操作受付部124は、例えば、表示部123に表示される操作ボタンと、表示された操作ボタンに対応してユーザUからの入力を受け付けるタッチパネルとを有する。
なお、図2に示すように、第1通信部111、移動体制御部112、第2通信部121および操作装置制御部122をまとめて制御部130と称する。換言すると、制御部130は、第1通信部111、移動体制御部112、第2通信部121および操作装置制御部122を含む。制御部130が有する2つの制御部である移動体制御部112および操作装置制御部122は、第1通信部111および第2通信部121により通信可能に接続されている。そのため、制御部130は移動体制御部112および操作装置制御部122を協働させて任意の処理を実行してもよい。より具体的には、制御部130は、移動体制御部112および操作装置制御部122のうち少なくともいずれか一方により、第1撮像部113および第2撮像部114から受け取った画像データの処理を行うことができる。制御部130は、ハードウェアもしくはソフトウェアまたはこれらの組合せにより上述の機能を実現する。ソフトウェアは、メモリにロードされたプログラムなどによって実現される。
また第1撮像部113と第2撮像部114とをまとめて撮像部140と称する。換言すると、撮像部140は、第1撮像部113および第2撮像部114を含む。撮像部140は、上述のように、別個の撮像装置である第1撮像部113および第2撮像部114により構成されてもよいし、1個の撮像装置に2つの異なる視点から目標物体を含む画像を撮像できる構成のものであってもよい。
次に図3を参照しながら撮像部140の配置について説明する。図3は実施の形態1にかかる移動体110の上面図である。図に示すように、撮像部140は第1撮像部113および第2撮像部114を有している。第1撮像部113は移動体110の前方(X軸マイナス方向)に向かって左側(Y軸マイナス側)に配置されており、第2撮像部114は移動体110の進行方向に向かって右側(Y軸プラス側)に配置されている。第1撮像部113(の有する光学素子(レンズ)の主点)の位置は第1視点である。また、第2撮像部114(の有する光学素子の主点)の位置は第2視点である。第1視点と第2視点は、互いに異なる位置に配置された異なる視点である。ここで、第1撮像部113および第2撮像部114は、それぞれが有している撮像素子(イメージセンサ)の水平方向の走査線(撮像素子の画素の配列の方向のうち、水平方向のもの)の方向が移動体110の移動面であるXY平面に実質的に平行になるように設定されている。なお、本明細書において実質的とは、取付誤差、製造誤差等の要因によって発生の避けられない誤差を含む概念である。これらの設定により、各撮像素子から取得される画像の姿勢が揃い、良好な合成画像を生成できる。しかし、後述する制御部130により画像の向きを補正する処理を加え、より精度良く画像の姿勢を揃えることもできる。また、後述の実施の形態のように、撮像素子の画素の配列の方向のうち垂直方向のものが、YZ平面に実質的に平行になるようにしても、格子状の撮像素子の画素の配列の方向のうちいずれか一方の方向が、任意の同一平面と平行となるようにしてもよい。
第1撮像部113は移動体110の前方のやや右側を中心に撮像するように配置されており、第2撮像部114は移動体110の前方のやや左側を中心に撮像するように配置されている。そのため第1撮像部113の光軸113Xと第2撮像部114の光軸114Xとは、移動体110から距離DST=d0の位置で交差するように構成されている。距離DST=d0は、移動体制御システムにおいて予め設定された目標距離である。つまり、撮像部140が有する第1撮像部113および第2撮像部114は、目標距離(距離DST=d0)において光軸が交差するように設置されている。換言すると、撮像部140は、第1撮像部113の光軸113Xと第2撮像部114の光軸114Xとが交差する点から移動体110までの距離が目標距離になるように移動体110に固定されている。なお、目標距離は予め設定されたものでも、操作中に変更可能なものとしても本発明は実施できる。
また、図に示すように、第1撮像部113は撮像範囲113Aを有している。第2撮像部114は撮像範囲114Aを有している。そして、第1撮像部113の撮像範囲113Aの一部と、第2撮像部114の撮像範囲114Aの一部とは互いに重複しており、重複範囲に物体900が存在している。そのため第1撮像部113および第2撮像部114はそれぞれ物体900を撮像することができる。物体900のY軸プラス方向を光軸113Xが通過しており、Y軸マイナス方向を光軸114Xが通過する。すなわち撮像部140は、少なくとも移動体110と物体900との距離が目標距離の場合に、第1目標画像C1の少なくとも一部と第2目標画像C2の少なくとも一部とが重なり合うように移動体110に設置される。
ここで、光軸113Xと光軸114Xとは角度θで交差する。角度θは、180度未満であり、より好ましくは90度未満である。上述のように構成することにより、第1目標画像C1として取得する画像に含まれる要素と第2目標画像C2として取得する画像に含まれる要素とが、互いに共通する要素を含む。そのため、移動体制御システム100は、共通する要素を利用してユーザの操作により移動体110を所望の位置に移動させることができる。
次に図4および図5を参照しながら移動体制御システム100の有する制御部130が画像処理を行う、制御方法としての処理について説明する。図4は、実施の形態1にかかる移動体制御システムが行う処理のフローチャートである。図4に示すフローチャートは、制御部130が行う処理を示したものである。制御部130は、コンピュータ・プログラムとしての制御プログラムに従って、本処理を実行する。
まず、制御部130は、第1撮像部113が撮像して生成した画像データである第1画像データを取得する(ステップS11)。またこれと並行して、制御部130は、第2撮像部114が撮像して生成した画像データである第2画像データを取得する(ステップS12)。
図5は、移動体制御システム100の有する制御部130が行う、制御方法としての画像処理の具体例を示す図である。図の左側上段に示す第1画像P1は、第1撮像部113が撮像した画像である。第1画像P1には第1撮像部が撮像した物体900の画像である第1目標画像C1が含まれる。図の右側上段に示す第2画像P2Aは、第2撮像部114が撮像した画像である。第2画像P2Aには第1撮像部が撮像した物体900の画像である第2目標画像C2が含まれる。
図4に戻る。次に制御部130は、第2画像データに対して予め設定された画像処理を施す(ステップS13)。ここで制御部130は、図5の第2画像P2Aに対してエッジ検出を行い、検出したエッジの画像(の色数)を二値化した画像のデータを生成する。換言すれば、第2画像P2Aに対して、その表現(描画表現、ビジュアルエフェクト)が、第1画像P1の表現と異なるように、画像処理を施す。
図5の右側中段に示した処理画像P2Bは、制御部130により生成された処理画像の例である。処理画像P2Bは第2画像P2Aに含まれている第2目標画像C2のエッジを二値化処理して生成されたものである。なお、以降の説明において、第2画像に所定の処理を施した画像を処理画像と称するが、処理画像は第2画像に処理を施したものであり、第2画像自体を処理画像と称してもよいものとする。
図4に戻る。次に制御部130は、第1画像データと処理画像データを組み合わせて複合画像を生成する。本実施例では、制御部130は第1画像データと処理画像データを合成して複合画像としての合成画像データを生成する(ステップS14)。各データの合成の比率が所定の比率となるように、各データは重み付けされる。図5の中央下段に示した合成画像P3は、第1画像P1と処理画像P2Bとを重ね合わせるように(例えば合成の比率が1:1となるように)合成して生成された画像である。図5に示すように、合成画像P3には、第1撮像部113が撮像した物体900の画像である第1目標画像C1と、第2撮像部114が撮像した物体900の画像である第2目標画像C2とが含まれている。
続いて制御部130は、生成した合成画像データを表示部123に供給して合成画像を表示させる(ステップS15)。したがって、例えば表示部123には、図5の合成画像P3が表示される。
次に制御部130は、処理が終了か否かを検出する(ステップS16)。例えばユーザの操作により制御部130の処理を終了する指示があった場合(ステップS16:Yes)、制御部130は一連の処理を終了させる。一方、一連の処理を終了させる指示がない場合、制御部130は、一連の処理を終了させず(ステップS16:No)、再びステップS11およびステップS12に戻り処理を繰り返す。
このように、移動体制御システム100において、制御部130は、第2画像のデータである第2画像データに対して予め設定された画像処理を施す。上述の処理により、制御部130は第1撮像部113および第2撮像部114から取得した画像データを合成して合成画像を生成し、生成した合成画像を表示部123に表示する。ユーザUは、合成画像に含まれる第1目標画像および第2目標画像の位置の差を、第1目標画像C1と第2目標画像C2とを用いて局所的に比較することにより、直観的に移動体110と物体900との距離を把握できる。
例えば制御部130は第1画像P1と、第2画像ないし処理画像をそれぞれ出力し、複数の画像を表示部123に表示してもよい。この場合、例えば、表示部123は、ユーザUの一方の眼である左目に第1画像を結像させる第1表示部と、ユーザUの他方の眼である右目に第2画像ないし処理画像を結像させる第2表示部とを有していてもよい。すなわち、制御部130は、ユーザUの一方の眼に結像させる第1画像と、ユーザUの他方の眼に結像させる第2画像または処理画像とを組み合わせて出力する。この場合ユーザUは、両眼立体視の原理に基づいて、それぞれの眼でそれぞれの画像を認識することにより、各々の画像をこれらが重なり合った状態で認識する。この場合、表示部としては、頭部装着型のヘッドマウントディスプレイや、投射型のディスプレイを用いることがより好ましい。つまり、移動体制御システム100は複数の画像を組み合わせた複合画像をユーザUに提示して、最終的にユーザUに複合画像を複数の画像の重なり合った画像として認識させればよい。すなわち複合画像が、制御部130により合成画像として出力されたものであっても、制御部130が処理画像を含む各画像を出力した後に光学的に合成されたものであっても、あるいはユーザUの左右の目にそれぞれ提示される複数の画像であってもよい。
次に、図6および図7を参照しながら制御部130が第2画像に対して行うエッジ検出の処理について説明する。制御部130は、コンピュータ・プログラムとしての制御プログラムに従って、本処理を実行する。図6および図7は、移動体制御システムが行う画像処理の一例を示すフローチャートである。図6および図7に示す画像処理は図3のステップS130をより詳しく示したものである。なお、図6および図7に示すエッジ検出の画像処理の例は、当業者に広く知られている技術である。そのためここでは、各処理の詳細は適宜省略しながら説明する。
まず制御部130は、第2撮像部114から画像データを取得する(ステップS100)。次に制御部130は、取得した画像データに対してノイズ削減処理を行う(ステップS101)。
次に制御部130は、エッジ検出を行うための行列値であるカーネルおよび第一閾値TH1および第2閾値TH2を取得する。ここで制御部130が取得したカーネルおよび第一閾値TH1および第2閾値TH2は、移動体制御システム100が有している不揮発性のメモリ装置に予め格納されていたものである。
次に制御部130は、ノイズ削減処理をした画像データの全ての画素に対して畳み込み演算を行い、画素の勾配を取得する(ステップS102)。
制御部130は、注目画素に対して勾配取得を完了すると、注目画素が最後の画素であったか否かを検出する(ステップS104)。注目画素が最後の画素でない場合(ステップS104:No)、制御部130は、ステップS103に戻り、次の画素を注目画素として畳み込み演算を継続する。一方、注目画素が最後の画素である場合(ステップS104:Yes)、制御部130は、次のステップへ移行する。
次に制御部130は、演算結果から極大値の候補を抽出する(ステップS105)。次に、制御部130は、抽出した極大値の候補が極大値か否かを判定する(ステップS106)。ここで抽出した極大値の候補が極大値ではない場合(ステップS106:No)、制御部130は対象画素を抑制処理する(ステップS111)。ここで示す例において抑制処理とは、対象画素を白にする処理を行うことを意味している。抽出した極大値の候補が極大値の場合(ステップS106:Yes)、制御部130は次のステップへ進む。
次に制御部130は、対象画素の極大値が第1閾値TH1以上か否かを判定する(ステップS107)。対象画素の極大値が第1閾値TH1以上であると判定しない場合(ステップS107:No)、制御部130は、対象画素を抑制する(ステップS111)。対象画素の極大値が第1閾値TH1以上であると判定した場合(ステップS107:Yes)、制御部130は、次のステップへ進む。
次に制御部130は、対象画素の極大値が第2閾値TH2以上か否かを判定する(ステップS108)。対象画素の極大値が第2閾値TH2以上であると判定しない場合(ステップS108:No)、制御部130は、対象画素が第2閾値TH2以上の画素に隣接しているか否かを判定する(ステップS109)。
対象画素が第2閾値TH2以上の画素に隣接していると判定しない場合(ステップS109:No)、制御部130は、対象画素を抑制する(ステップS111)。対象画素が第2閾値TH2以上の画素に隣接していると判定した場合(ステップS109:Yes)、制御部130は、対象画素を活性化する(ステップS110)。ここで示した例において対象画素を活性化するとは、対象画素を黒にする処理を行うことを意味している。
ステップS108に戻る。ステップS108において、対象画素の極大値が第2閾値TH2以上であると判定した場合(ステップS108:Yes)、制御部130は、対象画素を活性化する(ステップS110)。
次に、制御部130は、処理をした対象画素が最後の画素であったか否かを検出する(ステップS112)。処理をした対象画素が最後の画素ではなかった場合(ステップS112:No)、制御部130は、ステップS105に戻り処理を繰り返す。処理をした対象画素が最後の画素であった場合(ステップS112:Yes)、制御部130は、次のステップへ進む。
次に制御部130は、処理画像データを出力する(ステップS113)。より具体的には、制御部130は、処理画像データと第1画像データとを合成するために、処理画像データを所定の一時記憶部に出力する。
次に制御部130は、処理すべき次の画像があるか否かを検出する(ステップS114)。次の画像データがある場合(ステップS114:Yes)、制御部130はステップS100に戻り再び画像データの取得を行う。一方、次の画像データがない場合(ステップS114:No)、制御部130はエッジ検出処理を終了する。制御部130は、このような処理により、第2画像P2Aに対して第2目標画像C2の輪郭を検出するとともに、所定の閾値に基づいて、輪郭を二値化して出力し、表示するエッジ検出の処理を施す。輪郭の画像は、合成による第1画像の視認性の低下を抑制する。すなわち上述の処理により、ユーザUは、合成された2つの画像から容易に第1目標画像C1と第2目標画像C2とを弁別できる。
次に、図8〜図10を参照しながら、移動体110と物体900との距離に応じて変化する合成画像の状態について説明する。
図8は、合成画像の例を示す第1の図である。図8の上段は、移動体110および物体900の位置関係を示した上面図である。図8に示す移動体110と物体900との距離は距離DST=d2である。距離DST=d2において第1撮像部113が撮像する物体900は、光軸113Xの左側(Y軸マイナス方向)に存在している。一方、距離DST=d2において第2撮像部114が撮像する物体900は光軸114Xの右側(Y軸プラス方向)に存在している。
図8の下段は、移動体110と物体900とが距離DST=d2である場合の合成画像P3を示している。図8に示すように、合成画像P3には、第1撮像部113が撮像した物体900の画像である第1目標画像C1と、第2撮像部114が撮像した物体900の画像であって、エッジ検出処理が施された第2目標画像C2とが含まれている。第1目標画像C1は、合成画像P3の中央部(合成画像の中央の画素近傍の領域)よりも左側に表示されている。また第2目標画像C2は、合成画像P3の中央部よりも右側であって、第1目標画像C1とは離間して表示されている。
図9は、合成画像の例を示す第2の図である。図9の上段に示した移動体110と物体900との距離は、図8で示した距離DST=d2より近い距離DST=d1である。距離DST=d1において、第1撮像部113が撮像する物体900は光軸113Xのやや左側に存在している。一方、距離DST=d1において第2撮像部114が撮像する物体900は光軸114Xのやや右側に存在している。
図9の下段は、移動体110と物体900とが距離DST=d1である場合の合成画像P3を示している。図9に示すように、距離DST=d1における合成画像P3に表示される第1目標画像C1と第2目標画像C2とは、図8で示した場合よりも互いに近付いており、一部が重なり合った状態で表示されている。
図10は、合成画像の例を示す第3の図である。図10の上段に示した移動体110と物体900との距離は、図9で示した距離DST=d1よりさらに近い距離DST=d0である。距離DST=d0は移動体制御システム100において予め設定された目標距離である。距離DST=d0において、第1撮像部113が撮像する物体900の中央部は光軸113Xに一致している。同様に、距離DST=d0において第2撮像部114が撮像する物体900の中央部は光軸114Xに一致している。
図10の下段は、移動体110と物体900とが距離DST=d0である場合の合成画像P3を示している。図10に示すように、距離DST=d0における合成画像P3に表示される第1目標画像C1と第2目標画像C2とは、図9で示した場合よりもさらに近付き、互いに重なり合った状態で表示されている。
上述のように、合成画像P3に表示される第1目標画像C1および第2目標画像C2は、移動体110と物体900との距離が目標距離に近付くほど重なり合う(重なり合う面積が増加する)ように構成されている。より具体的には、移動体制御システム100において、制御部130は、移動体110と目標物体(例えば物体900)との距離が目標距離に近付くほど第1目標画像C1と第2目標画像C2とが近付くように第1画像P1と前記第2画像P2Aとを合成して合成画像P3を生成する。本例では、各撮像部の配置により、上述の構成が実現されている。なお、制御部130が第1目標画像C1と第2目標画像C2との移動(変位)の速度を、目標物体と移動体110との距離の情報を用いて変えるように制御(処理)を加えてもよい。距離の情報は、第1および第2撮像部から取得可能である。例えば、移動体110と目標物体との距離が目標距離に近付くほど第1目標画像C1と第2目標画像C2との移動の速度が低減するように制御すれば、精密な位置合わせが容易になる。
移動体110と物体900との距離が目標距離(d0)よりもさらに近付く場合には、移動体110と物体900との合成画像P3上での距離が再び目標距離から離れる。したがって、移動体110と物体900の距離が近付くことにより目標距離から離れる程、第1目標画像C1および第2目標画像C2は互いに離れていく。このように、物体900に対する移動体110の相対位置によって第1目標画像C1および第2目標画像C2の変位の向きが非対称であるから、ユーザUは、これらの変位により移動体110の相対位置を直感的に把握することもできる。
実施の形態1における移動体制御システム100において、第1撮像部113と第2撮像部114とがそれぞれが有している撮像素子の水平方向の走査線の方向が移動体110の移動面であるXY平面に実質的に平行になるように設定されている。そのため、合成画像P3に表示される第1目標画像C1および第2目標画像C2は、移動体110の位置変化に対応して、合成画像P3の水平方向の走査線に実質的に平行に位置を変化させる。
以上に説明したように、移動体制御システム100は撮像部140、制御部130、表示部123を少なくとも有している。上述の構成により、ユーザUは、操作装置120に表示されている画像を観察することにより移動体110と物体900との距離を直感的に把握できる。また、移動体制御システム100は、操作受付部124および駆動部115を有している。そのため、ユーザUは表示部123の画像を観察しながら移動体110を物体900に近付ける操作を行える。
なお、上述の例では、第2画像は白と黒の二値画像であって(二値により表現され)、エッジを黒色で出力する例で説明したが、エッジの出力形式はこれに限られない。処理画像として黒色でエッジを出力する場合、移動体制御システム100は、例えば光の強い屋外においても視認しやすい画像を出力できる。一方、処理画像として白色でエッジを出力する場合、移動体制御システム100は、光の少ない屋内において視認しやすい画像を出力できる。
また、制御部130は、エッジ化された映像の色や明暗を変更する等の処理を実行してもよい。例えば制御部130は、第1撮像部113が取得した第1画像P1の色の傾向を検出し、最も強い傾向を有する色の補色を出力してもよい。制御部130は、第1画像P1の画素毎の色を検出してもよい。これにより、移動体制御システム100は、さらに良好に視認可能な処理画像を生成できる。
また、制御部130は、検出したエッジを破線により描画してもよいし、検出したエッジからディスプレイに垂直方向(各カメラの並ぶ方向に直交する方向)に延伸する線のみを抽出して描画してもよい。本例では第1目標画像C1および第2目標画像C2が水平方向に変位するから、目標物体900に関する垂直方向の情報が重要となるためである。これにより、位置の調整に用いる参照画像からの情報を最小限にできるので、タスクに主として用いる第1画像をさらに良好に視認できる。
また、制御部130は、処理画像を生成する処理において、エッジ検出に代えて、あるいはエッジ処理に加えて、取得した画像を淡くぼかす処理を施してもよい。換言すれば、制御部130は、第2画像の表現をぼかし表現(ぼかした画像)としてもよい。これにより、移動体制御システム100は合成画像において、第1画像との弁別が可能でありながら、処理画像の視覚的な際立ちを抑えることができる。淡くぼかす処理は、制御部130が行う画像処理によるものも、撮像装置に設けられた光学素子の特性によるものも含む。
<画像処理の第2の例>
次に図11を参照しながら制御部130が行う画像処理(画像表現)の第2の例について説明する。図11は、移動体制御システムが行う画像処理の第2の例を示す図である。図11の上段左側に示す第1画像P21には第1目標画像C1に加えて、背景に他の物体が無造作に配置されている。このように、目標物体以外の物体が多く存在する場合に、第1画像P21と処理画像P22Bとを合成すると、画像が煩雑になり、ユーザUにとって見辛いものとなる。そこで、図11に示す例において制御部130は、第2撮像部114が撮像した第2画像の中央部に近い画素よりも、第2画像の外縁部(中央部よりも外側の領域)に近い画素の透過率(合成の比率)を高くする処理を施している。このように、制御部130は、第2画像の各画素の位置(座標)に応じて異なる処理を行う。
図11の上段右側に示すに示す処理画像P22Bは、画像の中央部に領域B1を設けている。領域B1は、画面中央から所定の領域を画定(トリミング)するためのものであり、画面中央を中心とした所定の円状の領域である。領域B1より外縁部に近い画素は、領域B1内の画素より透過率が高く設定されている。より好ましくは、領域B1の面積は、それ以外の領域の面積よりも小さいことが望ましい。これによりユーザUは、第2画像から目標物体に関する補助的な情報に絞った情報を効率的に得られる。
図11の下段に示す合成画像P23は、図11の上段に示した第1画像P21と処理画像P22Bとを合成した画像である。図に示すように、合成画像P23は画像の外縁部はエッジ処理の画像が薄く表示されている。そのため合成画像P23は煩雑さが抑制されている。
なお、上述の例において、処理画像P22Bは領域B1内と領域B1外との2段階での処理を示したが、画像処理の階調は3段階以上であってもよい。また、画像処理の階調は連続的であってもよい。また、制御部130は、透過率に加え、または透過率に代えて、各画素の位置に応じてエッジ検出の閾値を変化させる(異なる)処理を施してもよい。この場合制御部130の取得する閾値は、第2画像の外縁部に近い画素ほど表示が抑制されるように設定される。
上述の例では、第2撮像部114が取得した画像に円形トリミングの画像処理を加える例を説明したが、これ以外の構成でも本発明の効果を得ることができる。トリミングの形状は、各カメラが並ぶ方向(本変形例では水平方向)に長いほうが、移動体110を移動させる場合の粗調が容易になる。このため、例えば各カメラの並ぶ方向に長径を有する楕円形状や、その他の形状でトリミングすることで、さらなる効果を得られる。また、第2画像の処理方法もトリミングに限られない。例えば、外縁部を画像処理で、あるいは光学的にしぼり機構等で、ぼかす処理を加えても構わない。
<画像処理の第3の例>
次に、図12を参照しながら制御部130が行う画像処理の第3の例について説明する。図12は、移動体制御システムが行う画像処理の第3の例を示す図である。図11と同様に、図12の上段左側に示す第1画像P31には第1目標画像C1に加えて、背景に他の物体が無造作に配置されている。図12に示す例において制御部130は、処理画像P32Bにおける中央部の領域の画素を合成画像P33に使用し、処理画像P32Bにおける外縁部の領域の画素を合成画像P33に使用しない(比率0で合成する)処理を施している。このように、制御部130は、各画素の位置に応じて異なる処理を行う。
図12の上段右側に示す処理画像P32Bは、画像の中央部に領域B2を設けている。領域B2は、画面中央を中心として所定の幅を有する矩形の領域である。図に示す例では、領域B2は画面の横方向について幅B3で画定されている。
図12の下段に示す合成画像P33は、図12の上段に示した第1画像P31と処理画像P32B(の中央部)とを合成した画像である。図に示すように、合成画像P33は、画像の左右方向の外縁部に近い画素は、第2撮像部114が撮像した画像が合成されていない。換言すれば、合成画像P33における第1画像P31と処理画像P32Bとは、中央部に近い領域において所定の比率(重みづけ)で合成され、外縁部に近い領域ではそれよりも低い比率で合成されている。そのため、合成画像P33は煩雑さが抑制されている。本例では、外縁部に近い領域での合成にかかる所定の比率は0である。例えば、所定の比率を8とし、外縁部に近い領域での比率は2としてもよい。
なお、図11に示した領域B1および図12に示した領域B2は上述した形状に限られず、上下方向について画面の中央部から所定の領域を画定するものであってもよいし、その他任意の形状であってもよい。
<画像処理の第4の例>
次に、図13および図14を参照しながら制御部130が行う画像処理の第4の例について説明する。図13は、移動体と目標物体との位置関係を示す斜視図である。ここで示す例では、移動体110は直方体である物体901を目標物体として矢印方向に移動している。図において、目標物体である物体901は、底面が長方形の直方体であり、底面の短辺L1の長さと長辺L2の長さの差が大きい。また、第1撮像部113の光軸と長辺L2の延伸方向とがほぼ一致している。
図14は、移動体制御システムが行う画像処理の第4の例を示す図である。図14の上段左側は、第1撮像部113が撮像した第1画像P41である。図14の上段右側は、第2撮像部114が撮像した第2画像に所定の処理を施した処理画像P42Bである。図に示すように、第1撮像部113は、長辺L2に接続する面よりも短辺L1に接続する面を大きく撮像する。一方、第2撮像部114は、長辺L2に接続する面をより大きく撮像する。そのため、第1撮像部113が撮像する画像である第1画像に含まれる物体901の画像(第1目標画像)と、第2撮像部114が撮像する画像である第2画像に含まれる物体901の画像(第2目標画像)とは、大きさが異なる。本例では、このような場合において、第1画像と第2画像を一致させる場合の明確な基準を提供する。
制御部130は、画像処理において、所定の基準線を設定し、設定した基準線を強調して表示する画像処理を行う。より具体的には、制御部130は、水平方向の輝度値の差を、垂直方向の輝度値の差よりも強調して表示する。これにより、制御部130は、エッジ検出した線分の内、ユーザが一致させるために参照し易い垂直方向に延伸する線が強調されて表示される。また、制御部130は、垂直方向に延伸する線のうち、所定の線を選択し、選択した線を他の要素より強調して表示してもよい。
図14に示す処理画像P42Bは、基準線L22が強調して表示されている。基準線L22は第1画像P41に含まれる線L21に対応している。したがって、ユーザUは、合成画像P43において、線L21と基準線L22とが一致するように移動体110を移動できる。
上述した画像処理により、移動体制御システムは、ユーザUが容易に第1目標画像を視認することができるように合成画像を出力することができる。一方、移動体制御システムは、第1目標画像の視認性を損なわず、且つ、ユーザが直観的に目標物体と移動体との距離を把握することができる画像を表示することができる。
<実施の形態1の変形例>
次に、図15および図16を参照しながら実施の形態1の変形例について説明する。実施の形態1の変形例は、移動体が光照射部をさらに有する点において、実施の形態1と異なる。
図15は、実施の形態1の変形例にかかる移動体の斜視図である。図に示す移動体110は、第1撮像部113と第2撮像部114の間に、参照光照射部117を有している。参照光照射部117は、第1撮像部113の光軸113Xと第2撮像部114の光軸114Xとが交差する位置T1(目標距離)に向けて各画像に表示可能な参照光を照射する。参照光照射部117が照射する参照光の投影形状は、コヒーレントなレーザ光のように、スポット径が小さい形状であることが好ましい。なお、参照光照射部117の位置、参照光の投影形状は本例に限られない。
図16は、実施の形態1の変形例による画像処理の例を示す図である。図16の上段左側は第1撮像部113が撮像した第1画像P51である。図16の上段右側は第2撮像部114が撮像した第2画像に所定の画像処理を施した処理画像P52Bである。また図の下段は第1画像P51と処理画像P52Bが合成された画像である合成画像P53である。
第1画像P51には第1目標画像C51が含まれているとともに、第1目標画像C51には、参照光が照射された点N51が含まれている。処理画像P52には第2目標画像C52が含まれているとともに、第2目標画像C52には、参照光が照射された点N52が含まれている。
合成画像P53には、第1目標画像C51に含まれる点N51と、第2目標画像C52に含まれる点N52とが表示される。したがって、ユーザUは、合成画像P53に表示される点N51と点N52とが一致するように移動体110を操作できる。このような構成により、ユーザUは、移動体110の位置を直感的に把握するとともに、点N51および点N52により移動体110の位置の微調整を容易に且つ高精度に行うことができる。
以上、実施の形態1およびその変形例について説明したが、実施の形態1にかかる移動体制御システム100の構成は上述したものに限られない。例えば、移動体制御システムは移動体110と操作装置120とのそれぞれに通信可能に接続し、移動体110と操作装置120との間に介在するサーバを有していてもよい。この場合、サーバは移動体110から送信された画像データを処理する制御部130の機能を有していてもよい。移動体は、車輪により移動する装置でなく、モータ、キャタピラ、クローラ、プロペラ、タービンあるいはスクリューなどにより移動するものであってもよい。また移動体は手動ないし任意の動力による外力を受けることにより移動するのもであってもよい。
また、制御部130が行う画像処理は上述の処理の他に、あるいは上述の処理に加えて、種々の処理を採用できる。例えば、制御部130は、第2画像を平滑化フィルタにより処理してもよい。また制御部130は、第2画像が第1画像より少ない色数により表示部に表示されるように第2画像データに対して画像処理を施すことが好ましい。例えば、制御部130は、第2画像が第1画像より少ない輝度階調数により表示部に表示されるように第2画像データに対して画像処理を施してもよい。また、撮像部の一方に他方とは異なる光学性能を有するレンズ(光学素子)を構成してもよい。例えば、撮像部の一方には単焦点レンズ(被写界深度の浅いレンズ)、他方にはパンフォーカスレンズ(被写界深度の深いレンズ)を構成することで、映像の一方に光学的な処理を施せる。この場合、撮像部は、目標距離近傍に(制御部130により)合焦している単焦点レンズを通して第2画像を生成する。
以上、実施の形態1およびその変形例によれば、移動体と目標物体との距離をユーザが直感的に把握できる移動体制御システム等を提供することができる。かかる移動体制御システム100を利用することにより、ユーザUは、移動体ないし目標物体を視認することができない遠隔地から、移動体を目標物体に対して所望の距離に移動させることができる。
<実施の形態2>
次に図17および図18を参照しながら実施の形態2について説明する。実施の形態2にかかる移動体110は、第1撮像部の光軸が移動体の進行方向に実質的に平行に配置されている点において実施の形態1にかかる移動体110と異なる。
図17は、実施の形態2にかかる移動体および合成画像の例を示す第1の図である。図17の上段で示すように、移動体110は物体900に向かってX軸マイナス方向に沿って移動している。移動体110が有する第1撮像部113は、移動体110の略中央で撮像範囲が前方を向くように配置されている。移動体110が有する第1撮像部113の光軸113Xは、移動体110の進行方向であるX軸マイナス方向に平行である。また移動体110が有する第2撮像部114は、移動体110の前方に向かって、第1撮像部113よりも相対的に右側で、且つ、撮像範囲が前方左側に傾くように設置されている。そのため、第2撮像部114の光軸114Xは、移動体110からの距離DST=dg(目標距離)において光軸113Xと交差する。このとき光軸113Xと光軸114Xとが成す角度は角度θである。角度θは、180度未満であり、より好ましくは90度未満である。
図17の上段に示した移動体110と物体900との距離は、距離DST=d21である。距離DST=d21において、第1撮像部113が撮像する物体900の中央部は光軸113Xに一致している。一方、距離DST=d21において第2撮像部114が撮像する物体900は光軸114Xの右側に存在している。
図17の下段は、移動体110と物体900とが距離DST=d21である場合の合成画像P3を示している。図に示すように、合成画像P3には、第1撮像部113が撮像した物体900の画像である第1目標画像C1と、第2撮像部114が撮像した物体900の画像であって、エッジ検出処理が施された第2目標画像C2とが含まれている。第1目標画像C1は合成画像P3の中央部に表示されている。また第2目標画像C2は合成画像P3の中央部よりも右側であって、第1目標画像C1とは離間して表示されている。
図18は、実施の形態2にかかる移動体および合成画像の例を示す第2の図である。図18の上段に示した移動体110と物体900との距離は、図17で示した距離DST=d21より近い距離DST=d22である。距離DST=d22において、第1撮像部113が撮像する物体900の中央部は光軸113Xに一致した状態が保たれている。一方、距離DST=d22において第2撮像部114が撮像する物体900は光軸114Xのやや右側に存在している。
図18の下段は、移動体110と物体900とが距離DST=d22である場合の合成画像P3を示している。図18に示すように、第1目標画像C1は、距離DST=d21の場合と同様に、合成画像P3の中央部に表示されている。一方、第2目標画像C2は、距離DST=d21の場合よりも左側に移動している。そのため、第1目標画像C1と第2目標画像C2とは互いに一部が重なり合った状態で表示されている。移動体110が目標距離dgに達する、すなわち距離DST=dgとなれば、第1目標画像C1と第2目標画像C2とは互いに重なり合った状態で表示される。
このように、実施の形態2によれば、ユーザUが物体900に向けて移動体110を直進させるに際し、第1撮像部113が撮像する第1目標画像C1は合成画像P3の中央近傍に維持される。また、ユーザUが移動体110を物体900に向かって直進させることにより、第2目標画像C2は、合成画像P3において徐々に第1目標画像C1に近付くことになる。すなわち、第2目標画像C2を第1目標画像C1に重ねるように操作するに際し、第1目標画像C1が視野から外れることを抑制できる。よって、ユーザUは、中央に向かって移動してくる第2目標画像C2の移動にのみ着目し、第1目標画像C1の移動に格別の注意を払わずに、第2目標画像C2と第1目標画像C1と一致する位置まで移動体110を操作できる。したがって、実施の形態2によれば、操作が容易かつ任意の目標距離をユーザが直観的に把握できる移動体制御システム等を提供することができる。
<実施の形態3>
次に図19を参照しながら実施の形態3について説明する。図19は、実施の形態3にかかる移動体の上面図である。実施の形態3にかかる移動体210は、撮像部がZ軸周りに(第1および第2撮像部の光軸を含む面に直交する直交軸周りに)回転可能な点において実施の形態1にかかる移動体110と異なる。
実施の形態3にかかる移動体210は、撮像部として第1撮像部213および第2撮像部214を有している。第1撮像部213および第2撮像部214は、それぞれZ軸周りに回動する機構を有している。第1撮像部213は、図19に示す方向から観察した場合に、時計回り方向W11および反時計回り方向W12に回動する。同様に、第2撮像部214は、図19に示す方向から観察した場合に、時計回り方向W21および反時計回り方向W22に回動する。
第1撮像部213および第2撮像部214は、それぞれ逆方向に同期して回転するように設定されている。例えば、第1撮像部213および第2撮像部214は、回転の支点部にそれぞれ同じ仕様のギアを有し、互いのギアが噛み合うギア機構を有する構成とできる。したがって、例えば第1撮像部213が時計回り方向W11に10度回動した場合には、第2撮像部214は反時計回り方向W22に10度回動する。したがって、第1撮像部213の光軸213Xと第2撮像部214の光軸214Xとが交差する位置は中心線CL1に沿って変化する。すなわち目標距離DST=dtは方向dt−に変化する。また例えば第1撮像部213が反時計回り方向W12に10度回動した場合には、第2撮像部214は時計回り方向W21に10度回動する。したがって、光軸213Xと光軸214Xとが交差する位置は中心線CL1に沿って変化する。すなわち目標距離DST=dtは方向dt+に変化する。
なお、移動体210の撮像部は、上述のように同期して回動する構成でなく、いずれか一方が回動する構成を採用することもできる。
上述の構成により、実施の形態3にかかる移動体制御システム100は、目標物体との距離である目標距離に応じて撮像部の撮像範囲を任意に設定し、移動体210と目標物体とが設定した目標距離に近付いているか否かを表示部に表示する。よって、実施の形態2によれば、任意の目標距離をユーザが直観的に把握できる移動体制御システム等を提供することができる。
<実施の形態4>
次に、図20および図21を参照しながら実施の形態4について説明する。図20は、実施の形態4にかかる移動体の上面図である。実施の形態4にかかる移動体310の撮像部は、第1撮像部313の光軸313Xと第2撮像部314の光軸314Xとが平行に設置されている点が、実施の形態1と異なる。
図に示すように、第1撮像部313は光軸313Xが移動体310の直進方向(X軸方向)に平行になるように設置されている。同様に、第2撮像部314は光軸314Xが移動体310の直進方向に平行になるように設置されている。したがって、光軸313Xおよび光軸314Xは平行である。そのため、移動体310に設定されている目標距離DST=d0で光軸は交差しない。目標距離DST=d0において、目標物体902は、第1撮像部313の撮像範囲および第2撮像部314の撮像範囲のいずれにも含まれるように構成されている。
図21は、実施の形態3にかかる移動体制御システムにおける画像処理の例を示す図である。図21の上段左側は第1撮像部313が撮像した第1画像P301である。図21の上段右側は第2撮像部314が撮像した第2画像にエッジ検出処理を施した処理画像P302Bである。また図21の下段は、第1画像P301および処理画像P302Bを合成した合成画像P303である。
合成画像P303は、第1画像P301が左側にシフトした状態で合成されている。また合成画像303は処理画像P302Bが右側にシフトした状態で合成されている。図に示すように、合成画像P303に合成される第1画像の幅方向の中央線CP301と処理画像P302Bの幅方向の中央線CP302とは距離B303離れている。このような構成にすることにより、本実施の形態にかかる合成画像P303は、目標距離において第1目標画像C31と第2目標画像C32とが一致するように設定されている。
このような構成により、実施の形態4にかかる移動体制御システムは、光軸が平行に設置された撮像部であっても、目標物体が目標距離で一致するように合成画像を生成することができる。
またこのような構成によれば、実施の形態4にかかる移動体制御システムは、合成する際の第1撮像部の画像と第2撮像部の画像との距離を任意に設定することにより、設定する目標距離に応じた合成画像を生成できる。例えば、図に示す距離B303が相対的に小さくなるように設定することにより、相対的に大きく設定した場合よりも目標距離DST=d0を大きく設定することができる。より具体的には、図20に点線で示した目標物体902Bの位置を目標距離DST=d1に設定する場合、図21に示した距離B303を相対的に小さく設定すればよい。
このような構成により、実施の形態4によれば、任意の目標距離を設定することができる。なお、本実施の形態の構成は、2台の撮像部に代えて、1台の撮像部を用いて構成できる。以上、実施の形態3によれば、任意の目標距離をユーザが直観的に把握できる移動体制御システム等を提供できる。
<実施の形態5>
図22を参照しながら実施の形態5について説明する。図22は、実施の形態5にかかる移動体の斜視図である。実施の形態5にかかる移動体410は、撮像部が第1撮像部413および第2撮像部414を有している。第1撮像部413および第2撮像部414は、垂直方向(各撮像部の撮像素子の画素の配列の方向のうち、垂直方向のものが互い同一の平面に平行)に配置されている点において、上述の構成と異なる。このように構成される場合、合成画像に表示される第1目標画像および第2目標画像は、目標物体と移動体410との距離に応じて、画面の上下方向に移動することになる。
このような構成により、実施の形態5は、移動体と目標物体との距離をユーザが直感的に把握できる移動体制御システム等を提供できる。なお、実施の形態5の構成に、実施の形態1の変形例で説明した参照光照射部を追加したり、実施の形態2、3または4の構成を適用したりすることも可能である。
<実施の形態6>
次に図23を参照しながら実施の形態6について説明する。図23は、実施の形態6にかかる移動体の側面図である。実施の形態6にかかる移動体510は、ユーザUが操作装置を使って遠隔操作可能に構成されたショベルカーである。移動体510は、主な構成として、本体部511、アーム機構部512、補助第1撮像部513、補助第2撮像部514、第1撮像部515および第2撮像部516を有している。
本体部511は移動面に設置するキャタピラを含む駆動部やエンジンを有している。また本体部511はアーム機構部512が接続している。さらに本体部511は、補助第1撮像部513および補助第2撮像部514が設置されている。
アーム機構部512は油圧により駆動する複数のリンクを含み、先端にはショベルを有している。またアーム機構部512には第1撮像部515および第2撮像部516が設置されている。ユーザUは、遠隔操作により、アーム機構部512を伸縮させることができる。
補助第1撮像部513および補助第2撮像部514は、本体部511に設置されており、本体部511の進行方向が撮像範囲となるように設定されている。すなわち、補助第1撮像部513および補助第2撮像部514は、本体部が移動する際に目標物体との距離である目標距離を把握するために設けられている。したがって、ユーザは補助第1撮像部513および補助第2撮像部514が撮像する画像から生成される合成画像を表示部で視認することにより、移動体510を移動させることができる。
例えば、移動体制御システムは、図23に示すように、本体部511の前方に存在する物体904との距離d4を目標距離に調整可能なように構成されている。したがって、ユーザUは表示部に表示される合成画像により本体部511と物体904との距離を把握しながら本体部511を移動させる。これによりユーザUは、例えば、アーム機構部512の可動範囲内に目標物体906を収めるような粗調を行える。より好ましくは、距離d4は目標物体906に対して設定されるとともに、アーム機構部512の可動範囲の中央(最大到達位置と最小到達位置との間の位置)近傍までの距離とすることが望ましい。
第1撮像部515および第2撮像部516は、アーム機構部512の先端付近に設置されている。アーム機構部512は本体部511に設けられた移動体ということができる。すなわち、第1撮像部515および第2撮像部516は、移動体であるアーム機構部512と目標物体906との距離d5を目標距離に調整するために利用される。
例えば、移動体制御システムは、アーム機構部512先端の前方に存在する物体906との距離d5を調整可能に設定されている。したがってユーザUは表示部に表示される合成画像によりアーム機構部512の先端と物体906との距離を把握しながらアーム機構部512を移動させる。
さらにこの状態において、ユーザUは、アーム機構部512の先端に設けられたショベルを折り曲げるように操作する。そうすると、ショベルの歯先は予め設定された(点線により示した)接触経路Tに沿って駆動する。これにより、アーム機構部512が有するショベルは、接触経路Tに沿って目標物体906をすくい取ることができる。このように、先端部の作用範囲(接触範囲T)を加味して所定の距離Lを予め設定しておくことで、先端部を確実に目標物体に作用させることができる。
次に、図24を参照しながら実施の形態6の変形例について説明する。図24は、実施の形態6の変形例にかかる移動体の側面図である。図に示した実施の形態6の変形例は、アーム機構部512に設けられた第1撮像部515および第2撮像部516がジンバル(スタビライザ、保持機構)517を介して設置されている点が、実施の形態6と異なる。
ジンバル517はアーム機構部512の先端部に設置され、第1撮像部515および第2撮像部516の光軸が水平を維持するように設定されている。これにより、アーム機構部512の先端に設けられている第1撮像部515および第2撮像部516は、アーム機構の角度に関わらず、目標物体に対して水平方向から撮像することができる。
例えば、移動体制御システムは、アーム機構部512先端の前方に存在する物体906との水平方向の距離d6を目標距離に調整可能に設定されている。したがってユーザUは表示部に表示される合成画像によりアーム機構部512の先端と物体906との水平方向の距離を把握しながらアーム機構部512を移動させることができる。
上述のように、実施の形態6にかかる移動体制御システムは、アーム機構などの移動体において、移動体と目標物体との距離をユーザが直感的に把握できる移動体制御システム等を提供することができる。また、実施の形態6の変形例にかかる移動体制御システムは、移動体の姿勢に関わらず、移動体と目標物体との所定の方向の距離をユーザが直観的に把握できる移動体制御システム等を提供することができる。
なお、本実施の形態において、例えば本体部511に設置した補助第1撮像部513および補助第2撮像部514が、実施の形態3において説明した構成(撮像部を回動させる機構)を有していてもよい。その場合、補助第1撮像部513および補助第2撮像部514に設定される所定の目標距離が、アームの先端の位置と連動するように、回転機構を制御することが好ましい。この場合、アームの近辺の対象物の映像にのみエッジが重なることになり、アームの操作が容易になる。
なお、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
100 移動体制御システム
110、210、310、410、510 移動体
123 表示部
130 制御部
140 撮像部
512 アーム機構部
900、901、904、906 物体
P3、P23、P33、P43、P53、P303 合成画像
DST、d4、d5、d6 距離
d0、dg、dt、d1 目標距離

Claims (30)

  1. 目標物体と移動体との距離が目標距離になるように前記移動体を移動させる移動体制御システムであって、
    前記移動体に保持され、第1視点から前記目標物体を撮像した第1目標画像を含む第1画像を取得するとともに、第1視点とは異なる第2視点から前記目標物体を撮像した第2目標画像を含む第2画像を取得する撮像部と、
    前記移動体と前記目標物体との距離が前記目標距離に近付くほど前記第1目標画像と前記第2目標画像とが近付くように前記第1画像と前記第2画像とを組み合わせて複合画像を出力する制御部と、
    前記複合画像を表示する表示部と、を備える
    移動体制御システム。
  2. 前記移動体と前記目標物体との距離が前記目標距離の場合に、前記第1目標画像の少なくとも一部と前記第2目標画像の少なくとも一部とが重なり合うように構成される
    請求項1に記載の移動体制御システム。
  3. 前記複合画像は、前記移動体と前記目標物体との距離が前記目標距離の場合に、前記第1目標画像の少なくとも一部と前記第2目標画像の少なくとも一部とが重なり合うように前記第1画像と前記第2画像とを所定の比率で合成される合成画像を含む
    請求項1または2に記載の移動体制御システム。
  4. 前記撮像部は、
    前記第1画像を撮像する第1撮像部と、
    前記第2画像を撮像する第2撮像部と、を有する
    請求項1〜3のいずれか一項に記載の移動体制御システム。
  5. 前記第1撮像部と前記第2撮像部との撮像素子における水平あるいは垂直の画素の配列の方向が、互いに同一の平面と実質的に平行になるように設定されている
    請求項4に記載の移動体制御システム。
  6. 前記第1および第2撮像部は、互いの光軸が交差するとともに、該交差する点から前記移動体までの距離が前記目標距離になるように、前記移動体に保持されている
    請求項4または5に記載の移動体制御システム。
  7. 前記第1撮像部の光軸は、前記移動体の進行方向と実質的に平行に構成されている
    請求項4〜6のいずれか一項に記載の移動体制御システム。
  8. 前記第1および第2撮像部の少なくともいずれか一方は、該第1および第2撮像部の光軸を含む面に直交する直交軸周りに回転可能に保持されており、前記目標距離に応じて前記直交軸周りに回転する
    請求項4〜7のいずれか一項に記載の移動体制御システム。
  9. 前記第2撮像部の光学素子は、前記目標距離に合焦し、かつ前記第1撮像部の光学素子よりも被写界深度が浅い
    請求項4〜8のいずれか一項に記載の移動体制御システム。
  10. 前記第1および第2撮像部は、互いの光軸が平行になるように保持されている
    請求項4〜9のいずれか一項に記載の移動体制御システム。
  11. 前記目標距離に向けて前記第1および第2画像に表示可能な光を照射する光照射部を有する
    請求項1〜10のいずれか一項に記載の移動体制御システム。
  12. 前記制御部は、前記第1および第2画像の表現が互いに異なるように、少なくとも前記第2画像に画像処理を施す
    請求項1〜11のいずれか一項に記載の移動体制御システム。
  13. 前記制御部は、前記第1画像を該第1画像に含まれる物体の画像にし、前記第2画像を該第2画像に含まれる物体の輪郭の画像にする
    請求項12に記載の移動体制御システム。
  14. 前記制御部は、前記第2画像を前記第1画像より少ない色数の画像にする
    請求項12または13に記載の移動体制御システム。
  15. 前記制御部は、前記第2画像を二値化する
    請求項14に記載の移動体制御システム。
  16. 前記制御部は、前記第2画像を前記第1画像より少ない輝度階調数の画像にする
    請求項12〜15のいずれか一項に記載の移動体制御システム。
  17. 前記制御部は、前記第2画像を前記第1画像よりぼかした画像にする
    請求項12〜16のいずれか一項に記載の移動体制御システム。
  18. 前記制御部は、平滑化フィルタにより前記第2画像をぼかす
    請求項17に記載の移動体制御システム。
  19. 前記制御部は、前記第2画像の画素の位置に応じて異なる画像処理を施す
    請求項12〜18のいずれか一項に記載の移動体制御システム。
  20. 前記制御部は、前記第2画像の透過率を、該第2画像の外縁部に近い画素ほど高くする
    請求項12〜19のいずれか一項に記載の移動体制御システム。
  21. 前記制御部は、前記第2画像の中央部の画素と、前記第1画像における対応する画素と、を所定の比率で合成し、前記第2画像の外縁部の画素と、前記第1画像における対応する画素と、を前記所定の比率よりも低い比率で合成し、前記複合画像とする
    請求項12〜20のいずれか一項に記載の移動体制御システム。
  22. 前記中央部の領域の面積は、前記外縁部の領域の面積よりも小さい
    請求項21に記載の移動体制御システム。
  23. 前記移動体は、前記表示部と通信する第1通信部を有し、
    前記表示部は、前記第1通信部を介して前記移動体と通信する第2通信部を有する
    請求項1〜22のいずれか一項に記載の移動体制御システム。
  24. 前記制御部は、前記第1目標画像と前記第2目標画像との変化の速度を、前記移動体と前記目標物体との距離の情報を用いて変える
    請求項1〜23のいずれか一項に記載の移動体制御システム。
  25. 前記複合画像は、前記第1画像をユーザのいずれか一方の眼で結像させ、前記第2画像を前記ユーザのいずれか他方の眼で結像させることにより、前記ユーザに認識される
    請求項1〜24のいずれか一項に記載の移動体制御システム。
  26. 前記撮像部は、前記目標距離に応じて前記第1画像および前記第2画像のうち少なくともいずれか一方に関する撮像範囲を変更するように設定されている
    請求項1〜25のいずれか一項に記載の移動体制御システム。
  27. 目標物体と移動体との距離が目標距離になるように前記移動体を移動させる移動体制御システムであって、
    ユーザの操作により移動する前記移動体と、
    前記移動体に保持され、第1視点から前記目標物体を撮像した第1目標画像を含む第1画像を取得するとともに、第1視点とは異なる第2視点から前記目標物体を撮像した第2目標画像を含む第2画像を取得する撮像部と、
    前記移動体と前記目標物体との距離が前記目標距離に近付くほど前記第1目標画像と前記第2目標画像とが近付くように前記第1画像と前記第2画像とを組み合わせて複合画像を出力する制御部と、
    前記ユーザに対して前記複合画像を表示する表示部と、を備える
    移動体制御システム。
  28. 目標物体との距離が目標距離であることを表示可能な複合画像を取得する移動体であって、
    該移動体を移動させる駆動部と、
    第1視点から前記目標物体を撮像した第1目標画像を含む第1画像を取得するとともに、前記第1視点とは異なる第2視点から前記目標物体を撮像した第2目標画像を含む第2画像を取得する撮像部と、
    前記目標物体との距離が前記目標距離に近付くほど前記第1目標画像と前記第2目標画像とが近付くように前記第1画像と前記第2画像とを組み合わせて前記複合画像を出力する制御部と、を備える
    移動体。
  29. 目標物体と移動体との距離をユーザに認識させる距離表示方法であって、
    目標距離を設定する距離設定ステップと、
    第1視点から前記目標物体を撮像した第1目標画像を含む第1画像を取得するとともに、前記第1視点とは異なる第2視点から前記目標物体を撮像した第2目標画像を含む第2画像を取得する画像取得ステップと、
    前記移動体と前記目標物体との距離が前記目標距離に近付くほど前記第1目標画像と前記第2目標画像とが近付くように前記第1画像と前記第2画像とを組み合わせて複合画像を出力する複合画像出力ステップと、
    前記複合画像を表示する表示ステップと、を備える
    距離表示方法。
  30. 目標物体と移動体との距離をユーザに認識させる距離表示方法をコンピュータに実行させるプログラムであって、
    前記距離表示方法は、
    目標距離を設定する距離設定ステップと、
    第1視点から前記目標物体を撮像した第1目標画像を含む第1画像を取得するとともに、前記第1視点とは異なる第2視点から前記目標物体を撮像した第2目標画像を含む第2画像を取得する画像取得ステップと、
    前記移動体と前記目標物体との距離が前記目標距離に近付くほど前記第1目標画像と前記第2目標画像とが近付くように前記第1画像と前記第2画像とを組み合わせて複合画像を出力する複合画像出力ステップと、
    前記複合画像を表示する表示ステップと、を備える
    プログラム。
JP2019017605A 2019-02-04 2019-02-04 移動体制御システム、移動体、表示方法およびプログラム Pending JP2020127102A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019017605A JP2020127102A (ja) 2019-02-04 2019-02-04 移動体制御システム、移動体、表示方法およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019017605A JP2020127102A (ja) 2019-02-04 2019-02-04 移動体制御システム、移動体、表示方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2020127102A true JP2020127102A (ja) 2020-08-20

Family

ID=72084317

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019017605A Pending JP2020127102A (ja) 2019-02-04 2019-02-04 移動体制御システム、移動体、表示方法およびプログラム

Country Status (1)

Country Link
JP (1) JP2020127102A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023286138A1 (ja) * 2021-07-12 2023-01-19 株式会社安川電機 ロボット制御システム、ロボットシステム、ロボット制御方法、およびロボット制御プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023286138A1 (ja) * 2021-07-12 2023-01-19 株式会社安川電機 ロボット制御システム、ロボットシステム、ロボット制御方法、およびロボット制御プログラム

Similar Documents

Publication Publication Date Title
US11616919B2 (en) Three-dimensional stabilized 360-degree composite image capture
CA3016539C (en) Image processing method, display device, and inspection system
CN112639664B (zh) 用于确定和/或评价图像显示设备的定位地图的方法和装置
CN112652016B (zh) 点云预测模型的生成方法、位姿估计方法及其装置
JP6807781B2 (ja) 表示システム、表示方法、及び遠隔操作システム
JP4434890B2 (ja) 画像合成方法及び装置
CN112839764B (zh) 用于焊接路径生成的系统和方法
WO2017075932A1 (zh) 基于三维显示的手势操控方法和系统
CN104508600A (zh) 三维用户界面装置及三维操作方法
CN110377148B (zh) 计算机可读介质、训练对象检测算法的方法及训练设备
US10766145B2 (en) Eye in-hand robot
JP2008023630A (ja) アームを誘導可能な移動体およびアームを誘導する方法
CN102785719A (zh) 用于船舶水尺图像拍摄的爬壁机器人、系统及方法
JP6876130B2 (ja) 指定装置、及び、指定プログラム
CN113696180A (zh) 机器人自动回充方法、装置、存储介质及机器人系统
US20220012922A1 (en) Information processing apparatus, information processing method, and computer readable medium
JP2020127102A (ja) 移動体制御システム、移動体、表示方法およびプログラム
WO2017155005A1 (en) Image processing method, display device, and inspection system
CN110900606B (zh) 一种基于小型机械臂手眼联动系统及其控制方法
KR101975556B1 (ko) 로봇의 관측 시점 제어 장치
US11651502B2 (en) Systems and methods for updating continuous image alignment of separate cameras
US11450014B2 (en) Systems and methods for continuous image alignment of separate cameras
JP2005205519A (ja) ロボットハンド装置
JP2013047760A (ja) 指示位置表示装置および指示位置表示システム
CN117197769B (zh) 一种基于铲斗位置观测的装载机前方影像生成系统及方法