JP7253740B2 - カメラの制御システム - Google Patents

カメラの制御システム Download PDF

Info

Publication number
JP7253740B2
JP7253740B2 JP2019177329A JP2019177329A JP7253740B2 JP 7253740 B2 JP7253740 B2 JP 7253740B2 JP 2019177329 A JP2019177329 A JP 2019177329A JP 2019177329 A JP2019177329 A JP 2019177329A JP 7253740 B2 JP7253740 B2 JP 7253740B2
Authority
JP
Japan
Prior art keywords
coordinates
camera
marker
coordinate
coordinate calculation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019177329A
Other languages
English (en)
Other versions
JP2021057694A (ja
Inventor
淳 山下
一 淺間
圭司 永谷
雄介 田村
彰太 筑紫
浩光 藤井
湧志 森山
拓史 千葉
郁也 坂井
新吾 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujita Corp
University of Tokyo NUC
Original Assignee
Fujita Corp
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujita Corp, University of Tokyo NUC filed Critical Fujita Corp
Priority to JP2019177329A priority Critical patent/JP7253740B2/ja
Publication of JP2021057694A publication Critical patent/JP2021057694A/ja
Application granted granted Critical
Publication of JP7253740B2 publication Critical patent/JP7253740B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、カメラの制御システムに関する。
自然災害が発生した場合等において、被害の拡大を防ぐために、速やかな復旧工事が必要となる。しかし、災害発生現場においては二次災害が発生する可能性がある。作業者が二次災害に巻き込まれないようにするため、建設機械を遠隔操作によって操縦する技術が知られている。特許文献1には、建設機械の遠隔操作に関する技術の一例が記載されている。
特開2006-219894号公報
ところで、建設機械の遠隔操作に必要な情報を得るために、建設機械の周囲から建設機械を撮影するカメラが用いられることがある。建設機械は移動し且つ姿勢を変えるので、カメラの撮影範囲を調整し続ける必要がある。しかし、建設機械を遠隔操作する作業者がカメラも操作する場合、作業者の負担が増加する。このため、撮影範囲を適切に変更できるカメラの制御システムが望まれている。
本開示は、上記の課題に鑑みてなされたものであって、建設機械を遠隔操作する作業者が必要とする画像の撮影を容易にできるカメラの制御システムを提供することを目的とする。
上記の目的を達成するため、本開示の一態様のカメラの制御システムは、ボディ、前記ボディに対して回転できるブーム、前記ブームに対して回転できるアーム、前記アームに対して回転できるバケット、前記アームに設けられる第1ARマーカ、前記ブームに設けられる第2ARマーカ、及び前記ボディに設けられる第3ARマーカを備える建設機械と、左右への旋回、上下への旋回、撮影画像の拡大、及び撮影画像の縮小ができるカメラと、前記カメラを制御する制御装置と、を備え、前記制御装置は、前記カメラの撮影画像における前記第1ARマーカの座標に基づき、前記バケットの回転中心の位置に対応する第1座標を算出する第1座標演算部と、前記カメラの撮影画像における前記第2ARマーカの座標に基づき、前記アームの回転中心の位置に対応する第2座標を算出する第2座標演算部と、前記カメラの撮影画像における前記第3ARマーカの座標に基づき、前記ボディの位置に対応する第3座標を算出する第3座標演算部と、前記第1座標、前記第2座標、及び前記第3座標に基づき、前記カメラを制御する制御部と、を備える。
カメラの制御システムの望ましい態様として、前記制御装置は、前記第1座標、前記第2座標、及び前記第3座標に基づき長方形を描画する長方形描画部を備え、前記制御部は、前記長方形の右辺の位置、左辺の位置、上辺及び下辺の位置が所定の条件を満たすように前記カメラを制御する。
カメラの制御システムの望ましい態様として、前記第1座標演算部が前記第1座標を算出できず、前記第2座標演算部が前記第2座標を算出できた場合、前記制御部は、前記第2座標が前記カメラの撮影画像の中央に近付くように前記カメラを右又は左に旋回させ、且つ前記カメラを下に旋回させる。
カメラの制御システムの望ましい態様として、前記建設機械は、前記ボディの右側面に設けられる前記第3ARマーカと、前記ボディの左側面に設けられる第6ARマーカと、を備え、前記第3座標演算部は、前記カメラの撮影画像における前記第3ARマーカ又は前記第6ARマーカの座標に基づき前記第3座標を算出する。
カメラの制御システムの望ましい態様として、前記第1座標演算部が前記第1座標を算出できず、前記第2座標演算部が前記第2座標を算出できず、且つ前記第3座標演算部が前記第3ARマーカの座標に基づいて前記第3座標を算出できた場合、前記制御部は、前記カメラを右に旋回させる。
カメラの制御システムの望ましい態様として、前記第1座標演算部が前記第1座標を算出できず、前記第2座標演算部が前記第2座標を算出できず、且つ前記第3座標演算部が前記第6ARマーカの座標に基づいて前記第3座標を算出できた場合、前記制御部は、前記カメラを左に旋回させる。
カメラの制御システムの望ましい態様として、前記制御装置は、前記建設機械の初期位置を記憶する記憶部を備え、前記制御部は、前記カメラの起動時において、前記初期位置に基づいて、前記建設機械が前記カメラで撮影されるように前記カメラを制御する。
カメラの制御システムの望ましい態様として、前記第1座標演算部が前記第1座標を算出できず、前記第2座標演算部が前記第2座標を算出できず、且つ前記第3座標演算部が前記第3座標を算出できない場合、前記制御部は、前記カメラの撮影画像を拡大させる。
カメラの制御システムの望ましい態様として、前記第1座標演算部が前記第1座標を算出でき、且つ前記第2座標演算部が前記第2座標を算出できない場合、前記制御部は、前記第1座標が前記カメラの撮影画像の中央に近付くように前記カメラを右又は左に旋回させ、且つ前記カメラを上に旋回させる。
カメラの制御システムの望ましい態様として、前記第1座標演算部が前記第1座標を算出でき、前記第2座標演算部が前記第2座標を算出でき、前記第3座標演算部が前記第3座標を算出できず、且つ前記第1座標と前記第2座標との間の距離が所定値を超える場合、前記制御部は、前記カメラの撮影画像を縮小させる。
カメラの制御システムの望ましい態様として、前記建設機械は、前記アームの右側面に設けられる前記第1ARマーカと、前記アームの左側面に設けられる第4ARマーカと、を備え、前記第1座標演算部は、前記カメラの撮影画像における前記第1ARマーカ又は前記第4ARマーカの座標に基づき前記第1座標を算出する。
カメラの制御システムの望ましい態様として、前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第1座標演算部が前記第1ARマーカの座標に基づいて前記第1座標を算出した場合、前記制御部は、前記カメラを左に旋回させる。
カメラの制御システムの望ましい態様として、前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第1座標演算部が前記第4ARマーカの座標に基づいて前記第1座標を算出した場合、前記制御部は、前記カメラを右に旋回させる。
カメラの制御システムの望ましい態様として、前記建設機械は、前記ブームの右側面に設けられる前記第2ARマーカと、前記ブームの左側面に設けられる第5ARマーカと、を備え、前記第2座標演算部は、前記カメラの撮影画像における前記第2ARマーカ又は前記第5ARマーカの座標に基づき前記第2座標を算出する。
カメラの制御システムの望ましい態様として、前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第2座標演算部が前記第2ARマーカの座標に基づいて前記第2座標を算出した場合、前記制御部は、前記カメラを左に旋回させる。
カメラの制御システムの望ましい態様として、前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第2座標演算部が前記第5ARマーカの座標に基づいて前記第2座標を算出した場合、前記制御部は、前記カメラを右に旋回させる。
本開示のカメラの制御システムによれば、建設機械を遠隔操作する作業者が必要とする画像の撮影を容易にできる。
図1は、本実施形態のカメラの制御システムを示す模式図である。 図2は、本実施形態のカメラの制御システムを示す模式図である。 図3は、建設機械の右側面を示す図である。 図4は、建設機械の左側面を示す図である。 図5は、カメラの撮影画像を示す図である。 図6は、建設機械のアームの右側面図である。 図7は、第1ARマーカの拡大図である。 図8は、建設機械のボディの右側面図である。 図9は、本実施形態のカメラの制御システムの制御フローのフローチャートである。 図10は、第1座標が算出できない場合を示す図である。
以下、本発明につき図面を参照しつつ詳細に説明する。なお、本発明を実施するための形態(以下、実施形態という)により本発明が限定されるものではない。また、下記実施形態における構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。さらに、下記実施形態で開示した構成要素は適宜組み合わせることが可能である。
(実施形態)
図1は、本実施形態のカメラの制御システムを示す模式図である。図2は、本実施形態のカメラの制御システムを示す模式図である。図3は、建設機械の右側面を示す図である。図4は、建設機械の左側面を示す図である。
本実施形態のカメラの制御システム1は、建設機械10を撮影するカメラ20を自動的に制御するシステムである。カメラの制御システム1は、建設機械10を遠隔操作する必要がある場合等に用いられる。建設機械10は、建築工事又は土木工事等が行われる工事現場で使用される。例えば、工事現場が災害現場であることがある。災害現場においては、2次災害が発生する可能性がある。作業者が2次災害に巻き込まれないようにするために、建設機械10は、災害現場から離れた遠隔操作室にいる作業者によって遠隔操作される。例えば、建設機械10は、無線通信機及び車載カメラを備える。建設機械10は、遠隔操作室にいる作業者の操作を無線通信機で受信できる。車載カメラは、例えば建設機械10のキャビン(操縦室)に設けられ、キャビンの内部から建設機械10の前方等を撮影する。
建設機械10を適切に遠隔操作するためには、建設機械10の周囲から建設機械10を撮影した画像を作業者に提供することが望ましい。このため、建設機械10の周囲にはカメラ20が配置される。しかし、建設機械10は、カメラ20に対して移動し且つ変形する。このため、カメラ20は、建設機械10を適切に撮影し続けるために、建設機械10の移動及び変形に応じて、撮影方向及び倍率を調整する必要がある。本実施形態のカメラの制御システム1は、カメラ20の撮影方向及び倍率を自動的に制御するシステムである。
図1に示すように、カメラの制御システム1は、建設機械10と、カメラ20と、中継機31と、モニタ33と、制御装置50と、を備える。建設機械10、カメラ20及び中継機31は、工事現場に配置される。モニタ33及び制御装置50は、工事現場から離れた遠隔操作室に配置される。
図2に示すように、建設機械10は、バックホウである。建設機械10は、走行装置19と、ボディ17と、ブーム15と、アーム13と、バケット11と、第1ARマーカ91と、第2ARマーカ92と、第3ARマーカ93と、第4ARマーカ94と、第5ARマーカ95と、第6ARマーカ96と、を備える。走行装置19は、地面に接する履帯を備える。走行装置19は、エンジンによって履帯を駆動する。建設機械10は、走行装置19によって不整地を移動することができる。
図2に示すように、ボディ17は、走行装置19の上に配置される。ボディ17は、軸受等を含むジョイントを介して走行装置19と接続される。ボディ17は、走行装置19に対して回転できる。ボディ17は、地面に対して直交する軸を中心に回転できる。ボディ17は、キャビンを備える。
図2に示すように、ブーム15は、ボディ17に支持される。ブーム15は、ボディ17に設けられるキャビンの隣りに配置される。ブーム15は、軸受等を含むジョイントを介してボディ17と接続される。ブーム15は、ボディ17に対して回転できる。ブーム15は、地面と平行な軸を中心に回転できる。例えば、ブーム15の角度は、ボディ17及びブーム15に接続される油圧シリンダーによって変えられる。
図2に示すように、アーム13は、ブーム15に支持される。アーム13は、軸受等を含むジョイントを介してブーム15と接続される。アーム13は、ブーム15に対して回転できる。アーム13は、地面と平行な軸を中心に回転できる。例えば、アーム13の角度は、ブーム15及びアーム13に接続される油圧シリンダーによって変えられる。
図2に示すように、バケット11は、アーム13に支持される。バケット11は、軸受等を含むジョイントを介してアーム13と接続される。バケット11は、アーム13に対して回転できる。バケット11は、地面と平行な軸を中心に回転できる。例えば、バケット11の角度は、アーム13及びバケット11に接続される油圧シリンダーによって変えられる。
第1ARマーカ91、第2ARマーカ92、第3ARマーカ93、第4ARマーカ94、第5ARマーカ95、及び第6ARマーカ96は、正方形状のであって、それぞれ異なる模様を有するAR(Augmented Reality)マーカである。
図3に示すように、第1ARマーカ91は、アーム13に設けられる。本実施形態においては、3つの第1ARマーカ91が、アーム13の右側面に設けられる。右側面とは、仮にキャビンに搭乗した作業者から見た場合に右側にある側面を意味し、以下において同様の意味で用いられる。3つの第1ARマーカ91は、アーム13の長手方向に沿って隣接して並べられる。3つの第1ARマーカ91は、それぞれ異なる模様を有するARマーカである。
図3に示すように、第2ARマーカ92は、ブーム15に設けられる。本実施形態においては、3つの第2ARマーカ92が、ブーム15の右側面に設けられる。3つの第2ARマーカ92は、ブーム15の長手方向に沿って隣接して並べられる。3つの第2ARマーカ92は、それぞれ異なる模様を有するARマーカである。
図3に示すように、第3ARマーカ93は、ボディ17に設けられる。本実施形態においては、2つの第3ARマーカ93が、ボディ17の右側面に設けられる。2つの第3ARマーカ93は、地面と平行な方向に沿って隣接して並べられる。2つの第3ARマーカ93は、それぞれ異なる模様を有するARマーカである。
図4に示すように、第4ARマーカ94は、アーム13に設けられる。本実施形態においては、3つの第4ARマーカ94が、アーム13の左側面に設けられる。左側面とは、仮にキャビンに搭乗した作業者から見た場合に左側にある側面を意味し、以下において同様の意味で用いられる。3つの第4ARマーカ94は、アーム13の長手方向に沿って隣接して並べられる。3つの第4ARマーカ94は、それぞれ異なる模様を有するARマーカである。
図4に示すように、第5ARマーカ95は、ブーム15に設けられる。本実施形態においては、3つの第5ARマーカ95が、ブーム15の左側面に設けられる。3つの第5ARマーカ95は、ブーム15の長手方向に沿って隣接して並べられる。3つの第5ARマーカ95は、それぞれ異なる模様を有するARマーカである。
図4に示すように、第6ARマーカ96は、ボディ17に設けられる。本実施形態においては、2つの第6ARマーカ96が、ボディ17の左側面に設けられる。2つの第6ARマーカ96は、地面と平行な方向に沿って隣接して並べられる。3つの第6ARマーカ96は、それぞれ異なる模様を有するARマーカである。
図2に示すように、カメラ20は、建設機械10の周囲から建設機械10を撮影する。カメラ20は、連続して画像を撮影できる。すなわち、カメラ20は、動画を撮影できる。カメラ20は、工事現場に配置される台車35に載せられる。カメラ20は、台車35によって移動できる。また、カメラ20は、左右への旋回(パン)、上下への旋回(チルト)、撮影画像の拡大(ズームイン)、及び撮影画像の縮小(ズームアウト)ができる。
カメラ20は、撮影動作を制御する撮影制御部21と、左右への旋回及び上下への旋回を可能にする駆動部23と、撮影画像の拡大及び縮小を可能にする倍率制御部25と、を備える。撮影制御部21は、外部から受信する電気信号に応じて、撮影を開始又は終了させる。駆動部23は、例えばカメラ20の本体の下部に設けられる。駆動部23が台車35に載せられ、駆動部23の上にカメラ20の本体が載せられる。駆動部23は、外部から受信する電気信号に応じて、カメラ20を左右又は上下へ旋回させる。倍率制御部25は、外部から受信する電気信号に応じて、撮影画像を拡大又は縮小する。
中継機31は、カメラ20の撮影画像のデータを無線通信によって遠隔操作室へ送る装置である。中継機31は、カメラ20から受信したデータを、モニタ33及び制御装置50に送信される。モニタ33は、中継機31から受信したデータに基づき、カメラ20の撮影画像を表示する。遠隔操作室にいる作業者は、モニタ33の表示画像を見ることによって、建設機械10の状態を知ることができる。
制御装置50は、コンピュータであり、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、入力インターフェース、及び出力インターフェースを含む。CPU、ROM、RAM、入力インターフェース、及び出力インターフェースは、内部バスによって接続されている。図1に示すように、制御装置50は、第1座標演算部51と、第2座標演算部52と、第3座標演算部53と、記憶部54と、長方形描画部55と、制御部56と、を備える。制御装置50の各機能は、CPU、ROM、RAM、入力インターフェース、及び出力インターフェースが連携することによって実現される。
図5は、カメラの撮影画像を示す図である。図6は、建設機械のアームの右側面図である。図7は、第1ARマーカの拡大図である。図8は、建設機械のボディの右側面図である。制御装置50は、図5に示す第1座標C1、第2座標C2、及び第3座標C3を算出する。第1座標C1は、撮影画像におけるバケット11の回転中心の位置に対応する座標である。第2座標C2は、撮影画像におけるアーム13の回転中心の位置に対応する座標である。第3座標C3は、撮影画像におけるボディ17の位置に対応する座標である。
第1座標演算部51は、第1座標C1を算出する。まず、第1座標演算部51は、撮影画像に含まれる画像と、記憶部54に記憶された第1ARマーカ91及び第4ARマーカ94の画像と、を比較する。第1座標演算部51は、撮影画像に含まれる画像と記憶部54に記憶された第1ARマーカ91との間の一致率が閾値以上である場合に、撮影画像に含まれる画像が第1ARマーカ91であると判定する。第1座標演算部51は、撮影画像に含まれる画像と記憶部54に記憶された第4ARマーカ94との間の一致率が閾値以上である場合に、撮影画像に含まれる画像が第4ARマーカ94であると判定する。このように、第1座標演算部51は、第1ARマーカ91又は第4ARマーカ94を検出する。
第1座標演算部51は、第1ARマーカ91を検出した場合、第1ARマーカ91の頂点の座標を算出する。第1座標演算部51は、第1ARマーカ91の頂点の座標に基づいて、第1座標C1を算出する。図6に示すように、3つの第1ARマーカ91は、2つの頂点を通る直線がバケット11の回転中心を通るように配置される。3つの第1ARマーカ91を、バケット11に近い方から、第1ARマーカ911、第1ARマーカ912、第1ARマーカ913とする。バケット11の回転中心を通る直線上にある第1ARマーカ911の頂点を、バケット11に近い方から、頂点a1、頂点b1とする。バケット11の回転中心を通る直線上にある第1ARマーカ912の頂点を、バケット11に近い方から、頂点a2、頂点b2とする。バケット11の回転中心を通る直線上にある第1ARマーカ913の頂点を、バケット11に近い方から、頂点a3、頂点b3とする。バケット11の回転中心から頂点a1までの距離をlbucとする。図7に示すように、第1ARマーカ91の辺の長さをpとする。第1ARマーカ91の外側に設けられた余白の長さをqとする。lbuc、p、qの値は、記憶部54に記憶されている。
以下の説明において、uv座標が用いられる。u軸は、撮影画像における横軸である。v軸は、撮影画像における縦軸である。撮影画像の左上の隅をuv座標の原点とする。
例えば、第1座標演算部51は、第1ARマーカ911、第1ARマーカ912及び第1ARマーカ913を検出できた場合、下記式(1)に基づいて第1座標C1を算出する。xbucは、第1座標C1のu座標である。ybucは、第1座標C1のv座標である。xa1は、頂点a1のu座標である。xb3は、頂点b3のu座標である。ya1は、頂点a1のv座標である。yb3は、頂点b3のv座標である。
Figure 0007253740000001
例えば、第1座標演算部51は、第1ARマーカ912及び第1ARマーカ913のみを検出できた場合、下記式(2)に基づいて第1座標C1を算出する。xbucは、第1座標C1のu座標である。ybucは、第1座標C1のv座標である。xa2は、頂点a2のu座標である。xb3は、頂点b3のu座標である。ya2は、頂点a2のv座標である。yb3は、頂点b3のv座標である。
Figure 0007253740000002
第1座標演算部51は、第4ARマーカ94を検出した場合、第4ARマーカ94の頂点の座標を算出する。第1座標演算部51は、第4ARマーカ94の頂点の座標に基づいて、第1座標C1を算出する。第1座標C1を算出する方法は、第1ARマーカ91が検出された場合と同様である。
第2座標演算部52は、第2座標C2を算出する。まず、第2座標演算部52は、撮影画像に含まれる画像と、記憶部54に記憶された第2ARマーカ92及び第5ARマーカ95の画像と、を比較する。第2座標演算部52は、撮影画像に含まれる画像と記憶部54に記憶された第2ARマーカ92との間の一致率が閾値以上である場合に、撮影画像に含まれる画像が第2ARマーカ92であると判定する。第2座標演算部52は、撮影画像に含まれる画像と記憶部54に記憶された第5ARマーカ95との間の一致率が閾値以上である場合に、撮影画像に含まれる画像が第5ARマーカ95であると判定する。このように、第2座標演算部52は、第2ARマーカ92又は第5ARマーカ95を検出する。
第2座標演算部52は、第2ARマーカ92を検出した場合、第2ARマーカ92の頂点の座標を算出する。第2座標演算部52は、第2ARマーカ92の頂点の座標に基づいて、第2座標C2を算出する。図5に示すように、3つの第2ARマーカ92は、2つの頂点を通る直線がアーム13の回転中心を通るように配置される。アーム13の回転中心から最も近い第2ARマーカ92の頂点までの距離(larm)は、記憶部54に記憶されている。第2座標演算部52による第2座標C2の算出方法は、上述した第1座標演算部51による第1座標C1の算出方法と同様である。
第2座標演算部52は、第5ARマーカ95を検出した場合、第5ARマーカ95の頂点の座標を算出する。第2座標演算部52は、第5ARマーカ95の頂点の座標に基づいて、第2座標C2を算出する。第2座標C2を算出する方法は、第2ARマーカ92が検出された場合と同様である。
第3座標演算部53は、第3座標C3を算出する。まず、第3座標演算部53は、撮影画像に含まれる画像と、記憶部54に記憶された第3ARマーカ93及び第6ARマーカ96の画像と、を比較する。第3座標演算部53は、撮影画像に含まれる画像と記憶部54に記憶された第3ARマーカ93との間の一致率が閾値以上である場合に、撮影画像に含まれる画像が第3ARマーカ93であると判定する。第3座標演算部53は、撮影画像に含まれる画像と記憶部54に記憶された第6ARマーカ96との間の一致率が閾値以上である場合に、撮影画像に含まれる画像が第6ARマーカ96であると判定する。このように、第3座標演算部53は、第3ARマーカ93又は第6ARマーカ96を検出する。
第3座標演算部53は、第3ARマーカ93を検出した場合、第3ARマーカ93の頂点の座標を算出する。図8に示すように、2つの第3ARマーカ93の一方を、第3ARマーカ931とし、他方を第3ARマーカ932とする。第3ARマーカ931の頂点を、第3ARマーカ932から遠い方から頂点a4、頂点b4とする。第3ARマーカ932の頂点を、第3ARマーカ931に近い方から頂点a5、頂点b5とする。第3座標C3は、頂点b4と頂点a5とを結ぶ線分の中点である。
例えば、第3座標演算部53は、第3ARマーカ931のみを検出できた場合、下記式(3)に基づいて第3座標C3を算出する。xbodは、第3座標C3のu座標である。ybodは、第3座標C3のv座標である。xa4は、頂点a4のu座標である。xb4は、頂点b4のu座標である。ya4は、頂点a4のv座標である。yb4は、頂点b4のv座標である。
Figure 0007253740000003
第3座標演算部53は、第6ARマーカ96を検出した場合、第6ARマーカ96の頂点の座標を算出する。第3座標演算部53は、第6ARマーカ96の頂点の座標に基づいて、第3座標C3を算出する。第3座標C3を算出する方法は、第3ARマーカ93が検出された場合と同様である。
記憶部54は、第1ARマーカ91、第2ARマーカ92、第3ARマーカ93、第4ARマーカ94、第5ARマーカ95、及び第6ARマーカ96の画像を記憶している。記憶部54は、第1座標C1、第2座標C2、及び第3座標C3を算出するために必要であって、予め測定可能な値を記憶している。すなわち、記憶部54は、上述したlbuc、larm、p、qの値を記憶している。また、記憶部54は、建設機械10の初期位置を記憶している。初期位置の記憶部54への入力方法は、特に限定されない。例えば、制御装置50は、建設機械10に取り付けられたGPS受信機から得られる情報に基づき建設機械10の初期位置を算出し、記憶部54に記憶してもよい。建設機械10の初期位置は、作業者によって予め制御装置50に入力されてもよい。
長方形描画部55は、第1座標C1、第2座標C2、及び第3座標C3に基づいて、撮影映像に長方形99を描画する。長方形描画部55は、第1座標C1、第2座標C2、及び第3座標C3に基づき、長方形99の右辺、左辺、上辺、及び下辺を定義する。右辺は、第1座標C1、第2座標C2、及び第3座標C3のうちuv座標で最も右にある(u座標が最も大きい)座標を通り且つv軸と平行な直線である。左辺は、第1座標C1、第2座標C2、及び第3座標C3のうちuv座標で最も左にある(u座標が最も小さい)座標を通り且つv軸と平行な直線である。上辺は、第1座標C1、第2座標C2、及び第3座標C3のうちuv座標で最も上にある(v座標が最も小さい)座標を通り且つu軸と平行な直線である。下辺は、第1座標C1、第2座標C2、及び第3座標C3のうちuv座標で最も下にある(v座標が最も大きい)座標を通り且つu軸と平行な直線である。長方形描画部55は、作成した長方形99を撮影画像と合成してモニタ22に表示させる。
制御部56は、カメラ20を制御する。具体的には、制御部56は、カメラ20が備える撮影制御部21、駆動部23、及び倍率制御部25を制御する。制御部56は、中継機31を介して、カメラ20の撮影制御部21、駆動部23、及び倍率制御部25を制御するための制御信号を送信する。これにより、制御部56は、カメラ20に撮影させ、カメラ20を左右及び上下に旋回させ、且つ撮影画像の倍率を拡大及び縮小させることができる。
制御部56は、長方形描画部55が作成した長方形99の各辺の位置が所定の条件を満たすようにカメラ20を制御する。具体的には、制御部56は、下記式(4)を満たすようにカメラ20を制御する。wは、撮影画像の横方向の画素数であり、u座標の最大値である。hは、撮影画像の縦方向の画素数であり、v座標の最大値である。撮影画像の解像度が例えば720×480である場合、wが720であり、hが480である。xは、長方形99の右辺のu座標である。xは、長方形99の左辺のu座標である。yは、長方形99の下辺のv座標である。yは、長方形99の上辺のv座標である。p、P、p、P、t、T、z、Zは、定数である。
Figure 0007253740000004
制御部56は、バケット11がボディ17に対して左右のどちらにあるか判定できる。例えば、第1座標演算部51が第1ARマーカ91に基づき第1座標C1を算出した場合、制御部56は、バケット11がボディ17に対して右にあると判定する。第1座標演算部51が第4ARマーカ94に基づき第1座標C1を算出した場合、制御部56は、バケット11がボディ17に対して左にあると判定する。なお、制御部56は、第2座標演算部52が第2ARマーカ92及び第5ARマーカ95のいずれに基づき第2座標C2を算出したかによって、バケット11がボディ17に対して左右のどちらにあるか判定してもよい。制御部56は、第3座標演算部53が第3ARマーカ93及び第6ARマーカ96のいずれに基づき第3座標C3を算出したかによって、バケット11がボディ17に対して左右のどちらにあるか判定してもよい。
例えば、バケット11がボディ17に対して右方向にある場合(図5に示す状態の場合)、下記式(4)の各定数は下記であることが望ましい。すなわち、pは、0.4であることが望ましい。Pは、0.75であることが望ましい。pは、0であることが望ましい。Pは、0.25であることが望ましい。tは、0であることが望ましい。Tは、0.8であることが望ましい。zは、0であることが望ましい。Zは、0.5であることが望ましい。
図9は、本実施形態のカメラの制御システムの制御フローのフローチャートである。図10は、第1座標が算出できない場合を示す図である。
図9に示すように、制御装置50がカメラ20と通信できた場合(ステップ101,YES)、制御部56は、カメラ20の上下方向の傾き及び倍率を初期状態に戻す(ステップ103)。例えば、初期状態は、撮影画像の縦方向が鉛直方向と平行であって、倍率が1倍である状態である。
次に、制御部56は、記憶部54に記憶された建設機械10の初期位置に基づき、建設機械10のある方向にカメラ20を旋回させる(ステップ105)。これにより、建設機械10の少なくとも一部がカメラ20の撮影範囲に入る。
次に、制御部56は、カメラ20に撮影を開始させ、撮影画像を取得する(ステップ107)。取得した撮影画像は、記憶部54に記憶される。
第1座標演算部51が第1座標C1を算出できず(ステップ109,NO)、且つ第2座標C2を算出できた場合(ステップ111,YES)、制御部56は、第2座標C2が撮影画像の中央に近付くようにカメラ20を右又は左に旋回させ、且つカメラ20を下に旋回させる(ステップ113)。図10に示すように、第2座標C2が撮影画像の端にあり、第1ARマーカ91(第4ARマーカ94)が撮影範囲外にある場合、カメラ20を単に下に旋回させるだけでは第1ARマーカ91(第4ARマーカ94)が撮影範囲に入らない。第2座標C2が撮影画像の中央に近付くようにカメラ20が右又は左に旋回することによって、第1ARマーカ91(第4ARマーカ94)が撮影範囲に入りやすくなる。
第1座標演算部51が第1座標C1を算出できず(ステップ109,NO)、第2座標演算部52が第2座標C2を算出できず(ステップ111,NO)、且つ第3座標演算部53が第3ARマーカ93によって第3座標C3を算出できた場合(ステップ115,YES)、制御部56は、カメラ20を右に旋回させる(ステップ117)。第3ARマーカ93によって第3座標C3が算出された場合、バケット11はボディ17に対して右にあるはずである。ステップ117によって、カメラ20の撮影範囲がバケット11のある方向に移動する。
第1座標演算部51が第1座標C1を算出できず(ステップ109,NO)、第2座標演算部52が第2座標C2を算出できず(ステップ111,NO)、且つ第3座標演算部53が第6ARマーカ96によって第3座標C3を算出できた場合(ステップ119,YES)、制御部56は、カメラ20を左に旋回させる(ステップ121)。第6ARマーカ96によって第3座標C3が算出された場合、バケット11はボディ17に対して左にあるはずである。ステップ121によって、カメラ20の撮影範囲がバケット11のある方向に移動する。
第1座標演算部51が第1座標C1を算出できず(ステップ109,NO)、第2座標演算部が第2座標C2を算出できず(ステップ111,NO)、且つ第3座標演算部53が第3座標C3を算出できない場合(ステップ119,NO)、制御部56は、カメラ20の撮影画像を拡大させる(ステップ123)。撮影画像に映るARマーカが小さすぎる場合、ARマーカが検出されない。ステップ123によって、撮影画像に映るARマーカが大きくなるので、ARマーカが検出されやすくなる。
第1座標演算部51が第1座標C1を算出でき(ステップ109,YES)、且つ第2座標演算部52が第2座標C2を算出できない場合(ステップ125,NO)、制御部56は、第1座標C1が撮影画像の中央に近付くようにカメラ20を右又は左に旋回させ、且つカメラ20を上に旋回させる(ステップ127)。これにより、第2ARマーカ92(第5ARマーカ95)が撮影範囲に入りやすくなる。
第1座標演算部51が第1座標C1を算出でき(ステップ109,YES)、第2座標演算部52が第2座標C2を算出でき(ステップ125,YES)、第3座標演算部53が第3座標C3を算出できず(ステップ129,NO)、且つ第1座標C1と第2座標C2との間の距離が所定値を超える場合(ステップ131,NO)、制御部56は、カメラ20の撮影画像を縮小させる(ステップ133)。カメラ20の倍率が大きすぎると、カメラ20を左右に旋回させたとしても、第3ARマーカ93(第6ARマーカ96)が撮影範囲に入る前に、第1ARマーカ91(第4ARマーカ94)又は第2ARマーカ92(第5ARマーカ95)が撮影範囲から外れる可能性がある。ステップ133によって、第1ARマーカ91(第4ARマーカ94)、第2ARマーカ92(第5ARマーカ95)、及び第3ARマーカ93(第6ARマーカ96)が撮影範囲に入りやすくなる。
第1座標C1と第2座標C2との間の距離が所定値以下であり(ステップ131,YES)、且つ第1座標演算部51が第1ARマーカ91によって第1座標C1を算出した場合(ステップ135,YES)、制御部56は、カメラ20を左に旋回させる(ステップ137)。第1ARマーカ91によって第1座標C1が算出された場合、ボディ17はバケット11に対して左にあるはずである。ステップ137によって、カメラ20の撮影範囲がボディ17のある方向に移動する。
第1座標C1と第2座標C2との間の距離が所定値以下であり(ステップ131,YES)、且つ第1座標演算部51が第4ARマーカ94によって第1座標C1を算出した場合(ステップ135,NO)、制御部56は、カメラ20を右に旋回させる(ステップ139)。第4ARマーカ94によって第1座標C1が算出された場合、ボディ17はバケット11に対して右にあるはずである。ステップ139によって、カメラ20の撮影範囲がボディ17のある方向に移動する。
なお、ステップ135においては、第1ARマーカ91(第4ARマーカ94)に代えて、第2ARマーカ92(第5ARマーカ95)が用いられてもよい。すなわち、第2座標演算部52が第2ARマーカ92によって第2座標C2を算出した場合に、制御部56は、カメラ20を左に旋回させてもよい。第2座標演算部52が第4ARマーカ94によって第2座標C2を算出した場合に、制御部56は、カメラ20を右に旋回させてもよい。
第1座標演算部51が第1座標C1を算出でき(ステップ109,YES)、第2座標演算部52が第2座標C2を算出でき(ステップ125,YES)、第3座標演算部53が第3座標C3を算出できた場合(ステップ129,YES)、長方形描画部55は、長方形99を描画する(ステップ141)。
長方形99の左辺の位置が所定範囲外である場合(ステップ143,NO)、制御部56は、左辺が所定範囲に入るようにカメラ20を右又は左に旋回させる。
長方形99の左辺の位置が所定範囲内であり(ステップ143,YES)、長方形99の右辺の位置が所定範囲外である場合(ステップ147,NO)、制御部56は、右辺が所定範囲に入るように撮影画像を拡大又は縮小する(ステップ149)。仮にステップ149でカメラ20を右又は左に旋回させると、左辺の位置が所定範囲から外れる可能性がある。撮影画像の拡大又は縮小によって右辺の位置を所定範囲に入れることによって、左辺及び右辺の両方の位置が所定範囲に収まる。
長方形99の下辺の位置が所定範囲外である場合(ステップ151,NO)、制御部56は、カメラ20を上に旋回させる。
長方形99の左辺、右辺、及び下辺の位置が所定範囲内である場合(ステップ151,YES)、制御部56は、カメラ20の姿勢及び倍率を保持する(ステップ155)。これにより、長方形99の左辺、右辺、及び下辺の位置が所定範囲内にある状態が維持される。
なお、第1ARマーカ91、第2ARマーカ92、第3ARマーカ93、第4ARマーカ94、第5ARマーカ95、及び第6ARマーカ96のそれぞれの数は、必ずしも上述した数でなくてもよい。それぞれのARマーカの数は、1つであってもよい。ただし、各ARマーカをより検出しやすくするために、各ARマーカは複数設けられることが望ましい。また、ARマーカは、必ずしも建設機械10の右側面及び左側面の両方に設けられなくてもよい。ARマーカは、建設機械10の右側面及び左側面の少なくとも一方に設けられていればよい。
以上で説明したように、本実施形態のカメラの制御システム1は、建設機械10と、カメラ20と、制御装置50と、を備える。建設機械10は、ボディ17、ボディ17に対して回転できるブーム15、ブーム15に対して回転できるアーム13、アーム13に対して回転できるバケット11、アーム13に設けられる第1ARマーカ91、ブーム15に設けられる第2ARマーカ92、及びボディ17に設けられる第3ARマーカ93を備える。カメラ20は、左右への旋回、上下への旋回、撮影画像の拡大、及び撮影画像の縮小ができる。制御装置50は、カメラ20を制御する。制御装置50は、カメラ20の撮影画像における第1ARマーカ91の座標に基づき、バケット11の回転中心の位置に対応する第1座標C1を算出する第1座標演算部51と、カメラ20の撮影画像における第2ARマーカ92の座標に基づき、アーム13の回転中心の位置に対応する第2座標C2を算出する第2座標演算部52と、カメラ20の撮影画像における第3ARマーカ93の座標に基づき、ボディ17の位置に対応する第3座標C3を算出する第3座標演算部53と、第1座標C1、第2座標C2、及び第3座標C3に基づき、カメラ20を制御する制御部56と、を備える。
建設機械10を遠隔操作する作業者は、バケット11、アーム13の回転中心、及びボディ17の履帯の位置に関する情報を得ることによって、建設機械10を円滑に操作できるようになる。本実施形態のカメラの制御システム1によれば、バケット11の回転中心、アーム13の回転中心、及びボディ17が撮影されるように、カメラ20の向き及び撮影画像の倍率が自動的に制御される。カメラの制御システム1は、撮影範囲を適切に変更できる。したがって、カメラの制御システム1は、建設機械10を遠隔操作する作業者が必要とする画像の撮影を容易にできる。
カメラの制御システム1において、制御装置50は、第1座標C1、第2座標C2、及び第3座標C3に基づき長方形99を描画する長方形描画部55を備える。制御部56は、長方形99の右辺の位置、左辺の位置、上辺及び下辺の位置が所定の条件を満たすようにカメラ20を制御する。
これにより、カメラの制御システム1は、撮影範囲をより適切に変更できる。また、長方形99が表示されることによって、作業者は、カメラの制御システム1が適切にカメラ20を制御していることを認識しやすくなる。
カメラの制御システム1において、第1座標演算部51が第1座標C1を算出できず、且つ第2座標C2を算出できた場合、制御部56は、第2座標C2が撮影画像の中央に近付くようにカメラ20を右又は左に旋回させ、且つカメラ20を下に旋回させる。
第2座標C2が撮影画像の端にあり、第1ARマーカ91(第4ARマーカ94)が撮影範囲外にある場合、カメラ20を単に下に旋回させるだけでは第1ARマーカ91(第4ARマーカ94)が撮影範囲に入らない。第2座標C2が撮影画像の中央に近付くようにカメラ20が右又は左に旋回することによって、第1ARマーカ91(第4ARマーカ94)が撮影範囲に入りやすくなる。
カメラの制御システム1において、建設機械10は、ボディ17の右側面に設けられる第3ARマーカ93と、ボディ17の左側面に設けられる第6ARマーカ96と、を備える。第3座標演算部53は、カメラ20の撮影画像における第3ARマーカ93又は第6ARマーカ96の座標に基づき第3座標C3を算出する。
これにより、制御装置50は、カメラ20がボディ17の右側面及び左側面のどちらを撮影しているか判定できる。このため、カメラの制御システム1は、撮影範囲をより適切に変更できる。
カメラの制御システム1において、第1座標演算部51が第1座標C1を算出できず、第2座標演算部52が第2座標C2を算出できず、且つ第3座標演算部53が第3ARマーカ93によって第3座標C3を算出できた場合、制御部56は、カメラ20を右に旋回させる。
これにより、バケット11の回転中心及びアーム13の回転中心の位置を特定できない場合に、制御部56が、カメラ20の撮影範囲をバケット11に近付く方向に移動させることになる。このため、カメラの制御システム1は、第1座標C1及び第2座標C2を算出できるようになるまでの時間を短縮させることができる。
カメラの制御システム1において、第1座標演算部51が第1座標C1を算出できず、第2座標演算部52が第2座標C2を算出できず、且つ第3座標演算部53が第6ARマーカ96によって第3座標C3を算出できた場合、制御部56は、カメラ20を左に旋回させる。
これにより、バケット11の回転中心及びアーム13の回転中心の位置を特定できない場合に、制御部56が、カメラ20の撮影範囲をバケット11に近付く方向に移動させることになる。このため、カメラの制御システム1は、第1座標C1及び第2座標C2を算出できるようになるまでの時間を短縮させることができる。
カメラの制御システム1において、制御装置50は、建設機械10の初期位置を記憶する記憶部54を備える。制御部56は、カメラ20の起動時において、初期位置に基づいて、建設機械10のある方向にカメラ20を旋回させる。
これにより、カメラの制御システム1は、建設機械10がカメラ20の撮影範囲に入っていない状態を回避できる。このため、カメラの制御システム1は、少なくとも1つのARマーカを検出するまでの時間を短縮できる。
カメラの制御システム1において、第1座標演算部51が第1座標C1を算出できず、第2座標演算部が第2座標C2を算出できず、且つ第3座標演算部53が第3座標C3を算出できない場合、制御部56は、カメラ20の撮影画像を拡大させる。
制御部56が建設機械10のある方向にカメラ20を旋回させた後、カメラ20の撮影画像を拡大すれば、ARマーカが拡大される。このため、ARマーカが検出される可能性が高くなる。カメラの制御システム1は、少なくとも1つのARマーカを検出するまでの時間をより短縮できる。
カメラの制御システム1において、第1座標演算部51が第1座標C1を算出でき、且つ第2座標演算部52が第2座標C2を算出できない場合、制御部56は、第1座標C1が撮影画像の中央に近付くようにカメラ20を右又は左に旋回させ、且つカメラ20を上に旋回させる。
これにより、第2ARマーカ92(第5ARマーカ95)が撮影範囲に入りやすくなる。このため、カメラの制御システム1は、第2ARマーカ92(第5ARマーカ95)を検出するまでの時間を短縮できる。
カメラの制御システム1において、第1座標演算部51が第1座標C1を算出でき、第2座標演算部52が第2座標C2を算出でき、第3座標演算部53が第3座標C3を算出できず、且つ第1座標C1と第2座標C2との間の距離が所定値を超える場合、制御部56は、カメラ20の撮影画像を縮小させる。
カメラ20の倍率が大きすぎると、カメラ20を左右に旋回させたとしても、第3ARマーカ93が撮影範囲に入る前に、第1ARマーカ91又は第2ARマーカ92が撮影範囲から外れる可能性がある。これに対して、第1座標C1と第2座標C2との間の距離に基づいてカメラ20の撮影画像が縮小されることによって、第1ARマーカ91、第2ARマーカ92、及び第3ARマーカ93の全てが撮影範囲に入りやすくなる。このため、カメラの制御システム1は、全てのARマーカを検出するまでの時間を短縮できる。
カメラの制御システム1において、建設機械10は、アーム13の右側面に設けられる第1ARマーカ91と、アーム13の左側面に設けられる第4ARマーカ94と、を備える。第1座標演算部51は、カメラ20の撮影画像における第1ARマーカ91又は第4ARマーカ94の座標に基づき第1座標C1を算出する。
これにより、制御装置50は、カメラ20がアーム13の右側面及び左側面のどちらを撮影しているか判定できる。このため、カメラの制御システム1は、撮影範囲をより適切に変更できる。
カメラの制御システム1において、第1座標C1と第2座標C2との間の距離が所定値以下であり、且つ第1座標演算部51が第1ARマーカ91によって第1座標C1を算出した場合、制御部56は、カメラ20を左に旋回させる。
これにより、ボディ17の位置を特定できない場合に、制御部56が、カメラ20の撮影範囲をボディ17に近付く方向に移動させることになる。このため、カメラの制御システム1は、第3座標C3を算出できるようになるまでの時間を短縮させることができる。
カメラの制御システム1において、第1座標C1と第2座標C2との間の距離が所定値以下であり、且つ第1座標演算部51が第4ARマーカ94によって第1座標C1を算出した場合、制御部56は、カメラ20を右に旋回させる。
これにより、ボディ17の位置を特定できない場合に、制御部56が、カメラ20の撮影範囲をボディ17に近付く方向に移動させることになる。このため、カメラの制御システム1は、第3座標C3を算出できるようになるまでの時間を短縮させることができる。
カメラの制御システム1において、建設機械10は、ブーム15の右側面に設けられる第2ARマーカ92と、ブーム15の左側面に設けられる第5ARマーカ95と、を備える。第2座標演算部52は、カメラ20の撮影画像における第2ARマーカ92又は第5ARマーカ95の座標に基づき第2座標C2を算出する。
これにより、制御装置50は、カメラ20がブーム15の右側面及び左側面のどちらを撮影しているか判定できる。このため、カメラの制御システム1は、撮影範囲をより適切に変更できる。
カメラの制御システム1において、第1座標C1と第2座標C2との間の距離が所定値以下であり、且つ第1座標演算部51が第1ARマーカ91によって第1座標C1を算出した場合、制御部56は、カメラ20を左に旋回させる。
これにより、ボディ17の位置を特定できない場合に、制御部56が、カメラ20の撮影範囲をボディ17に近付く方向に移動させることになる。このため、カメラの制御システム1は、第3座標C3を算出できるようになるまでの時間を短縮させることができる。
カメラの制御システム1において、第1座標C1と第2座標C2との間の距離が所定値以下であり、且つ第1座標演算部51が第4ARマーカ94によって第1座標C1を算出した場合、制御部56は、カメラ20を右に旋回させる。
これにより、ボディ17の位置を特定できない場合に、制御部56が、カメラ20の撮影範囲をボディ17に近付く方向に移動させることになる。このため、カメラの制御システム1は、第3座標C3を算出できるようになるまでの時間を短縮させることができる。
1 制御システム
10 建設機械
11 バケット
13 アーム
15 ブーム
17 ボディ
19 走行装置
20 カメラ
21 撮影制御部
23 駆動部
25 倍率制御部
31 中継機
33 モニタ
35 台車
50 制御装置
51 第1座標演算部
52 第2座標演算部
53 第3座標演算部
54 記憶部
55 長方形描画部
56 制御部
91、911、912、913 第1ARマーカ
92 第2ARマーカ
93、931、932 第3ARマーカ
94 第4ARマーカ
95 第5ARマーカ
96 第6ARマーカ
99 長方形
C1 第1座標
C2 第2座標
C3 第3座標

Claims (16)

  1. ボディ、前記ボディに対して回転できるブーム、前記ブームに対して回転できるアーム、前記アームに対して回転できるバケット、前記アームに設けられる第1ARマーカ、前記ブームに設けられる第2ARマーカ、及び前記ボディに設けられる第3ARマーカを備える建設機械と、
    左右への旋回、上下への旋回、撮影画像の拡大、及び撮影画像の縮小ができるカメラと、
    前記カメラを制御する制御装置と、
    を備え、
    前記制御装置は、
    前記カメラの撮影画像における前記第1ARマーカの座標に基づき、前記バケットの回転中心の位置に対応する第1座標を算出する第1座標演算部と、
    前記カメラの撮影画像における前記第2ARマーカの座標に基づき、前記アームの回転中心の位置に対応する第2座標を算出する第2座標演算部と、
    前記カメラの撮影画像における前記第3ARマーカの座標に基づき、前記ボディの位置に対応する第3座標を算出する第3座標演算部と、
    前記第1座標、前記第2座標、及び前記第3座標に基づき、前記カメラを制御する制御部と、
    を備えるカメラの制御システム。
  2. 前記制御装置は、前記第1座標、前記第2座標、及び前記第3座標に基づき長方形を描画する長方形描画部を備え、
    前記制御部は、前記長方形の右辺の位置、左辺の位置、上辺及び下辺の位置が所定の条件を満たすように前記カメラを制御する
    請求項1に記載のカメラの制御システム。
  3. 前記第1座標演算部が前記第1座標を算出できず、且つ前記第2座標演算部が前記第2座標を算出できた場合、前記制御部は、前記第2座標が前記カメラの撮影画像の中央に近付くように前記カメラを右又は左に旋回させ、且つ前記カメラを下に旋回させる
    請求項1又は2に記載のカメラの制御システム。
  4. 前記建設機械は、前記ボディの右側面に設けられる前記第3ARマーカと、前記ボディの左側面に設けられる第6ARマーカと、を備え、
    前記第3座標演算部は、前記カメラの撮影画像における前記第3ARマーカ又は前記第6ARマーカの座標に基づき前記第3座標を算出する
    請求項1から3のいずれか1項に記載のカメラの制御システム。
  5. 前記第1座標演算部が前記第1座標を算出できず、前記第2座標演算部が前記第2座標を算出できず、且つ前記第3座標演算部が前記第3ARマーカの座標に基づいて前記第3座標を算出できた場合、前記制御部は、前記カメラを右に旋回させる
    請求項4に記載のカメラの制御システム。
  6. 前記第1座標演算部が前記第1座標を算出できず、前記第2座標演算部が前記第2座標を算出できず、且つ前記第3座標演算部が前記第6ARマーカの座標に基づいて前記第3座標を算出できた場合、前記制御部は、前記カメラを左に旋回させる
    請求項4又は5に記載のカメラの制御システム。
  7. 前記制御装置は、前記建設機械の初期位置を記憶する記憶部を備え、
    前記制御部は、前記カメラの起動時において、前記初期位置に基づいて、前記建設機械のある方向に前記カメラを旋回させる
    請求項1から6のいずれか1項に記載のカメラの制御システム。
  8. 前記第1座標演算部が前記第1座標を算出できず、前記第2座標演算部が前記第2座標を算出できず、且つ前記第3座標演算部が前記第3座標を算出できない場合、前記制御部は、前記カメラの撮影画像を拡大させる
    請求項7に記載のカメラの制御システム。
  9. 前記第1座標演算部が前記第1座標を算出でき、且つ前記第2座標演算部が前記第2座標を算出できない場合、前記制御部は、前記第1座標が前記カメラの撮影画像の中央に近付くように前記カメラを右又は左に旋回させ、且つ前記カメラを上に旋回させる
    請求項1から8のいずれか1項に記載のカメラの制御システム。
  10. 前記第1座標演算部が前記第1座標を算出でき、前記第2座標演算部が前記第2座標を算出でき、前記第3座標演算部が前記第3座標を算出できず、且つ前記第1座標と前記第2座標との間の距離が所定値を超える場合、前記制御部は、前記カメラの撮影画像を縮小させる
    請求項1から9のいずれか1項に記載のカメラの制御システム。
  11. 前記建設機械は、前記アームの右側面に設けられる前記第1ARマーカと、前記アームの左側面に設けられる第4ARマーカと、を備え、
    前記第1座標演算部は、前記カメラの撮影画像における前記第1ARマーカ又は前記第4ARマーカの座標に基づき前記第1座標を算出する
    請求項10に記載のカメラの制御システム。
  12. 前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第1座標演算部が前記第1ARマーカの座標に基づいて前記第1座標を算出した場合、前記制御部は、前記カメラを左に旋回させる
    請求項11に記載のカメラの制御システム。
  13. 前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第1座標演算部が前記第4ARマーカの座標に基づいて前記第1座標を算出した場合、前記制御部は、前記カメラを右に旋回させる
    請求項11又は12に記載のカメラの制御システム。
  14. 前記建設機械は、前記ブームの右側面に設けられる前記第2ARマーカと、前記ブームの左側面に設けられる第5ARマーカと、を備え、
    前記第2座標演算部は、前記カメラの撮影画像における前記第2ARマーカ又は前記第5ARマーカの座標に基づき前記第2座標を算出する
    請求項10に記載のカメラの制御システム。
  15. 前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第2座標演算部が前記第2ARマーカの座標に基づいて前記第2座標を算出した場合、前記制御部は、前記カメラを左に旋回させる
    請求項14に記載のカメラの制御システム。
  16. 前記第1座標と前記第2座標との間の距離が所定値以下であり、且つ前記第2座標演算部が前記第5ARマーカの座標に基づいて前記第2座標を算出した場合、前記制御部は、前記カメラを右に旋回させる
    請求項14又は15に記載のカメラの制御システム。
JP2019177329A 2019-09-27 2019-09-27 カメラの制御システム Active JP7253740B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019177329A JP7253740B2 (ja) 2019-09-27 2019-09-27 カメラの制御システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019177329A JP7253740B2 (ja) 2019-09-27 2019-09-27 カメラの制御システム

Publications (2)

Publication Number Publication Date
JP2021057694A JP2021057694A (ja) 2021-04-08
JP7253740B2 true JP7253740B2 (ja) 2023-04-07

Family

ID=75271199

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019177329A Active JP7253740B2 (ja) 2019-09-27 2019-09-27 カメラの制御システム

Country Status (1)

Country Link
JP (1) JP7253740B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023057349A (ja) * 2021-10-11 2023-04-21 国立大学法人広島大学 バケット情報取得装置およびこれを備えた建設機械

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150168136A1 (en) 2013-12-12 2015-06-18 The Regents Of The University Of Michigan Estimating three-dimensional position and orientation of articulated machine using one or more image-capturing devices and one or more markers
JP2015224875A (ja) 2014-05-26 2015-12-14 Kyb株式会社 作業機の作動状態検出システム及び作業機
JP2019000918A (ja) 2017-06-12 2019-01-10 日立Geニュークリア・エナジー株式会社 作業用ロボットのアーム姿勢制御システムおよび方法
JP2019101765A (ja) 2017-12-02 2019-06-24 学校法人早稲田大学 移動体の追従画像提示システム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3468255B2 (ja) * 1995-09-21 2003-11-17 株式会社エフ・エフ・シー 監視カメラの位置決め制御装置および指示計の読み取り装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150168136A1 (en) 2013-12-12 2015-06-18 The Regents Of The University Of Michigan Estimating three-dimensional position and orientation of articulated machine using one or more image-capturing devices and one or more markers
JP2015224875A (ja) 2014-05-26 2015-12-14 Kyb株式会社 作業機の作動状態検出システム及び作業機
JP2019000918A (ja) 2017-06-12 2019-01-10 日立Geニュークリア・エナジー株式会社 作業用ロボットのアーム姿勢制御システムおよび方法
JP2019101765A (ja) 2017-12-02 2019-06-24 学校法人早稲田大学 移動体の追従画像提示システム

Also Published As

Publication number Publication date
JP2021057694A (ja) 2021-04-08

Similar Documents

Publication Publication Date Title
JP6909641B2 (ja) 表示システム
JP6794193B2 (ja) 作業機械の画像表示システム
US9667923B2 (en) Camera attitude detection device and work region line display device
US9990543B2 (en) Vehicle exterior moving object detection system
AU2018333191B2 (en) Display system, display method, and display apparatus
JP6805781B2 (ja) クレーン
JP6321977B2 (ja) 重機用周辺監視装置
CN103362172A (zh) 用于挖掘机的碰撞探测和减缓系统及其方法
US10721397B2 (en) Image processing system using predefined stitching configurations
CN110741124A (zh) 用于工程机械的信息系统
KR20200037285A (ko) 작업기의 외형 형상 측정 시스템, 작업기의 외형 형상 표시 시스템, 작업기의 제어 시스템 및 작업 기계
JP7253740B2 (ja) カメラの制御システム
JP6917167B2 (ja) 建設機械用俯瞰画像表示装置
US20210363732A1 (en) System and method for selectively displaying image data in a working machine
EP3831766B1 (en) Crane
WO2022070606A1 (ja) アタッチメントの目標軌跡設定システム
JP2021165526A (ja) 作業機械の画像表示システム
WO2023189216A1 (ja) 作業支援システム
AU2020322381B2 (en) Display system, remote operation system, and display method
JP2019173407A (ja) 作業機械
JP6923144B2 (ja) 作業機械の画像表示システム
JP2021098587A (ja) クレーンの性能線表示装置
JP6860471B2 (ja) 作業機械
JP2022164075A (ja) 遠隔制御システム
CN113396122A (zh) 起重机及路径生成系统

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20191016

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20191016

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230307

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230317

R150 Certificate of patent or registration of utility model

Ref document number: 7253740

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150