JP2019062308A - カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム - Google Patents

カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム Download PDF

Info

Publication number
JP2019062308A
JP2019062308A JP2017183997A JP2017183997A JP2019062308A JP 2019062308 A JP2019062308 A JP 2019062308A JP 2017183997 A JP2017183997 A JP 2017183997A JP 2017183997 A JP2017183997 A JP 2017183997A JP 2019062308 A JP2019062308 A JP 2019062308A
Authority
JP
Japan
Prior art keywords
camera
mask
tpr
mask processing
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017183997A
Other languages
English (en)
Other versions
JP7180063B2 (ja
Inventor
英登 野見山
Hideto Nomiyama
英登 野見山
訓稔 山本
Kunitoshi Yamamoto
訓稔 山本
石井 努
Tsutomu Ishii
努 石井
坪田 浩和
Hirokazu Tsubota
浩和 坪田
英基 藤本
Hidemoto Fujimoto
英基 藤本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2017183997A priority Critical patent/JP7180063B2/ja
Publication of JP2019062308A publication Critical patent/JP2019062308A/ja
Application granted granted Critical
Publication of JP7180063B2 publication Critical patent/JP7180063B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

【課題】カメラ付き移動体に対してマスク処理を行う場合に、特定の単一マスク処理を行う場合に比べて、マスク処理による影響を低減する。【解決手段】システムは、カメラ付き移動体10と、遠隔操作用端末20と、マスク制御装置30を備える。マスク制御装置30は、カメラ付き移動体10と遠隔操作用端末20間のデータを監視し、カメラ付き移動体10で撮影して得られた撮影画像の少なくとも一部を遠隔操作用端末20の操作者から隠蔽するマスク処理を実行し、かつ、マスク処理をカメラ付き移動体10の用途に応じて切り替える。【選択図】図2

Description

本発明は、カメラ付き移動体、カメラ付き移動体制御システム、及びプログラムに関する。
特許文献1には、移動可能なロボットにおいて、予め設定した撮影禁止空間をロボットが撮影しようとした場合に、撮影領域をマスクする技術が記載されている。
特許文献2には、撮影部を有する自律移動ロボットにおいて、ロボット使用空間内の撮影禁止領域情報を備え、該当領域を撮影しようとした場合に、その表示を制限する技術が記載されている。
特許文献3には、監視カメラにおいて、撮影禁止される領域をマスクするとともに、該当のマスク箇所が自然に見えるように、事前撮影しておいた表示可能な同一風景をマスクとして用いる技術が記載されている。
特開2014−192784号公報 特開2016−203276号公報 特開2005−244550号公報
近年、遠隔地から操作して会議に出席する、あるいは工場や現場を視察するためのカメラ付き移動体(テレプレゼンスロボット:TPR)が提案されている。このTPRにより、工場や現場を視察しながら問題を検討し、問題解決時間が短縮される。また、これ以外にも従業員の行動監視、試験場でのカンニング監視、病院の各部屋巡回など様々な場面で情報を収集し得る。
他方、遠隔操作で自由に動き回れるTPRでは、その動作空間内のプライベート空間や機密空間も写してしまう可能性がある。たとえ操作者がこれらを視認し得る権限があったとしても、撮影画像を遠隔地へ送信する際に第三者に撮影画像が盗まれ得る。
このため、撮影禁止領域を予め設定しておき、該当領域をTPRが撮影できないように移動を制限する、あるいは撮影した画像を加工して該当領域を見せないようにする、といったマスク処理が考えられる。
但し、TPRは、移動や他者とのコミュニケーション(会話)等、多様な用途を有しており、本来はこれらの用途を遠隔地から実行できることが利点である。マスク処理を施すことでプライバシーや機密を守ることができるが、同時に、画一的なマスク処理によりかえって用途が阻害されて利点が失われるおそれがある。例えば、
「自然に見えるように周囲の風景と同化したマスク処理を行うと、移動時にはかえって障害物を視認できなくなる」
「マスク処理される空間を表示させないようにTPRの向きを変えると、コミュニケーション時にはかえって対話しづらくなる」
等の事態が生じ得る。
本発明の目的は、カメラ付き移動体に対してマスク処理を行う場合に、特定の単一マスク処理を行う場合に比べて、マスク処理による影響を低減し得る技術を提供することにある。
請求項1に記載の発明は、遠隔操作者に対して撮影画像を提供するカメラと、前記撮影画像内の少なくとも一部を前記遠隔操作者から隠蔽するマスク処理を実行し、かつ、前記マスク処理を用途に応じて切り替えるマスク処理部とを備えるカメラ付き移動体である。
請求項2に記載の発明は、前記マスク処理部は、前記遠隔操作者の操作に応じて切り替える請求項1に記載のカメラ付き移動体である。
請求項3に記載の発明は、前記マスク処理部は、さらに撮影禁止領域との位置関係に応じて切り替える請求項1に記載のカメラ付き移動体である。
請求項4に記載の発明は、前記用途には、停留中、会話中、移動中のいずれかが含まれる請求項1に記載のカメラ付き移動体である。
請求項5に記載の発明は、前記用途には、場所あるいは環境が含まれる請求項1に記載のカメラ付き移動体である。
請求項6に記載の発明は、前記マスク処理には、少なくとも画像処理、前記カメラの向きの変化のいずれかが含まれる請求項1に記載のカメラ付き移動体である。
請求項7に記載の発明は、前記マスク処理には、さらに前記移動体の移動経路の変化が含まれる請求項8に記載のカメラ付き移動体である。
請求項8に記載の発明は、前記用途には、前記停留中、前記会話中、及び前記移動中が含まれ、前記マスク処理部は、前記停留中及び前記会話中では背景同化のマスク処理を実行し、前記移動中ではべた塗りのマスク処理に切り替える請求項6に記載のカメラ付き移動体である。
請求項9に記載の発明は、前記用途には、前記停留中、前記会話中、及び前記移動中が含まれ、前記マスク処理部は、前記停留中及び前記会話中では背景同化のマスク処理を実行し、前記移動中であって撮影禁止領域から相対的に遠いときに背景同化のマスク処理を実行し、前記移動中であって撮影禁止領域から相対的に近いときにべた塗りのマスク処理に切り替える請求項6に記載のカメラ付き移動体である。
請求項10に記載の発明は、前記マスク処理部は、前記カメラで撮影する前に前記撮影画像の撮影範囲を決定して前記マスク処理を切り替える請求項1に記載のカメラ付き移動体である。
請求項11に記載の発明は、前記画像処理には、停留中は撮影画像内の予め定められた対象物が存在していることを隠すマスク処理が含まれる請求項6に記載のカメラ付き移動体である。
請求項12に記載の発明は、前記画像処理には、前記対象物との距離が予め定められた距離よりも近い場合であって、かつ、移動中は前記対象物が存在していることを示すマスク処理が含まれる請求項6に記載のカメラ付き移動体である。
請求項13に記載の発明は、遠隔操作用端末と、マスク制御装置と、カメラ付き移動体とを備え、前記マスク制御装置は、前記カメラ付き移動体で撮影して得られた撮影画像の少なくとも一部を前記遠隔操作用端末の操作者から隠蔽するマスク処理を実行し、かつ、前記マスク処理を前記カメラ付き移動体の用途に応じて切り替えるマスク処理部とを備えるカメラ付き移動体制御システムである。
請求項14に記載の発明は、前記カメラ付き移動体は複数存在し、前記マスク処理部は、さらに前記カメラ付き移動体毎の複数のマスク処理の優先度に応じて前記カメラ付き移動体毎に切り替える請求項13に記載のカメラ付き移動体制御システムである。
請求項15に記載の発明は、前記マスク処理には、画像処理と前記カメラの向きの変化が含まれ、前記画像処理の場合には、前記カメラ付き移動体で撮影して得られた前記撮影画像は前記マスク制御装置を介して前記遠隔装置用端末に送信され、前記カメラの向きの変化の場合には、前記カメラ付き移動体で撮影して得られた前記撮影画像は前記マスク制御装置を介さずに前記遠隔装置用端末に送信される請求項13に記載のカメラ付き移動体制御システムである。
請求項16に記載の発明は、前記マスク制御装置は、前記カメラ付き移動体の位置、及び前記カメラ付き移動体と前記遠隔操作用端末間のデータ送受信の有無に応じて前記用途を決定する請求項13に記載のカメラ付き移動体制御システムである。
請求項17に記載の発明は、カメラ付き移動体で撮影して得られた撮影画像の少なくとも一部をマスク処理するコンピュータに、前記カメラ付き移動体の用途を決定するステップと、前記撮影画像に予め設定した撮影禁止領域が含まれているか否かを判定するステップと、前記撮影画像に前記撮影禁止領域が含まれている場合に、複数のマスク処理の中から前記用途に応じたマスク処理を選択するステップと、選択した前記マスク処理を実行するステップとを実行させるプログラムである。
請求項1,13,17に記載の発明によれば、特定の単一マスク処理を行う場合に比べて、マスク処理による影響が低減される。
請求項2に記載の発明によれば、さらに、遠隔者の操作に応じて切り替え実行される。
請求項3に記載の発明によれば、さらに、位置関係に応じたマスク処理が実行される。
請求項4に記載の発明によれば、さらに、停留中、会話中、移動中のいずれかに応じたマスク処理が実行される。
請求項5に記載の発明によれば、さらに、場所あるいは環境に応じたマスク処理が実行される。
請求項6に記載の発明によれば、さらに、画像処理、カメラの向きのいずれかでマスク処理が実行される。
請求項7に記載の発明によれば、さらに、移動体の移動経路の変化によりマスク処理が実行される。
請求項8に記載の発明によれば、さらに、停留中、会話中、移動中に応じた画像処理でマスク処理が実行される。
請求項9に記載の発明によれば、さらに、停留中、会話中、移動中、及び位置関係に応じた画像処理でマスク処理が実行される。
請求項10に記載の発明によれば、さらに、カメラでの撮影前にマスク処理が切り替えられる。
請求項11に記載の発明によれば、さらに、対象物が隠蔽される。
請求項12に記載の発明によれば、さらに、対象物の存在が示される。
請求項14に記載の発明によれば、さらに、複数のカメラ付き移動体毎にマスク処理が切り替えられる。
請求項15に記載の発明によれば、さらに、マスク処理に応じて撮影画像の送信経路が切り替えられる。
請求項16に記載の発明によれば、さらに、カメラ付き移動体の用途がリアルタイムに決定される。
実施形態のカメラ付き移動体の外観図である。 実施形態の制御システムのシステム構成図である。 実施形態の状態解析部の機能ブロック図である。 実施形態のマスク処理部の機能ブロック図である。 実施形態のTPRの用途説明図である。 実施形態のマスク手段の説明図である。 実施形態のマスク手段の優先度説明図である。 実施形態の位置関係と優先度の説明図である。 実施形態の撮影禁止領域と重複判定処理の説明図である。 実施形態のマスク処理の模式図(その1)である。 実施形態のマスク処理の模式図(その2)である。 実施形態のマスク処理の模式図(その3)である。 実施形態のマスク処理の模式図(その4)である。 実施形態のマスク処理の模式図(その5)である。 実施形態のマスク処理の詳細説明図である。 実施形態の処理フローチャートである。 変形例のシステム構成図である。
以下、図面に基づき本発明の実施形態について説明する。
<実施形態1>
1.カメラ付き移動体
図1は、実施形態におけるカメラ付き移動体10の外観図を示す。カメラ付き移動体10は、本体と車輪部12を備え、本体は表示部14及びカメラ16を備える。
車輪部12は、左右の車輪を回転駆動させることでカメラ付き移動体10を移動させる。左右の車輪速を変化させることで直進走行/旋回走行が可能であり、回転方向を逆転することで前進/後進が可能である。
表示部14は、例えば液晶ディスプレイや有機ELディスプレイ等で構成され、カメラ付き移動体10を操作する操作者の顔画像を表示する。表示部14は、左右あるいは上下方向に可動であってもよい。
カメラ16は、表示部14の所定位置、例えば表示部14の上部に設けられ、カメラ付き移動体10の前方の所定範囲を撮影する。ここで、カメラ付き移動体10の前方とは、表示部14において操作者の顔画像が表示されている側を意味する。カメラ16は、カメラ付き移動体10とは独立に、左右あるいは上下方向に可動であってもよい。
操作者(遠隔操作者)は、カメラ付き移動体10から離間した位置に存在し、遠隔操作用の端末を用いてカメラ付き移動体10を遠隔操作する。遠隔操作用の端末には、カメラ16で撮影された画像(通常は動画であるが、静止画であってもよい)が表示され、操作者はこの画像を視認することでカメラ付き移動体10の移動状況を確認し得る。
図において、表示部14の所定位置に、カメラ16とは別にマイクを設けてもよく、さらに操作者からの音声を出力するスピーカを設けてもよい。これにより、カメラ付き移動体10の周囲に存在する人をカメラ16で視認しつつ、マイク及びスピーカを用いて音声によるコミュニケーション(会話)が図られる。従って、例えば操作者は自身のデスクに着席しつつカメラ付き移動体10を所望の会議室まで遠隔操作で移動させることで、自身は会議室に存在していなくても会議室にいるかのように会議室の様子を把握し、かつ会議の参加者と議論し得る。また、操作者がカメラ付き移動体10を工場内で移動させることで、自身は工場にいなくても工場内の様子を詳しく知り得る(工場視察)。
2.システム構成
図2は、カメラ付き移動体10を制御するシステムの全体構成図を示す。制御システムは、カメラ付き移動体10と、遠隔操作用端末20と、マスク制御装置30を備える。カメラ付き移動体10、遠隔操作用端末20及びマスク制御装置30は、通信回線を介して互いにデータ送受信可能に接続される。通信回線は有線/無線を問わないが、遠隔操作用には無線回線が好適である。
2.1 カメラ付き移動体
カメラ付き移動体10は、操作者のいわば分身として機能し得ることからテレプレゼンスロボット(Tele Presence Robot :TPR)と表現し得る。TPR10は、車輪部12、表示部14、及びカメラ16に加え、音声入出力部101、通信部102、映像管理部103、アクチュエータ制御部104、及びアクチュエータ105を備える。
音声入出力部101は、マイク及びスピーカを備える。マイクは、TPR10の周囲の音を収音し、スピーカは、遠隔操作用端末20の操作者の音声を出力する。
通信部102は、通信回線を介して遠隔操作用端末20及びマスク制御装置30とデータを送受信する。通信部102は、特に、カメラ16で撮影して得られた画像をマスク制御装置30を介して遠隔操作用端末20に送信し、マスク制御装置30を介して遠隔操作用端末20から各種指示を受信する。各種指示には、遠隔操作の操作指示や目的地までの移動指示が含まれる。
映像管理部103は、カメラ16で撮影して得られた画像を適宜加工処理(圧縮処理や符号化処理等)し、通信部102を介してマスク制御装置30に送信する。
アクチュエータ制御部104は、マスク制御装置30から受信した制御指令に応じてTPR10を移動させるための車輪速データ群を生成し、アクチュエータ105に出力して駆動制御する。アクチュエータ105は、TPR10の車輪部12を回転駆動して前進/後進/右旋回/左旋回を実現する。
映像管理部103、及びアクチュエータ制御部104は、具体的にはTPR10に内蔵された1又は複数のプロセッサ及びメモリで構成され得る。プロセッサは、ROM等のプログラムメモリに記憶された処理プログラムを実行することで各機能を実現する。いくつかの機能をハードウェア回路、例えばASICやFPGA(フィールドプログラマブルゲートアレイ)等で構成してもよい。
2.2 遠隔操作用端末
遠隔操作用端末(以下、端末という)20は、TPR10の遠隔操作者が操作するパーソナルコンピュータ(PC)やタブレット、スマートフォン等の端末である。端末20は、汎用端末でもよく、TPR10を遠隔操作する専用端末であってもよい。端末20は、画像表示部201、操作部202、音声入出力部203、カメラ204、及び通信部205を備える。
画像表示部201は、TPR10のカメラ16で撮影して得られた画像をマスク制御装置30を介して通信部205で受信して表示する。画像表示部201は、具体的には液晶ディスプレイや有機ELディスプレイで構成され、操作者は画像表示部201の画像を視認することでTPR10の前方を含む周囲の状況を確認し得る。画像表示部201に表示される画像は、マスク制御装置30で必要に応じマスク処理された画像である。
操作部202は、TPR10を遠隔操作するためのユーザインタフェースであり、TPR10を前進/後進/右旋回/左旋回させるための操作部としての操作スイッチを備える。操作部202は、通信部205を介してこれらのスイッチ操作によりマスク制御装置30を介してTPR10に移動指令を送信する。操作者は、画像表示部201に表示された画像を視認しながら操作部202を操作してTPR10を所望の目的地まで手動操作(マニュアル操作)する。
音声入出力部203は、マイク及びスピーカを備える。マイクは、端末20の操作者の音声を収音し、スピーカは、TPR10からの音声を出力する。音声データも、マスク制御装置30を介して端末20とTPR10間で送受信されるが、特にマスク処理する必要がなければ、マスク制御装置30を介することなく端末20とTPR10間で直接的に送受信される。
カメラ204は、操作者を撮影して得られた顔画像を通信部205を介してTPR10に送信する。TPR10の表示部14には、カメラ204で撮影された顔画像が表示される。顔画像も、マスク制御装置30を介して端末20とTPR10間で送受信されるが、特にマスク処理する必要がなければ、マスク制御装置30を介することなく端末20とTPR10間で直接的に送受信される。
2.3 マスク制御装置
マスク制御装置30は、制御部301、マスク処理部302、状態解析部303、及び通信部304を備える。
制御部301は、マスク制御装置30全体を制御し、特に、状態解析部303での解析結果に応じてマスク処理の切替を制御する。
マスク処理部302は、制御部301からの切替指令に応じて複数のマスク処理を適宜切り替えてマスク処理する。マスク処理には、カメラ16で撮影された画像のマスク処理に加え、TPR10の駆動についてのマスク処理も含まれる。
状態解析部303は、TPR10の状態、特にその用途を解析し、制御部301に供給する。状態解析部303については、さらに詳述する。
通信部304は、TPR10から送信された画像を受信し、必要なマスク処理が施された画像として端末20に送信する。また、端末20から送信された操作指令を受信し、必要なマスク処理が施された制御指令としてTPR10に送信する。
制御部301、マスク処理部302、及び状態解析部303は、具体的には1又は複数のプロセッサ及びメモリで構成され得る。プロセッサは、ROM等のプログラムメモリに記憶された処理プログラムを実行することで各機能を実現する。いくつかの機能をハードウェア回路、例えばASICやFPGA(フィールドプログラマブルゲートアレイ)等で構成してもよい。
図2では、端末20とTPR10との間の画像、音声、操作指令は、全てマスク制御装置30を介して送受信されるが、マスク制御装置30でマスク処理する必要がない場合、具体的には撮影禁止領域が存在しないことが既知である場合には、端末20とTPR10との間で直接的に送受信される。
2.4 状態解析部
図3は、マスク制御装置30における状態解析部303の詳細機能ブロック図を示す。状態解析部303は、撮影領域決定部303a、用途決定部303b、位置関係決定部303c、領域重複判定部303d、空間情報記憶部303e、及び撮影禁止領域記憶部303fを備える。
撮影領域決定部303aは、TPR10のカメラ16で撮影している撮影領域を決定する。撮影領域は、カメラ16の向き、カメラ16の焦点距離、及びカメラ16の画像センサ(CCDあるいはCMOS)のサイズから決定される。
用途決定部303bは、TPR10の位置や画像・音声の通信状態を用いてTPR10の現在の用途(あるいは状態)を決定する。TPR10の現在の用途は、例えばある位置に停留中、他の操作者とコミュニケーション(会話)中、移動中等である。用途決定部303bは、決定したTPR10の用途を制御部301に出力する。実施形態における「用途」は、TPR10がどのような目的のために使用されているかを示すものである。
位置関係決定部303cは、TPR10と撮影禁止領域との位置関係を決定する。位置関係決定部303cは、決定した位置関係を制御部301に出力する。
領域重複判定部303dは、撮影領域決定部303aで決定されたTPR10のカメラ16の撮影領域と、撮影禁止領域記憶部303fに記憶されている撮影禁止領域とが重複するか否か、つまりカメラ16の撮影範囲に撮影禁止領域が含まれているか否かを判定する。そして、領域重複判定部303dは、判定結果を制御部301に出力する。
空間情報記憶部303eは、TPR10が存在する空間についての3次元情報を記憶する。
撮影禁止領域記憶部303fは、撮影禁止領域を記憶する。撮影禁止領域は、例えば空間内に設定された球の内部領域として規定される。
空間情報記憶部303e及び撮影禁止領域記憶部303fは、HDDやSSD等の記憶媒体で構成され得る。
2.5 マスク処理部
図4は、マスク制御装置30におけるマスク処理部302の詳細機能ブロック図を示す。マスク処理部302は、マスク部302a、マスク手段記憶部302b、及びマスク優先度記憶部302cを備える。
マスク部302aは、制御部301からの制御信号に応じてカメラ16の撮影領域に撮影禁止領域が含まれている場合にマスク処理を実行するとともに、制御部301からの切替制御信号を用いてマスク処理に用いるマスク手段を切り替えて実行する。すなわち、マスク処理部302は、TPR10の現在の用途に応じたマスク手段で撮影禁止領域をマスク処理する。TPR10の用途が変化すると、これに応じてマスク手段も変化し得る。
マスク手段記憶部302bは、複数のマスク手段を記憶する。マスク手段には、大別して画像処理に関するマスク手段と、TPR10の駆動に関するマスク手段がある。マスク部302aは、マスク手段記憶部302bに記憶された複数のマスク手段から、切替制御信号に応じてマスク手段を読み出してマスク処理を行う。
マスク優先度記憶部302cは、マスク手段記憶部302bに記憶された各種マスク手段の優先度を記憶する。
マスク手段記憶部302b及びマスク優先度記憶部302cは、HDDやSSD等の記憶媒体で構成され得る。
2.6 TPR10の用途
実施形態におけるTPR10の用途についてさらに説明する。
図5は、状態解析部303の用途決定部303bで決定されるTPR10の用途例を示す。TPR10の用途は、例えば、停留中、コミュニケーション(会話)中、移動中のいずれかに分類される。
停留中は、TPR10が起動して同一の場所に留まっている状態であり、周囲を確認するためにその場で回転している状態も含む。停留中は、端末20に表示される画像(操作画面表示)としては、出来るだけ自然な状態がよく、またその視野も広い方がよい。TPR10が起動していない状態では、カメラ16が起動しておらずマスク処理すべき対象は存在しない。停留中は、厳密な意味で停止状態にあることを意味するものではなく、ある位置近傍で微小変動している場合も含む。
コミュニケーション(会話)中は、TPR10の対面等に人あるいは他のTPR10が存在し、お互いに会話を行っている状態であり、TPR10と端末20との間で音声の送受信が存在する。コミュニケーション中は、端末20に表示される画像は出来るだけ自然な状態がよく、かつ対話相手から見たTPR10の自然さも要求される。例えば、会話中にもかかわらずTPR10が対話相手と異なる方向を向いている場合には、対話相手は不自然と感じ得る。
移動中は、TPR10が移動している状態であり、端末20から移動指示を受けている状態である。移動中は、移動経路に存在する障害物の視認性が要求されるが、障害物がTPR10から見て遠方にあるときには必ずしも視認性は要求されない。また、TPR10の操作者が進みたい方向にカメラ16が向いていることが要求される。さらに、端末20に表示される画像の視野も広い方がよい。
2.7 マスク手段
図6は、マスク処理部302のマスク手段記憶部302bに記憶される複数のマスク手段例を示す。マスク手段は、既述したように、画像処理に関するマスク手段1〜3と、TPR10の駆動に関するマスク手段a〜cに大別される。画像処理に関するマスク手段には、
・背景同化
・ぼやかし
・べた塗り
があり、TPR10の駆動に関するマスク手段には、
・カメラ16の向きを変える視線はずし
・カメラの画角を変える視線はずし
・TPR10自体の向きを変える視線はずし
がある。
背景同化は、カメラ16で撮影した画像に対し、撮影禁止領域を画像処理によってマスクするものであり、具体的には、事前に撮影禁止領域と同一風景で、たとえ見られても問題ない風景を撮影しておいたものを利用し、見た目上で違和感ないように元の画像に合成するものである。
ぼやかしは、撮影禁止領域をぼやかしたものを表示する。このぼやかしは、対象を細かく見ることはできないが、そこに何かがあることを視認できる程度とする。ぼやかしには、モザイク処理とぼかし処理が含まれる。モザイク処理は、画像の正方形の範囲の色を同じ色で塗りつぶすもので、同じ色で塗りつぶす正方形の大きさによってモザイク画像の鮮明度が変化する。ぼかし処理は、画像の中のそれぞれの点をぼかすもので、その点の周りの色で点の色を平均化する。平均化する際に使う周りの点の数を増やせば増やすほど、ぼかしが強くなる。ガウス関数をもちいて画像をぼかしてもよい。
べた塗りは、撮影禁止領域を特定色、例えば白や黒で塗りつぶす。
視線はずし(カメラ向きのみ)は、撮影禁止領域をカメラ16が写さないように制御してマスクするものである。カメラ16がTPR10本体とは独立してその向きを変更できる場合であり、カメラ16のみが撮影禁止領域の方を向かないように制御する。
視線はずし(カメラ画角のみ)は、カメラ16が画角を調整できる場合であり、撮影禁止領域が入る場合にカメラ16の画角を狭めて写らないようにする。画角は、カメラ16の焦点距離と画像センサの受光サイズの少なくともいずれかを変更することで調整される。
視線はずし(本体ごと)は、カメラ16とTPR10本体とが一体でカメラのみを駆動できず、カメラ16の画角調整もできない場合であり、TPR10が撮影禁止領域の方を向かないように制御する。
2.8 優先度
図7は、マスク処理部302のマスク優先度記憶部302cに記憶されるマスク手段の優先度例を示す。
優先度は、図5に示した用途、すなわち停留中、コミュニケーション中、移動中に応じて変化し得る。
停留中では、優先度の相対的数値として、
背景同化=6
ぼやかし=4
べたぬり=2
視線はずし(カメラ向きのみ)=5
視線はずし(カメラ画角のみ)=3
視線はずし(本体ごと)=5
とされる。停留中では、端末20に表示される画像(操作画面表示)としては、出来るだけ自然な状態がよく、またその視野も広い方がよいところ、背景同化はこれに好ましい特性を有するため相対的数値が高くなる。
他方、べた塗りは表示が不自然になるとともに視野も狭くなるため相対的数値は低くなる。
また、視線はずし(カメラ向きのみ)もこれに好ましい特性を有するため相対的数値が高くなるが、視線はずし(画角のみ)は視野が狭くなるため相対的数値は低くなる。
結果として、停留中は、優先度の高い順に、
背景同化>視線はずし(カメラ向きのみ)、自然はずし(本体ごと)>ぼやかし>視線はずし(カメラ画角のみ)>べた塗り
となる。
コミュニケーション中では、優先度の相対的数値として、
背景同化=9
ぼやかし=7
べたぬり=5
視線はずし(カメラ向きのみ)=7
視線はずし(カメラ画角のみ)=6
視線はずし(本体ごと)=×
とされる。ここで、相対的数値=×は、そもそも採用し得ないことを示す。コミュニケーション中は、端末20に表示される画像は出来るだけ自然な状態がよく、対話相手から見たTPR10の自然さも要求されるところ、背景同化はこれに好ましい特性を有するため相対的数値が高くなる。
他方、べた塗りは表示が不自然になるため相対的数値は低くなる。
また、視線はずし(カメラ向きのみ)もこれに好ましい特性を有するため相対的数値が高くなるが、視線はずし(本体ごと)は対話相手から見たTPR10が極端に不自然となるため採用し得ない。
結果として、コミュニケーション中は、優先度の高い順に、
背景同化>ぼやかし、視線はずし(カメラ向きのみ)>視線はずし(カメラ画角のみ)>べた塗り
とされる。
移動中では、優先度の相対数値として、
背景同化=×
ぼやかし=6
べたぬり=7
視線はずし(カメラ向きのみ)=×
視線はずし(カメラ画角のみ)=×
視線はずし(本体ごと)=×
とされる。移動中は、移動経路に存在する障害物の視認性が要求され、進みたい方向にカメラ16が向いていることが要求される。さらに、端末20に表示される画像の視野も広い方がよい。背景同化は障害物の視認性がないため採用し得ない。視線はずしも同様に障害物の視認性がないため採用し得ない。
他方、べた塗りは視野が狭くなるものの障害物の視認性があり、相対的数値が高くなる。結果として、移動中は、優先度の高い順に、
べた塗り>ぼやかし
とされる。
制御部301は、領域重複判定部303dからの判定結果、用途決定部303bで決定された用途、及びマスク優先度記憶部302cに記憶された優先度に応じて、切替制御信号をマスク部302aに出力する。マスク部302aは、制御部301からの切替制御信号に応じ、マスク手段記憶部302bに記憶されたマスク手段からいずれかのマスク手段を選択してマスク処理を実行する。
但し、優先度は、TPR10と撮影禁止領域との位置関係に応じて変化し得る。
2.9 位置関係に応じた優先度
図8は、状態解析部303の位置関係決定部303cで決定される位置関係に応じた優先度例を示す。
位置関係は、TPR10と撮影禁止領域との位置関係を意味し、図において「近い」、「遠い」の2つに大別される。例えば、TPR10と撮影禁止領域との距離を閾値と比較し、閾値以下であれば「近い」、閾値を超えれば「遠い」と決定される。
停留中及びコミュニケーション中については、優先度は位置関係によらずに決定される。
移動中については、優先度は位置関係に応じて変化する。すなわち、「近い」場合には、優先度の高い順に
べた塗り>ぼやかし
とされるが、「遠い」場合には、
背景同化>べた塗り>ぼやかし
とされる。遠い場合には背景同化により撮影禁止領域が視認できなくても問題ないが、近い場合にはべた塗りにより何かあることを操作者に積極的に視認させることで回避行動等が促進される。図7に示すように、背景同化は障害物の視認性がないため相対的数値は×とされているが、位置関係が遠い場合には障害物の視認性がなくても問題とならないため相対的数値が高くなる。
制御部301は、用途決定部303bで決定された用途、及びマスク優先度記憶部302cに記憶された優先度に応じて、切替制御信号をマスク部302aに出力するが、さらに、位置関係決定部303cで決定された位置関係も用いて切替制御信号を出力する。
2.10 撮影禁止領域
図9は、状態解析部303の撮影禁止領域記憶部303fに記憶される撮影禁止領域、及び領域重複判定部303dで判定される判定方法の一例を示す。
撮影禁止領域の設定方法には、大別して3通りある。第1は、空間情報に撮影禁止領域を設定するものである。第2は、実空間に撮影禁止領域を設定するものである。第3は、撮影禁止物体を設定するものである。
空間情報に撮影禁止領域を設定する場合、任意の3次元座標を設定し、該座標を中心とする任意距離の球内を撮影禁止領域とする。該座標を中心とする任意距離の円柱内(高さは無限)を撮影禁止領域としてもよい。あるいは、任意立体を設定し、その立体内を撮影禁止領域とする。
実空間に撮影禁止領域を設定する場合、任意のマーカを実空間に設定し、該マーカを中心とする任意距離の球内を撮影禁止領域とする。
撮影禁止物体を設定する場合、任意の物体像を設定し、該物体画像と一致する画像領域を撮影禁止領域とする。
また、重複領域判定方法は、撮影禁止領域の設定方法に応じて変化する。
球内(円柱内)に撮影禁止領域を設定する場合、TPR10の位置/カメラ16の向きとカメラ16の画角から撮影領域が決定され、設定座標を中心とする球内の撮影禁止領域との重複を判定する。重複判定は、カメラ16での撮影直前に実行される。
立体内に撮影禁止領域を設定する場合、TPR10の位置/カメラ16の向きとカメラ16の画角から撮影領域が決定され、TPR10の位置と空間情報記憶部303eに記憶された空間情報と設定立体から撮影禁止領域が決定され、両者の重複を判定する。重複判定は、カメラ16での撮影直前に実行される。
マーカを中心とする球内に撮影禁止領域を設定する場合、TPR10の位置/カメラ16の向きとカメラ16の画角から撮影領域が決定され、マーカ座標を中心とする撮影禁止領域との重複を判定する。マーカ自身が位置情報を有している場合である。重複判定は、カメラ16での撮影直前に実行される。他方、マーカ自身が位置情報を有していない場合には、撮影領域からマーカ有無を画像解析して重複の有無を判定する。画像解析によりマーカの有無を判定するため、重複判定もカメラ16での撮影直後に実行される。マーカ位置にとっては、撮影禁止物体を全て覆わず、撮影禁止物体の一部が写りこむ場合もあり得る。
物体画像と一致する画像領域を撮影禁止領域とする場合、撮影領域から撮影禁止物体の有無を画像解析で判定することで重複を判定する。画像解析により判定するため、重複判定もカメラ16での撮影直後に実行される。画像解析の時間分だけタイムラグが生じ、撮影禁止物体の一部が写りこむ場合もあり得る。
撮影禁止領域記憶部303fは、これらの少なくともいずれかを撮影禁止領域として記憶し、領域重複判定部303dは、撮影禁止領域記憶部303fに記憶された撮影禁止領域に応じた判定方法で重複の有無を判定し、判定結果をマスク部302aに出力する。
3.マスク処理の具体例
図10及び図11は、TPR10の用途及び優先度に応じたマスク処理の切替を模式的に示す。
図10は、TPR10の用途がコミュニケーション(会話)中である場合のマスク処理である。この場合、優先度の高い順に、
背景同化>ぼやかし、視線はずし(カメラ向きのみ)>視線はずし(カメラ画角のみ)>べた塗り
である。
制御部301は、この優先度に従ってマスク部302aに対して背景同化のマスク処理に切り替えるように切替制御信号を出力する。マスク部302aは、切替制御信号に応じ、マスク手段として背景同化を選択し、カメラ16で撮影して得られた画像に対して背景同化のマスク処理を実行して端末20に送信する。
端末20の画像表示部201には、背景同化のマスク処理が施された画像が表示される。従って、撮影禁止領域に撮影禁止物体40が存在していても、背景同化のマスク処理が施されているために、端末20の操作者には撮影禁止物体40が見えない。また、背景同化のマスク処理であるため、操作者は不自然に感じることがない。このため、他人との会話にも集中し得る。
仮に、撮影禁止物体40に対してべた塗りのマスク処理が一律に施されている場合を想定すると、端末20の操作者から撮影禁止物体40を隠すことは可能でも、操作者はべた塗りの部分が気になって他人との会話に集中し難いであろう。コミュニケーション中であることを考慮して背景同化のマスク処理に切り替えることで、マスク処理による影響が軽減される。
図11は、TPR10の用途が移動中である場合のマスク処理である。この場合、優先度の高い順に、
べた塗り>ぼやかし
である。
制御部301は、この優先度に従ってマスク部302aに対してべた塗りのマスク処理に切り替えるように切替制御信号を出力する。マスク部302aは、切替制御信号に応じ、マスク手段としてべた塗りを選択し、カメラ16で撮影して得られた画像に対してべた塗りのマスク処理を実行して端末20に送信する。
端末20の画像表示部201には、べた塗りのマスク処理が施された画像が表示される。従って、撮影禁止領域に撮影禁止物体40が存在していても、べた塗りのマスク処理が施されているために、端末20の操作者には撮影禁止物体40が見えない。また、べた塗りのマスク処理としてあえて見せるため、操作者はそこに何かあることを視認できる。このため、「何かある。迂回しよう」と迂回操作を行い得る。
仮に、撮影禁止物体40に対して背景同化のマスク処理が一律に施されている場合を想定すると、端末20の操作者から撮影禁止物体40を隠すことは可能でも、操作者は撮影禁止物体40の存在自体を認識できないため、そのままTPR10を移動させようとして撮影禁止物体40と衝突してしまう事態も想定される。移動中であることを考慮してべた塗りのマスク処理に切り替えることで、マスク処理による影響が軽減される。
図12及び図13は、TPR10の用途が移動中である場合のマスク処理であり、TPR10と撮影禁止領域(あるいは撮影禁止物体)との位置関係を考慮したマスク処理である。この場合、「近い」場合には、優先度の高い順に
べた塗り>ぼやかし
となり、「遠い」場合には、
背景同化>べた塗り>ぼやかし
となる。
図12に示すように、位置関係が遠い場合、制御部301は、優先度に従ってマスク部302aに対して背景同化のマスク処理に切り替えるように切替制御信号を出力する。マスク部302aは、切替制御信号に応じ、マスク手段として背景同化を選択し、カメラ16で撮影して得られた画像に対して背景同化のマスク処理を実行して端末20に送信する。
端末20の画像表示部201には、背景同化のマスク処理が施された画像が表示される。従って、撮影禁止領域に撮影禁止物体40が存在していても、背景同化のマスク処理が施されているために、端末20の操作者には撮影禁止物体40が見えない。操作者は、このまままっすぐ進めると判断してTPR10に操作指示する。
他方、図13に示すように、位置関係が近い場合、制御部301は、優先度に従ってマスク部302aに対してべた塗りのマスク処理に切り替えるように切替制御信号を出力する。マスク部302aは、切替制御信号に応じ、マスク手段としてべた塗りを選択し、カメラ16で撮影して得られた画像に対してべた塗りのマスク処理を実行して端末20に送信する。
端末20の画像表示部201には、べた塗りのマスク処理が施された画像が表示される。従って、撮影禁止領域に撮影禁止物体40が存在していても、べた塗りのマスク処理が施されているために、端末20の操作者には撮影禁止物体40が見えない。また、べた塗りのマスク処理としてあえて見せるため、操作者はそこに何かあることを視認できる。このため、「何かある。迂回しよう」と迂回操作を行い得る。図13では、TPR10が撮影禁止物体40に接近した場合のみ、撮影禁止物体40そのものは隠蔽しつつもTPR10の移動経路に何かあることを意図的に操作者に見せることで操作者に注意を促すものといえる。
実施形態におけるマスク処理にはTPR10の駆動に関する処理が含まれ、TPR10の駆動に関する処理は、具体的には図7に示すように視線はずし(カメラ向きのみ)、視線はずし(カメラ画角のみ)、視線はずし(本体ごと)であってカメラ16の撮影範囲を撮影禁止領域から逸らすものであるが、これ以外にも、TPR10の移動経路を制御することによりマスク処理を実行してもよい。
例えば、撮影禁止領域が存在する移動経路から撮影禁止領域が存在しない移動経路に自動的に変更する等である。あるいは、画像処理に関するマスク処理に応じてTPR10の移動経路を制御してもよい。例えば、図12、図13では、位置関係が「遠い」場合には背景同化のマスク処理を実行し、位置関係が「近い」場合にはべた塗りのマスク処理に切り替えているが、位置関係が近い場合にも背景同化のマスク処理を維持するとともに、TPR10の移動経路を自動的に変更して撮影禁止物体40を迂回させる。
図14は、位置関係が「近い」場合でも背景同化のマスク処理を維持するとともに、TPR10を自動的に迂回させるように制御する例を示す。
制御部301は、優先度に従ってマスク部302aに対して背景同化のマスク処理に切り替えるように切替制御信号を出力する。マスク部302aは、切替制御信号に応じ、マスク手段として背景同化を選択し、カメラ16で撮影して得られた画像に対して背景同化のマスク処理を実行して端末20に送信する。
端末20の画像表示部201には、背景同化のマスク処理が施された画像が表示される。従って、撮影禁止領域に撮影禁止物体40が存在していても、背景同化のマスク処理が施されているために、端末20の操作者には撮影禁止物体40が見えない。操作者は、このまままっすぐ進めると判断してTPR10に操作指示する。
マスク処理部302のマスク部302aは、端末20からの操作指示を受信し、撮影禁止物体40を迂回するような経路を算出し、当該迂回経路に沿って移動するように受信した操作指令を自動変更してTPR10に送信する。これにより、TPR10は、端末20からはまっすぐ進むような操作指示が出力されていても、撮影禁止物体40を迂回するような曲線経路で移動する。
図15は、TPR10を迂回させるマスク処理の詳細を示す。マスク部302aは、撮影禁止物体の中心からさらに一定距離の円を進入禁止領域42として設定する。
次に、マスク部302aは、TPR10が設定された進入禁止領域42に入ろうとした地点P1を検出する。
次に、進入地点P1、撮影禁止物体40の中心、及びTPR10の進入向きから、進入禁止領域42の円弧に沿った迂回経路を算出する。
次に、マスク部302aは、算出した迂回経路に沿ってTPR10を移動させるように、TPR10に対して操作指示を出力する。これにより、TPR10は、迂回経路に沿って移動する(P2,P3)。カメラ16が独立稼働する場合、本体の向きに反して地点P1での進入向きを維持するようにカメラ16の方向を制御してもよく、操作者は端末20の画像を視認する限りTPR10は操作指示通りにまっすぐ進んでいると認識し得る。
TPR10が算出した迂回ルートを進み終わって地点P4に達すると、マスク部302aは、TPR10の向きを地点P1での進入向きに戻し、その後は端末20からの操作指示をそのままTPR10に送信する。
地点P1〜P4までは、端末20からの操作指示に代えてマスク部302aからTPR10に操作指示を送信し、地点P4以後は端末20からの操作指示をそのままTPR10に送信するため、撮影禁止物体40の近傍に設定された進入禁止領域42ではマスク制御装置30が端末20に代えてTPR10を自動的に代替操作してマスク処理を実行するといえる。
マスク制御装置30が端末20に代えてTPR10を自動的に代替操作している間も、カメラ16の向きを制御してあたかも直進しているような画像を端末20に提供するため操作者は違和感を覚えることはないが、マスク部302aは例えば「障害物を迂回しています」等のメッセージを画像に重畳表示してもよい。
4.処理フローチャート
図16は、実施形態の処理フローチャートを示す。マスク制御装置30の処理である。
まず、マスク制御装置30は、TPR10及び端末20の画像、音声、操作情報を収集する(S101)。すなわち、TPR10のカメラ16で撮影された画像、マイクで収音された音声、TPR10の位置情報を取得するとともに、端末20の操作部202からの操作指示、マイクで収音された音声を取得する。TPR10の位置情報は、TPR10に設けられたGPS等の位置センサから通信部102,304を介して取得する。GPSに代えてカメラ16で撮影して得られた画像から位置を検出してもよく、あるいはオドメトリ情報を用いて位置を検出してもよい。車輪速(あるいは車輪の回転角)から現在位置を推定するオドメトリによれば、比較的簡易かつ低コストで自己位置推定が可能である。オドメトリでは、左右の車輪の車輪速をそれぞれvr、vlとし、左右の車輪間隔を2L、ロボットの速度及び角速度をv及びωとすると、
v=(vr+vl)/2
ω=(vr−vl)/2L
であり、これを用いて
dx/dt=vcosθ
dy/dt=vsinθ
dθ/dt=ω
を計算することで、ロボットの位置(x、y)及び角度θが算出される。出発地から順次、位置を算出して積算することで、出発地に対するロボットの相対的な位置が算出され、自己位置が推定される。オドメトリ情報として、車輪の回転角及び回転角速度を用いてもよい。オドメトリを用いた移動ロボットの自己位置推定については、例えば特開2015−111336号公報に記載されている。
次に、マスク制御装置30は、TPR10の撮影領域、及び用途を決定する(S102)。撮影領域は、TPR10のカメラ16の向き及び画角から決定され、より特定的にはカメラ16の向きと焦点距離と画像センサのサイズから決定される。カメラ16の向きは、地磁気センサ等が用いられる。カメラ16の焦点距離や画像センサのサイズは、予めマスク制御装置30のメモリにカメラ16のパラメータとして記憶しておく。カメラ16の向きは、通信部102,304を介して取得する。TPR10の用途は、TPR10の位置情報、TPR10と端末20との間の音声送受信の有無に基づきリアルタイムで決定され、TPR10の位置情報が一定時間同一位置を示している場合には停留中、TPR10と端末20との間に音声送受信があればコミュニケーション中、音声送受信がなければ停留中、TPR10の位置情報が変化していれば移動中と決定される。TPR10の用途は、時間とともに変化し得るため、リアルタイムで用途が決定される。端末20からの操作指示に応じて用途を決定してもよい。例えば、端末20からの操作指示が「停止」を意味する場合に停留中、端末20からの音声出力がある場合にコミュニケーション中、端末20からの操作指示が「前進」、「後退」、「旋回」を意味する場合に移動中と決定してもよい。
次に、マスク制御装置30は、TPR10のカメラ16の撮影領域と、撮影禁止領域が重複するか否かを判定する(S103)。撮影禁止領域は、図9に示す撮影禁止領域の設定手段の少なくともいずれかの手段で設定され、例えば任意の物体画像を撮影禁止物体として設定する。この場合、S102で決定されたカメラ16の撮影領域と撮影禁止領域との重複は、カメラ16で撮影して得られた画像内に撮影禁止物体の物体画像が含まれているか否かにより判定される。この判定は、必然的にカメラ16による撮影直後に実行される。従って、この判定の間、カメラ16の撮影画像はマスク制御装置30に留め置かれ、端末20には送信されない。
撮影領域と撮影禁止領域とが重複しない場合(S104でNO)、マスク処理は実行されない。従って、カメラ16の画像はそのまま端末20に送信され、カメラ16の向きや画角、TPR10の向きもそのまま維持される。
撮影領域と撮影禁止領域とが重複する場合(S104でYES)、マスク制御装置30は、TPR10の位置情報を用いてTPR10と撮影禁止領域との位置関係を算出し(S105)、実施し得る手段の中から優先度及びTPR10の用途に応じてマスク手段を決定する(S106、S107)。そして、決定したマスク手段を実行する(S108)。
例えば、用途が停留中であれば背景同化をマスク手段として決定し、用途がコミュニケーション中であれば背景同化をマスク手段として決定し、用途が移動中であって位置関係が「遠い」であれば背景同化をマスク手段として決定する。
また、用途が移動中であって位置関係が「近い」であればべた塗りをマスク手段として決定する。さらに、見られても問題ない同一背景を事前に準備していない等の事情により背景同化のマスク手段が実施し得ない場合、用途が停留中であれば視線はずし(カメラの向きのみ)をマスク手段として決定し、用途がコミュニケーション中であればぼやかしをマスク手段として決定し、用途が移動中であればべた塗りをマスク手段として決定する。マスク処理された画像は、マスク制御装置30から端末20に送信される。マスク処理に一定時間を要する場合、カメラ16で撮影された時点と端末20に表示される時点にはタイムラグが生じ得る。
このように、本実施形態では、単一のマスク処理を画一的に施すのではなく、TPR10の用途に応じ、あるいはTPR10の用途と優先度に応じ、あるいはTPR10の用途と優先度と位置関係に応じてマスク処理を切り替える、すなわち少なくとも用途に応じてマスク処理を最適化するので、マスク処理に伴う影響が低減される。
以上、本発明の実施形態について説明したが、本発明はこれらの実施形態に限定されるものではなく、種々の変形が可能である。以下、変形例について説明する。
<変形例1>
実施形態では、図2に示すように、マスク制御装置30は端末20及びTPR10とは別個にネットワーク上に配置されているが、マスク制御装置30をTPR10内に組み込んでもよい。
図17は、この場合のシステム構成を示す。TPR10と端末20が通信回線で接続される。TPR10は、カメラ付き移動体とともにマスク制御装置として機能する。TPR10は、図2に示される機能ブロックに加え、制御部301、マスク処理部302及び状態解析部303を備える。
TPR10は、1又は複数のプロセッサ、プログラムメモリ、ワーキングメモリ、及びHDDやSSD等の記憶媒体を備え、プロセッサはプログラムメモリに記憶された処理プログラムを読み出して実行することで、映像管理部103、アクチュエータ制御部104、制御部301、マスク処理部302及び状態解析部303として機能する。
マスク処理として視線はずしやTPR10の迂回制御を実行する場合、マスク処理部302はアクチュエータ制御部104に対して制御指令を出力し、アクチュエータ制御部104はアクチュエータを駆動してカメラ16の向きや画角、TPR10の向きを変更する。
<変形例2>
実施形態では、TPR10の用途、撮影禁止領域との位置関係、マスク手段の優先度に応じてマスク処理を切替制御しているが、単に用途のみに応じて切替制御してもよく、用途と位置関係のみに応じて切替制御してもよい。
例えば、用途毎にマスク処理を予め設定しておき、決定された用途に応じてマスク処理を決定する。
停留中:背景同化
コミュニケーション中:背景同化
移動中:べた塗り
等である。あるいは、
停留中:背景同化
コミュニケーション中:背景同化
移動中で「遠い」:背景同化
移動中で「近い」:べた塗り
等である。マスク手段記憶部302bは、これらの関係を規定するテーブルを記憶し、マスク部302aは、制御部301からの切替制御信号に応じて用途、あるいは用途と位置関係に応じたマスク処理をテーブルから読み出して実行する。
<変形例3>
実施形態において、マスク処理の切替制御として、あるマスク処理の処理程度を切替制御してもよい。例えば、移動中はぼやかしのマスク処理を決定した場合において、撮影禁止領域から遠い場合にはぼやかしの程度を小さくし、撮影禁止領域に接近するに従ってぼやかしの程度を大きくする等である。ぼやかしとしてモザイク処理を施す場合、同じ色で塗りつぶす正方形の大きさを変化させてモザイク画像の鮮明度を変化させる。
<変形例4>
実施形態において、マスク処理としての画像処理とTPR10の駆動処理とを切替制御してもよい。例えば、停留中及び移動中はTPR10の駆動処理によりマスク処理を実行し、コミュニケーション中は画像処理によりマスク処理を実行する等である。画像処理の方がTPR10の駆動処理よりも容易である場合、画像処理を優先させ、画像処理が困難な場合に代替的あるいは補充的にTPR10の駆動処理によりマスク処理を実行してもよい。画像処理の場合にはカメラ16で撮影された画像はマスク制御装置30を介して端末20に送信されるが、TPR10の駆動処理の場合にはカメラ16で撮影された画像はマスク制御装置30を介さず直接端末20に送信され得る。
<変形例5>
実施形態において、背景同化によりマスク処理を実行する場合、撮影禁止領域の部分に事前に撮影した同一背景画像を合成して撮影禁止領域を秘匿、いわばカモフラージュしているが、例えば撮影禁止物体が複数分散して存在する場合等には、より広い範囲の背景全体を別の画像に置換することでカモフラージュしてもよい。すなわち、「背景同化」には、背景を別の背景画像に置換する技術も含まれる。
<変形例6>
実施形態において、用途及び優先度に応じてマスク処理を切替制御しているが、優先度は操作者の嗜好その他の事情に応じて可変としてもよい。例えば、ある操作者Aはべた塗りを好まないためその優先度を低く設定し、ある操作者Bは画像処理を好まないため背景同化・ぼやかし・べた塗りの優先度を低く設定する等である。操作者は、端末20を操作して予め自分の嗜好をマスク制御装置30に提供し、マスク制御装置30は操作者の嗜好に応じて優先度を調整する。
<変形例7>
実施形態において、移動中は撮影禁止領域との位置関係に応じてマスク処理を切替制御しているが、さらにオフィスや工場等においてTPR10の移動を案内する案内人の有無に応じてマスク処理を切替制御してもよい。例えば、案内人が存在しない場合には撮影禁止物体の迂回処理を実行するが、案内人が存在する場合には基本的に案内人の後を移動するため迂回処理は実行しない等である。
<変形例8>
実施形態では、TPR10を用いた会議や工場視察等を例示したが、TPR10を用いた家の内覧、試験場でのカンニング監視、病院内での患者の見回り等にも適用し得る。家の内覧の場合、撮影禁止領域として、当該家に居住中の人が他人の目に触れたくない家具等を撮影禁止物体として設定し得る。
また、TPR10の用途として、停留中とコミュニケーション中のいずれかに決定してもよい。
また、TPR10の用途として、停留中とコミュニケーション中と移動中のいずれかとし、停留中と移動中とで同一のマスク処理を設定してもよい。
病院内での患者の見回りの場合、撮影禁止領域としては当該患者のプライベートな物品等を撮影禁止物体として設定し得る。また、患者に対してTPR10がプライベートな物品を撮影していないことを積極的に認識させるべく、マスク処理としては画像処理ではなくTPR10の駆動処理を優先的に採用する。この意味で、TPR10の用途には、TPR10が使用される場所あるいは環境も含まれ得る。
<変形例9>
実施形態では、図2に示すように1つのTPR10及び1つの端末20を例示しているが、複数のTPR10及び複数の端末20がネットワークに接続されていてもよい。この場合において、複数のTPR10毎に優先度を可変としてもよい。例えば、2つのTPR10のうち、一方はカメラ16を独立可動できるものの他方はカメラ16を独立可動できない場合、それぞれのTPR10において可動/非可動の状況に応じて優先度を変化させてマスク処理を実行する。
<変形例10>
実施形態において、TPR10の用途に応じてマスク処理を切り替えているが、撮影領域に複数の禁止領域が含まれている場合において、撮影禁止領域毎にマスク処理を切り替えてもよい。例えば、撮影禁止物体が2つ存在し、1つの撮影禁止物体については背景同化処理を施し、他の撮影禁止物体についてはぼやかし処理を施す等である。この場合、撮影禁止領域毎に、用途に応じて切り替えるマスク処理が変化し得る。例えば、TPR10の用途が変化した場合、1つの撮影禁止物体については背景同化処理からぼやかし処理に切り替え、他の撮影禁止物体についてはぼやかし処理から迂回処理に切り替える等である。この意味で、マスク処理は、TPR10の用途に加え、マスク処理すべき撮影禁止領域あるは撮影禁止物体の属性に応じて切り替えられるといえる。
10 カメラ付き移動体(TPR)、12 車輪部、14 表示部、16 カメラ、20 遠隔操作用端末(端末)、30 マスク制御装置。

Claims (17)

  1. 遠隔操作者に対して撮影画像を提供するカメラと、
    前記撮影画像内の少なくとも一部を前記遠隔操作者から隠蔽するマスク処理を実行し、かつ、前記マスク処理を用途に応じて切り替えるマスク処理部と、
    を備えるカメラ付き移動体。
  2. 前記マスク処理部は、前記遠隔操作者の操作に応じて切り替える
    請求項1に記載のカメラ付き移動体。
  3. 前記マスク処理部は、さらに撮影禁止領域との位置関係に応じて切り替える
    請求項1に記載のカメラ付き移動体。
  4. 前記用途には、停留中、会話中、移動中のいずれかが含まれる
    請求項1に記載のカメラ付き移動体。
  5. 前記用途には、場所あるいは環境が含まれる
    請求項1に記載のカメラ付き移動体。
  6. 前記マスク処理には、少なくとも画像処理、前記カメラの向きの変化のいずれかが含まれる
    請求項1に記載のカメラ付き移動体。
  7. 前記マスク処理には、さらに前記移動体の移動経路の変化が含まれる
    請求項6に記載のカメラ付き移動体。
  8. 前記用途には、前記停留中、前記会話中、及び前記移動中が含まれ、
    前記マスク処理部は、前記停留中及び前記会話中では背景同化のマスク処理を実行し、前記移動中ではべた塗りのマスク処理に切り替える
    請求項4に記載のカメラ付き移動体。
  9. 前記用途には、前記停留中、前記会話中、及び前記移動中が含まれ、
    前記マスク処理部は、前記停留中及び前記会話中では背景同化のマスク処理を実行し、前記移動中であって撮影禁止領域から相対的に遠いときに背景同化のマスク処理を実行し、前記移動中であって撮影禁止領域から相対的に近いときにべた塗りのマスク処理に切り替える
    請求項4に記載のカメラ付き移動体。
  10. 前記マスク処理部は、前記カメラで撮影する前に前記撮影画像の撮影範囲を決定して前記マスク処理を切り替える
    請求項1に記載のカメラ付き移動体。
  11. 前記画像処理には、停留中は撮影画像内の予め定められた対象物が存在していることを隠すマスク処理が含まれる請求項6に記載のカメラ付き移動体。
  12. 前記画像処理には、前記対象物との距離が予め定められた距離よりも近い場合であって、かつ、移動中は前記対象物が存在していることを示すマスク処理が含まれる請求項6に記載のカメラ付き移動体。
  13. 遠隔操作用端末と、
    マスク制御装置と、
    カメラ付き移動体と、
    を備え、
    前記マスク制御装置は、
    前記カメラ付き移動体で撮影して得られた撮影画像の少なくとも一部を前記遠隔操作用端末の操作者から隠蔽するマスク処理を実行し、かつ、前記マスク処理を前記カメラ付き移動体の用途に応じて切り替えるマスク処理部と、
    を備えるカメラ付き移動体制御システム。
  14. 前記カメラ付き移動体は複数存在し、
    前記マスク処理部は、さらに前記カメラ付き移動体毎の複数のマスク処理の優先度に応じて前記カメラ付き移動体毎に切り替える
    請求項13に記載のカメラ付き移動体制御システム。
  15. 前記マスク処理には、画像処理と前記カメラの向きの変化が含まれ、
    前記画像処理の場合には、前記カメラ付き移動体で撮影して得られた前記撮影画像は前記マスク制御装置を介して前記遠隔装置用端末に送信され、前記カメラの向きの変化の場合には、前記カメラ付き移動体で撮影して得られた前記撮影画像は前記マスク制御装置を介さずに前記遠隔装置用端末に送信される
    請求項13に記載のカメラ付き移動体制御システム。
  16. 前記マスク制御装置は、前記カメラ付き移動体の位置、及び前記カメラ付き移動体と前記遠隔操作用端末間のデータ送受信の有無に応じて前記用途を決定する
    請求項13に記載のカメラ付き移動体制御システム。
  17. カメラ付き移動体で撮影して得られた撮影画像の少なくとも一部をマスク処理するコンピュータに、
    前記カメラ付き移動体の用途を決定するステップと、
    前記撮影画像に予め設定した撮影禁止領域が含まれているか否かを判定するステップと、
    前記撮影画像に前記撮影禁止領域が含まれている場合に、複数のマスク処理の中から前記用途に応じたマスク処理を選択するステップと、
    選択した前記マスク処理を実行するステップと、
    を実行させるプログラム。


JP2017183997A 2017-09-25 2017-09-25 カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム Active JP7180063B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017183997A JP7180063B2 (ja) 2017-09-25 2017-09-25 カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017183997A JP7180063B2 (ja) 2017-09-25 2017-09-25 カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム

Publications (2)

Publication Number Publication Date
JP2019062308A true JP2019062308A (ja) 2019-04-18
JP7180063B2 JP7180063B2 (ja) 2022-11-30

Family

ID=66178248

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017183997A Active JP7180063B2 (ja) 2017-09-25 2017-09-25 カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム

Country Status (1)

Country Link
JP (1) JP7180063B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019217256A (ja) * 2019-03-28 2019-12-26 株式会社大都技研 遊技台
WO2021070621A1 (ja) 2019-10-08 2021-04-15 Anaホールディングス株式会社 コミュニケーションシステム及びロボット
WO2021162230A1 (ko) * 2020-02-10 2021-08-19 삼성전자 주식회사 카메라를 제어하는 방법 및 이를 지원하는 전자 장치
JP2021131725A (ja) * 2020-02-19 2021-09-09 Kddi株式会社 画像処理装置、サーバ、画像処理方法、姿勢推定方法、及びプログラム
WO2022065508A1 (ja) 2020-09-28 2022-03-31 avatarin株式会社 情報処理装置、情報処理方法、及びプログラム
WO2022085539A1 (ja) 2020-10-21 2022-04-28 avatarin株式会社 情報処理装置、情報処理方法、及び記憶媒体
WO2022091787A1 (ja) * 2020-10-29 2022-05-05 avatarin株式会社 コミュニケーションシステム、ロボット、及び記憶媒体
WO2023053338A1 (ja) 2021-09-30 2023-04-06 avatarin株式会社 決済システム及び決済方法
WO2023053446A1 (ja) 2021-10-01 2023-04-06 avatarin株式会社 コミュニケーションシステム及びロボット
WO2023063216A1 (ja) 2021-10-13 2023-04-20 avatarin株式会社 動画配信システム、サーバ装置及びプログラム
WO2023079901A1 (ja) 2021-11-02 2023-05-11 avatarin株式会社 サーバ装置、配信システム及びその制御方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004056488A (ja) * 2002-07-19 2004-02-19 Sharp Corp 画像処理方法、画像処理装置および画像通信装置
JP2005094642A (ja) * 2003-09-19 2005-04-07 Optex Co Ltd 監視カメラシステム
JP2006054719A (ja) * 2004-08-12 2006-02-23 Hitachi Ltd 画像処理装置、画像処理システム
JP2014042234A (ja) * 2012-07-25 2014-03-06 Panasonic Corp 画像編集装置
JP2014192784A (ja) * 2013-03-28 2014-10-06 Secom Co Ltd 監視システム
JP2016203276A (ja) * 2015-04-17 2016-12-08 トヨタ自動車株式会社 遠隔操作システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004056488A (ja) * 2002-07-19 2004-02-19 Sharp Corp 画像処理方法、画像処理装置および画像通信装置
JP2005094642A (ja) * 2003-09-19 2005-04-07 Optex Co Ltd 監視カメラシステム
JP2006054719A (ja) * 2004-08-12 2006-02-23 Hitachi Ltd 画像処理装置、画像処理システム
JP2014042234A (ja) * 2012-07-25 2014-03-06 Panasonic Corp 画像編集装置
JP2014192784A (ja) * 2013-03-28 2014-10-06 Secom Co Ltd 監視システム
JP2016203276A (ja) * 2015-04-17 2016-12-08 トヨタ自動車株式会社 遠隔操作システム

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019217256A (ja) * 2019-03-28 2019-12-26 株式会社大都技研 遊技台
WO2021070621A1 (ja) 2019-10-08 2021-04-15 Anaホールディングス株式会社 コミュニケーションシステム及びロボット
WO2021162230A1 (ko) * 2020-02-10 2021-08-19 삼성전자 주식회사 카메라를 제어하는 방법 및 이를 지원하는 전자 장치
JP2021131725A (ja) * 2020-02-19 2021-09-09 Kddi株式会社 画像処理装置、サーバ、画像処理方法、姿勢推定方法、及びプログラム
WO2022065508A1 (ja) 2020-09-28 2022-03-31 avatarin株式会社 情報処理装置、情報処理方法、及びプログラム
WO2022085539A1 (ja) 2020-10-21 2022-04-28 avatarin株式会社 情報処理装置、情報処理方法、及び記憶媒体
WO2022091787A1 (ja) * 2020-10-29 2022-05-05 avatarin株式会社 コミュニケーションシステム、ロボット、及び記憶媒体
WO2023053338A1 (ja) 2021-09-30 2023-04-06 avatarin株式会社 決済システム及び決済方法
WO2023053446A1 (ja) 2021-10-01 2023-04-06 avatarin株式会社 コミュニケーションシステム及びロボット
WO2023063216A1 (ja) 2021-10-13 2023-04-20 avatarin株式会社 動画配信システム、サーバ装置及びプログラム
WO2023079901A1 (ja) 2021-11-02 2023-05-11 avatarin株式会社 サーバ装置、配信システム及びその制御方法

Also Published As

Publication number Publication date
JP7180063B2 (ja) 2022-11-30

Similar Documents

Publication Publication Date Title
JP7180063B2 (ja) カメラ付き移動体、カメラ付き移動体制御システム、及びプログラム
CN109952759B (zh) 用于具有hmd的视频会议的改进的方法和系统
US11620776B2 (en) Information processing apparatus and information processing method
US9479732B1 (en) Immersive video teleconferencing robot
US7697024B2 (en) Method and system of tracking and stabilizing an image transmitted using video telephony
JP2007043225A (ja) 撮像画像処理装置及び撮像画像処理方法
US20200062181A1 (en) Immersive display
JP5246162B2 (ja) センシング装置、システム、制御方法、及び制御プログラム
US9848168B2 (en) Method, synthesizing device, and system for implementing video conference
US20190379843A1 (en) Augmented video reality
CN109525816A (zh) 一种基于三维地理信息的多枪多球融合联动系统及方法
JP6157077B2 (ja) カメラ付き表示装置
JP7187768B2 (ja) カメラ装置、カメラ装置制御システム、及びプログラム
JP2022141639A (ja) 情報処理装置、移動体、遠隔制御システム、情報処理方法およびプログラム
JP2023164525A (ja) 通信端末、プログラム、表示方法、記録媒体
US20220152836A1 (en) Robot
US10257441B2 (en) Methods, systems, and products for telepresence visualizations
WO2018074262A1 (ja) 通信装置および通信方法、並びにプログラム
US20200252585A1 (en) Systems, Algorithms, and Designs for See-through Experiences With Wide-Angle Cameras
JP2021180496A (ja) 遠隔制御システム、遠隔作業装置、映像処理装置およびプログラム
WO2022097211A1 (ja) ロボット
WO2022097210A1 (ja) ロボット
JP7338755B2 (ja) 通信端末、通信システム、通信方法及びプログラム
KR102420166B1 (ko) 맞춤형 네트워크 전송 정보 퀄리티 조정 방법 및 시스템
JP2005110160A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221031

R150 Certificate of patent or registration of utility model

Ref document number: 7180063

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150