<第1実施例>
図1は、本発明が適用された姿見装置の構成例を表すブロック図である。
この実施例の姿見装置は、それぞれ独立した筐体を備えるミラーユニット1と撮影ユニット2とを主要構成とする。他の無線通信機器に頼らずに双方向通信を行うことができるように、ミラーユニット1にWi−Fiダイレクト方式の通信処理部12が設けられ、撮影ユニット2にWi−Fi方式の通信処理部22が設けられている。
ミラーユニット1の筐体には、通信処理部12のほか、動画表示用の表示部10,制御部11,人感センサ13,処理完了を報知する音や警告音を出力するためのスピーカー14,表示部10の通電/非通電を切り替えるための切替えスイッチ15などが設けられる。なお、制御部11でも表示部10の通電/非通電を切り替えることができる。
表示部10は、利用者の少なくとも頭部全体に対向させることができる大きさ(15インチ以上の大きさであることが望ましい。)の表示パネルであって、その画面をミラーユニット1の前面に臨ませて配備される。また表示部10の画面にはハーフミラーフィルムが貼られており、切替えスイッチ15によって表示部10が非通電状態になったとき、またはミラーユニット1の主電源がオフになったときには、表示部10を普通の鏡として機能させることができる。
人感センサ13は人体からの赤外線を検出するセンサであって、ミラーユニット1の前面の表示部10の周辺適所に検出面を臨ませて配備される。
制御部11は、専用のプログラムが組み込まれたコンピュータであって、通信処理部12を介して撮影ユニット2と通信を行うことで動画像や検出データを取得する機能や、人感センサ13により得た検出値に基づき自装置の正面の所定範囲にヒトがいるか否かを判別する機能や、その判別結果や撮影ユニット2から得た検出データに基づき表示部10の表示動作を制御する機能などが設けられる。
撮影ユニット2の筐体には、通信処理部22のほか、動画撮影用のカメラ20,制御部21,加速度センサ23,角速度センサ24,距離センサ25,撮影範囲の確認用の表示部26,倍率等を調整するための操作部27などが設けられる。
加速度センサ23は前後・左右・上下の3軸の加速度を検出する機能を有し、角速度センサ24も上記3軸の角速度を検出する機能を有する。距離センサ25はレーザまたは超音波を使用する測距センサであって、撮影ユニット2の前方にある物体(具体的にはミラーユニット1を想定する。)との距離を測定する目的に使用される。
なお、加速度センサ23,角速度センサ24については、両者の機能を合わせ持つ一体型のセンサを使用することもできる。
制御部21も専用のプログラムが組み込まれたコンピュータであって、上記の各センサ23,24,25による検出値を一定の単位時間ごとにサンプリングしてそれらの検出値を所定の形式の検出データにまとめる機能や、カメラ20の撮影動作を制御する機能や、通信処理部22を介してミラーユニット1と通信を行うことで動画像や検出データをリアルタイムにミラーユニット1に送信する機能を有する。
上記の検出データには、加速度センサ23により検出された3軸の加速度の組み合わせ(以下、「加速度データ」という。)、角速度センサ24により検出された3軸の回転角度の組み合わせ(以下、「回転角度データ」という。)、および距離センサ25の検出値が示す距離データが含まれる。
さらに撮影ユニット2には筐体を所定の高さ位置で支える支持部材(図示せず。)が含まれている。この支持部材の設置位置や筐体の支持位置の高さを変更することによって、撮影ユニット2の空間位置を変更することができる。また支持部材と撮影ユニット2の連結部を回動させることによって、撮影ユニット2の向きも自由に変更することができる。
図2は、ミラーユニット1に対する撮影ユニット2の相対位置および視線方向の例を俯瞰する説明図である。この図では、撮影ユニット2の配置例を6通り示すと共に、点Q1〜Q6により各例の撮影ユニット2のカメラ20の位置を表し、矢印f1〜f6により各例の撮影ユニット2のカメラ20の視線方向を表している。
なお、以下の説明では、ミラーユニット1に近づく方向を前方と表現し、ミラーユニット1から遠ざかる方向を後方と表現する(図2中の右手の矢印を参照。)。
この実施例では、ミラーユニット1は設置された場所から動かず、そのミラーユニット1に利用者が正対していると想定して、あらかじめ定めた範囲内で撮影ユニット2の位置を自由に変更して撮影を行い、その撮影により生成された動画像をミラーユニット1に表示する。
具体的にこの実施例では、ミラーユニット1の前面に対向する範囲のうちミラーユニット1から所定距離L1だけ離れた位置からミラーユニット1までの空間を、利用者が表示部10の画面を見るために利用する空間(利用空間)とし、この利用空間内の後部に利用者が位置すると仮定している。そして、利用者の身体が入ると想定した範囲の中心位置(図2中で点Pにより表す位置)より後方の空間(利用空間に入る部分を除く。)に撮影ユニット2を設置可能な領域(図中のドットパターンを付した領域)を設定する。以下、この領域を「撮影可能領域」という。
図2中の点Q1,Q2の位置およびf1,f2の方向により示すように、撮影ユニット2が利用空間に視線方向を向けて撮影可能領域内に配置されている場合には、ミラーユニット1の表示部10にはカメラ20により生成されてミラーユニット2に送信された動画像が表示される。しかし、カメラ20の視線がミラーユニット1の正面にいる利用者を撮影するのに適した方向から大きくずれた(たとえば図2中のQ3,Q4の位置でf3,f4で示す方向に向けられた)場合や、撮影ユニット2が撮影可能領域の外(たとえば図2中の点Q5,Q6の位置)に出た場合には、動画像の表示は中止される。
図2の例から明らかなように、利用者に撮影するのに適したカメラ20の視線方向は撮影ユニット2の位置によって変動する。したがって、上述した表示制御を可能にするためには、撮影ユニット2からの加速度データおよび角速度データに基づきカメラ20の位置や向きを認識する処理のほか、カメラ20の位置の変化に応じて視線方向の適正範囲を変更し、その範囲に実際の視線方向が含まれるか否かを判別する必要がある。
図3は、動画像の表示を開始する条件が整ったときの撮影ユニット2とミラーユニット1との関係と共に、カメラ20の位置や向きを判別するためにミラーユニット1の制御部11に登録される情報を表したものである。
この実施例で撮影可能領域を具体的に定める主要な設定データは、ミラーユニット1から撮影可能領域の前端位置までの距離L0,ミラーユニット1から利用空間の後端位置までの距離L1,ミラーユニット1から撮影可能領域の後端位置までの距離L2,利用空間の幅W1,撮影可能領域の幅中心線から左右の境界位置までの距離W2,および撮影可能領域の高さ範囲を決めるデータ(後述する基準座標系の原点から撮影可能領域の上下の境界位置までの距離)である。これらの設定データはミラーユニット1の制御部11に登録される。
W1以外の設定データは、ミラーユニット1に対して利用者や撮影ユニット2が取り得る位置関係を想定して定められるが、最も大きいL2でも2m前後の値までに収まると予想される。
図3中の点A,Bの位置に示すように、この実施例では、ミラーユニット1の表示部10の幅中央部にカメラ20が正対するように撮影ユニット2の位置や向きを調整する。そして、この調整が完了したときの撮影ユニット2からミラーユニット1までの距離L(撮影ユニット2の距離センサによる検出値)に基づき以後のカメラ20の位置および向きを判別するための基準座標系を設定する。以下、この設定処理を「カメラ合わせ」という。
図4は、カメラ合わせの作業のためにミラーユニット1の表示部10に表示されるガイダンス画面の変遷例を表したものである。図4(A)はカメラ合わせが開始されたときに表示される画面の例であって、複数の色彩で着色された図柄(図では色彩をドットや線画のパターンに置き換えて示す。)の組み合わせによる特徴パターンPTを含む矩形枠Wと、この枠Wにカメラ20の視野を合わせるように促すメッセージとが含まれている。ミラーユニット1の制御部11は、この画面の表示を続けながら、撮影ユニット2から受信する毎時の画像を上記の枠内の画像と照合する処理(パターンマッチング)を繰り返す。
利用者がメッセージに従って特徴パターンPTを含む枠WD(以下、「特徴パターン枠WD」という。)がカメラ20の視野に十分な大きさをもって入るように撮影ユニット2の位置および向きを合わせると、そのときのカメラ20により生成された画像を受信したミラーユニット1の制御部11において、表示中の特徴パターン枠WDに適合する領域が検出される。制御部11は、この適合領域があらかじめ定めた以上の大きさをもって上下・左右の各方向に偏りなく現れている画像が得られたことをもって、カメラ合わせが完了したと判断する。
再び図3を参照する。
ミラーユニット1の制御部11は、パターンマッチングに成功したときのマッチング対象の画像と同時期に撮影ユニット2から送信された距離データの値を前述の距離Lとして認識し、この距離Lに該当する位置から撮影可能領域の後端位置までの距離(L2―L)を基準座標系におけるカメラ20のy座標(前後方向における位置を表す座標)とする。また、基準座標系におけるカメラ20のx座標(左右方向における位置)およびz座標(高さ方向における位置)の値を0とし、基準座標系の各軸に対するカメラ20の回転角度もそれぞれ0度とする。
上記の設定によれば、撮影可能領域の後端中央部に基準座標系の原点Oが設定されることになるが、その原点Oの実際の位置や基準座標系の各軸の方向は、パターンマッチングに成功したときの撮影ユニット2の位置や姿勢によって変動することになる。その変動によって、ミラーユニット1と撮影可能領域との相対位置関係も変動するから、図示のように撮影ユニット2や撮影可能領域をミラーユニット1に幅中心位置でぴったりと合わせることは困難である。上下方向における撮影ユニット2および撮影可能領域とミラーユニット1との位置関係も同様に変動する。
しかし、特徴パターン枠WDへの適合領域が十分な大きさをもって上下・左右ともに偏りなく現れる画像を得るには、撮影ユニット2のカメラ20の視線を表示部10の中央部付近にまっすぐに合わせることが必要である。それならば、上記のカメラ合わせにより設定された基準座標系や撮影可能領域が図3に示した位置や範囲から大きくずれることはない。また利用者のみを撮影する目的による撮影可能領域が広範な範囲に設定されることもないから、撮影可能領域が理想的な範囲から多少ずれても上記の目的による撮影に支障が生じる可能性はきわめて低い。
したがって、カメラ合わせが完了したときの撮影ユニット2のカメラ20がミラーユニット1の中心軸の延長線上に位置し、カメラ20の視線がミラーユニット1の画面に直交する方向に向けられていると仮定して、以後の加速度データや角速度データから撮影ユニット2の位置や視線方向を認識しても、大きな誤認が生じるおそれはない。
また、撮影ユニット2を特定の場所に厳密に位置合わせしたり、視線方向を厳密に合わせる作業をせずに、カメラ20の位置や視線方向を認識するための基準座標系を設定して表示制御を開始することができるので、利用者に大きな負荷をかけることもない。
この実施例では、カメラ合わせの際には、図3中の点Aの位置のような撮影可能領域より前方の利用空間内に撮影ユニット2を配置してもよいとしている。ただし、撮影可能領域より前方の位置でカメラ合わせが完了した場合には、ミラーユニット1の表示部10に、図4(B)に示すようなガイダンス画面を表示することによって、撮影ユニット2の撮影可能領域への移動が必要であることが利用者に報知される。
一方、この実施例では撮影可能領域より後方の位置でのカメラ合わせは認められず、ミラーユニット1と撮影ユニット2との距離Lが距離L2を上回った場合にはミラーユニット1の表示部10に図4(C)で示すようなガイダンス画面を表示することによって、撮影ユニット2の前方に移動させることを利用者に促すようにしている。
図4(B)(C)の画面では、ミラーユニット1や撮影可能領域との関係を表すマップ画像と共に撮影ユニット2の現在位置を表すマークM(丸印)が表示される。よって、利用者は撮影ユニット2を設置すべき場所を容易に判断して必要な作業を行うことができる。
カメラ合わせが完了した後のミラーユニット1の制御部11では、動画像と共に撮影ユニット2から送信される加速度データおよび角速度データに基づき基準座標系におけるカメラ20の位置を表す座標や基準座標系に対するカメラ20の回転角度を求める演算を開始する。さらに制御部11は、それらの値が適正範囲から逸脱していないかどうかを判定する。
以下、基準座標系の座標で表されるカメラ20の位置を「カメラ位置」といい、基準座標系の各座標軸に対するカメラ20の対応する座標軸の回転角度をθx,θy,θzとする。
回転角度θxは垂直方向に対するカメラ20の傾きの度合い(カメラが上向き姿勢または下向き姿勢になっているときの傾きの度合い)を表し、回転角度θyはカメラ20が横向き・縦向きのどちらの姿勢をとるかやその姿勢による視野の傾きの度合いを表す。回転角度θzはカメラ20がミラーユニット1に正対しているときの視線方向(基準座標系のy軸に沿う方向。以下、この方向を「基準の視線方向」という。)に対する実際の視線方向の水平面内における角度差に相当する。
この実施例では、0°の位置から時計回り方向を正の方向、反時計回り方向を負の方向として、上記の回転角度θx,θy,θzがそれぞれ−180°〜+180°の範囲で変動し得ると考えている。
図5は、カメラ合わせが完了した後のカメラ位置やカメラ20の向きの適否を判断するためにミラーユニット1の制御部11において実行される処理(以下、「カメラ位置・向きの判定処理」という。)の手順を示す。
まず制御部11は、最新のカメラ位置を表す座標を撮影可能領域の各境界位置の座標と照合して、カメラ位置が撮影可能領域内にあるかどうかをチェックする(ステップS1)。カメラ位置が撮影可能領域に含まれていることを確認できたとき(ステップS1が「YES」)は、制御部11は、x軸周りの回転角度θxおよびy軸周りの回転角度θyの値をチェックする(ステップS2)。θxおよびθyの値が共に適正範囲内であることを確認できた場合(ステップS2が「YES」)には、最も重要なz軸周りの回転角度θzの適否を判断するために以下のステップS3およびS4を実行する。
ステップS3では、現在のカメラ位置において利用者を撮影するのに適した視線方向(以下「目標方向」という。)を表すベクトルを求め、このベクトルが基準の視線方向(基準座標系のy軸に沿う方向)に対してなす角度φを算出する。なお、この角度φも、0°の位置から時計回り方向を正の方向、反時計回り方向を負の方向として、+または−の符号付きの数値として導出される。
ステップS4では、算出された角度φとカメラ20のz軸まわりの回転角度θzとの差の絶対値|φ−θz|を求め、この値をあらかじめ定めた上限値Δzと比較し、|φ−θz|がΔz以下であれば(ステップS4が「YES」)、判定結果を「OK」とする(ステップS5)。この「OK」判定によって、カメラ位置およびカメラの向きともに適正であると判断されたことになる。
一方、|φ−θz|の値がΔzより大きい場合(ステップS4が「NO」)、カメラ位置が撮影可能領域に入っていなかった場合(ステップS1が「NO」)、または回転角度θxもしくはθyの値が適正範囲に入っていなかった場合(ステップS2が「NO」)には、制御部11は判定結果を「NG」とする(ステップS6)。この「NG」判定は、カメラ位置またはカメラの向きが適正でないことを表すものとなる。
ここで、図6を参照して上記ステップS3の演算やステップS4の照合処理の趣旨について補足する。
図6は、カメラ合わせ後の撮影ユニット2の配置例と共に上記の角度φ,θzを表したものである。図中の点Pは、先の図2および図3で示したのと同じく、利用者の身体に対応する範囲の中心位置を表す。点Qはカメラ位置を表し、fは回転角度θzにより定まるカメラ20の視線方向を表す。
カメラ位置・向きの判定処理のステップS3では、点Pが点Qと同じ高さにあるものとして、点Qから点Pに向かうベクトルQPにより目標方向を特定する。そして、このベクトルQPが基準の視線方向を表すベクトルf0(点Qから基準座標系のy軸方向に沿って延びるベクトル)に対してなす角度を算出し、これを角度φとする。
角度φは、カメラ20が現在のカメラ位置で基準の視線方向f0に向けられていると仮定した場合にその視線方向を目標方向(ベクトルQP)に変更するために必要なz軸周りの回転角度に相当する。したがって、撮影ユニット2の実際のz軸周りの回転角度θzと角度φとの差の絶対値|φ−θz|を算出することによって、目標方向に対する実際の視線方向のずれ角度を求めることができる。
図6の例の目標方向のベクトルQPや実際の視線方向fは、いずれも基準の視線方向f0からみて負の方向に回転しているため、φおよびθzに付される符号はともに−(マイナス)であり、|φ−θz|の値は|φ|と|θz|との差の絶対値となる。一方、図6にfaで示すように、視線方向が基準の視線方向f0から見て正の方向に回転してθzに付される符号が+(プラス)になった場合には、|φ−θz|の値は|φ|と|θz|とを加算した値となる。点Qが撮影可能領域の幅中心線より左側にあってφが正の値をとる場合も同様に、θzが正の値であればφとθzとの差の絶対値が|φ−θz|となり、θzが負の値であればφとθzの絶対値とを加算した値が|φ−θz|となる。
したがって、視線方向がいずれの方向に向けられても、|φ−θz|は目標方向と実際の視線方向とがなす角度、言い換えれば目標方向に対する実際の視線方向のずれ角度を表すことになる。つまり、実際の視線方向が目標方向に近づくほど|φ−θz|の値は小さくなり、実際の視線方向が目標方向から遠ざかるほど|φ−θz|の値は大きくなるから、利用者を撮影可能な範囲で目標方向に対する視線方向のずれ角度の許容範囲を定め、この許容範囲の上限値をΔzとしてステップS4の判定を行うことによって、カメラ20の視線方向の適否を判断することができる。
カメラの視線方向はθzだけでなく、θxによっても上下方向における変動が生じる。しかし、視線方向が斜め上または斜め下に変更されると、利用者を正しく撮影できなくなるおそれがあり、その変更が不正な目的で行われるおそれもある。また、カメラ位置の高さの変更をある程度まで許容すれば、視線方向を斜め上や斜め下に向けなくとも目的の場所を撮影することができる。これらの点をふまえてこの実施例では、θxの許容値を±10°程度までにとどめ、カメラ位置が変動しても許容値の変更はせずに、ステップS2の判定を行うようにしている。
θyについては、姿勢(横向き・縦向き)の切替えで大きく変動する可能性をふまえ、視野が明らかに斜め向きになっているといえる範囲以外の角度範囲を適正範囲とし、θxと同様に、カメラ位置に関わらず、一定の適正範囲を適用してステップS2の判定を行っている。
図7は、カメラ合わせの際にミラーユニット1の制御部11により実行される処理の手順を示し、図8は、カメラ合わせの完了に応じてミラーユニット1の制御部11により実行される表示制御の手順を示す。いずれの処理にも図5に示したカメラ位置・向きの判定処理が含まれている。
まず図7のカメラ合わせの制御について説明する。
ミラーユニット1の制御部11は、自装置の人感センサ13によりヒト(利用者)が検出され、撮影ユニット2の接続が検出されたことを確認すると(ステップS11,S12が「YES」)、撮影ユニット2に動画像や検出データの送信を許可し、それらの受信を開始する(ステップS13)。つぎに制御部11は、表示部10が通電状態であることを確認してから、図4(A)に例示した特徴パターン枠WDを含むガイダンス画面を表示部10に表示し(ステップS14,S15)、撮影ユニット2から受信する画像に対するパターンマッチングを開始する(ステップS16)。
制御部11がガイダンス画面の表示を続けながら、撮影ユニット2から受信する画像に対するパターンマッチングを繰り返す間に利用者が撮影ユニット2を前述した条件を満たす場所に設置したことにより、特徴パターン枠WDへの適合領域が検出されると、制御部11は連続する所定数以上のフレームでその検出状態が維持されたことをもってパターンマッチングに成功したと判定(ステップS17が「YES」)し、ステップS21に進む。ステップS21では、マッチングの対象となった画像とほぼ同時期に受信した距離データの値を自装置と撮影ユニット2との距離Lとして認識する。
上記の距離Lが図3に示した距離L2以下の値であれば(ステップS22が「YES」)、制御部11は、カメラ位置に初期値(0,L2−L,0)を設定し(ステップS23)、基準座標系の各軸に対するカメラ20の回転角度を0度に設定する(ステップS24)。これらの設定完了に応じて制御部11は、撮影ユニット1からの検出データに基づきカメラ位置および回転角度を求める処理を開始する(ステップS25)。
一方、撮影ユニット2が撮影対象領域より後方に置かれて拡大撮影がされたことによりマッチングに成功した場合には、距離LがL2を上回ってステップS22が「NO」となる。制御部11は、この「NO」判定を受けてステップS34に進み、スピーカー14から所定長さの警告音を出力すると共に、図4(C)に示したガイダンス画面を表示する。さらにこの表示から数秒後に、再び特徴パターン枠WDを含む画面に表示を切り替え、パターンマッチングを再開する(ステップS35)。
パターンマッチングの再開後、利用者がガイダンスに従って撮影可能領域の後端位置より前に撮影ユニット2を移動させ、再び特徴パターン枠WDがカメラ20の視野に適正に入るように調整すれば、ステップS17の「YES」判定に応じて再び取得した距離LがL2以下となり、ステップS22からステップS23,S24,S25へと処理を進めることができる。
ステップS23〜S25が終了すると、制御部11は、ステップS21で認識した距離Lを距離L1と比較することにより、カメラ合わせが完了したときのカメラ位置が撮影可能領域に入っているかどうかをチェックする(ステップS26)。図3中の点Bで示すような撮影可能領域の幅中央部に相当する位置でカメラ合わせが行われた場合(ステップS26が「YES」)には、制御部11はステップS32に進んで、前述の警告音とは異なる音域の音によりカメラ合わせが完了したことを通知し、続くステップS33で表示部10の画面をカメラ20から受信している動画像を表示する画面に切り替える。
一方、図3中の点Aで示すような撮影可能領域より前方の利用空間内の位置でカメラ合わせが行われた場合(ステップS26が「NO」)には、制御部11は、警告音を出力すると共に図4(B)に示したガイダンス画面を表示する(ステップS27)。この画面では、先のステップS25で開始された演算の結果に基づき、カメラ20の現在位置を表すマークMを撮影ユニット2の実際の動きに追従させて動かすことができる。よって、動画像を表示させるための条件を理解できていない利用者でも、撮影ユニット2を移動させる必要があることや移動に適した場所を認識することができる。
制御部11は、上記のガイダンス画面の表示から一定時間が経過するまでカメラ位置が変化するかどうかをチェックし(ステップS28,S29)、変化が検出されるとカメラ位置・向きの判定処理(図5)を実行する(ステップS30)。ここでOKの判定が得られる(ステップS31が「YES」)と、設定完了の通知音の出力(ステップS32)の後に動画像の表示が開始される(ステップS33)。
上記のガイダンス画面の表示から一定時間が経過しても撮影ユニット2が撮影可能領域内に動かされなかった場合(ステップS28が「YES」)や、パターンマッチングの開始から同様の一定時間が経過しても特徴パターン枠WDへの対応領域を検出することができなかった場合(ステップS18が「YES」)には、制御部11は警告音の出力と共にエラーメッセージを含む画面(図示せず。)を表示し(ステップS19)、しかる後に撮影ユニット2との通信の接続を遮断する(ステップS20)。
なお、距離LがL2より大きかったためにパターンマッチングに戻り、その再開から一定時間が経過してもパターンマッチングが成功しなかった場合にもステップS19,S20を実行する。また、図7のフローチャートには表していないが、距離LがL2以下の状態でパターンマッチングに成功しても、動画像の表示が開始されるより前に撮影ユニット2が動かされた場合には、ステップS34→S35→S18→S17の流れで進んでカメラ合わせ作業をやり直しさせる(ステップS25の処理以前でも撮影ユニット1から受信する距離データや加速度データから撮影ユニット1の移動を判別できるので、ステップS22からステップS23に進む前に撮影ユニット1が動いた場合でも、このやり直しは可能である。)。
撮影可能領域より前の位置でカメラ合わせが行われた場合でも、カメラ合わせが完了したときのカメラ20は表示部10の方に向けられており、撮影の対象は撮影ユニット2から表示部10までの範囲にとどめられるので、警告処理(図7中のステップS26およびS27)は必ずしも必要ではなく、撮影可能領域内でカメラ合わせが行われた場合と同様に動画像の表示を開始してもよい。そのようにしても、利用者が利用空間に入るために撮影ユニット2を動かせば、その動きに応じてカメラ位置・向きの判定処理が行われ、撮影ユニット2が撮影可能領域より外に動かされた場合やカメラ20の向きが適合範囲に入っていない場合には動画像の表示が中止されるので、不正目的に利用されるおそれはない。
図8に示す画像表示制御は、上記カメラ合わせの制御のステップS33で動画像の表示が開始されたことに続くもので、まず、撮影ユニット2の検出データから導出されるカメラ位置および回転角度の変化、人感センサ13によるヒト検出結果、ならびに表示部10の通電状態を確認する処置が行われる(ステップS51,S52,S53)。カメラ位置や回転角度に大きな変化がなく、ヒトの検出や表示部10の通電状態も継続されている間は、S51〜S53のループが繰り返されることによって、撮影ユニット2から送信される動画像の表示部10への表示が続けられる。
利用者が撮影ユニット2を動かしたことに伴ってカメラ位置または回転角度に変化が生じた場合(ステップS51が「YES」)には、制御部11は、カメラ位置・向きの判定処理(図5)を実行する(ステップS54)。ここでOKの判定結果が得られた場合(ステップS55が「YES」)には、制御部11はステップS51〜S53のループに戻ることによって動画像の表示を継続する。一方、カメラ位置・向きの判定結果がNGとなった場合(ステップS55が「NO」)には、制御部11はスピーカー14から警告音を出力すると共に動画像の表示を中止する(ステップS56)。
動画像の表示中止から一定の時間が経過するまでは、撮影ユニット2が再び動かされたことに応じてカメラ位置・向きの判定処理を実行する(ステップS57,S58,S59)。この判定処理でOKの判定結果が得られた場合(ステップS60が「YES」)には、制御部11は人感センサ13によりヒトが検出されているかどうかを確認し(ステップS61)、検出されていると確認できたことをもって動画像の表示を再開する(ステップS70)。
カメラ位置や回転角度に変化がなくとも、利用者が利用空間から離れて人感センサ13によるヒトの検出ができなくなった場合(ステップS52が「NO」)には、制御部11は表示部10への動画像の表示を中止する(ステップS62)。この場合も、一定の時間が経過するまでの間に再びヒトが検出される状態になると(ステップS63が「NO」かつステップS64が「YES」)、制御部11は、カメラ位置・向きの判定処理を行い(ステップS65)、そこでOKの判定結果が得られたときは動画像の表示を再開する(ステップS66,S70)。
なお、ステップS65での判定結果がNGとなった場合には、ステップS66からステップS57〜S60のループに移行する。またステップS57〜S60のループ中のカメラ位置・向きの判定処理でOKの判定を得た後のステップS61でヒトが検出されなかった場合には、ステップS63〜S64のループに移行する。
動画像の表示中止から一定の時間が経過しても、カメラ20が動かされることがなかった場合や、動かされてもカメラ位置・向きの判定結果がOKにならなかった場合には、ステップS57が「YES」となり、人感センサ13が一定時間以内にヒトを検出できなかった場合にはステップS63が「YES」となる。これらの「YES」判定をした場合の制御部11は、ステップS71に進んで撮影ユニット2との通信を遮断し、処理を終了する。
表示部10が通電状態から非通電状態に変化した場合(ステップS53が「NO」)には、制御部11はあらかじめ定めた長さの待機期間が経過するまで待機する。この待機期間が経過しても表示部10が通電状態に戻らなかった場合(ステップS67が「YES」)にも、制御部11はステップS71に進んで撮影ユニット2との通信を遮断し、処理を終了する。一方、待機期間が経過するまで撮影ユニット2が動かされることなく表示部10が通電状態に戻った場合には、ステップS67が「NO」、ステップS68が「YES」、ステップS69が「NO」となってステップS61に進む。このステップS61で人感センサ13によりヒトが検出されていることが確認できれば、ステップS70に進むことによって、動画像の表示が再開される。
表示部10が非通電状態になっている間に撮影ユニット2が動かされ、その後待機期間が経過する前に表示部10が通電状態に戻った場合には、ステップS67が「NO」の後にステップS68およびS69が「YES」となってステップS59に進むことによって、カメラ位置・向きの判定処理を実行する。この判定結果がOKとなれば、制御部11は人感センサ13によりヒトが検出されていることを条件に動画像の表示を再開する(ステップS60,S61,S70)。判定結果がNGであった場合には動画像の表示は再開されないが、一定時間が経過するまでステップS57〜60のループが続けられるので、カメラ20の位置や視線方向が条件に適合する状態になり、ヒトが検出されていれば、動画像の表示を再開することができる。なお、表示部10が非通電状態の間に撮影ユニット2が動かされた場合には、待機期間が満了するのを待たずにカメラ位置・向きの判定処理を実行し、その結果をもって通電状態に復帰したときの対応を決定してもよい。
図7および図8には示していないが、ステップS51,S52,S53のループ以外の箇所で表示部10の非通電状態が検出された場合も、ステップS53が「NO」となった場合と同様の手順が実行される。また図7のカメラ合わせ時制御の開始時に表示部10が非通電状態で(ステップS14が「NO」)、ある程度の時間まで待機しても切替えスイッチ15が操作されない場合には、制御部11によって表示部10が通電状態に切り替えられる。一連の処理を実行している間に撮影ユニット2と通信ができなくなった場合には、制御部11は表示部10を非通電状態にして処理を終了する。
ここまでに説明した設定処理や制御によって、この実施例でミラーユニット1が外部から受信して表示できる画像は、ミラーユニット1の正面の利用空間に向けられている撮影ユニット2からの画像のみに限定される。よって、本実施例の姿見装置を利用者が自身の姿を確認すること以外の目的に使用することは極めて困難になり、盗撮などの不正行為に利用されることを高い確度で防ぐことができる。
利用者は、ミラーユニット1の表示部10に表示されたガイダンス画面の特徴パターン枠WDにカメラ20の視野を合わせるという簡単な作業によりカメラ合わせを完了させた後、撮影ユニット20を適所に配置して利用空間に入ることによって、通常の鏡には映せない方向から自身を見た様子を表した動画像を見ることができる。先に述べたとおり、カメラ合わせの作業で撮影ユニット2の位置や向きを厳密に定める必要はなく、その後の撮影ユニット2の位置や向きも表示の条件を満たす範囲で自由に変更することができる。また、カメラ20の視野内の特徴パターン枠WDを大きくするためにカメラ20の倍率を上げ、カメラ合わせ完了後に利用者を撮影するのに適した倍率に変更するなど、倍率の変更も自由にできる。
<第1実施例の変形例>
上記の実施例では、撮影ユニット2は動画像や検出データをミラーユニット1に送る処理を行うだけであったが、これに限らず、表示制御のための演算や判定に関わる機能を撮影ユニット2に設けることもできる。たとえば、カメラ位置や回転角度を求める演算を撮影ユニット2の制御部21で行って、その演算結果を検出データとしてミラーユニット1に送信することもできる。
カメラ位置や回転角度を求める演算を撮影ユニット2で行う場合には、カメラ20の位置や向きが適正範囲に入っているかどうかの判定処理まで撮影ユニット2で行い、その判定結果を検出データとしてミラーユニット1に送信するようにしてもよい。その場合のミラーユニット1はカメラ合わせの完了に応じて動画像の表示を開始した後に、撮影ユニット2から「OK」の判定が送信されている間は動画像の表示を維持し、「NG」の判定結果を受信したときに動画像の表示を中止する。
撮影ユニット2での判定処理も先の図5に示したのと同様の手順で実施することができる。ただし、この判定処理を行うにはミラーユニット1でカメラ合わせが完了して動画像の表示を開始できるようになったとき以降のカメラ位置を基準座標系の座標により特定する必要がある。そのためには、ミラーユニット1が撮影ユニット2からの動画像を表示できる状態になったときに、撮影ユニット2に、カメラ位置を特定して判定処理を開始することを要請するために、所定のフォーマットによる通知(コマンド)を送信する必要がある。
カメラ20の位置や向きの判定処理を撮影ユニット2で行う場合には、NG判定がされた場合にのみ、その判定結果をミラーユニット1に送信し、それを受けたミラーユニット1が動画像の表示を中止する、という方法を採用してもよい。
カメラ合わせにおいて距離Lを適正範囲と比較する処理の主体もミラーユニット1に限らず、撮影ユニット2で比較処理まで行って、その結果を示すデータをミラーユニット1に送信してもよい。たとえば、上記の実施例のように、距離Lを大小2つの許容値L1,L2と比較する場合には、撮影ユニット2における比較結果がL1≦L≦L2のときには「0」を、L<L1のときには「1」を、L>L2のときには「2」を、それぞれ検出データに含めてミラーユニット1に送信すれば、ミラーユニット1は受信した数値によって撮影ユニット2の位置の適否を判断することができる。
<第2実施例>
第1実施例やその変形例は、カメラ20の位置または視線方向があらかじめ定めた条件から逸脱しても、撮影ユニット2からの動画像の送信自体は規制されず、ミラーユニット1において動画像の表示を中止するものであった。しかし、これに限らず、撮影ユニット2においてカメラの位置や視線方向の判定処理を行い、位置または向きが適正範囲から逸脱したと判定したときにミラーユニット1への動画像の送信を中止する方法によっても、定められた条件から逸脱した撮影による動画像が表示部10に表示されるのを防ぐことができる。
以下、第2実施例として、撮影ユニット2でカメラ位置・向きの判定処置を行い、その判定結果がNGのときに撮影ユニット2からミラーユニット1への動画像の送信を中止する場合の各ユニット1,2の処理について詳細に説明する。なお、第2実施例もハードウェア構成は第1実施例と同じであるので、引き続き図1に示した符号を使用する。
第2実施例で撮影ユニット2からミラーユニット1に送信されるのは通常は動画像だけであり、センサ23,24,25により検出された加速度、角速度、距離の各データは全て撮影ユニット2の制御部21により処理される。
利用空間や撮影可能領域の設定データやガイダンス画面も第1実施例と同じ(図3,図4参照。)とする。ただし、第2実施例では、利用空間や撮影可能領域の設定データは撮影ユニット2の制御部21に登録される。
図9は第2実施例のミラーユニット1でカメラ合わせの際に実施される処理の手順を表し、図10はカメラ合わせの完了後のミラーユニット1で実施される表示制御の手順を表すものである。図11は、ミラーユニット1からのカメラ合わせが完了した旨の通知(以下では「カメラ合わせ完了通知」という。)を受けた撮影ユニット2において実施される送信制御の手順を表したものである。
まず、図9または図10と図11とを並列で参照しながら各ユニット1,2の処理の流れについて説明する。
第2実施例のカメラ合わせも、第1実施例と同様に、表示部10に特徴パターン枠WDを含むガイダンス画面(図4(A)参照。)を表示しつつ、撮影ユニット2から当該特徴パターンを含む動画像をミラーユニット1に送信できるように撮影ユニット2の位置や向きを調整する方法により行われる。ミラーユニット1における処理でも、パターンマッチングの終了までは図7(第1実施例)のステップS11〜18と同様の流れで進行する(ステップS101〜S108)。また、一定時間が経過してもパターンマッチングに成功しなかった場合にも、図7のステップS19、S20と同様の処理が実行される(ステップS109,S110)。
パターンマッチングに成功すると、ミラーユニット1の制御部11から撮影ユニット2に、あらかじめ定めたフォーマットに基づくカメラ合わせ完了通知が送信される(ステップS107,S111)。送信後は、あらかじめ定めた一定の時間が経過または撮影ユニット2から何らかの送信を受けるまで、ステップS112→S113→S114→S116→S112の判定ループで待機する。
撮影ユニット2では、ミラーユニット1からの上記の通知を受けて図11の処理を開始し、まず、距離センサ25により検出された最新の距離の値をミラーユニット1からカメラ20までの距離Lとして、この距離LをL2(ミラーユニット1から撮影可能領域の後端位置までの距離)と比較する(ステップS201)。
上記の距離LがL2以下であれば(ステップS201が「YES」)、撮影ユニット2の制御部21は、カメラ位置の初期値を(0,L2−L,0)に設定する処理(ステップS202)と基準の座標系に対する回転角度θx,θy,θzに初期値の0を設置する処理(ステップS203)とを実行する。これらは、第1実施例のカメラ合わせ時にミラーユニット1の制御部11で実施された処理(図7のステップS23,S24)と同内容であって、これらの設定によって、現在のカメラ20の位置および姿勢に基づき基準座標系および撮影可能領域が定められる。
つぎに撮影ユニット2の制御部21は前出の距離LをL1と比較する。カメラ合わせ作業で撮影ユニット2が撮影可能領域に配置されていた場合には、ステップS204が「YES」となってステップS206に進み、ミラーユニット1に動画像の表示を許可する通知が送信される、この送信を受けたミラーユニット1では、ステップS116が「YES」となり、設定完了の通知音の出力(ステップS117)を行った後に、表示部10への動画像の表示を開始し(ステップS118)、図10の画像表示制御へと進む。
図10の画像表示制御では、動画像の受信が続いていること(ステップS151が「YES」)、人感センサ13によるヒトの検出が続いていること(ステップS152が「YES」)、および表示部10の通電状態が続いていること(ステップS153が「YES」)を確認しながら、表示部10への動画像の表示を継続する。
撮影ユニット2では、動画像の表示許可通知の送信(図11のステップS206)の後は、カメラ20の位置や回転角度に変化が生じていないことや、ミラーユニット1への接続が維持されていることを確認しながら、ミラーユニット1への動画像の送信を続ける(ステップS207〜208)。所定の時点でカメラ20の位置または回転角度の変化を検出すると(ステップS207が「YES」、撮影ユニット2の制御部21はステップS209に進んでカメラ位置・向きの判定処理(詳細手順は図5と同じ。)を実行する。この判定結果が「OK」であれば(ステップS210が「YES」)、ステップS211を介してステップS207〜S208のループに戻ることにより、撮影ユニット2からの動画像の送信が続けられる。よって、ミラーユニット1の画像表示制御もステップS151〜S153のループから動かず、受信した動画像の表示が続けられる。
一方、撮影ユニット2のステップS209での判定結果が「NG」であった場合(ステップS210が「NO」)には、制御部21はミラーユニット1への動画像の送信を中止する(ステップS212)。これを受けたミラーユニット1でも、ステップ151が「NO」となってステップS154に進み、警告音を出力すると共に、動画像が消えた画面にエラーメッセージを表示する。
上記の警告音やエラーメッセージを受けて利用者が再び撮影ユニット2を動かすと、撮影ユニット2ではステップS214が「YES」となってステップS215に進み、再度、カメラ位置・向きの判定処理が行われる。ここで「OK」の判定が出ると(ステップS216が「YES」)、ミラーユニット1への動画像の送信が再開される(ステップS218。)。ミラーユニット1では、送信再開によってステップS156が「YES」となると、人感センサ13によりヒトが検出されていることを確認した上で、動画像の表示を再開する(ステップS157,S165)。
一方、動画像の送信中止から一定時間が経過しても、撮影ユニット2が動かされなかった場合、または動かされたがカメラ位置・向きの判定で「OK」判定が得られなかった場合には、撮影ユニット2側の制御のステップS213が「YES」となり、ミラーユニット1との接続が遮断され(ステップS217)、撮影ユニット2の処理は終了する。ミラーユニット1でも、動画像の送信中止から一定時間が経過したこと(ステップS155が「YES」)をもって、同様に処理を終了する。
撮影ユニット2の位置や向きに不備がなく、動画像の送信が続いている場合でも、ミラーユニット1において人感センサ13によりヒトを検出できなくなった場合(ステップS152が「NO」)には、ミラーユニット1の制御部11は、警告音を出力して動画像の表示を中止する(ステップS158)。それから一定時間が経過するまでにヒトを検出できる状態に戻り(ステップS159が「NO」かつステップS160が「YES」)、撮影ユニット2からの動画像の受信が続いている(ステップS161が「YES」)場合には、制御部11はステップ165に進んで動画像の表示を再開する。
しかし、一定時間が経過してもヒトを検出することができなかった場合(ステップS159が「YES」)には、制御部11はステップS166に進んで撮影ユニット2との接続を遮断し、処理を終了する。
動画像の受信やヒトの検出が続いている状態下で表示部10が通電状態から非通電状態になり(ステップS153が「NO」)、あらかじめ定めた待機時間が経過しても表示部10が通電状態に復帰しなかった場合(ステップS162が「YES」)にも、制御部11はステップS166に進んで撮影ユニット2との接続を遮断し、処理を終了する。
撮影ユニット2でも、ミラーユニット1から接続を切られたことによりステップS208が「NO」となり、その判定をもって処理を終了する。
ミラーユニット1において、表示部10が非通電状態になった後に待機時間以内に通電状態に復帰した場合(ステップS162が「NO」かつステップS163が「YES」)には、制御部11は動画像を受信中であるか否かをチェックし(ステップS164)、受信中であればステップS164からステップS157に進むことによって、利用者が検出されていることを条件に動画像の表示を再開する(ステップS165)。表示部10が通電状態に復帰するまでの間に撮影ユニット2が動かされて動画像の送信が中止されていた場合(ステップS164が「NO」)には、制御部11はステップS154に進んで警告音の出力とエラーメッセージの表示を行う。この後、一定時間以内に動画像の受信が再開されるとステップS157に進み、再開されなければ処理終了となる。
カメラ合わせ時の処理の説明に戻る。
撮影ユニット2が撮影可能領域より前方の位置(たとえば図3中の点Aの位置)に配置されてカメラ合わせが行われた場合でも、パターンマッチングの成功に応じてミラーユニット1から撮影ユニット2にカメラ合わせ完了通知が送信され(図9のステップS111)、図11の撮影ユニット2側の制御でもステップS201〜S204の流れで処理が進行する。しかし、このとき距離センサ25により検出された距離LはL1より小さくなるため、ステップS204は「NO」となり、ミラーユニット1に対し、動画像の表示をせずに待機することを要請する通知(以下「待機要請通知」という。)が送信される(ステップS205)。
ミラーユニット1では、待機要請通知を受けたことにより、ステップS112〜S116のループ中のステップS114が「YES」となってステップS115に進む。このステップS115では、警告音の送信と共に図4(B)と同内容のガイダンス画面により、作業者に撮影ユニット2を後退させる必要があることが報知される。
撮影ユニット2では、待機要請通知を送信した場合には動画像の表示許可通知(ステップS206)をスキップしてステップS207〜S208のループに進む。
利用者が上記の報知に従って撮影ユニット2を撮影可能領域内に移動させると、撮影ユニット2の制御ではステップS207からステップS209に進んでカメラ位置・向きの判定処理を行う。ここで「OK」判定が得られたら、ステップS210が「YES」となり、続いて表示許可通知を送信済みか否かの判定(ステップS211)が「NO」となってステップS206に進み、ミラーユニット1に動画像の表示許可通知が送信される。この通知を受けたミラーユニット1ではステップS116が「YES」となってステップS117およびS118が実行される。
かくして、撮影可能領域より前方でカメラ合わせが行われた場合でも、パターンマッチングの成功後に撮影ユニット2を撮影可能領域に入れることによって、ミラーユニット1での動画像の表示を開始することができる。ただし、この実施例でも、撮影可能領域より前方でのカメラ合わせを許容することとして、動画像の表示を開始してから撮影ユニット2の後退を求める方法をとることもできる。
カメラ合わせ作業で撮影可能領域より後方の位置(たとえば図3中の点Bの位置)に撮影ユニット2が配置されたために距離LがL2を上回った場合でも、パターンマッチングに成功すると、ミラーユニット1から撮影ユニット2にカメラ合わせの完了通知が送信される(ステップS111)。しかし、撮影ユニット2では、当該通知に応じて開始した送信制御の最初のステップS201が「NO」となってステップS219に進み、ミラーユニット1にエラー通知が送信される。この通知をもって撮影ユニット2の送信制御は終了となる。
エラー通知を受けたミラーユニット1では、ステップS111の通知後のループS112〜S116の中のステップS113が「YES」となる。この「YES」判定に応じて制御部11はステップS119に進み、スピーカー14からの警告音の出力と図4(C)のガイダンス画面の表示を行い、その表示を数秒後に再び特徴パターン枠WDを含む画面に切り替えてパターンマッチングを再開する(ステップS120)。
利用者がステップS119での報知に従って撮影ユニット2を前進させた後にパターンマッチングに成功すると、その成功に応じてミラーユニット1から撮影ユニット2にカメラ合わせ完了通知が再送信される(ステップS107,111)。この通知に応じて撮影ユニット2が再び図11の制御を開始すると、今度はステップS201が「YES」となるので、ステップS202以下の手順が順調に進むことによって、ミラーユニット1に表示許可通知が送信され(ステップS206)、ミラーユニット1での動画像の表示を開始することができる。
ミラーユニット1において、カメラ合わせ完了通知の送信から一定時間が経過しても撮影ユニット2から何の送信も得られなかった場合(ステップS112が「YES」)には、ステップS109,S110を実行して処理終了となる。
なお、第2実施例では、撮影ユニット2からミラーユニット1に通常に送信されるのは動画像のみであるが、待機要請通知やエラー通知には、その通知の時点のカメラ位置が含まれる。また待機要請通知を送信した場合には、その通知から動画像の表示許可通知を送信するまでの間、毎時のカメラ位置がミラーユニット1に送信される。よって、ミラーユニット1において待機要請通知やエラー通知に応じて表示されるガイダンス画面でも、図4(B)(C)の例示どおり、カメラ20の現在位置を示すマークMを表示することができる。ただし、第2実施例でも、撮影ユニット2からミラーユニット1に、常時、カメラ位置や回転角度を表すデータを送信し、ミラーユニット1においてもカメラ20の位置や向きの適否を判定し、位置または向きが適正でないと判定された場合には、撮影ユニット2から動画像の送信が行われていても、動画像の表示を中止するようにしてもよい。
また、第2実施例では、ミラーユニット1からのカメラ合わせ完了通知に対し、撮影ユニット2においてカメラ合わせ時のカメラ位置が撮影可能領域に入っていることを確認してミラーユニット1に表示許可通知を送信し、その通知の受信をもってミラーユニット1での動画像の表示を開始しているが、表示許可通知を出さずに、ミラーユニット1でカメラ合わせ完了通知の直前または直後に動画像の表示を開始してもよい。そうすると、カメラ合わせが撮影可能領域より前方の位置で行われた場合でも動画像の表示が開始されるが、その開始の時点のカメラ20は表示部10の方に向けられているので、撮影の対象は撮影ユニット2から表示部10までの範囲にとどめられる。また利用者が利用空間に入るために撮影ユニット2を動かせば、その動きに応じてカメラ位置・向きの判定処理が行われ、カメラ位置が撮影可能領域に入っていない場合や、カメラ20の向きが適合範囲に入っていない場合には動画像の表示が中止されるので、不正目的に利用されるおそれもない。
なお、第1および第2の実施例の各種フローチャートに記載した「一定の時間」は全て同一の長さの時間を意味するのではなく、それぞれの時点の処理の趣旨に照らして適当な長さとして定めた時間を意味するものである。また、いずれの実施例も、各センサ23,24,25による検出値から十分な信頼度を持つ位置データや角度データが得られることを前提としている。
以下、本発明にかかるその他の実施形態を簡単に説明する。
<カメラ合わせについて>
第1および第2の実施例では、パターンマッチングに成功したときに撮影ユニット2の距離センサ25により検出された距離Lが適正範囲に入っていることを条件として、撮影ユニット2からの動画像の表示を開始したが、この条件を設けずにパターンマッチングの成功に応じて常に動画像の表示を開始してもよい。その場合でも、たとえば、両ユニット間の距離の適正範囲をカメラ合わせの際に必須の条件として利用者に教示し、カメラ合わせが完了した後の撮影ユニット2の前後の移動量の許容範囲をごく小さくし、許容範囲を超える移動が生じたときは動画像の表示または送信を中止することによって、撮影ユニット2が適切な場所に配置されるように促すことができる。
距離Lが適正範囲に入っていることを動画像の表示の開始条件に加える場合でも、L<L1のときとL>L2のときとで取り扱いを異ならせるのではなく、アルゴリズムを統一してもよい。たとえば、パターンマッチングには成功したがL<L1またはL>L2となったときは、撮影ユニット2の前進または後退を求める情報を表示して待機し、カメラ位置が撮影可能領域に入ったことが確認できれば動画像の表示を開始するようにしてもよい。または、距離Lが適正範囲に入るまでパターンマッチングの画面の表示と画像の照合処理を続け、L1≦L≦L2の状態でパターンマッチングに成功したことをもって動画像の表示を開始するようにしてもよい。
後者の方法をとる場合も、パターンマッチングの画面の適所に撮影ユニット2の前進または後退を求める情報を表示するとよい。ただし、撮影ユニット2の前進または後退を求める処理は、表示に代えて、音声出力により行うこともできる。
あらかじめ定めた許容範囲を逸脱しないことを条件として、距離Lの適正範囲をユーザが具体的な数値入力により登録できるようにしてもよい。または、設定モードに切り替えてカメラ合わせを行い、そのカメラ合わせが完了したときの距離センサ25の検出値を中心とする一定の数値範囲を適正範囲として登録することもできる。
カメラ合わせが完了しているかどうかの判断は、パターンマッチングに限らず、他の方法を採用することもできる。
たとえば、ミラーユニット1の表示部10の中央部に文字画像を表示し、これを撮影した撮影ユニット2が画像に対する文字認識処理を行って、認識した文字情報をミラーユニット1に送信し、この文字情報が表示中の画像の文字に整合したことをもってカメラ合わせが完了したと判断することができる。また文字画像に代えて所定のコードが埋め込まれた2次元コード(またはバーコードでもよい。)を表示し、これを撮影した撮影ユニット2でコードの読み取り処理を行って読み取ったコードをミラーユニット1に送信し、そのコードが表示中の2次元コードに整合したことをもってカメラ合わせが完了したと判断することもできる。
ただし、文字画像や2次元コードを用いたカメラ合わせを行う場合には、撮影ユニット2のカメラ20の視線が表示部10の中央部から大きくずれないような工夫をする必要がある。たとえば、撮影ユニット2の表示部10に上下・左右のバランスをとって位置合わせ用の枠を表示すると共に、その枠に対応する範囲のみを文字認識や2次元コードの検出の対象領域とすれば、文字画像や2次元コードが枠内に入るように撮影ユニット2を調整することによって、カメラ20の視線をミラーユニット1の中央部付近に合わせることができる。ミラーユニット1でも、文字画像や2次元コードの表示領域をできるだけ大きくするのが望ましい。
いずれの方法を採用する場合も、カメラ合わせのために表示部10に表示される情報は1つに限らず、表示される情報を変動させるのが望ましい。たとえば、パターンマッチングによりカメラ合わせを行う場合には、ミラーユニット1の制御部11に特徴パターンの画像を複数種登録しておき、カメラ合わせのガイダンス画面を表示する際に、それら複数種の画像のうちの1つを抽選により選択して表示することができる。文字画像や2次元コードによるカメラ合わせを行う場合にも、対象となる文字列やコードをランダムに生成し、生成された情報に基づく画面を表示することができる。1回分のカメラ合わせにおいても、複数の情報を順に表示し、それら全てに適合する情報を撮影ユニット2から送信することをカメラ合わせの完了の条件にしてもよい。
文字画像や2次元コードなどのコード画像を用いたカメラ合わせを行う場合には、各ユニット1,2に起動直後から動画像の送受信を行わせるのではなく、カメラ合わせが完了したことに応じてミラーユニット1から撮影ユニット2にカメラ合わせ完了通知を送信し、この通知を受けたことに応じて撮影ユニット2からミラーユニット1への動画像の送信を開始する仕様にすることもできる。
また、文字画像やコード画像を用いたカメラ合わせを起動直後以外でも随時実行できるようにするために、ミラーユニット1に、カメラ合わせ用の画面を表示するタイミングに合わせて撮影ユニット2に文字またはコードの読取り処理を指示するコマンドを送信させるとよい。ただしこれに限らず、撮影ユニット2に文字画像や2次元コードを自動検出して読取り処理を開始する機能を設けることによっても、ミラーユニット1でカメラ合わせ用の画面が表示されたときに撮影ユニット2を速やかに追随させることができる。
いずれの方法でカメラ合わせを行う場合でも、起動後のミラーユニット1がカメラ合わせのための画面を表示するタイミングは、撮影ユニット2との通信が開始されてからに限らず、通信が開始される前であってもよいし、通信は開始されたが動画像の受信が開始される前であってもよい。これらの場合、ミラーユニット1が、撮影ユニット2が接続されるまで、または所定長さの待機時間が経過するまで、カメラ合わせのための画面の表示を維持すれば、撮影ユニット2の側の準備が整い次第、カメラ合わせの処理を開始することができる。
<カメラの位置・視線方向の適否判定について>
第1および第2の実施例では、基準座標系の原点Oを撮影可能領域の後端中央位置に設定したが、これに限らず、カメラ合わせが完了した時点のカメラ位置を原点としてもよい。この場合には、図3に示した設定によらずに、原点を基準とする距離により撮影可能領域を定めることができる。たとえば、前・後・左・右・上・下の各方向ごとにそれぞれ原点から移動して良い距離を決めておき、カメラ合わせが完了した時点のカメラ位置とそれらの距離とにより撮影可能領域を設定することができる。
カメラ20の視線を合わせるのに適した目標方向は1つに限る必要はない。たとえば、利用空間に複数の目標点を設定し、現在のカメラ位置からそれぞれの目標点に向かう方向を目標方向として、目標方向ごとに実際のカメラ20の視線方向のずれ角度|φ−θz|を求め、それらを個別に上限値と照合した結果を総合して視線方向の適否を判定することができる。
カメラ20の視線方向の目標方向に対するずれ角度|φ−θz|と比較される上限値Δzも1つに限らず、カメラ位置によってΔzの値を変動させてもよい。
たとえば、図3に示した撮影可能領域の場合、基準のy軸を中心とする所定範囲(利用者の真後ろに相当する範囲)にカメラ位置が入っているときには、それより外側の範囲にカメラ位置が入っているときよりΔzの値を大きくしてもよい。
撮影可能領域の幅中央部から離れた範囲については、目標方向に対するカメラ20の実際の視線方向の回転方向によっても上限値Δzの値を変動させることができる。
たとえば、利用空間に対向する範囲(図3中の基準のy軸から左右方向に(W1/2)ずつ離れる位置を両端とする範囲)より右手側にカメラ位置があるときには、視線方向が目標方向に対して時計回り(正の方向)に回転しているときのΔzより目標方向に対して反時計回りに(負の方向)に回転しているときのΔzの方に大きな値を設定する。利用空間に対向する範囲より左手側の範囲にカメラ位置があるときには、上記とは反対に、視線方向が目標方向に対して反時計回りに回転しているときのΔzより目標方向に対して時計回り方向に回転しているときのΔzに大きな値を設定する。
カメラ20の視線方向の目標方向に対するずれ角度|φ−θz|を上限値Δzと比較する方法に代えて、カメラ20の視線方向を表すベクトルfが基準のy軸の方に向かっているか否かによって、視線方向の適否を判定してもよい。
具体的には、ベクトルfが基準のy軸に向かっていない場合には、NG(カメラ20の視線方向は不適)の判定結果を出す。さらに、ベクトルfが基準のy軸の方に向かっている場合には、両者の交点の座標を求めて、その座標が適正範囲(利用者が入ると想定される範囲)に含まれているときはOKの判定を出し、交点の座標が適正範囲から逸脱している場合はNGの判定を出す。
姿見装置としての性能はやや劣るものになるが、ミラーユニット1と撮影ユニット2との間の距離の適正範囲を利用者を撮影するのに必要な最小限度の大きさに制限し、カメラ合わせの後のカメラ位置や視線方向の大幅な変更を許容しないようにすれば、センサ23,24により検出される加速度や角速度、またはそれらを用いた演算により求めた各座標軸毎の移動量や回転角度があらかじめ定めた許容値を上回ったことをもってNG判定を出す、という単純な方法を採用してもよい。また、カメラ位置の変化の判別については、カメラ合わせ完了後の距離センサ25により得られる距離データを利用してもよい。
判定処理を簡易にする場合でも、撮影ユニット2の位置の変化に応じて視線方向の適正範囲をある程度まで変更できるようにするために、図12に示すような判定処理を採用することもできる。
この判定処理は、カメラ合わせが完了したときのカメラ位置を基準位置(原点)とし、センサ23,24により検出された加速度データおよび角速度データを用いてカメラ位置および回転角度を求める演算と共に、繰り返し実行される。この判定処理もミラーユニット1,撮影ユニット2のいずれでも実施することができ、NG判定が出た場合は、ミラーユニット1での動画像の表示または撮影ユニット2からの動画像の送信が中止される。
以下、図12を参照して、この実施例の判定処理の流れを説明する。
なお、この実施例でも、回転角度θx,θy,θzは、カメラ合わせが完了した時点では0°であるものとし、その後の時計回り方向の回転角度がプラスの値により表され、反時計回り方向の回転角度がマイナスの値により表されるものとする。
まず、上記の基準位置に対する現在のカメラ位置のずれ量が算出され、その値が許容範囲と比較される(ステップS301,S302)。この比較も、x,y,zの軸毎に行われるもので、いずれかの軸におけるずれ量がその軸に設定された許容範囲を超えている場合は、ステップS302が「NO」となり、判定結果が「NG」に設定される(ステップS310)。
上記のずれ量が許容範囲に入っている場合(ステップS302が「YES」)はステップS303に進み、x軸周りの回転角度θxおよびy軸周りの回転角度θyをそれぞれの許容範囲と照合する。この実施例のθx,θyの許容範囲も、図5の例の適正範囲と同様の趣旨でカメラ位置にかかわらず一定に設定され、θx,θyのいずれか一方が許容範囲を逸脱していた場合はステップS303が「NO」となってステップS310に進み、「NG」の判定結果が出される。
θx,θyがともに許容範囲に入る場合には、z軸周りの回転角度θzの適否を判定する処理に入る。この実施例では、基準位置に対する現在のカメラ位置のx軸におけるずれが左右いずれの方向に生じているかをチェックし(ステップS304)、その結果に基づき以下のようにθzの許容範囲を変動させる。
具体的には、現在のカメラ位置のx方向におけるずれ量(基準位置とカメラ位置との間の距離)があらかじめ定めたしきい値(たとえば5cm)以下になる場合は、ずれは生じていないと判定され、正負各方向ともに一定角度δzまでの数値範囲が許容範囲に設定される(ステップS305)。カメラ位置が基準位置より左(x軸の負方向)に上記のしきい値を超えて離れた場合には、θzの許容範囲は正の数値範囲(0°から+δzまで)に制限される(ステップS306)。カメラ位置が基準位置より右(x軸の正方向)に上記のしきい値を超えて離れた場合には、θzの許容範囲は負の数値範囲(−δzから0°まで)に制限される(ステップS307)。
このように現在のカメラ位置のx座標に応じてθzの許容範囲が定められた後はステップS308に進み、当該許容範囲とθzの現在値とが比較される。ここでθzが許容範囲に含まれる場合(ステップS308が「YES」)には、「OK」の判定が出され(ステップS309)、θzが許容範囲から逸脱する場合(ステップS308が「NO」)には、「NG」の判定が出される(ステップS310)。
上記の判定処理によれば、カメラ合わせの完了後に撮影ユニット2が許容範囲を超えて動かされたときや、いずれかの軸方向に許容範囲を超える回転が生じたときは、「NG」の判定結果を出して、ミラーユニット1への動画像の表示を中止することができる。
また、撮影ユニット2の移動量が許容範囲以内であっても、利用者が撮影ユニット2を左手側に移動させて反時計回り方向に回転させた場合や、撮影ユニット2を右手側に移動させて時計回り方向に回転させた場合は、同様に「NG」の判定結果を出して、ミラーユニット1への動画像の表示を中止することができる。
なお、θzの許容範囲の設定方法は上記に限るものではなく、より詳細な設定にすることもできる。たとえば、カメラ位置の右方向へのずれ量を正の数値で表し、左方向のずれ量を負の数値で表すこととして、基準位置に対するカメラ位置のずれの方向およびずれ量を数種類の数値範囲に分類し、各数値範囲にそれぞれ異なる許容範囲を対応づけ、それらの中から現在のカメラ位置に当てはまるものを選択してもよい。その場合は、許容範囲の角度幅は一定として、その範囲が設定される領域をカメラ位置のx軸における移動量および移動方向に応じて変動させるようにしてもよい。
<動画像の表示・送信の中止制御について>
図8や図10に示した画像表示制御では、カメラ位置または回転角度の変化に対するNG判定をうけて動画像の表示を中止した後も、その中止の原因となった変化が一定時間以内に解消されたときは動画像の表示を再開するようにしたが、演算が複雑になるのを避ける目的や演算結果の精度を確保する目的から、動画像の表示中止後は常に再度のカメラ合わせを経て表示を再開する仕様に変更してもよい。図11の撮影ユニット2の側での送信制御も同様に、動画像の送信を中止した後は、再度のカメラ合わせを完了したミラーユニット1から動画像の表示許可通知を受けたことをもって、動画像の送信を再開する仕様に変更してもよい。
図12に示した判定処理を採用する場合も、NG判定が出た後は、カメラ位置や回転角度の演算結果をリセットし、起動直後のカメラ合わせのモードに戻るのが望ましい。
撮影ユニット2の位置や向きが頻繁に変更されるとカメラ位置や回転角度の演算結果の誤差が大きくなるおそれがある場合には、「OK」の判定結果が続いていても、それらの値が所定値以上の変化を示した回数が一定値を超えたことをもって、動画像の表示または送信を中止してもよい。その場合も、動画像の表示や送信を再開するには、再度のカメラ合わせを必要とするのが望ましい。
<ミラーユニットの変形例>
ここまではミラーユニット1は設置された場所から動かされないことを前提として説明したが、ミラーユニット1を持ち運び可能な形態にする場合には、ミラーユニット1にも加速度センサや角速度センサを設け、ミラーユニット1の動きによっても動画像の表示を制限するのが望ましい。
たとえば、第1実施例のミラーユニット1の制御部11に、動画像が表示されている間にミラーユニット1の動きが検出された場合は、その移動方向や移動量に基づいて基準座標系や撮影可能領域や目標点Pを変更すると共に変更後の設定に合うようにカメラ位置や回転角度を補正し、補正後のカメラ位置および回転角度の適否に応じて動画像の表示継続・中止を選択する、という制御を加えることができる。第2実施例でも、ミラーユニット1の動きが検出されたときには、その検出結果を表すデータをミラーユニット1から撮影ユニット2に送信し、撮影ユニット2において上記と同様の補正を行うことができる。
ただし、いずれの実施例でも、ミラーユニット1の移動量や回転角度があらかじめ定めた許容範囲以内であれば、当初の基準座標系を維持し、ミラーユニット1に許容範囲を超える移動や回転が検出されたことをもって、ミラーユニット1の制御部11が動画像の表示を中止するようにしてもよい。この場合も、動画像の表示を再開するには再度のカメラ合わせが必要とするのが望ましい。
利用者を検出する手段は人感センサ13に限るものではない。たとえば、ミラーユニット1にもカメラを設け、このカメラにより撮影された画像からヒトの顔を検出できたことをもって利用者が利用空間にいると判断してもよい。または、ミラーユニット1の制御部11に、別のコンピュータにヒトを表す画像の特徴を学習させることにより生成された知識データを導入し、その知識に基づき撮影ユニット2から受信する動画像からヒトを検出する方法によって利用者が利用空間にいるか否かを判別することもできる。
<汎用機器の応用について>
種々の変形例も含め、本発明では、スマートフォンなどの汎用のカメラ付き端末装置に専用のプログラムを組み込んだものを撮影ユニット2の本体として使用することができる。 スマートフォンでも、加速度センサや角速度センサは殆どの機種に標準装備されているが、距離センサまで装備されているものは少ない。距離センサについては、その検出値が利用されるのは実質的にカメラ合わせのときのみであることから、ミラーユニット1に距離センサを設けてもよいが、カメラ合わせのための動画像を送信している撮影ユニット2がミラーユニット1から距離L2以内にいることをより正確に確認するには、撮影ユニット2に距離センサを設ける必要がある。
距離センサが装備されていない機器を撮影ユニット2の本体として使用する場合には、この本体を支える支持部材のユニットの連結部に距離センサを含む検出ユニットを設け、この検出ユニットと本体とをUSBケーブルまたはブルートゥース(登録商標)等の近距離無線により通信させて本体に距離データを転送することによって、ミラーユニット1に距離データを送信することが可能になる。
または、上記の検出ユニットにミラーユニット1との通信機能をもたせ、撮影ユニット2の本体で検出された加速度データや角速度データも検出ユニットを中継してミラーユニット1に送信してもよい。
ミラーユニット1に距離センサを設けることを考慮する必要がない場合には、ミラーユニット1についても、汎用のタブレット型端末装置に専用のプログラムを組み込んだものを使用することができる。その場合、タブレット型端末装置に前方撮影用のカメラが組み込まれているならば、人感センサ13に代えて先に述べた顔検出の方法で利用空間に利用者がいるかどうかを判別することができる。また、この前方撮影用のカメラによる画像に表示を切り替えられるようにすれば、表示部10にハーフミラーを装着しなくとも利用者の顔を表示することができる。
ミラーユニット1は、必ずしも一体型の装置にする必要はなく、制御部11および通信処理部12を含む制御装置と表示部10を含む表示装置との組み合わせにより構成することもできる。その場合の表示装置として、テレビジョンを含む市販のモニタ装置を使用することもできる。
<撮影ユニットの支持部材について>
上記実施例では、撮影ユニット2は本体(図1の構成が組み込まれる筐体)を支持する支持部材ごと移動させることができるものとしたが、図13に示すように、撮影ユニット2の本体を支持する支持部材200に円弧状のレール部材201を設けて、本体を保持する保持部材202をレール部材201により摺動可能に支持すると共に、保持部材202が本体が装着されていることを検出する機能を撮影ユニット2の本体または保持部材202に付加してもよい。そうすると、レール部材201が利用空間の後部の周囲に配置されるように支持部材200を設置し、保持部材202から本体が取り外されたことが検出されたとき、またはカメラ位置に許容範囲を超える変化が生じたときに、動画像の表示または送信を中止することができる。
<その他>
上記実施例では、ミラーユニット1にWi−Fiダイレクト方式の通信処理部12を設けることによって、ミラーユニット1と撮影ユニット2との間での通信を行うようにしたが、これに限らず、無線ルータを介して両ユニットを通信させることもできる。また、Wi−Fi以外の規格による無線通信を採用することもでき、ケーブルの取り扱いに気をつける必要はあるが、有線通信に変更することも可能である。いずれの通信でもミラーユニット1が主導権を持ち、1つの撮影ユニット2との通信を行っている間は別の撮影ユニット2との通信を行わないようにする必要がある。
撮影ユニット2からミラーユニット1への動画像の送信は、撮影により生成された動画像のファイルを送信する方法に限らず、撮影ユニット2の表示部26に表示されるモニタ画面の情報を送信する方法(ミラーリング)により行うこともできる。いずれの方法でもストリーミング送信の技術によって、カメラ20により生成されている動画像を大きく遅延させることなくミラーユニット1に届け、表示することができる。
カメラ合わせや表示制御の際の通知音や警報音に代えて、音声により報知内容を表すメッセージを出力することもできる。また動画像の表示を中止したときは、表示部10に図4(C)に例示したのと同種のガイダンス画面を表示することによって、利用者に撮影ユニット2の位置や向きを是正するように促すようにしてもよい。
ミラーユニット2には、撮影ユニット2からの動画像を表示する目的だけでなく、撮影ユニット2とは関係のない情報を表示する機能を設けることもできる。たとえば、インターネットに接続可能として、インターネットから取得した天気やニュースなどの情報を表示することができる。
第2の実施形態では、ミラーユニットの表示制御手段に、表示部に表示中の情報に適合する情報を撮影ユニットから受信したことに応じて撮影ユニットに所定のフォーマットによる通知を送信する手段が含められる。撮影ユニットには、上記の検出手段と共に、ミラーユニットから上記の通知を受信した時点より後の検出手段による検出結果を監視し、その監視によりカメラの位置または視線方向にあらかじめ定めた適正範囲を逸脱する変化を検出したときに当該変化が検出されたことを示す検出データをミラーユニットに送信する監視手段が設けられる。ミラーユニットの表示制御手段は、上記の通知を送信した後の撮影ユニットからカメラの位置または視線方向に適正範囲を逸脱する変化が検出されたことを示す検出データを受信したときに、動画像の表示部への表示を中止する。
ミラーユニットに、表示部に表示中の情報に適合する情報を撮影ユニットから受信したことに応じて当該撮影ユニットに所定のフォーマットによる通知を送信する場合には、この通知を受信した撮影ユニットの側で、当該通知を受信した時点より後の検出手段による検出結果を監視し、その監視によりカメラの位置または視線方向に適正範囲を逸脱する変化を検出したことに応じてミラーユニットへの動画像の送信を中止することもできる。
図4は、カメラ合わせの作業のためにミラーユニット1の表示部10に表示されるガイダンス画面の変遷例を表したものである。図4(A)はカメラ合わせが開始されたときに表示される画面の例であって、複数の色彩で着色された図柄(図では色彩をドットや線画のパターンに置き換えて示す。)の組み合わせによる特徴パターンPTを含む矩形枠WDと、この枠WDにカメラ20の視野を合わせるように促すメッセージとが含まれている。ミラーユニット1の制御部11は、この画面の表示を続けながら、撮影ユニット2から受信する毎時の画像を上記の枠内の画像と照合する処理(パターンマッチング)を繰り返す。