以下、本発明を実施するための形態について図面を参照しながら説明する。
本実施形態の画像通信システムは、後述する情報端末から受信した所定領域情報を撮像装置ごとに画像管理装置が記憶しておき、情報端末で撮像装置が選択された場合、画像管理装置5が記憶しておいた撮像装置ごとの所定領域情報を情報端末に送信することが特徴の1つになっている。
したがって、店舗内等に設置された撮像装置が定点撮像して作成した全方位画像をユーザが閲覧する際、撮像装置ごとに決まった視点で表示することができる。
<用語について>
撮像装置が店舗等に設置されるとは、定点観測される期間において場所と向きが固定されていることをいう。
店舗とは商品やサービスを提供する施設をいう。本実施形態では店舗を例に説明するが、事務所内、公共機関、工場、屋外、遊技場、水中、空中(高所)、地下、個人の住宅内などに設置されてもよく、設置される場所は限定されない。
視点とは閲覧者の視線が注がれる場所を言う。本実施形態では、全方位画像の全体のうち閲覧者がディスプレイに表示させた一部の画像を便宜的に視点という場合がある。また、この一部の画像を所定領域画像という。全方位画像における所定領域画像を特定するための情報を所定領域情報という。
全方位画像は、周囲360°の全方位が撮像された画像である。全天球画像、パノラマ画像、全天球パノラマ画像など、どのように呼ばれていてもよい。また、周囲360°の画像の一部が画像処理などの関係で欠けていても本実施形態の説明に支障がない場合は全方位画像と称する。
<撮像装置について>
図1〜7を用いて、周囲360°の全方位を撮像可能な撮像装置について説明する。図1は撮像装置1の外観を説明する図の一例である。図1(a)は撮像装置1の左側面図であり、図1(b)は撮像装置1の正面図であり、図1(c)は撮像装置1の平面図である。
図1(a)に示されているように、撮像装置1は、人間が片手で持つことができる大きさである。また、図2(a),(b),(c)に示されているように、撮像装置1の上部には、正面側(前側)に撮像素子103a及び背面側(後側)に撮像素子103bが設けられている。また、図2(b)に示されているように、撮像装置1の正面側には、シャッターボタン等の操作部115が設けられている。
次に、図2を用いて、撮像装置1の使用状況を説明する。なお、図2は、撮像装置の使用イメージ図である。撮像装置1は、図2に示されているように、ユーザが手に持ってユーザの周りの被写体を撮像するために用いられる。この場合、図1に示されている撮像素子103a及び撮像素子103bによって、それぞれユーザの周りの被写体が撮像されることで、2つの半球画像を得ることができる。
次に、図3を用いて、撮像装置1で撮像された画像及び合成された画像を説明する。なお、図3(a)は撮像装置で撮像された半球画像(前側)、図3(b)は撮像装置で撮像された半球画像(後側)、図3(c)はメルカトル図法により表された画像(以下、「メルカトル画像」という)を示した図である。なお、正距円筒図法で表されてもよい。
図3(a)に示されているように、撮像素子103aによって得られた画像は、後述の魚眼レンズ102aによって湾曲した半球画像(前側)となる。また、図4(b)に示されているように、撮像素子103bによって得られた画像は、後述の魚眼レンズ102bによって湾曲した半球画像(後側)となる。そして、半球画像(前側)と、180度反転された半球画像(後側)とは、撮像装置1によって合成され、図4(c)に示されているように、メルカトル画像が作成される。
図4は、図4(c)に示されている撮像画像(メルカトル画像)から、作成された全方位画像を示す。例えば、立体球に図4(c)に示されるメルカトル画像を貼り付けることで、図4のような全方位画像が作成される。
図5〜7を用いて、全方位画像における所定領域の画像(これが上記の「所定領域画像」である)の作成及び表示の処理について説明する。なお、図5は、全方位画像を3次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラICは、3次元の立体球として表示されている全方位画像に対して、その画像を見るユーザの視点の位置に相当するものである。
また、図6(a)は図5の立体斜視図、図6(b)はディスプレイに所定領域画像を示す図である。図6(a)は図4に示されている全方位画像を3次元の立体球CSで見せている。このように生成された全方位画像の立体球CSであるとすると、図5に示されているように、仮想カメラICが全方位画像の中心に位置し、この中心から上下左右の回転と、この中心からの視点での回転(ROLL)の3軸の回転を行うことができる。この全方位画像における所定領域Tは、この全方位画像における仮想カメラICの位置の所定領域情報によって特定される。
この所定領域情報は、座標x(rH)、座標y(rV)、及び画角α(angle)によって示される。また、所定領域Tのズームは、画角αの範囲(円弧)を広げたり縮めたりすることで表現することができる。すなわち、座標x、座標yで図7の中心点CPを特定でき、画角αで所定領域画像の広さを特定できる。座標x、座標yは全方位画像の例えば、左上コーナーを原点とする座標である。
図7を用いて、所定領域情報と所定領域画像の関係について説明する。なお、図7は、所定領域情報と所定領域画像の関係との関係を示した図である。
図7に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角線画角2Lとした場合の中心点CPが、所定領域情報の(x,y)パラメータとなる。(x,y)は中心点CPでなく所定領域画像の左上コーナーなどの座標でもよい。
なお、fは仮想カメラICから中心点CPまでの距離である。そして、図7では、一般的に以下の式(1)で示される関係が成り立つ。Lは所定領域画像の対角線の長さの半分である。
Lf=tan(α/2)・・・式(1)
所定領域画像のアスペクト比で対角線と下辺のなす角βが分かるので、所定領域画像の各コーナーの座標も算出できる。例えば、左上コーナーのx座標はx−Lcosβ、y座標はy+Lsinβである。
<画像通信システム200のシステム構成>
図8は、画像通信システム200の概略構成図の一例である。画像通信システム200は、通信ネットワーク9を介して接続された画像管理装置5、撮像装置1、通信端末3、及び、情報端末7を有している。撮像装置1は設置者Xにより店舗内に設置されている。情報端末7は閲覧者Yにより操作される。
通信ネットワーク9は、店舗内や閲覧者Yの所属先の企業のLAN、LANをインターネットに接続するプロバイダのプロバイダネットワーク、及び、回線事業者が提供する回線等の少なくとも1つを含んで構築されている。通信端末3や情報端末7がLANを介さずに直接、回線電話網や携帯電話網に接続する場合は、LANを介さずにプロバイダネットワークに接続することができる。また、通信ネットワークにはWANやインターネットが含まれる。通信ネットワークは有線又は無線のどちらで構築されてもよく、また、有線と無線が組み合わされていてもよい。
撮像装置1は、上記のように1度の撮像で周囲360度を撮像し全方位画像を作成するカメラである。デジタルスチルカメラ又はデジタルビデオカメラと呼ばれる場合がある。また、通信端末3にカメラが付いている場合は、通信端末3がデジタルカメラとなりうる。本実施形態では、説明を分かりやすくするために撮像装置1は全方位画像を得るためのデジタルカメラとして説明を行う。撮像装置1は定期的に周囲360を撮像する。必ずしも定期的である必要はなく、不定期に撮像してもよいし、設置者Xの操作により撮像してもよいし、閲覧者Yが画像管理装置5に要求することで画像管理装置5からの命令で撮像してもよい。
なお、撮像装置1は、視線が異なる何枚かの風景を自動的に撮像し、複数の画像データを合成することで全方位画像を作成してもよい。
通信端末3は、撮像装置1の代わりに通信ネットワーク9に接続する通信機能を有している。通信端末3は、撮像装置1への電力供給や店舗への固定を行うためのクレードル(Cradle)である。クレードルとは、撮像装置1の機能を拡張する拡張機器をいう。通信端末3は撮像装置1と接続するためのインタフェースを有し、これにより撮像装置1は通信端末3の機能を利用できる。通信端末3は、このインタフェースを介して撮像装置1とデータ通信を行なう。そして、無線ルータ9a及び通信ネットワーク9を介して画像管理装置5とデータ通信を行なう。
なお、撮像装置1が無線ルータ9aや通信ネットワーク9と直接、データ通信する機能を有する場合、通信端末3はなくてもよい。あるいは、撮像装置1と通信端末3が一体に構成されていてもよい。
画像管理装置5は、例えば、サーバとして機能する情報処理装置であり、通信ネットワーク9を介して、通信端末3及び情報端末7とデータ通信を行なうことができる。画像管理装置5には、OpenGL ES(3Dグラフィックス用のAPI:Application Interface)がインストールされている。OpenGL ESを呼び出すことでメルカトル画像から全方位画像を作成したり、全方位画像の一部の画像(所定領域画像)のサムネイル画像を作成したりすることができる。
なお、画像管理装置5にはクラウドコンピューティングが適用されていることが好ましい。クラウドコンピューティングの物理的な構成に厳密な定義はないが、情報処理装置を構成するCPU、RAM、ストレージなどのリソースが負荷に応じて動的に接続・切断されることで情報処理装置の構成や設置場所が柔軟に変更される構成が知られている。また、クラウドコンピューティングでは、画像管理装置5が仮想化されることが一般的である。1台の情報処理装置が仮想化によって複数の画像管理装置5としての機能を提供することや、複数の情報処理装置が仮想化によって一台の画像管理装置5としての機能を提供することができる。なお、画像管理装置5がクラウドコンピューティングとしてではなく単独の情報処理装置により提供されることも可能である。
情報端末7は、例えば、ノートPC(Personal Computer)であり、通信ネットワーク9を介して、画像管理装置5とデータ通信を行う。情報端末7は、ノートPCの他、タブレット端末、PC、PDA(Personal Digital Assistant)、電子黒板、テレビ会議端末、ウェアラブルPC、ゲーム機、携帯電話、カーナビゲーションシステム、スマートフォンなどでもよい。また、これらに限られるものではない。
撮像装置1、通信端末3、及び無線ルータ9aは、店舗等の各販売拠点で設置者Xによって所定の位置に設置される。情報端末7は、各販売拠点を統括する本社等に設置され、画像管理装置5を介して送られて来る各拠点の状況を表した画像を表示することで、閲覧者Yが各拠点の状況を表した画像を閲覧することができる。ただし、情報端末7は本社以外の場所からも画像管理装置5と通信可能である。画像管理装置5は、各拠点の通信端末3から送られて来た画像データに所定領域情報を添付して情報端末7に送信する。
<実施形態のハードウェア構成>
次に、図9〜図11を用いて、本実施形態の撮像装置1、通信端末3,情報端末7及び画像管理装置5のハードウェア構成を説明する。
<<撮像装置>>
図9は、撮像装置1のハードウェア構成図の一例である。以下では、撮像装置1は、2つの撮像素子を使用した全方位撮像装置とするが、撮像素子は3つ以上いくつでもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮像ユニットを取り付けることで、実質的に撮像装置1と同じ機能を有するようにしてもよい。
図9に示されているように、撮像装置1は、撮像ユニット101、画像処理ユニット104、撮像制御ユニット105、マイク108、音処理ユニット109、CPU(Central Processing Unit)111、ROM(Read Only Memory)112、SRAM(Static Random Access Memory)113、DRAM(Dynamic Random Access Memory)114、操作部115、ネットワークI/F116、通信部117、及びアンテナ117aによって構成されている。
このうち、撮像ユニット101は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)102a,102bと、各広角レンズに対応させて設けられている2つの撮像素子103a,103bを備えている。撮像素子103a,103bは、魚眼レンズによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサなどの画像センサ、この画像センサの水平又は垂直同期信号や画素クロックなどを生成するタイミング生成回路、この撮像素子の動作に必要な種々のコマンドやパラメータなどが設定されるレジスタ群などを有している。
撮像ユニット101の撮像素子103a,103bは、各々、画像処理ユニット104とはパラレルI/Fバスで接続されている。一方、撮像ユニット101の撮像素子103a,103bは、撮像制御ユニット105とは別に、シリアルI/Fバス(I2Cバス等)で接続されている。画像処理ユニット104及び撮像制御ユニット105は、バス110を介してCPU111と接続される。さらに、バス110には、ROM112、SRAM113、DRAM114、操作部115、ネットワークI/F116、通信部117、及び電子コンパス118なども接続される。
画像処理ユニット104は、撮像素子103a,103bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図3(c)に示されているようなメルカトル画像のデータを作成する。
撮像制御ユニット105は、一般に撮像制御ユニット105をマスタデバイス、撮像素子103a,103bをスレーブデバイスとして、I2Cバスを利用して、撮像素子103a,103bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU111から受け取る。また、該撮像制御ユニット105は、同じくI2Cバスを利用して、撮像素子103a,103bのレジスタ群のステータスデータ等を取り込み、CPU111に送る。
また、撮像制御ユニット105は、操作部115のシャッターボタンが押下されたタイミングで、撮像素子103a,103bに画像データの出力を指示する。撮像装置1によっては、ディスプレイによるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子103a,103bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
また、撮像制御ユニット105は、後述するように、CPU111と協働して撮像素子103a,103bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮像装置1には表示部が設けられていないが、表示部を設けてもよい。
マイク108は、音を音(信号)データに変換する。音処理ユニット109は、マイク108から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
CPU111は、撮像装置1の全体の動作を制御すると共に必要な処理を実行する。ROM112は、CPU111のための種々のプログラムを記憶している。SRAM113及びDRAM114はワークメモリであり、CPU111で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM114は、画像処理ユニット104での処理途中の画像データや処理済みのメルカトル画像のデータを記憶する。
操作部115は、種々の操作ボタンや電源スイッチ、シャッターボタン、表示と操作の機能を兼ねたタッチパネルなどの総称である。ユーザは操作ボタンを操作することで、種々の撮像モードや撮像条件などを入力する。
ネットワークI/F116は、SDカード等の外付けのメディアやパーソナルコンピュータなどとのインタフェース回路(USBI/F等)の総称である。また、ネットワークI/F116としては、無線、有線を問わずにネットワークインタフェースである場合も考えられる。DRAM114に記憶されたメルカトル画像のデータは、このネットワークI/F116を介して外付けのメディアに記録されたり、必要に応じてネットワークI/FとなるネットワークI/F116を介して通信端末3等の外部装置に送信されたりする。
通信部117は、撮像装置1に設けられたアンテナ117aを介して、WiFi(wireless fidelity)、NFC、又はLTE(Long Term Evolution)等の離無線技術によって、通信端末3等の外部装置と通信を行う。この通信部117によっても、メルカトル画像のデータを通信端末3の外部装置に送信することができる。
電子コンパス118は、地球の磁気から撮像装置1の方位及び傾き(Roll回転角)を算出し、方位・傾き情報を出力する。この方位・傾き情報はExifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。なお、関連情報には、画像の撮像日時、及び画像データのデータ容量の各データも含まれている。
<<通信端末>>
次に、図10を用いて、通信端末3のハードウェア構成を説明する。なお、図10は、無線通信機能を有したクレードルの場合の通信端末3のハードウェア構成図である。
図10に示されているように、通信端末3は、通信端末3全体の動作を制御するCPU301、基本入出力プログラムを記憶したROM302、CPU301のワークエリアとして使用されるRAM(Random Access Memory)304、Wi-fi、NFC、LTE等でデータ通信する通信部305、撮像装置1と有線で通信するためのUSB I/F303、カレンダーや時間情報を保持するRTC(Real Time Clock)306を有している。
また、上記各部を電気的に接続するためのアドレスバスやデータバス等のバスライン310を備えている。
なお、ROM302には、CPU301が実行するオペレーティングシステム(OS)、その他のプログラム、及び、種々データが記憶されている。
通信部305は、アンテナ305aを利用して無線通信信号により、無線ルータ9a等と通信を行う。
図示する他、GPS(Global Positioning Systems)衛星又は屋内GPSとしてのIMES(Indoor MEssaging System)によって通信端末3の位置情報(緯度、経度、及び高度)を含んだGPS信号を受信するGPS受信部を備えていてもよい。
<<画像管理装置、情報端末>>
図11を用いて、画像管理装置5及びノートPCの場合の情報端末7のハードウェア構成を説明する。なお、図11は、画像管理装置5及び情報端末7のハードウェア構成図である。画像管理装置5及び情報端末7はともにコンピュータであるため、以下では、画像管理装置5の構成について説明する。情報端末7の構成は画像管理装置5と同様であるとし、相違があるとしても本実施形態の説明に関し支障がないものとする。
画像管理装置5は、画像管理装置5全体の動作を制御するCPU501、IPL等のCPU501の駆動に用いられるプログラムを記憶したROM502、CPU501のワークエリアとして使用されるRAM503を有する。また、画像管理装置5用のプログラム等の各種データを記憶するHD504、CPU501の制御にしたがってHD504に対する各種データの読み出し又は書き込みを制御するHDD(Hard Disk Drive)505を有する。また、フラッシュメモリ等の記録メディア506に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ507、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ508を有する。ディスプレイ508にはタッチパネルが装着されていることが好ましい。また、通信ネットワーク9を利用してデータ通信するためのネットワークI/F509、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード511、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス512を有する。また、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)513に対する各種データの読み出し又は書き込みを制御するCD−ROMドライブ514を有する。また、上記各構成要素を図11に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン510を備えている。
<実施形態の処理の概略>
次に、図12を用いて、本実施形態の処理の概略について説明する。図12は、本実施形態の処理の概略を説明する図である。
S1:通信端末3が撮像装置1から、画像データ、所定領域情報、及び関連情報を取得する。関連情報は、撮像日時や撮像装置1の端末IDなどである。また、この所定領域情報は初期設定の所定領域情報であって、例えば、撮像装置1の正面方向の所定領域を特定する情報である(正面方向は例えば撮像素子103aに垂直な方向)。
S2:通信端末3は、画像管理装置5に対して、画像データ、所定領域情報、及び、関連情報を送信する。
S3:画像管理装置5は、端末IDに対応付けて関連情報、初期設定の所定領域情報及び画像データを記憶しておく。
S4:閲覧者Yが情報端末7を操作して撮像装置1を指定し、画像管理装置5から画像データ、初期設定の所定領域情報及び関連情報を受信する。
S5:閲覧者Yは定点観測したい場所を含むように視点を定める。この時、ディスプレイ508に表示されていた所定領域画像を定める所定領域情報が、閲覧者Yが見たい視点又は視点から見た画像ということができる。情報端末7は所定領域情報と端末IDを画像管理装置5に送信する。
S6:画像管理装置5は端末IDに対応付けて、閲覧者Yが設定した所定領域情報を登録する。
S7:その後、閲覧者Yが情報端末7を操作して画像管理装置5にアクセスして端末IDを指定すると、画像管理装置5は画像データ、端末IDに対応付けられている所定領域情報、及び、関連情報を情報端末7に送信する。この所定領域情報は初期設定の値でなく、閲覧者Yが登録した所定領域情報なので、閲覧者Yは見たい方向に視点を切り替えなくても、定点撮像された時系列の全方位画像を閲覧して分析することができる。
<画像通信システム200の機能について>
図13は、本実施形態の画像通信システム200の一部を構成する、撮像装置1、通信端末3、画像管理装置5、及び情報端末7の各機能ブロック図である。
<<撮像装置1の機能構成>>
撮像装置1は、受付部12、撮像部13、集音部14、接続部15、及び記憶・読出部19を有している。これら各部は、図9に示されている各構成要素のいずれかが、SRAM113からDRAM114上に展開された撮像装置用のプログラムに従ったCPU111からの命令によって動作することで実現される機能又は手段である。
また、撮像装置1は、図9に示されているROM112、SRAM113、及びDRAM114の1つ以上によって構築される記憶部1000を有している。記憶部1000には撮像装置用のプログラム及び端末IDが記憶されている。
撮像装置1の受付部12は、主に、図9に示されている操作部115及びCPU111の処理によって実現され、ユーザ(図8では、設置者X)からの操作入力を受け付ける。なお、撮像装置1は設置者Xによる撮像のための操作がなくても自動的かつ定期的に周囲を撮像する。定期の間隔は、設置者Xが撮像装置1に設定してもよいし、閲覧者Yが画像管理装置5を介して設定してもよい。
撮像部13は、主に、図9に示されている撮像ユニット101、画像処理ユニット104、及び撮像制御ユニット105、及びCPU111の処理によって実現され、風景等を撮像し、画像データを作成する。
集音部14は、主に、図9に示されているマイク108及び音処理ユニット109、及び、CPU111の処理によって実現され、撮像装置1の周囲の音を収音する。
接続部15は、主に、ネットワークI/F116及びCPU111の処理によって実現され、通信端末3からの電力供給を受けると共に、通信端末3とデータ通信を行う。
記憶・読出部19は、主に、図9に示されているCPU111の処理によって実現され、記憶部1000に各種データを記憶したり、記憶部1000から各種データを読み出したりする。なお、以下では、撮像装置1が記憶部1000から読み書きする場合でも「記憶・読出部19を介して」という記載を省略する場合がある。
<<通信端末3の機能構成>>
通信端末3は、送受信部31、受付部32、接続部33、及び記憶・読出部39を有している。これら各部は、図10に示されている各構成要素のいずれかが、ROM302からRAM304上に展開された通信端末用のプログラムに従ったCPU301からの命令によって動作することで実現される機能又は手段である。
また、通信端末3は、図10に示されているROM302及びRAM304によって構築される記憶部3000を有している。記憶部3000には通信端末用のプログラムが記憶されている。
(通信端末3の各機能構成)
通信端末3の送受信部31は、主に、図10に示されている通信部305及びCPU301の処理によって実現され、無線ルータ9a及び通信ネットワーク9を介して、画像管理装置5と各種データの送受信を行う。なお、以下では、通信端末3が画像管理装置5と通信する場合でも、「送受信部31を介して」という記載を省略する場合がある。
接続部33は、主に、図10に示されているUSB I/F303、及びCPU301の処理によって実現され、撮像装置1に電力供給すると共に、データ通信を行う。
記憶・読出部39は、主に、図10に示されているCPU301の処理によって実現され、記憶部3000に各種データを記憶したり、記憶部3000から各種データを読み出したりする。なお、以下では、通信端末3が記憶部3000から読み書きする場合でも「記憶・読出部39を介して」という記載を省略する場合がある。
<<画像管理装置の機能構成>>
画像管理装置5は、送受信部51、人物検出部52、サムネイル作成部53、画面作成部54、デフォルト視点登録部55、領域情報登録部56、認証部57、及び記憶・読出部59を有している。これら各部は、図11に示されている各構成要素のいずれかが、HD504からRAM503上に展開された画像管理装置用のプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
また、画像管理装置5は、図11に示されているRAM503、及びHD504によって構築される記憶部5000を有している。この記憶部5000には、拠点管理DB5001、端末管理DB5002、撮像管理DB5003、画像管理DB5004、サムネイル管理DB5005、視点管理DB5006、及びユーザ管理DB5007が構築されている。以下、各データベースについて説明する。
表1は、拠点管理DB5001に記憶される各情報をテーブル状に示す拠点管理テーブルを示す概念図である。拠点管理テーブルでは、地域ID、地域名、拠点ID、拠点名、拠点レイアウトマップ、及び、装置IDの各フィールドが関連付けて記憶されている。また、拠点管理テーブルの1つの行をレコードという場合がある。以下の各テーブルでも同様である。このうち、地域IDは、地域を識別するための識別情報である。地域IDの一例としては重複しない番号とアルファベットの組み合わせが挙げられる。
地域名は、例えば、関東、東京、渋谷区、ニューヨーク州、ニューヨーク市等、土地の区域又は範囲を示す。地域名称と言ってもよい。なお、識別情報とは、複数の対象からある特定の対象を一意的に区別するために用いられる名称、符号、文字列、数値又はこれらのうち2つ以上の組み合わせをいう。以下のID又は識別情報についても同じである。
拠点IDは、拠点を識別するための識別情報の一例である。拠点IDは拠点名に対し重複しないように付与される。拠点固有情報と称してもよい。拠点IDの一例としては重複しない番号とアルファベットの組み合わせが挙げられる。拠点とは撮像装置1が設置され周囲を撮像するよりどころとなる所を言う。拠点の一例が店舗である。
拠点名は、渋谷店等の店舗名や、渋谷会場等の会場名等であり、拠点の名称である。拠点レイアウトマップには、各拠点のレイアウトや地図を示す画像データなどのファイル名が登録される。拠点レイアウトマップにより拠点における撮像装置1や取扱商品などの位置が2次元座標で特定される。拠点レイアウトマップの一例を図14に示す。拠点レイアウトマップのファイルは記憶部5000に記憶されている。
端末IDは、撮像装置1を識別するための識別情報である。端末固有情報と称してもよい。端末IDは、例えば、撮像装置1の例えばシリアル番号、製造番号、型番と重複しない数値、IPアドレス、又は、MACアドレスなどであるがこれらには限定されない。表1に示すように、1つの拠点には1つ以上の撮像装置(端末ID)が設置されており、それらの位置が端末管理DB5002に基づいて拠点レイアウトマップに登録されている。
拠点管理テーブルは、設置者X又は閲覧者Yが登録してもよいし、画像通信システム200のサプライヤーが登録してもよい。
表2は、端末管理DB5002に記憶される各情報をテーブル状に示す端末管理テーブルを示す概念図である。この端末管理テーブルでは、端末IDごとに、端末設置位置、及びデフォルト視点IDの各フィールドが関連付けて記憶されている。端末設置位置は、例えば、拠点レイアウトマップ上における撮像装置1の設置位置を2次元座標、商品棚番号、又は、通路番号などで示す。
デフォルト視点IDは、所定領域情報を識別する視点IDのうち、デフォルトの所定領域情報(視点ID)である。1つの撮像装置1は1つのデフォルトの所定領域情報を有している。このデフォルトの所定領域情報は、閲覧者Yが登録したものである。
なお、設置者Xが店舗内に撮像装置1を登録するので、拠点レイアウトマップへの登録も設置者Xが行うことが好適である。しかし、閲覧者Yが登録してもよい。設置者Xは任意の情報処理装置で画像管理装置5と通信し、端末IDを特定して自分が撮像装置1を設置した座標を登録する。この時点ではデフォルト視点IDは登録されていなくてよい。
表3は、撮像管理DB5003に記憶される各情報をテーブル状に示す撮像管理テーブルの概念図である。撮像管理テーブルでは、拠点IDごとに、撮像タイトル、撮像開始日時、及び撮像終了日時の各フィールドが関連付けて記憶されている。撮像タイトルは、閲覧者Yが入力したイベントのタイトルである。つまり、閲覧者Yが消費者の行動を監視したい何らかのイベントが店舗で催される場合に、このイベントの名称が撮像タイトルとなる。当然ながら、イベントの名称は閲覧者Yが任意に付与できるためイベントの名称でなくてもよい。例えば、単に撮像年月日とすることもできる。閲覧者Yは、画像データの複数のファイルから所望の画像データを抽出する際に、撮像タイトルを参照することができる。なお、1回の撮像イベントで複数の画像データが時系列に(定期的に)撮像される。撮像開始日時は、閲覧者Yによって入力された日時であり、撮像装置1が撮像を開始する(又は開始した)日時を示す。撮像終了日時は、閲覧者Yによって入力された日時であり、撮像装置1が撮像を終了する(又は終了した)日時を示す。閲覧者Yは撮像開始日時と撮像終了日時を事前に登録しておくこともできる(予約撮像)。
撮像管理テーブルは、主に画像管理装置5が登録する。
表4は、画像管理DB5004に記憶される各情報をテーブル状に示す画像管理テーブルの概念図である。画像管理テーブルでは、端末IDごとに、画像ID、画像データのファイル名、及び撮像日時が関連付けて記憶されている。画像IDは、画像データを一意に識別するための識別情報の一例である。画像固有情報と称してもよい。画像データのファイル名は、画像IDで特定される画像データのファイル名である。撮像日時は画像データが端末IDで示される撮像装置1で撮像された日時である。画像データも、記憶部5000に記憶されている。
例えば、情報端末7で画像管理装置5にアクセスし、表3の撮像管理テーブルから拠点名と撮像タイトルを選ぶ。画像管理装置5は拠点IDに対応付けられている端末IDを表1の拠点管理テーブルから読み出すことができる。端末IDが明らかになるので、画像管理テーブルの端末IDに対応付けられた画像データのうち撮像日時が撮像開始日時から撮像終了日時に含まれる画像データを画像管理装置5が特定できる。
当然ながら、閲覧者Yは端末IDや拠点IDを直接指定することもできる。本実施形態では、簡単のため閲覧者Yが端末IDを指定して閲覧する態様を主に説明する。なお、画像管理テーブルは、主に画像管理装置5が登録する。
表5は、サムネイル管理DB5005に記憶される各情報をテーブル状に示すサムネイル管理テーブルの概念図である。サムネイルとは親指程度のという意味であり、サムネイル画像は縮小した、画素数を低減した又は一覧用のイメージデータという意味になる。
サムネイル管理テーブルでは、画像IDごとに、サムネイルID、サムネイル画像のファイル名、及び所定領域情報が関連付けて記憶されている。サムネイルIDは、画像IDで示される画像データに基づいて作成されたサムネイル画像を一意に識別するための識別情報の一例である。サムネイル固有情報と称してもよい。サムネイル画像のファイル名は、サムネイルIDで示されるサムネイル画像のファイル名である。サムネイル画像のファイル名は画像管理装置5が付与する。所定領域情報は、画像IDで示される画像データにおいて、サムネイル画像が作成された所定領域を示す。例えば、図6(a)の全方位画像における所定領域Tの画像が図6(b)に示されているが、図6(b)のサムネイル画像が作成される場合、この所定領域Tの画像でからサムネイル画像が作成される。
サムネイル管理テーブルは、主に画像管理装置5が登録する。
表6は、視点管理DB5006に記憶される各情報をテーブル状に示す視点管理テーブルの概念図である。視点管理テーブルでは、視点ID、端末ID、ユーザID、所定領域情報、拠点タイトル、及び、公開/非公開の各フィールドが対応付けられている。視点IDは、所定領域情報を一意に識別するための識別情報である。所定領域固有情報と称してもよい。また、ユーザIDは閲覧者Yを一意に識別するための識別情報である。閲覧者固有情報と称してもよい。したがって、画像管理装置5は、端末ごとかつ閲覧者ごとに所定領域情報を登録できる。
また、視点タイトルは、閲覧者Yが所定領域情報を区別するために付与する所定領域情報の名称である。個人/公開には、所定領域情報を公開するか否かが閲覧者Yにより設定される。拠点管理テーブルは、閲覧者Yが操作する情報端末7とのデータ通信により主に画像管理装置5が登録する。
表7は、ユーザ管理DB5007に記憶される各情報をテーブル状に示すユーザ管理テーブルの概念図である。ユーザ管理テーブルでは、ユーザID、ログイン名、及び、パスワードの各フィールドが対応付けられている。ログイン名は画像管理装置5にユーザがログインする際のユーザの名前である。パスワードは正式のユーザであることを画像管理装置5に通知するための任意の文字列である。ログイン名、及び、パスワードは閲覧者の認証のために使用される認証情報である。ユーザ管理テーブルは、閲覧者Yが操作する情報端末7とのデータ通信により主に画像管理装置5が登録する。
(画像管理装置の各機能構成)
画像管理装置5の送受信部51は、主に、図11に示されているネットワークI/F509及びCPU501の処理によって実現され、通信ネットワーク9を介して通信端末3、又は情報端末7と各種データの送受信を行う。なお、以下では、画像管理装置5が情報端末7と通信する場合でも、「送受信部51を介して」という記載を省略する場合がある。
人物検出部52は、主に、図11に示されているCPU501の処理によって実現され、画像データから人物を検出する。この人物の検出は適切な特徴量の設定と、学習識別装置の設定により行われる。例えば、特徴量としては、Haar-like特徴、LBP(Local Binary Patterns)特徴、HOG(Histogram of Oriented Gradients)特徴などが知られている。また、学習識別装置としては、SVM(Support Vector Machines)、AdaBoostを用いたカスケード分類などが知られている。ただし、これらに限られるものではなく人を検出できればよい。
サムネイル作成部53は、主に、図11に示されているCPU501の処理によって実現され、所定領域画像のサムネイル画像を作成する。
画面作成部54は、画像データを情報端末7に送信する際に、HTMLデータ、JavaScript(登録商標)及びCSSなどで情報端末7が画像データを表示するための画面情報を作成する。
認証部57は、主に、図11に示されているCPU501の処理によって実現され、情報端末7から送信されたログイン名とパスワードに基づいて、ユーザの認証が成立するか否かを判定し、ユーザの認証が成立した場合にはユーザIDを特定する。なお、ユーザの認証は画像管理装置5でなく外部の認証サーバが行ってもよい。
領域情報登録部56は、図11に示されているCPU501の処理によって実現され、情報端末7から視点の登録要求を受信した場合、視点管理DB5006の各フィールドに拠点ID、端末ID、及び、所定領域情報等を登録する。
デフォルト視点登録部55は、図11に示されているCPU501の処理によって実現され、情報端末7からデフォルト視点の登録要求を受信した場合、視点IDをデフォルト視点IDとして端末管理DB5002に登録する。デフォルトとは予め標準として用意されている状態や動作をいう。
記憶・読出部59は、主に、図11に示されているHDD505、及びCPU501の処理によって実現され、記憶部5000に各種データを記憶したり、記憶部5000から各種データを読み出したりする。なお、以下では、画像管理装置5が記憶部5000から読み書きする場合でも「記憶・読出部59を介して」という記載を省略する場合がある。
<情報端末7の機能構成>
情報端末7は、送受信部71、受付部72、表示制御部73、及び、記憶・読出部79を有している。これら各部は、図11に示されている各構成要素のいずれかが、HD504からRAM503上に展開された情報端末7用のプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
また、情報端末7は、図11に示されているRAM503、及びHD504によって構築される記憶部7000を有している。記憶部7000には情報端末7用のプログラムが記憶されている。情報端末7用のプログラムは、例えばブラウザソフトウェアであるが、ブラウザソフトウェアのような通信機能を備えたアプリケーションソフトウェアでもよい。
(情報端末7の各機能構成)
情報端末7の送受信部71は、主に、図11に示されているネットワークI/F509及びCPU501の処理によって実現され、通信ネットワーク9を介して画像管理装置5と各種データの送受信を行う。なお、以下では、情報端末7が画像管理装置5と通信する場合でも、「送受信部71を介して」という記載を省略する場合がある。
受付部72は、主に、図11に示されているキーボード511及びマウス512、並びにCPU501の処理によって実現され、ユーザ(図8では、閲覧者Y)からの操作入力を受け付ける。
表示制御部73は、主に、図11に示されているCPU501の処理によって実現され、画像管理装置5から送信された画面情報を解釈して情報端末7のディスプレイ508に各種画面を表示させるための制御を行なう。
記憶・読出部79は、主に、図11に示されているHD504、及びCPU501の処理によって実現され、記憶部7000に各種データを記憶したり、記憶部7000から各種データを読み出したりする。なお、以下では、情報端末7が記憶部7000から読み書きする場合でも「記憶・読出部79を介して」という記載を省略する場合がある。
<拠点レイアウトマップ>
図14は、拠点レイアウトマップの一例を示す図である。図14の拠点レイアウトマップは、左上コーナーを原点にして水平方向をX座標、垂直方向をY座標とする2次元座標で拠点レイアウトマップ内の位置を特定可能である。表2の端末設置位置にはこのX座標とY座標が登録される。
<実施形態の処理又は動作>
続いて、本実施形態の画像通信システム200の処理又は動作についてシーケンス図等を用いて説明する。
<<画像の閲覧>>
図15は、情報端末7が画像を閲覧する処理又は動作を説明するシーケンス図の一例を示し、図16、図17は情報端末7のディスプレイ508に表示される画面例を示す。
S1:まず、情報端末7の受付部72は撮像装置1の選択を受け付ける。具体的には、閲覧者Yが情報端末7を操作してURLを指定して画像管理装置5と通信し、画像管理装置5にログインする。これによりユーザIDが特定される。閲覧者Yが例えば拠点名を指定することで、画像管理装置5の画面作成部54は拠点名で特定される拠点レイアウトマップを表示するための画面情報を作成し情報端末7に送信する。すなわち、端末管理DB5002から端末設置位置を読み出して拠点レイアウトマップに撮像装置1を示すアイコン601を配置する。なお、アイコン601は端末IDと関連付けされている(例えばリンクされている)ため、アイコン601が選択されると端末IDが選択される。
情報端末7の送受信部71は拠点レイアウトマップを取得し、図16(a)のような画面の拠点レイアウトマップ603が情報端末7のディスプレイ508に表示される。閲覧者Yは画像データを閲覧したい場所にある撮像装置1を示すアイコン601を選択する。情報端末7の受付部72は閲覧者が指やマウス等のポインティングデバイスで入力した座標を取得することで、アイコン601の選択(端末ID)を受け付ける。アイコン601は端末IDと関連付けられているため、端末IDを特定できる。
これにより、図16(b)に示すように、情報端末7の表示制御部73は閲覧者Yが選択した撮像装置1のアイコン601を強調表示する。図16(b)ではアイコン601が矢印602で示されている。この他、アイコン601を点滅させてもよいし、色変えてもよいし、枠で囲んでもよい。
S2:情報端末7の送受信部71は端末IDと共に画像データの取得要求を画像管理装置5に送信する。
S3:画像管理装置5の送受信部51は画像データの取得要求を受信して、画面作成部54が画像管理DB5004から端末IDに対応付けられた画像データを読み出す。同じ端末IDに複数の画像データのファイル名が登録されている場合は、撮像日時が最も新しいものを送信してもよいし、閲覧者Yが撮像日時を選択してもよい。なお、情報端末7が画像管理装置5にアクセスして最初に表示する視点は端末管理DB5002に登録されたデフォルト視点でもよい。
S4:画像管理装置5の送受信部51は画像データを情報端末7に送信する。具体的には、画像管理装置5の画面作成部54は画像データ及び拠点レイアウトマップ603を表示するための画面情報を作成し情報端末7に送信する。画像管理装置5の送受信部51は時系列の画像データを順番に送信していく。なお、図15では拠点レイアウトマップ603が送信されることは省略されている。
S5:情報端末7の送受信部71は画面情報を受信して、表示制御部73がディスプレイ508に表示する。これにより、図17に示すような画面が表示される。図17では、矢印602が示すアイコン601の撮像装置1が撮像した画像データの所定領域画像604が表示されている。なお、この所定領域画像604は、撮像装置1の正面方向などの初期設定の所定領域情報で切り出された画像である。
このように、閲覧者Yは定点観測している撮像装置1を選択することで画像データを閲覧できる。なお、閲覧者Yは端末IDを直接、入力して画像データを閲覧してもよい。
<<視点登録>>
図18は、閲覧者Yが所定領域情報を登録する処理又は動作を説明するシーケンス図の一例を示し、図19は情報端末7のディスプレイ508に表示される画面例を示す。
S1:閲覧者Yは情報端末7を操作して所望の視点に移動させる。情報端末7の表示制御部73は、受付部72が受け付けた操作に応じて所定領域画像を変更する。
S2:視点が決まると閲覧者Yは視点登録のための操作を行う。図19の画面例では視点登録ボタンを押下する。視点登録ボタン611は予め表示されていてもよいし、マウスオーバーなどのイベントで表示されてもよい。情報端末7の受付部72はポインティングデバイスが入力する座標に基づいて視点登録ボタン611の押下を受け付ける。これにより、情報端末7の表示制御部73は、視点タイトル入力画面612をポップアップ表示する。視点タイトル入力画面612は視点タイトル欄613、OKボタン614、及び、キャンセルボタン615を有している。閲覧者Yは視点タイトル欄613に視点タイトルを入力し、OKボタン614を押下する。
なお、所定領域画像をそのまま所定領域情報とするのでなく、閲覧者YがX座標とY座標を入力することで所定領域情報を入力してもよい。この場合、情報端末7の受付部72はX座標とY座標の入力欄をディスプレイ508に表示する。
情報端末7の受付部72はOKボタン614の押下を受け付けると、視点タイトル欄613から視点タイトルを取得する。
S3:情報端末7の送受信部71は端末ID、所定領域情報、及び、視点タイトルと共に視点の登録要求を送信する。端末IDは閲覧者がアイコン601で選択した撮像装置1の端末IDであり、所定領域情報は図19の所定領域画像604を画像データから切り出す際に用いられたものでよい。
S4:画像管理装置5の送受信部51は端末ID、所定領域情報、及び、視点タイトルを受信し、領域情報登録部56が視点管理DB5006にこれらを登録する。具体的には、重複しない視点IDを採番し、端末ID、所定領域情報及び視点タイトルを対応付けて登録する。なお、ユーザIDと個人/公開については後述する。
このように、閲覧者Yは所望の所定領域画像を表示させてボタンを押下するという簡単な操作で視点(所定領域情報)を登録できる。
<<登録済みの視点の選択>>
図20は、閲覧者Yが登録済みの視点を選択して視点を切り替える処理又は動作を説明するシーケンス図の一例を示し、図21(a)は情報端末7のディスプレイ508に表示される画面例を示す。
S1:情報端末7の受付部72は撮像装置1の選択を受け付ける。この処理は図15と同様でよい。
S2:情報端末7の送受信部71は端末IDと共に、画像データ及び視点リストの取得要求を画像管理装置5に送信する。なお、図15においても視点リストの取得要求が送信されてよい。図15では視点リストがまだ登録されていないため、視点リストが送信されない場合を想定したシーケンス図になっている。また、この端末IDは撮像装置1をユーザが指定するための情報であるが、端末IDの他、撮像装置1の名称を送信してもよい。この場合、撮像装置1の名称と端末IDが画像管理装置5において紐付けられている。また、撮像装置1の名称の他、端末設置位置を送信してもよい。この場合、画像管理装置5において紐付けはなくてもよい。
S3:画像管理装置5の送受信部51は画像データの取得要求を受信して、画面作成部54が画像管理DB5004から端末IDに対応付けられた画像データを読み出す。この処理は図15と同様でよい。
S4:次に、画像管理装置5の画面作成部54は、端末IDに対応付けられた所定領域情報及び視点タイトルを視点管理DB5006から読み出す。具体的には、画像管理装置5の画面作成部54は画像データ、拠点レイアウトマップ及び視点リストを表示するための画面情報を作成する。なお、視点リストには視点タイトルだけでなく視点管理DB5006に含まれる各レコードの情報が関連付けられている。
S5:画像管理装置5の送受信部51は画像データ、拠点レイアウトマップ及び視点リストを表示するための画面情報を情報端末7に送信する。
S6:情報端末7の送受信部71は画像データ、拠点レイアウトマップ及び視点リストを表示するための画面情報を受信して、表示制御部73がディスプレイ508に画面を表示する。これにより、図21(a)に示すような画面が表示される。図21(a)では、図17に対し視点リスト欄621が表示されている。
視点リスト欄621には、視点タイトル623の一覧及び視点タイトルごとに削除ボタン622が表示されている。閲覧者は任意の視点タイトル623を選択することができる。なお、削除ボタン622については後述される。また、視点タイトル623は視点をユーザが判別できる情報であり、視点タイトル623は所定領域情報に関する情報の一例である。視点タイトル623の他、所定領域情報の登録日時や所定領域情報そのものを表示してもよい。
なお、図21(a)では、所定領域画像604が撮像装置1の正面方向など初期設定の所定領域画像のままであるが、視点タイトル623のいずれかの所定領域情報で切り出した所定領域画像604を情報端末7が作成してもよい。例えば、視点リスト欄621で最上部の所定領域情報で切り取った所定領域画像604を表示する。これにより、情報端末7は、画像データを受信した直後から登録された視点の所定領域画像604を表示できる。
S7:閲覧者が視点タイトル623を選択すると、情報端末7の受付部72は視点タイトル623の選択を受け付ける。具体的には、ポインティングデバイスの入力した座標に基づき選択された視点タイトル623を受け付ける。そして、視点タイトルに関連付けられた所定領域情報を取得する。
S8:情報端末7の表示制御部73は画像データの視点を切り替えて表示する。すなわち、選択された視点タイトル623に関連付けられた所定領域情報で画像データから所定領域画像604を切りだしディスプレイ508に表示する。
図21(b)は図21(a)で閲覧者Yが視点タイトルを選択した後、情報端末7がディスプレイ508に表示する画像データを示す。図21(b)の画像データは図21(a)の画像データと撮像された時刻が異なっているが(画像データのフレームが切り替わっている)、同じ視点で表示できることが分かる。したがって、閲覧者Yが一度、視点タイトル623を選択すると別の視点タイトル623を選択するまで、同じ視点で画像データを表示することができる。
情報端末7がブラウザソフトウェアを終了しても、ブラウザソフトウェアを再度起動した際に閲覧者Yが登録されている視点タイトル623を選択するので、情報端末7は所望の視点で継続して画像データを閲覧できる。あるいは、閲覧者Yが視点タイトル623を選択しなくても、登録されている所定領域情報のいずれかで画像データから所定領域画像604を切り出して表示できる。
(閲覧者による画像データに対する操作)
図22は、閲覧者Yが画像データを操作する手順を示すフローチャート図の一例である。
情報端末7の受付部72は画面に対する操作を受け付ける(S10)。
受付部72は受け付けた操作が視点タイトル623の選択か否かを判定する(S20)。
ステップS20の判定がYesの場合、上記のように表示制御部73が所定領域情報に基づいて所定領域画像604(すなわち視点)を切り替える(S30)。
ステップS20の判定がNoの場合、表示制御部73は操作に応じて画像データを表示させる(S40)。すなわち、ピンチインによる縮小、ピンチアウトによる拡大、スワイプによる視点移動などを受け付け、所定領域画像604を縮小したり拡大したり、所定領域画像604の中心を移動させたりする。
(登録済みの視点の表示方法の別の例)
図21では視点リスト欄に視点タイトルが表示されたが、視点タイトルを所定領域画像に重畳して表示することも可能である。
図23は情報端末7のディスプレイ508に表示される画面の別の例を示す。図23では所定領域画像604に重畳して視点タイトル625が表示されている。このような視点タイトル625の表示は情報端末7の表示制御部73が行う。
この処理について図24を用いて説明する。図24(a)は、情報端末7の表示制御部73が所定領域画像604に重畳して視点タイトル625を表示する手順を示すフローチャート図の一例である。図24(a)の処理は視点リストに含まれる1つの所定領域情報ごとに行われる。
まず、情報端末7の送受信部71は、図20のステップS5のように、画像データ、拠点レイアウトマップ及び視点リストを表示するための画面情報を受信する(S10)。
情報端末7の表示制御部73はディスプレイ508に表示される所定領域画像604に、着目している所定領域情報が含まれるか否かを判定する(S20)。すなわち、着目している所定領域情報が有する所定領域画像の中心の座標が、ディスプレイ508に表示される所定領域画像604に含まれるかどうかを判定する。ディスプレイ508に表示される所定領域画像604の外縁となる頂点のX座標とY座標は図7にて説明したように所定領域情報やアスペクト比から算出される。
ステップS20の判定がYesの場合、着目している所定領域情報が示す座標に視点タイトルを表示する(S30)。所定領域情報が示す座標とは、所定領域情報が含むx座標とy座標である。
ステップS20の判定がNoの場合、着目している所定領域情報がディスプレイ508に表示される所定領域画像に対し左回りと右回りのどちらの方が近いかを決定する(S50)。この決定処理を図24(b)を用いて説明する。図24(b)は、全方位画像を上から見た模式図である。ディスプレイ508に表示される所定領域画像604には着目している所定領域情報が入らないが、画像データは全方位画像なので水平方向に360度連続している。したがって、ディスプレイ508に表示される所定領域画像604に向かって左回りでも右回りでも所定領域情報が示す座標に到達できる。
そこで、情報端末7の表示制御部73は着目している所定領域情報とディスプレイ508に表示される所定領域画像604の左端までの距離Aと、着目している所定領域情報とディスプレイ508に表示される所定領域画像の右端までの距離Bとを算出し、どちらが短いかを判定する。
図24(a)に戻り、表示制御部73は、着目している所定領域情報と近い方の所定領域画像604の端部に視点タイトルを表示する(S60)。図24(b)では距離Aの方が短いので所定領域画像604の左側の端部に視点タイトルを表示する。
次に、表示制御部73は視点リストに含まれる全ての所定領域情報について処理したか否かを判定する(S40)。ステップS40の判定がNoの場合はステップS20から処理を繰り返す。
図23に示す「棚A拡大」という視点タイトル625aと「丸い棚」という視点タイトル625bは、所定領域情報がディスプレイ508の所定領域画像604に含まれるため、所定領域情報が示す座標に表示されている。一方、「レジ」という視点タイトル625cは、所定領域情報がディスプレイ508の所定領域画像604に含まれない。また、左回りの方が、ディスプレイ508に表示される所定領域画像604から「レジ」という視点タイトル625cの所定領域情報までの距離が短い。このため、所定領域画像604の左端に「レジ」という視点タイトル625cが表示されている。また、「レジ」という視点タイトル625cには左側に方向示す矢印626が形成されている。これにより、閲覧者Yは所定領域画像604よりも左側に「レジ」という視点タイトル625cがあることを把握できる。
なお、図24の所定領域画像に表示される視点タイトル625にも視点管理テーブルの1レコードの情報が関連付けられている。情報端末7の表示制御部73はポインティングデバイスの入力した座標に基づき選択された視点タイトル625を受け付けると、視点タイトル625に関連付けられた所定領域情報を取得して、画像データの視点を切り替えて(所定領域画像604を変えて)表示する。
<<登録済みの所定領域情報の削除>>
図21に示したように、視点リスト欄621には削除ボタン622が表示される。閲覧者Yが削除ボタン622を押下することで、所定領域情報を削除できる。
図25は、閲覧者Yが登録済みの視点を削除する処理又は動作を説明するシーケンス図の一例を示す。なお、図25では主に図20との相違を説明する。ステップS1〜S6の処理により図21の画面が表示される。
S7:閲覧者Yは削除ボタン622を押下することで削除する視点(視点タイトル623に関連付けられた所定領域情報)を選択する。情報端末7の受付部72は視点タイトル623の削除を受け付ける。具体的には、ポインティングデバイスの入力した座標に基づき削除ボタン622の選択と削除ボタン622に対応する視点タイトル623を受け付ける。これにより視点IDを特定できる。
S8:情報端末7の送受信部71は視点IDと共に視点削除要求を画像管理装置5に送信する。
S9:画像管理装置5の送受信部51は視点削除要求を受信して、領域情報登録部56が視点IDで特定される1レコードを視点管理DB5006から削除する。このようにして閲覧者Yは視点を削除できるため、多くなりすぎた視点を整理することができる。なお、この後、画像管理装置5はステップS5を行って、新しい視点リストを情報端末7に送信する。
<<デフォルトの視点の登録>>
これまで説明したように、1つでも視点(所定領域情報)が登録された後は、情報端末7は画像データを受信した直後から、登録された所定領域情報で切り出される所定領域画像をディスプレイ508に表示することができる。しかし、複数の視点(所定領域情報)が登録されている場合、閲覧者がデフォルトの視点を明示的に登録できれば便利である。すなわち、情報端末7が画像データを受信した直後からよく使う視点の所定領域画像をディスプレイ508に表示できる。
図26は、閲覧者Yが登録済みの視点からデフォルトの視点を登録する処理又は動作を説明するシーケンス図の一例を示し、図27は情報端末7のディスプレイ508に表示される画面例を示す。なお、すでに図20の処理が行われ、ディスプレイ508には図27の画面が表示されているものとする。この場合、画像管理装置5の画面作成部54は、視点リスト欄621にデフォルト設定のためのラジオボタン627を表示する画面情報を作成する。
S1:まず、閲覧者Yはラジオボタン627からいずれかを選択する。情報端末7の受付部72はラジオボタン627が押下された視点(所定領域情報)の選択を受け付ける。これにより、視点IDを特定できる。
S2:情報端末7の送受信部71は端末ID及び視点IDと共にデフォルト視点の登録要求を画像管理装置5に送信する。端末IDについては視点リストを取得する時点で特定されている。
S3:画像管理装置5の送受信部51はデフォルト視点の登録要求を受信し、デフォルト視点登録部55が端末管理DB5002の端末IDに対応付けてデフォルト視点IDのフィールドに視点IDを登録する。なお、すでにデフォルト視点IDのフィールドに視点IDが登録されている場合、上書きされる。
このようにデフォルト視点が登録されると、次回、閲覧者Yが撮像装置1のアイコン601を選択して(端末IDを指定して)画像データを画像管理装置5から取得した際、情報端末7はデフォルト視点IDの視点IDで所定領域画像を表示できる。
図28は、デフォルト視点が設定された情報端末7のディスプレイ508に表示される画面例を示す。図27で「棚A拡大」という視点タイトル623がデフォルトの視点として選択されたものとする。画像管理装置5が端末IDと共に画像データの取得要求を受信すると、画像管理装置5の記憶・読出部59が端末管理DB5002から端末IDに対応付けられたデフォルト視点IDを読み出す。そして、視点管理DB5006からデフォルト視点IDに対応付けられているレコードを読み出す。画像管理装置5はデフォルト視点IDに対応付けられている所定領域情報を画像データと共に情報端末7に送信する。これにより、情報端末7の表示制御部73はデフォルト視点の所定領域情報で画像データから切り出した所定領域画像604をディスプレイ508に表示できる。したがって、閲覧者Yが視点を切り替えることなく、画像データを受信した直後からデフォルトの視点で画像データを閲覧できる。
<<サムネイル画像の表示>>
情報端末7が視点リストを表示する際に各視点のサムネイル画像が表示されれば閲覧者Yが視点を選択しやすくなる。
図29は、情報端末7がサムネイル画像を表示する処理又は動作を説明するシーケンス図の一例を示し、図30は情報端末7のディスプレイ508に表示される画面例を示す。
S1:閲覧者は情報端末7を操作して撮像装置1を選択する。この処理は、図15のS1と同様でよい。
S2:情報端末7の送受信部71は画像データ及び視点リストの取得要求を画像管理装置5に送信する。
S3:画像管理装置5の送受信部51は画像データ及び視点リストの取得要求を受信し、サムネイル作成部53が画像管理DB5004から端末IDに対応付けられている画像データを読み出す。また、サムネイル作成部53は視点管理DB5006から端末IDに対応付けられている所定領域情報を読み出す。
S4:そしてサムネイル作成部53は、画像データからサムネイル画像を作成する。具体的には、画像データから所定領域情報に基づいて所定領域画像を切り出し、予め定められたサイズに縮小するなどしてサムネイル画像を作成する。視点管理DB5006の同じ端末IDに複数の所定領域情報が対応付けられている場合は、所定領域情報ごとにサムネイル画像を作成する。画像管理装置5の画面作成部54は、サムネイル画像631を用いて視点リスト欄621を表示する画面情報を作成する。具体的には、視点タイトル623に並んでサムネイル画像631が表示されるように画面情報を作成する。
S5:情報端末7の送受信部71は画像データ、拠点レイアウトマップ及び視点リストを表示するための画面情報を情報端末7に送信する。なお、視点リストには視点管理DB5006に含まれる情報に加え、サムネイル画像631が関連付けられている。
S6:情報端末7の送受信部71は画像データ、拠点レイアウトマップ及び視点リストを表示するための画面情報を受信して、表示制御部73がディスプレイ508に画面を表示する。これにより、図30に示すような画面が表示される。
ステップS7,8の処理は図20と同様でよい。
図30では、視点リスト欄621に各視点のサムネイル画像631が表示されている。閲覧者Yは視点タイトル623だけでなくサムネイル画像631を選択することでも視点を選択できる。この場合、情報端末7の受付部72はポインティングデバイスが入力する座標に基づきサムネイル画像631を特定しサムネイル画像631に関連付けられている所定領域情報を特定する。
サムネイル画像631が表示されることで、閲覧者Yは各視点に何が写っているかをイメージできるので、視点を選択しやすくなる。サムネイル画像631は所定領域画像に入りきらない視点においても作成されているので、閲覧者Yは注目すべき視点を探しやすくなる。
なお、図29では画像管理装置5がサムネイル画像631を作成したが、サムネイル画像631の作成は情報端末7が行ってもよい。
画像データは定期的に撮像されており、フレームレートが低い動画のように被写体が変化する。画像データが切り替わるとサムネイル画像631も新たに作成される。閲覧者Yは任意のタイミングでフレームを切り替えることもできるし、動画のように連続的にフレームを切り替えることもできる。
図31は、サムネイル画像631が切り替わった情報端末7のディスプレイ508に表示される画面例を示す。図31では、所定領域画像604とサムネイル画像631に人影632が写っている。すなわち、画像データが切り替わるとサムネイル画像631も同じように変化する。
サムネイル画像631は、所定領域画像に入りきらない視点においても作成されているので、閲覧者Yはサムネイル画像631を参照して変化のあった視点に容易に切り替えることができる。
<<視点の公開・非公開(個人)の設定>>
続いて、図32〜図35を用いて視点の公開と非公開の設定について説明する。図32は、閲覧者Yが視点を登録する際に公開か非公開を設定する処理又は動作を説明するシーケンス図の一例を示し、図33は情報端末7のディスプレイ508に表示される画面例を示す。
S1:閲覧者Yは情報端末7を操作して所望の視点に移動させる。情報端末7の表示制御部73は、受付部72が受け付けた操作に応じて所定領域画像604を変更する。
S2:視点が決まると閲覧者Yは視点登録のための操作を行う。図33の画面例では図19との相違を主に説明する。図33では視点タイトル入力画面612に「個人」又は「公開」を選択するためのラジオボタン641が表示されている。閲覧者Yは、登録しようとしている視点を公開するか否かを判定しラジオボタン641を選択する。情報端末7の受付部72はOKボタン614の押下を受け付けると、視点タイトル欄613から視点タイトル、個人(公開不可)と公開(公開可)のどちらが選択されたかを示す公開フラグを取得する。
S3:情報端末7の送受信部71は端末ID、所定領域情報、視点タイトル、公開フラグ、及び、ユーザIDを送信する。なお、ユーザIDは画像管理装置5へのログインにより特定されており、画像データと共に情報端末7に送信されている。あるいは、クッキーなどの手法によりユーザIDを特定できる。
S4:画像管理装置5の送受信部51は端末ID、所定領域情報、視点タイトル、公開フラグ、及び、ユーザIDを受信する。そして、領域情報登録部56が端末ID、所定領域情報、視点タイトル、公開フラグ、及び、ユーザIDを視点管理DB5006に登録する。したがって、撮像装置1ごと(端末IDごと)だけでなく、閲覧者Yごとに視点を登録できる。また、閲覧者Yは視点を公開するかどうかを登録できる。他の閲覧者に対し注目させたい視点があれば公開することができ、個人的に興味がある視点であれば非公開にすることができる。これにより視点リスト欄621に表示される視点リストの数が多くなりすぎることも抑制できる。
次に、公開か非公開かが設定された後にディスプレイ508に表示される画面について説明する。
図34は、公開か非公開かが設定された後に、情報端末7が画像データを表示する処理又は動作を説明するシーケンス図の一例を示し、図35は情報端末7のディスプレイ508に表示される画面例を示す。
S1:情報端末7の受付部72は撮像装置1の選択を受け付ける。
S2:情報端末7の送受信部71は、端末ID及びユーザIDと共に、画像データ及び視点リストの取得要求を画像管理装置5に送信する。
S3:画像管理装置5の送受信部51は端末ID及びユーザIDと共に画像データ及び視点リストの取得要求を受信する。そして、画面作成部54が画像データを画像管理DB5004から読み出す。
S4:また、端末IDに対応付けられているレコードのうち個人/公開が「公開」となっているレコードを読み出す。同様に、ユーザIDに対応付けられているレコードを読み出す。重複しているレコードは1つだけ読み出せばよい。画面作成部54はこれらから視点リスト欄621を表示するための画面情報を作成する。
S5:画像管理装置5の送受信部51は画像データ及び視点リストを情報端末7に送信する。
S6:情報端末7の送受信部71は画像データ及び視点リストを受信し、表示制御部73がディスプレイ508に図35のような画面を表示する。「棚A拡大」と「丸い棚」という視点タイトル623は閲覧者Yが登録した視点であるが、「入口部分」という視点タイトル629は別のユーザが登録した視点である。別のユーザが登録した視点は削除すべきでないので、削除ボタン622が表示されない。この場合、視点管理DB5006で閲覧者YのユーザIDに対応付けられていない視点タイトルに対し削除ボタン622を表示しない画面情報を画面作成部54が作成する。
ステップS7,8の処理は図20と同様でよい。
したがって、閲覧者Yは自分が設定した視点だけでなく、他のユーザが登録し公開されている視点で画像データを表示させることができる。
なお、ユーザIDが送信されることを利用して、ユーザごとにデフォルトの視点を登録してもよい。この場合、画像管理装置5は端末管理DB5002のデフォルト視点IDのフィールドにユーザIDに対応付けて視点IDを登録すればよい。
<<視点の自動登録>>
閲覧者Yが視点を登録する他、注目すべき視点が自動的に登録されれば便利な場合がある。例えば、人が集まる場所が自動で登録されていれば、閲覧者Yは自動的に登録された視点を選択してすぐにその視点で所定領域画像を表示できる。
図36は、自動的に登録された視点の所定領域画像を情報端末7が表示する処理又は動作を説明するシーケンス図の一例を示し、図37は情報端末7のディスプレイ508に表示される画面例を示す。
S1:情報端末7の受付部72は撮像装置1の選択を受け付ける。
S2:情報端末7の送受信部71は、端末IDと共に画像データ及び視点リストの取得要求を画像管理装置5に送信する。
S3:画像管理装置5の送受信部51は端末IDと共に画像データ及び視点リストの取得要求を受信する。そして、画面作成部54が画像データを画像管理DB5004から読み出す。
S4:画像管理装置5の人物検出部52は画像データの全体に人検出処理を行う。人がいる上下方向の範囲は決まっているので、ある範囲だけ行ってもよい。
S5:人物検出部52が人を検出した場合、画面作成部54は視点リストに人が検出された座標を含む所定範囲を所定領域情報として作成する。なお、視点タイトルは、予め定められた例えば「人検出(自動登録)」とする。
S6:画像管理装置5は画像データと視点リストを情報端末7に送信する。
S7:情報端末7の送受信部71は画像データと視点リストを受信して、表示制御部73が図37のような画面をディスプレイ508に表示する。図37の画面では視点リスト欄621に「人検出(自動登録)」という視点タイトル637が表示されている。閲覧者Yは「人検出(自動登録)」という視点タイトル637を目視して自動的に登録された視点があることを把握し、必要であれば視点を切り替えることができる。「人検出(自動登録)」という視点タイトル637が押下されたことで、図37の所定画像情報には人が含まれている。
ステップS8,9の処理は図20のステップS7,8と同様でよい。
なお、単に人を検出するのでなく、大人、子供、男性、女性などのように人間を属性で分類して検出してもよい。閲覧者Yは属性によって行動がどのように変わるか等を分析できる。
また、画像管理装置5は商品が多く売れたことを画像処理で検出して、該商品が含まれる視点を登録してもよい。この場合、商品が売れたのは商品が減る前であるが、視点登録されれば、閲覧者Yは時間的に遡って画像データを閲覧する際に、登録された視点で所定領域画像を表示できる。
したがって、人に限られず画像管理装置5が画像処理することで所望の現象を検出し、視点を登録することができる。なお、現象とは観察されうる事実であり、注目すべき変化ということができる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態では全方位画像を例にして説明したが、情報端末7に提供される画像は必ずしも全方位画像でなくてもよい。例えばディスプレイ508に全体が表示しきれない広角画像が含まれる。
上記の実施形態では、情報端末7が画像管理装置5に視点を登録したが、情報端末7が自機に視点を登録してもよい。すなわち、情報端末7が撮像装置1から画像データを取得し、閲覧者Yが決定した所定領域情報を端末IDと対応づけて記憶する。この場合でも、閲覧者Yが撮像装置1を選択する(端末IDを選択する)ことで、同じ視点で所定領域画像を表示できる。
また、以上の実施例で示した図13などの構成例は、撮像装置1、通信端末3、画像管理装置5及び情報端末7の処理の理解を容易にするために、主な機能に応じて分割したものである。しかし、各処理単位の分割の仕方や名称によって本願発明が制限されることはない。撮像装置1、通信端末3、画像管理装置5及び情報端末7の処理は、処理内容に応じてさらに多くの処理単位に分割することもできる。また、1つの処理単位がさらに多くの処理を含むように分割することもできる。
また、画像管理装置5が有する機能の全て又は1以上を情報端末7が有していてよく、情報端末7が有する機能の全て又は1以上を画像管理装置5が有していてもよい。
また、画像管理装置5の記憶部5000のデータベースは、画像管理装置5が直接有する他、画像管理装置5が読み書き可能な通信ネットワーク9上にあればよい。
なお、所定領域画像は表示範囲の一例であり、受付部72は受付手段の一例であり、領域情報登録部56は登録手段の一例であり、送受信部51は提供手段の一例であり、表示制御部73は表示制御手段の一例である。所定範囲情報は表示範囲情報の一例であり、視点管理DB5006は記憶装置の一例である。
サムネイル作成部53はサムネイル画像作成手段の一例であり、認証部57は識別手段の一例であり、公開フラグは公開可否情報の一例であり、人物検出部52は画像解析手段の一例である。ユーザIDはユーザ識別情報の一例であり、送受信部51は受信手段の一例であり、画像通信システム200又は画像管理装置5は画像管理システムの一例であり、画像通信システム200が行う動作方法や処理方法は画像管理方法の一例である。