以下、図面を用いて、本発明の実施形態について説明する。
<<実施形態の概略>>
<全天球パノラマ画像の生成方法>
図1乃至図7を用いて、全天球パノラマ画像の生成方法について説明する。
まず、図1を用いて、撮影装置1の外観を説明する。撮影装置1は、全天球パノラマ画像の元になる撮影画像を得るためのデジタルカメラである。なお、図1(a)は撮影装置の左側面図であり、図1(b)は撮影装置の正面図であり、図1(c)は撮影装置の平面図である。
図1(a)に示されているように、撮影装置1は、人間が片手で持つことができる大きさである。また、図1(a),(b),(c)に示されているように、撮影装置1の上部には、正面側(前側)に撮像素子103a及び背面側(後側)に撮像素子103bが設けられている。また、図1(b)に示されているように、撮影装置1の正面側には、シャッターボタン等の操作部115が設けられている。
次に、図2を用いて、撮影装置1の使用状況を説明する。なお、図2は、撮影装置の使用イメージ図である。撮影装置1は、図2に示されているように、ユーザが手に持ってユーザの周りの被写体を撮影するために用いられる。この場合、図1に示されている撮像素子103a及び撮像素子103bによって、それぞれユーザの周りの被写体が撮像されることで、2つの半球画像を得ることができる。
次に、図3及び図4を用いて、撮影装置1で撮影された画像から全天球パノラマ画像が作成されるまでの処理の概略を説明する。なお、図3(a)は撮影装置で撮影された半球画像(前側)、図3(b)は撮影装置で撮影された半球画像(後側)、図3(c)はメルカトル図法により表された画像(以下、「メルカトル画像」という)を示した図である。図4(a)はメルカトル画像で球を被う状態を示した概念図、図4(b)は全天球パノラマ画像を示した図である。
図3(a)に示されているように、撮像素子103aによって得られた画像は、後述の魚眼レンズ102aによって湾曲した半球画像(前側)となる。また、図3(b)に示されているように、撮像素子103bによって得られた画像は、後述の魚眼レンズ102bによって湾曲した半球画像(後側)となる。そして、半球画像(前側)と、180度反転された半球画像(後側)とは、撮影装置1によって合成され、図3(c)に示されているように、メルカトル画像が作成される。
そして、OpenGL ES(Open Graphics Library for Embedded Systems)が利用されることで、図4(a)に示されているように、メルカトル画像が球面を覆うように貼り付けられ、図4(b)に示されているような全天球パノラマ画像が作成される。このように、全天球パノラマ画像は、メルカトル画像が球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions)および3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。なお、全天球パノラマ画像は、静止画であっても動画であってもよい。
以上のように、全天球パノラマ画像は、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、全天球パノラマ画像の一部の所定領域(以下、「所定領域画像」という)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、図5及び図6を用いて説明する。
なお、図5は、全天球パノラマ画像を3次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラICは、3次元の立体球として表示されている全天球パノラマ画像に対して、その画像を見るユーザの視点の位置に相当するものである。また、図6(a)は図5の立体斜視図、図6(b)はディスプレイに表示された場合の所定領域画像を表す図である。また、図6(a)では、図4に示されている全天球パノラマ画像が、3次元の立体球CSで表わされている。このように生成された全天球パノラマ画像が、立体球CSであるとすると、図5に示されているように、仮想カメラICが全天球パノラマ画像の中心に位置し、この中心から上下左右の回転と、この中心からの視点での回転(ROLL)の3軸の回転を行うことができる。全天球パノラマ画像における所定領域Tは、この全天球パノラマ画像における仮想カメラICの位置の所定領域情報によって特定される。この所定領域情報は、座標x(rH)、座標y(rV)、及び画角α(angle)によって示される。また、所定領域Tのズームは、画角αの範囲(円弧)を広げたり縮めたりすることで表現することができる。
そして、図6(a)で示されているように、全天球パノラマ画像における所定領域Tの画像は、図6(b)に示されているように、所定のディスプレイに、所定領域画像として表示される。図6(b)に示されている画像は、初期設定(デフォルト)された所定領域情報(x,y,α)=(0,0,34)によって表された画像である。
ここで、図7を用いて、所定領域情報と所定領域画像の関係について説明する。なお、図7は、所定領域情報と所定領域画像の関係との関係を示した図である。図7に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角線画角2Lとした場合の中心点CPが、所定領域情報の(x,y)パラメータとなる。fは仮想カメラICから中心点CPまでの距離である。そして、図7では、一般的に以下の式(1)で示される三角関数が成り立つ。
Lf=tan(α/2)・・・(式1)
<画像通信システムの概略>
続いて、図8を用いて、本実施形態の画像通信システムの構成の概略について説明する。図8は、本実施形態の画像通信システムの構成の概略図である。
図8に示されているように、本実施形態の画像通信システムは、撮影装置1、通信端末3、画像管理システム5、及び通信端末7によって構成されている。
このうち、撮影装置1は、上述のように、全天球パノラマ画像を得るためのデジタルカメラである。なお、この撮影装置1は、一般的なデジタルカメラであっても良く、通信端末3にカメラが付いている場合は、通信端末3がデジタルカメラとなりうる。本実施形態では、説明を分かりやすくするために全天球パノラマ画像を得るためのデジタルカメラとして説明を行う。通信端末3は、WiFi等の無線通信技術を利用し、撮影装置1とデータ通信すると共に、通信ネットワーク9を介して画像管理システム5とデータ通信を行なうことができる。なお、通信ネットワーク9は、例えば、インターネットである。
また、画像管理システム5は、例えば、サーバコンピュータであり、通信ネットワーク9を介して、通信端末3,5とデータ通信を行なうことができる。画像管理システム5には、OpenGL ESがインストールされており、全天球パノラマ画像を作成する。また、画像管理システム5は、全天球パノラマ画像の一部の領域を示す所定領域情報(又は、この所定領域情報で示される画像である所定領域画像を作成し、通信端末7に撮影画像データ及び所定領域情報(又は所定領域画像)を提供する。なお、画像管理システム5は、所定領域情報(又は所定領域画像)ではなく、後述の類似画像の領域を示す特定領域情報(又は、この特定領域情報で示される画像である特定領域画像)を提供することもできる。
また、通信端末7は、例えば、ノートPC(Personal Computer)であり、通信ネットワーク9を介して、画像管理システム5とデータ通信を行なうことができる。なお、画像管理システム5は、単一のサーバコンピュータによって構成されてもよいし、複数のサーバコンピュータによって構成されてもよい。
更に、撮影装置1及び通信端末3は、アパート等の各工事拠点で撮影者Xによって利用される。通信端末7は、各工事拠点を統括及び遠隔的に監督する本社等に設置され、閲覧者Yによって利用される。画像管理システム5は、各拠点の通信端末3から送られて来た撮影画像データを通信端末7に提供するサービスを行なうサービス会社等に設置されている。
<実施形態のハードウェア構成>
次に、図9乃至図11を用いて、本実施形態の撮影装置1、通信端末3,7、及び画像管理システム5のハードウェア構成を詳細に説明する。
まず、図9を用いて、撮影装置1のハードウェア構成を説明する。なお、図9は、撮影装置のハードウェア構成図である。以下では、撮影装置1は、2つの撮像素子を使用した全方位撮影装置とするが、撮像素子は3つ以上いくつでもよい。また、必ずしも全方位撮影専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位撮影ユニットを取り付けることで、実質的に撮影装置1と同じ機能を有するようにしてもよい。
図9に示されているように、撮影装置1は、撮像ユニット101、画像処理ユニット104、撮像制御ユニット105、マイク108、音処理ユニット109、CPU(Central Processing Unit)111、ROM(Read Only Memory)112、SRAM(Static Random Access Memory)113、DRAM(Dynamic Random Access Memory)114、操作部115、ネットワークI/F116、通信部117、及びアンテナ117aによって構成されている。
このうち、撮像ユニット101は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)102a,102bと、各広角レンズに対応させて設けられている2つの撮像素子103a,103bを備えている。撮像素子103a,103bは、魚眼レンズによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサなどの画像センサ、この画像センサの水平又は垂直同期信号や画素クロックなどを生成するタイミング生成回路、この撮像素子の動作に必要な種々のコマンドやパラメータなどが設定されるレジスタ群などを有している。
撮像ユニット101の撮像素子103a,103bは、各々、画像処理ユニット104とはパラレルI/Fバスで接続されている。一方、撮像ユニット101の撮像素子103a,103bは、撮像制御ユニット105とは別に、シリアルI/Fバス(I2Cバス等)で接続されている。画像処理ユニット104及び撮像制御ユニット105は、バス110を介してCPU111と接続される。さらに、バス110には、ROM112、SRAM113、DRAM114、操作部115、ネットワークI/F116、通信部117、及び電子コンパス118なども接続される。
画像処理ユニット104は、撮像素子103a,103bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図3(c)に示されているようなメルカトル画像のデータを作成する。
撮像制御ユニット105は、一般に撮像制御ユニット105をマスタデバイス、撮像素子103a,103bをスレーブデバイスとして、I2Cバスを利用して、撮像素子103a,103bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU111から受け取る。また、該撮像制御ユニット105は、同じくI2Cバスを利用して、撮像素子103a,103bのレジスタ群のステータスデータ等を取り込み、CPU111に送る。
また、撮像制御ユニット105は、操作部115のシャッターボタンが押下されたタイミングで、撮像素子103a,103bに画像データの出力を指示する。撮影装置によっては、ディスプレイによるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子103a,103bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
また、撮像制御ユニット105は、後述するように、CPU111と協働して撮像素子103a,103bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、撮影装置には表示部が設けられていないが、表示部を設けてもよい。
マイク108は、音を音(信号)データに変換する。音処理ユニット109は、マイク108から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
CPU111は、撮影装置1の全体の動作を制御すると共に必要な処理を実行する。ROM112は、CPU111のための種々のプログラムを記憶している。SRAM113及びDRAM114はワークメモリであり、CPU111で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM114は、画像処理ユニット104での処理途中の画像データや処理済みのメルカトル画像のデータを記憶する。
操作部115は、種々の操作ボタンや電源スイッチ、シャッターボタン、表示と操作の機能を兼ねたタッチパネルなどの総称である。ユーザは操作ボタンを操作することで、種々の撮影モードや撮影条件などを入力する。
ネットワークI/F116は、SDカード等の外付けのメディアやパーソナルコンピュータなどとのインターフェース回路(USBI/F等)の総称である。また、ネットワークI/F116としては、無線、有線を問わずにネットワークインタフェースである場合も考えられる。DRAM114に記憶されたメルカトル画像のデータは、このネットワークI/F116を介して外付けのメディアに記録されたり、必要に応じてネットワークI/FとなるネットワークI/F116を介して通信端末3等の外部装置に送信されたりする。
通信部117は、撮影装置1に設けられたアンテナ117aを介して、WiFi(wireless fidelity)やNFC等の短距離無線技術によって、通信端末3等の外部装置と通信を行う。この通信部117によっても、メルカトル画像のデータを通信端末3の外部装置に送信することができる。
電子コンパス118は、地球の磁気から撮影装置1の方位及び傾き(Roll回転角)を算出し、方位・傾き情報を出力する。この方位・傾き情報はExifに沿った関連情報(メタデータ)の一例であり、撮影画像の画像補正等の画像処理に利用される。なお、関連情報には、画像の撮影日時、及び画像データのデータ容量の各データも含まれている。
次に、図10を用いて、通信端末3のハードウェア構成を説明する。図10は、通信端末3のハードウェア構成図である。図10に示されているように、通信端末3は、通信端末3全体の動作を制御するCPU301、基本入出力プログラムを記憶したROM302、CPU301のワークエリアとして使用されるRAM(Random Access Memory)303、CPU301の制御にしたがってデータの読み出し又は書き込みを行うEEPROM(Electrically Erasable and Programmable ROM)304、CPU301の制御に従って被写体を撮像し画像データを得る撮像素子としてのCMOSセンサ305、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサ等の各種加速度・方位センサ306、フラッシュメモリ等の記録メディア307に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ308を備えている。そして、メディアドライブ308の制御に従って、既に記録されていたデータが読み出され、又は新たにデータが書き込まれて記憶する記録メディア307が着脱自在な構成となっている。
なお、EEPROM304には、CPU301が実行するオペレーティングシステム(OS)、その他のプログラム、及び、種々データが記憶されている。また、CMOSセンサ305の代わりにCCDセンサを用いてもよい。
更に、通信端末3は、音声を音声信号に変換する音声入力部311、音声信号を音声に変換する音声出力部312、アンテナ313a、このアンテナ313aを利用して無線通信信号により、最寄の基地局等と通信を行う通信部313、GPS(Global Positioning Systems)衛星又は屋内GPSとしてのIMES(Indoor MEssaging System)によって通信端末3の位置情報(緯度、経度、および高度)を含んだGPS信号を受信するGPS受信部314、被写体の画像や各種アイコン等を表示する液晶や有機ELなどのディスプレイ315、このディスプレイ315上に載せられ、感圧式又は静電式のパネルによって構成され、指やタッチペン等によるタッチによってディスプレイ315上におけるタッチ位置を検出するタッチパネル316、及び、上記各部を電気的に接続するためのアドレスバスやデータバス等のバスライン310を備えている。
なお、音声入力部311は、音声を入力するマイクが含まれ、音声出力部312には、音声を出力するスピーカが含まれている。
次に、図11を用いて、画像管理システム5及びノートPCの場合の通信端末7のハードウェア構成を説明する。なお、図11は、画像管理システム5及び通信端末7のハードウェア構成図である。画像管理システム5、及び通信端末7は、ともにコンピュータであるため、以下では、画像管理システム5の構成について説明し、通信端末7の構成の説明は省略する。
画像管理システム5は、画像管理システム5全体の動作を制御するCPU501、IPL等のCPU501の駆動に用いられるプログラムを記憶したROM502、CPU501のワークエリアとして使用されるRAM503、画像管理システム5用のプログラム等の各種データを記憶するHD504、CPU501の制御にしたがってHD504に対する各種データの読み出し又は書き込みを制御するHDD(Hard Disk Drive)505、フラッシュメモリ等の記録メディア506に対するデータの読み出し又は書き込み(記憶)を制御するメディアドライブ507、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示するディスプレイ508、通信ネットワーク9を利用してデータ通信するためのネットワークI/F509、文字、数値、各種指示などの入力のための複数のキーを備えたキーボード511、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うマウス512、着脱可能な記録媒体の一例としてのCD−ROM(Compact Disc Read Only Memory)513に対する各種データの読み出し又は書き込みを制御するCD−ROMドライブ514、及び、上記各構成要素を図11に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン510を備えている。
<<実施形態の機能構成>>
次に、図9乃至図12を用いて、本実施形態の機能構成について説明する。図12は、本実施形態の画像通信システムの一部を構成する、撮影装置1、通信端末3、画像管理システム5、及通信端末7の各機能ブロック図である。図12では、画像管理システム5が、通信ネットワーク9を介して、通信端末3及び通信端末7とデータ通信することができる。
<撮影装置1の機能構成>
図12に示されているように、撮影装置1は、受付部12、撮像部13、集音部14、通信部18、及び記憶・読出部19を有している。これら各部は、図9に示されている各構成要素のいずれかが、SRAM113からDRAM114上に展開された撮影蔵置用のプログラムに従ったCPU111からの命令によって動作することで実現される機能又は手段である。
また、撮影装置1は、図9に示されているROM112、SRAM113、及びDRAM114によって構築される記憶部1000を有している。
(撮影装置1の各機能構成)
次に、図9及び図13を用いて、撮影装置1の各機能構成について更に詳細に説明する。
撮影装置1の受付部12は、主に、図9に示されている操作部115及びCPU111の処理によって実現され、利用者(図8では、設置者X)からの操作入力を受け付ける。
撮像部13は、主に、図9に示されている撮像ユニット101、画像処理ユニット104、及び撮像制御ユニット105、並びにCPU111の処理によって実現され、風景等を撮像し、撮影画像データを得る。
集音部14は、図9に示されている108及び音処理ユニット109、並びにCPU111の処理によって実現され、撮影装置1の周囲の音を収音する。
通信部18は、主に、CPU111の処理によって実現され、通信端末3の通信部38と、NFC(Near Field Communication)規格、BlueTooth(登録商標)、WiFi(Wireless Fidelity)等による短距離無線技術によって通信することができる。
記憶・読出部19は、主に、図9に示されているCPU111の処理によって実現され、記憶部1000に各種データ(または情報)を記憶したり、記憶部1000から各種データ(または情報)を読み出したりする。
<通信端末3の機能構成>
図13に示されているように、通信端末3は、送受信部31、受付部32、表示制御部33、判断部34、通信部38、及び記憶・読出部39を有している。これら各部は、図10に示されている各構成要素のいずれかが、EEPROM304からRAM303上に展開された通信端末3用プログラムに従ったCPU301からの命令によって動作することで実現される機能又は手段である。
また、通信端末3は、図10に示されているROM302、RAM303、及びEEPROM304によって構築される記憶部3000を有している。この記憶部3000には、画像管理DB3001、及び関連情報管理DB3002が構築されている。このうち、画像管理DB3001は、図13に示されている画像管理テーブルによって構成されている。関連情報管理DB3002は、図14に示される関連情報管理テーブルによって構成されている。
(通信端末3の各機能構成)
次に、図10及び図13を用いて、通信端末3の各機能構成について更に詳細に説明する。
通信端末3の送受信部31は、主に、図10に示されている通信部313及びCPU301の処理によって実現され、通信ネットワーク9を介して、画像管理システム5と各種データ(または情報)の送受信を行う。
受付部32は、主にタッチパネル316及びCPU301による処理によって実現され、ユーザから各種の選択又は入力を受け付ける。
表示制御部33は、主にCPU301の処理によって実現され、ディスプレイ315に各種画像や文字等を表示させるための制御を行う。
判断部34は、主にCPU301の処理によって実現され、各種判断を行なう。
通信部38は、主に、CPU301の処理によって実現され、撮影装置1通信部18と、NFC規格、BlueTooth、WiFi等による短距離無線技術によって通信することができる。
記憶・読出部39は、主に、図10に示されているCPU301の処理によって実現され、記憶部3000に各種データ(または情報)を記憶したり、記憶部3000から各種データ(または情報)を読み出したりする。
<画像管理システムの機能構成>
次に、図11及び図12を用いて、画像管理システム5の各機能構成について詳細に説明する。画像管理システム5は、送受信部51、特定部52、類似画像検索部53、及び記憶・読出部59を有している。これら各部は、図11に示されている各構成要素のいずれかが、HD504からRAM503上に展開された画像管理システム5用プログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
また、画像管理システム5は、図11に示されているRAM503、及びHD504によって構築される記憶部5000を有している。この記憶部5000には、画像管理DB5001、関連情報管理DB5002、レイアウト管理DB5003、及び特定領域管理DB5004が構築されている。このうち、画像管理DB5001は、図13に示されている画像管理テーブルによって構成されている。関連情報管理DB5002は、図14に示される関連情報管理テーブルによって構成されている。これらの内容は、それぞれ通信端末3側の画像管理DB5001及び関連情報管理DB5002と同じである。
また、レイアウト管理DB5003は、図15に示されているレイアウト管理テーブルによって構成されている。特定領域管理DB5004は、図16に示されている特定領域管理テーブルによって構成されている。
(画像管理システムの各機能構成)
次に、図11及び図12を用いて、画像管理システム5の各機能構成について詳細に説明する。
画像管理システム5の送受信部51は、主に、図11に示されているネットワークI/F509及びCPU501の処理によって実現され、通信ネットワーク9を介して通信端末3、又は通信端末7と各種データ(または情報)の送受信を行う。
特定部52は、主に、図11に示されているCPU501の処理によって実現され、後述の注目領域情報に基づき、全天球パノラマ画像の一部である平面画像として注目領域を特定する。
類似画像検索部53は、主に、図11に示されているCPU501の処理によって実現され、特定部52によって特定された注目領域の画像である注目領域画像に基づき、他の撮影画像データに対して類似画像検索を行なう。
記憶・読出部59は、主に、図11に示されているHDD505、及びCPU501の処理によって実現され、記憶部5000に各種データ(または情報)を記憶したり、記憶部5000から各種データ(または情報)を読み出したりする。
<通信端末7の機能構成>
次に、図11及び図13を用いて、通信端末7の機能構成について詳細に説明する。通信端末7は、送受信部71、受付部72、判断部74、表示制御部73、及び、記憶・読出部79を有している。これら各部は、図11に示されている各構成要素のいずれかが、HD504からRAM503上に展開された通信端末7用プログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
また、通信端末7は、図11に示されているRAM503、及びHD504によって構築される記憶部7000を有している。
(通信端末7の各機能構成)
次に、図13を用いて、通信端末7の各機能構成について詳細に説明する。
通信端末7の送受信部71は、主に、図11に示されているネットワークI/F509及びCPU501の処理によって実現され、通信ネットワーク9を介して画像管理システム5と各種データ(または情報)の送受信を行う。
受付部72は、主に、図11に示されているキーボード511及びマウス512、並びにCPU501の処理によって実現され、利用者(図8では、閲覧者Y)からの操作入力を受け付ける。
表示制御部73は、主に、図11に示されているCPU501の処理によって実現され、通信端末7のディスプレイ508に各種画像を表示させるための制御を行なう。
判断部74は、主に、図11に示されているCPU501の処理によって実現され、各種判断を行なう。
記憶・読出部79は、主に、図11に示されているHDD504、及びCPU501の処理によって実現され、記憶部7000に各種データ(または情報)を記憶したり、記憶部7000から各種データ(または情報)を読み出したりする。
<<実施形態の処理又は動作>>
続いて、図17乃至図26を用いて、本実施形態の処理又は動作について説明する。図17は、撮影状況を示した概念図である。図18は、撮影画像データの登録の処理を示したシーケンス図である。図19乃至図22は、通信端末3の画面例を示す図である。
なお、図17(a)に示されているように、アパートの工事現場等の拠点で、撮影者Xが、撮影装置1を用いてA方向を撮影し、隣の部屋に移動してB方向を撮影し、更に隣の部屋に移動してC方向を撮影している。撮影者Xが撮影すると全天球パノラマ画像を得ることができるが、A方向に図1(b)に示される撮像素子(前側)103aを向けて撮影すると、図17(b)で示される所定領域画像となる。また、撮影者XがB方向に撮像素子(前側)103aを向けて撮影すると、図17(c)で示される所定領域画像となる。更に、撮影者XがC方向に撮像素子(前側)103aを向けて撮影すると、図17(d)で示される所定領域画像となる。このように、撮影者Xが、方向を気にしないで撮影すると、各部屋の所定領域画像が異なる方向を表す場合がある。
続いて、図18乃至図22を用いて、撮影者Xが工事現場等の拠点で画像を撮影して、画像管理システム5に撮影画像データの登録をする処理について説明する。
まず、撮影者Xは、通信端末3において、図19(a)に示されているように、複数のアプリケーション(以下、「アプリ」と示す)を示すアイコンのうち、撮影画像データを登録するためのアプリのアイコン(例えば、「アプリa」のアイコン)を選択すると、受付部32は選択を受け付けて、アプリaが起動する(ステップS11)。これにより、表示制御部33は、図19(b)に示されている画面を表示する。この画面には、撮影画像データを画像管理システム5に登録する処理に進めるための「画像登録」ボタン、登録されている撮影画像を確認する処理に進めるための「画像確認」ボタン、及びパラメータや名称等を設定する処理に進めるための「設定」ボタンが表示されている。
次に、撮影者Xが、「画像登録」ボタンを選択すると、受付部32が、画像登録の指示を受け付ける(ステップS12)。これにより、表示制御部33は、図19(c)に示されている画像登録画面を表示する(ステップS13)。この画像登録画面には、撮影画像のタイトルを入力するためのタイトル欄、撮影装置1の識別情報を入力するためのカメラ名欄、及び工事現場等の拠点のレイアウト図の識別情報(ここでは、「図面名」)を選択するための図面選択欄が表示されている。更に、送受信部31は、画像管理システム5に対して、図面名を要求する(ステップS14)。この場合、撮影者Xを識別するための利用者識別情報(ここでは、「ユーザID」)も送信される。これにより、画像管理システム5の送受信部51は、撮影者Xの図面名の要求を受信する。
次に、画像管理システム5では、記憶・読出部59が、ステップS14で受信されたユーザIDを検索キーとしてレイアウト管理テーブルを検索することで、対応する図面名を読み出し、送受信部51が通信端末3に、読み出された全ての図面名を送信する(ステップS15)。これにより、通信端末3の送受信部31は、図面名を受信する。
次に、通信端末3では、受付部32が、図20(a)の画面において撮影者Xから図面名の選択を受け付ける(ステップS16)。そして、送受信部31は、画像管理システム5に対して、図面の要求を送信する(ステップS17)。この場合、ステップS16で選択された図面名も送信される。これにより、送受信部51は、図面の要求を受信する。
次に、画像管理システム5では、記憶・読出部59が、ステップS17によって受信された図面名を検索キーとしてレイアウト管理テーブルを検索することにより、対応するレイアウト図面データを読み出し、送受信部51が通信端末3に対して、レイアウト図面データ送信する(ステップS18)。これにより、通信端末3の送受信部31は、レイアウト図面データを受信する。
次に、通信端末3では、表示制御部33が、図20(b)に示されているように、レイアウト図面を表示させる(ステップS19)。そして、撮影者Xが、タイトル欄にタイトル名を入力し、カメラ名欄にカメラIDを入力すると、受付部32は、図20(c)に示されているように、タイトル名及びカメラIDである撮影設定情報の入力を受け付ける(ステップS20)。更に、撮影者Xが、「OK」ボタンを押下すると、受付部32が、図20(c)に示されている状態で撮影設定の入力を確定する(ステップS21)。
次に、表示制御部33は、図21(a)に示されているように、撮影位置を入力するための位置入力画面を表示させる(ステップS22)。そして、撮影者Xがレイアウト図面上の所望の位置をタップすると、受付部32は、これから撮影位置を受け付ける(ステップS23)。また、表示制御部33は、図21(b)に示されているように、受け付けられた位置にピンによって撮影位置を表示させて、図21(c)に示されているように、撮影装置1で撮影の開始を促すコメント(例えば、「撮影装置で撮影してください」)を表示させる(ステップS24)。
次に、撮影者Xは、工事現場等の拠点において、選択した位置に移動し、その場で撮影装置1を利用して部屋を撮影することで、全天球パノラマ画像である撮影画像データを得る(ステップS25)。そして、撮影装置1の通信部18が、通信端末3の通信部38に撮影画像データを送信する(ステップS26)。これにより、通信部38は、撮影画像データを受信する。
次に、通信端末3では、記憶・読出部59が、画像管理DB3001(画像管理テーブル)で、新たなレコードを追加することで、ステップ26によって受信された撮影画像データ、ステップS23によって入力された撮影位置を示す撮影位置情報を関連付けて記憶する(ステップS27)。また、この際、画像管理テーブルでは、全天球パノラマ画像における予め定められた所定領域の位置を示す所定領域情報も関連付けて記憶される。
次に、表示制御部33が、図22(a)に示されているように、撮影終了確認画面を表示させ、判断部34は、撮影が終了したかを判断する(ステップS28)。撮影終了確認画面には、撮影を継続させる場合に押下される「継続」ボタン、及び撮影を終了する場合に押下される「終了」ボタンが表示されている。「継続」ボタンが押下されると、判断部34は撮影が終了していないと判断し(NO)、ステップS22の処理に戻る。一方、「終了」ボタンが押下されると、判断部34は撮影が終了したと判断し(YES)、送受信部31が、画像管理システム5に対して、画像管理DB3001で管理した内容である撮影情報(撮影画像データ、撮影位置情報、及び所定領域情報)を送信すると共に、関連情報管理DB3002で管理した関連情報を送信する(ステップS29)。これにより、画像管理システム5の送受信部51が、撮影情報及び関連情報を受信する。そして、表示制御部33は、図22(b)に示されているような撮影終了画面を表示させる。この撮影終了画面には、関連情報管理DB3002に管理された内容が表示される。撮影枚数は、ステップ28からステップS22の処理に戻ると増える。
一方、画像管理システム5では、記憶・読出部59が、ステップS29によって送られて来た撮影画像データ、撮影位置情報、及び所定領域情報を画像管理DBに記憶すると共に、ステップS29によって送られて来た関連情報を関連情報管理DB5002に記憶する(ステップS31)。
続いて、図23乃至図26を用いて、撮影画像データの閲覧の処理について説明する。図23は、撮影画像データの閲覧の処理を示したシーケンス図である。図24乃至図26は、通信端末7の画面例を示す図である。
まず、図23に示されているように、通信端末7の閲覧者Yは、通信端末7において、図24(a)に示されているように、ユーザID及びパスワード等のユーザ情報を入力すると、受付部72がユーザ情報の入力を受け付ける(ステップS51)。そして、送受信部71が画像管理システム5に対して、撮影画像データ及び関連情報の一覧の要求を送信する(ステップS52)。この場合、ユーザIDも送信される。これにより、画像管理システム5の送受信部51は、要求を受信する。
次に、画像管理システム5では、記憶・読出部51が、ステップS52によって受信されたユーザIDを検索キーとして関連情報管理DB5002を検索することで、対応する全ての関連情報を読み出し、送受信部51が通信端末7に関連情報を含んだ一覧画像データを送信する(ステップ53)。これにより、通信端末7の送受信部71は、一覧画像データを受信する。
次に、通信端末7の表示制御部73が、図24(b)に示されているような撮影履歴一覧画面を表示させる(ステップS54)。この画面には、関連情報と、それぞれの関連情報に係る撮影画像を閲覧する場合に押下される「閲覧」ボタンが表示されている。ここで、閲覧者Yが、所望の「閲覧」ボタンを押下すると、受付部72が閲覧を受け付ける(ステップS55)。そして、送受信部71は、画像管理システム5に対して、撮影情報の要求を送信する(ステップS56)。これにより、画像管理システム5の送受信部51は、撮影情報の要求を受信する。
次に、画像管理システム5では、記憶・読出部59が、画像管理DB5001から閲覧要求された撮影情報を読み出し、通信端末7に撮影情報を送信する(ステップS57)。これにより、通信端末7の送受信部71が、撮影情報を受信する。
次に、通信端末7では、表示制御部73が、図25(a)に示されているように、撮影画像データのうち、所定領域情報で示される所定領域画像を表示させる(ステップS58)。これは1枚目の所定領域画像である。そして、閲覧者Yが、図25(b)に示されているように左側の窓を囲むように注目領域を入力すると、受付部72が注目領域を受け付ける(ステップS59)。そして、表示制御部73が、図25(b)に示されているように、注目領域を視覚的に表示させる(ステップS60)。そして、閲覧者Yが注目領域を確認した後、「OK」ボタンを押下すると、受付部72は、注目領域が確定した旨を受け付ける(ステップS61)。その後、送受信部71は、画像管理システム7に対して、注目領域を示す注目領域情報を送信する(ステップS62)。この注目領域が矩形の場合には、角の2点(rH,rV,α)が注目領域情報として示される。これにより、画像管理システム5の送受信部51は、注目領域情報を受信する。
次に、画像管理システム5では、特定部52が、注目領域情報に基づき、全天球パノラマ画像の一部である平面画像(所定領域画像)として注目領域を特定する(ステップS63)。この図25(b)に示されているように、閲覧者Yによって指定された注目領域は必ずしも所定領域画像の中央に位置する訳ではないため、画像が歪んだ状態であることも考えられることから、後述の類似画像検索を正確に行なうために、平面図として注目領域を特定する必要がある。
次に、類似画像検索部53は、特定部52によって特定された注目領域の画像である注目領域画像に基づき、他の撮影画像データに対して類似画像検索を行なう(ステップS64)。そして、記憶・読出部59は、特定領域管理DB5004に、新たなレコードとして、類似画像を含む他の撮影画像データ、この他の撮影画像データが撮影された位置を示す撮影位置情報、及び他の撮影画像の類似画像領域を示す特定領域情報を関連付けて記憶する。なお、類似画像を含む他の撮影画像データ、及び、この他の撮影画像データが撮影された位置を示す撮影位置情報は、画像管理DB5001からのコピーである。
次に、送受信部51は、通信端末7に対して、特定領域管理DB5004に記憶された他の撮影画像データの各ファイル名の部分及び各特定領域情報を送信する(ステップS66)。なお、このファイル名は、図16に示されている撮影画像データでは、「xx1」部分である。これにより、通信端末7の送受信部7は、各ファイル名の部分及び各特定領域情報を受信する。
次に、通信端末7では、表示制御部73が、図26(a)に示されているように、特定領域画像、及び撮影位置がピンで示されたレイアウト画像を含む閲覧画面(1枚目)を表示する(ステップS67)。そして、閲覧者Yが、閲覧画面の矢印を押下すると、受付部72が、次頁の特定領域画像への移動を受け付ける(ステップS68)。これにより、表示制御部73は、図26(b)に示されているように、次の特定領域画像及びレイアウト画像を含む閲覧画面(2枚目)を表示する。
<<本実施形態の主な効果>>
以上説明したように本実施形態によれば、閲覧者Yは、複数の全天球パノラマ画像データにおいて、類似画像を閲覧することができるため、全天球パノラマ画像をスクロールして、類似画像を探し出す手間を省くことができる。
〔実施形態の補足〕
上記実施形態における画像管理システム5は、単一のコンピュータによって構築されてもよいし、各部(機能、手段、又は記憶部)を分割して任意に割り当てられた複数のコンピュータによって構築されていてもよい。
また、上記実施形態の各プログラムが記憶されたCD−ROM等の記録媒体、並びに、これらプログラムが記憶されたHD504は、いずれもプログラム製品(Program Product)として、国内又は国外へ提供されることができる。