以下、本発明の実施形態を、図面を用いて説明する。
<第1の実施形態>
本実施の形態では、電力配電設備における電柱等の巡視、点検の際に、撮影した対象設備に関連する情報を自動で提示し、さらに撮影した設備画像に設備IDを自動で紐付け蓄積することで巡視作業を支援する巡視作業支援システムの一例を説明する。
図1は、本発明の第1の実施形態の巡視作業支援システムの全体構成の一例を示すブロック図である。
巡視作業支援システムは、サーバシステム100と複数の携帯情報端末101とを含み、それらがネットワーク102を介して接続されている。図1の例では3台の携帯情報端末101が接続されているが、接続される携帯情報端末101の台数はこれに限定されない。以下、本システムの構成要素について説明する。
図2は、本発明の第1の実施形態の巡視作業支援システムに含まれる携帯情報端末101の構成の一例を示すブロック図である。
携帯情報端末101は、無線通信部200、撮影画像及び設備情報等をユーザに提示するディスプレイ等の表示部201、GPS衛星209から位置情報を取得する位置情報取得部202、撮影対象設備208を撮影するデジタルスチルカメラ等の撮影部203、全体の処理を制御するCPU(Central Processing Unit)204、ユーザが入力操作を行うボタン又はタッチパネル等の操作部205、画像データ及び設備情報等を保存するフラッシュメモリ等の不揮発性記憶装置であるメモリ206、及び、携帯情報端末101の向いている方角(すなわち、撮影部203が撮影する方角)を取得するための3次元デジタルコンパス207から構成される。
携帯情報端末101は、具体的には、デジタルカメラ、携帯電話機、又はPDA(Personal Digital Assistant)等の携帯端末が該当する。位置情報取得部202は、受信回路等から構成され、GPS衛星209からの電波を受信し、受信した電波から距離を測定することで、携帯情報端末の位置する緯度及び経度の位置情報を取得する。
CPU204は、位置情報取得部202から位置情報を取得し、撮影部203から撮影画像及び撮影状況の情報を取得し、3次元デジタルコンパス207から撮影方角の情報を取得し、取得したそれらの情報をメモリ206に格納する。さらに、CPU204は、それらの情報を、無線通信部200及びそこに接続されたネットワーク102を介してサーバシステム100に送信する。また、CPU204は、無線通信部200及びそこに接続されたネットワーク102を介してサーバシステム100から対象設備に関する情報を取得し、それをメモリ206に格納し、さらに、取得した対象設備に関する情報が付加された画像を表示部201に表示させる。これらの処理については後述する。
図3は、本発明の第1の実施形態の巡視作業支援システムに含まれるサーバシステム100の構成の一例を示すブロック図である。
サーバシステム100は、サーバシステム100の全体を制御するCPU300、他の機器と接続するためのネットワークインタフェース301、USBなどの、外部機器と接続するためのI/O(Input/Output)302、設備に関する情報、地図情報及び設備画像等が保存されているデータベース303、ユーザが入力するためのキーボード及びマウス等の操作部304、処理の結果及びログ等を表示するための表示部305、不揮発性記憶装置であるメモリ306、及びデータバス308から構成され、上記の各部300〜306がそれぞれデータバス308と接続されている。メモリ306には撮影対象物特定プログラム307が格納されており、このプログラムはCPU300によって実行される。
データベース303は、例えばハードディスクドライブのような記憶装置によって構成されてもよい。データベース303の少なくとも一部が必要に応じて(例えば撮影対象物特定プログラム307によって処理されるときに)メモリ306にコピーされてもよい。
本実施形態では、携帯情報端末101を携帯して巡視している巡視員が、撮影対象設備208を撮影部203によって撮影し、それと同時に位置情報取得部202がGPS衛星209から位置情報を取得し、3次元デジタルコンパス207が撮影方角を取得し、CPU204はこれらの情報を無線通信部200及びネットワーク102を介して図1におけるサーバシステム100に送信する。サーバシステム100ではCPU300がメモリ306に格納されている撮影対象物特定プログラム307を実行し、受信したこれらの情報を用いて、撮影した設備を特定し、撮影した設備に関する情報をデータベース303から検索し、検索された情報を、ネットワーク102を介して携帯情報端末10に送信する。携帯情報端末101は、受信したこれらの情報を表示部201に表示する。また、サーバシステム100は、特定した撮影設備画像を設備IDと対応付けてデータベース303に蓄積する。処理の詳細については後述する。
次に、図4、図5、図6を参照して、図3のサーバシステム100におけるデータベース303の構成の一例を説明する。
図4は、本発明の第1の実施形態におけるデータベース303の構成の一例を示すブロック図である。
データベース303は、設備状況データ400、設備画像データ401、履歴データ402及び地図データ403から構成される。
設備状況データ400は、巡視対象設備の設置位置、高さ、保全状況及び経年状態等を含む。
図5は、本発明の第1の実施形態のデータベース303に含まれる設備状況データ400の構成の一例を示す説明図である。
設備状況データ400には、電力配電設備における巡視、点検の対象となる電柱等に関するデータが格納されており、設備ID500、設備の設置位置情報501、設備の高さ504、前回交換年月505、前回巡視年月506、巡視、点検の際の要チェックポイント507等が相互に対応付けられて格納されている。
設備の設置位置情報501は、緯度502、経度503を含んでいる。設置位置情報501及び設備の高さ504は例えば地面から設備の上端までの高さであり、撮影した設備の特定処理に用いられる。
図5では設備状況データ400は上記構成となっているが、これに限定する必要はなく、巡視、点検の際に、携帯情報端末101上に提示したい情報等を必要に応じて保存しておけばよい。レコード508、509及び510のそれぞれは、設備状況データ400に格納されているデータの組の一例を示している。例えば、レコード508は設備ID500の値「104」によって識別される設備に関するデータである。この例によれば設備ID「104」の設備は、緯度35.6582度、経度139.7456度の位置に設置されており、設備の高さは10mであり、前回は2008年6月に交換されており、前回の巡視が行われたのが2010年3月であり、巡視、点検時には、当該設備に付属の変圧器の錆に注意する必要があるということを示している。レコード509及び510についても同様にそれぞれの設備に関する情報が含まれる。
なお、位置情報501及び高さ504は、予め与えられる情報である。すなわち、設備が新設されるとその設備に関する位置情報501及び高さ504が設備状況データ400に追加され、その後、その設備が移設、撤去、又は形状の変更を伴う交換等をされない限り、変更されない。これに対して、前回交換年月505、前回巡視年月506及び要チェックポイント507は、設備が交換されたとき又は巡視員が設備を巡視したとき等に更新される。
設備画像データ401は、巡視、点検の際に携帯情報端末101で撮影した設備画像を設備IDと対応づけて格納するものである。図6は、本発明の第1の実施形態のデータベース303に含まれる設備画像データ401の構成の一例を示す説明図である。
設備画像データ401には、設備ID600とその設備IDに対応する設備画像601とが、撮影の日付とともに格納される。図6には上記のような構成の設備画像データ401を示したが、これは一例であり、本発明の設備画像データの構成は上記のものに限定されない。例えば、設備撮影時に巡視員が気付いたこと等をメモとしてともに格納するなどしてもよい。レコード602、603及び604はそれぞれ設備画像データ401の格納データの一例を示している。例えば、レコード602は設備ID600の値「104」によって識別される設備に関する設備画像データである。この例によれば、2009年8月に撮影された設備画像と、2010年7月に撮影された設備画像とがレコード602に格納されている。レコード603及び604についても同様にそれぞれの設備の画像データが含まれる。
図7は、本発明の第1の実施形態のデータベース303に含まれる履歴データ402の構成の一例を示す説明図である。
図7の例では、履歴データ402は設備の事故の履歴情報を格納している。履歴データ402には、設備ID700とその設備ID700に対応する事故発生年月701とが格納されている。レコード702及び703はそれぞれ履歴データ402の一例を示している。例えば、レコード702には設備ID700の値「104」によって識別される設備における過去の事故発生日「2000/05」(2000年5月)、レコード703には設備ID「450」の設備における過去の事故発生日「2004/06」(2004年6月)が格納されている。この例の履歴データ402は、巡視、点検の際に、過去事故の発生した設備であるということを考慮して注意深く、巡視、点検を行うように携帯状況端末上に提示して注意を促すためのデータである。しかし、このようなデータは履歴データの一例であり、他の情報が履歴データ402として保持されてもよい。
地図データ403には、一般的なGIS(Graphical Information System)データベースと同様に、道路や建物等の位置情報が格納されており、詳細な説明は割愛する。
なお、メモリ306又はデータベース303には、さらに、誤差情報(図示省略)が保持される。具体的には、誤差情報は、位置情報取得部202によって取得された位置情報の誤差、3次元デジタルコンパス207によって取得された方角情報の誤差、及び、後述する方法で計算される撮影対象設備208までの距離情報の誤差を示す情報を含む。ネットワーク102に複数の機種の携帯情報端末101が接続され、機種ごとに誤差が異なる場合には、機種ごとの誤差情報が格納される。この誤差情報は、誤差そのものの値であってもよいし、誤差を計算するために必要となるパラメータ及び計算式を含んでもよい。また、この誤差情報は、予めメモリ306等に格納されていてもよいし、必要に応じて携帯情報端末101等から取得され、メモリ306等に格納されてもよい。誤差の値及びそれを用いて撮影対象設備を特定する処理の具体例については後述する(図13等参照)。
以上の構成に基づいて、本実施形態における巡視作業支援システム全体の処理について説明する。
図8は、本発明の第1の実施形態の巡視作業支援システムにおいて実行される処理を示すフローチャートである。
具体的には、図8には、電力配電設備における電柱等の巡視、点検の際に、撮影した対象設備に関連する情報を自動で提示し、さらに撮影した設備画像に設備IDを自動で紐付け蓄積することで巡視作業を支援する処理の手順の一例を示す。ステップ800、801、802、803、804、811、812、813、814、815が携帯情報端末101による処理ステップ817に含まれ、ステップ805、806、807、808、809、810、816がサーバシステム100による処理ステップ818に含まれる。以下、携帯情報端末101における各処理はCPU204が実行、制御し、サーバシステム100における各処理はCPU300が実行、制御するものとする。
まず、携帯情報端末101による処理ステップ(800、801、802、803及び804)が開始される。
巡視、点検を行っているユーザ(巡視員)が撮影対象設備の付近で携帯情報端末101の操作部205を操作して撮影部203に対象設備208の撮影を指示する(ステップ800)。
ユーザの撮影指示を受けた撮影部203が対象設備208を撮影し、撮影した画像及び撮影時の条件(カメラのズーム率、カメラの焦点距離、撮像素子サイズ、撮影日時情報等)を取得し、メモリ206に格納する(ステップ801)。
図9は、本発明の第1の実施形態の巡視作業支援システムのユーザ(巡視員)が実行する対象設備208の撮影の説明図であり、具体的には、図8のステップ801におけるユーザ(巡視員)の作業イメージを示す。図9に示すように、ユーザ(巡視員)902は、巡視・点検対象である設備900付近へ行き、携帯情報端末901を用いて設備900を撮影する。これによって、例えば設備の撮影画像903が得られる。
ユーザからの撮影指示をトリガとして、位置情報取得部202がGPS衛星209から携帯情報端末101の位置情報を取得し、メモリ206に格納する(ステップ802)。具体的には、位置情報取得部202はGPS衛星209から電波を受信し、受信した電波から距離を測定することで、携帯情報端末101の位置する緯度及び経度を算出する。
ユーザからの撮影指示をトリガとして、3次元デジタルコンパス207が水平方向の方角及び垂直方向の角度を計測し、メモリ206に格納する(ステップ803)。
次に、ステップ800〜803によってメモリ206に格納された情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影時の条件)を、無線通信部200がネットワーク102を介してサーバシステム100に送信する(ステップ804)。
次にサーバシステム100による処理ステップ(805、806、807、808、809及び810)に移行する。
サーバシステム100は携帯情報端末101から受信した情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影時の条件)を一旦メモリ306に格納する(ステップ805)。
CPU300は、メモリ306に格納されている撮影対象物特定プログラム307を実行する。撮影対象物特定プログラム307は、メモリ306に格納した情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影時の条件)及び、データベース303に格納されているデータを用いて、撮影した設備を特定する(ステップ806)。本実施形態では、撮影対象物特定プログラム307は、メモリ306に格納した情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影時の条件)及び、データベース303に格納されているデータを用いて、対象の設備を1つ特定するか、又は幾つかの候補に絞り込む。対象の設備を1つに絞り込むことができない場合には、幾つかの候補をユーザに提示し、ユーザに選択を求めることで最終的に1つの設備に絞り込む。この撮影対象物特定プログラム307の処理内容の詳細は後述する。
次に、サーバシステム100は、上述したように、撮影対象物特定プログラム307の処理の結果、対象の設備を1つに特定できたか否かを判定する(ステップ807)。
ここで、対象の設備を1つに特定できた場合には、サーバシステム100は、撮影した画像を設備画像データ401に特定した設備IDと対応づけて撮影日時情報を付加して格納する(ステップ808)。例えば、撮影対象物特定プログラム307によって、図9において撮影した巡視対象設備900が設備ID「104」によって識別される設備であると特定されたとすると、サーバシステム100は、その撮影画像を、図6の設備画像データ401における設備ID「104」に関する画像データが格納されているレコード602に追加する。
反対に、ステップ807で対象の設備を1つに特定することができず、幾つか候補が残った場合には、この時点ではステップ808を実行せず、ステップ809に進む。
サーバシステム100は、特定した1つ、または幾つかの設備候補に関連するデータを設備状況データ400、及び履歴データ402から検索する(ステップ809)。ここで、設備が1つに特定された場合には、その1つの設備に関するデータのみを、幾つかの候補が残っている場合には、それらの対象設備候補に関するデータを検索する。
次に、サーバシステム100は、ステップ809で検索した設備候補に関するデータをネットワークインタフェース301、ネットワーク102を介して携帯情報端末101に送信する(ステップ810)。
ここから携帯情報端末101による処理ステップ(811、812、813、814、815)が実行される。
携帯情報端末101の無線通信部200は、サーバシステム100から送信された設備候補に関するデータを、ネットワーク102を介して受信する。受信したデータはメモリ206に格納される(ステップ811)。
次に、携帯情報端末101は、撮影対象の設備候補を1つに特定できているか否かを判別する(ステップ812)。具体的には、もしサーバシステム100から受信した設備候補に関するデータが1つの設備のみ関するデータであったら、設備候補を1つに特定できていると判断してよい。反対に、複数の設備に関するデータであったなら、まだ幾つか設備の候補が残っていると判断できる。
ステップ812の処理の結果、撮影対象の設備候補が複数あると判断された場合、携帯情報端末101は、複数の候補を表示部201に周辺地図とともに提示して、ユーザ(巡視員)に幾つかの候補から1つの設備を選択するように求め、ユーザは操作部205を操作することで設備を1つ選択する(ステップ813)。
図10は、本発明の第1の実施形態の表示部201によって表示される撮影対象の設備の候補の説明図であり、ステップ813において表示される画面の一例を示す。
図10では、表示部201のディスプレイ上にユーザ位置の周辺地図1000が表示され、さらに、地図1000上に設備1004の位置がマッピングされている。例えば図10の場合では、3つの設備候補1001、1002、1003が強調表示されており、設備候補1001は設備ID「104」、設備候補1002は設備ID「105」、設備候補1003は設備ID「106」に対応する。ディスプレイ上にこれらの設備IDを示す吹き出しが各設備の位置と対応付けて表示される。さらに、ディスプレイ上部には、ユーザに対して、撮影設備を候補から選択するように指示1005が表示されている。
図10に例示する携帯情報端末101のディスプレイはタッチパネルの機能を備える。この場合、ユーザが指示1005に従って、ユーザの周囲の状況と地図1000から判断し、設備候補1001、1002、1003に対応する吹き出しのいずれかをタッチすることで設備を選択する。このように、本実施の形態ではタッチパネルディスプレイを備えた携帯情報端末101を想定しているが、もちろん実施の形態はこれに限ったものではない。例えば、携帯情報端末101がユーザの操作を受け付けるボタン等を備えてもよく、その場合には、プルダウン等によってディスプレイが設備候補を提示し、ユーザがボタン等を操作することによって設備を選択してもよい。
ステップ813においてユーザが幾つかの候補の中から選択することによって1つの撮影設備を特定した後、携帯情報端末101は、特定した1つの設備IDと撮影画像とを無線通信部200からネットワーク102を介してサーバシステム100に送信する(ステップ814)。撮影画像は既にサーバシステム100のメモリ306に格納されているので、設備IDのみを送信してもよい。
サーバシステム100は、携帯情報端末101から受信した設備IDと撮影画像とを、設備画像データ401に特定した設備ID600と対応づけて、さらに撮影日時情報を付加して格納する(ステップ816)。例えば、図10でユーザが選択した設備の設備IDが「104」であるとすると、サーバシステム100は、その撮影画像を図6の設備画像データ401における設備ID「104」に関する画像データが格納されているレコード602に追加する。
一方、ステップ812の処理の結果、撮影対象の設備が1つに特定されていると判断された場合、又は、ステップ814の処理が実行された場合、設備は1つに特定されているので、携帯情報端末101は、特定した撮影設備に関するデータをメモリ206から読み出し、表示部201に表示することでユーザ(巡視員)に提示する(ステップ815)。
図11は、本発明の第1の実施形態の携帯情報端末101の表示部201に表示される巡視対象設備に関するデータの一例を示す説明図である。
携帯情報端末1103の表示部1100に、撮影された撮影対象設備の画像1101が表示され、さらに、対象設備に関するデータ1102が表示される。図11では、特定された設備は設備ID「104」によって識別される設備であり、特定された設備の撮影画像1101に、設備ID「104」に関するデータ1102が重畳表示される。例えば、図5の設備状況データ400における設備ID「104」に関するデータ508、及び、図7の履歴データ402における設備ID「104」に関するデータ702がデータ1102として表示されている。
このようにユーザ(巡視員)が巡視、点検中に対象の設備を携帯情報端末101で撮影するだけで、撮影した設備をサーバシステム100が自動で特定し、その設備に関するデータを検索し、検索したデータを携帯情報端末101が提示し、ユーザはその情報を参照しながら巡視、点検を行うことができるので、巡視、点検作業を効率化することができる。図11の例では、設備に関するデータが撮影画像に重畳表示されているが、実施の形態はこれに限られない。例えば、画像ではなく、データを纏めた表を表示部201に提示する等、様々な方法が考えられる。また、本システムでは、設備に関する情報を提示するだけでなく、撮影した設備を自動で特定し、設備IDと撮影画像を対応づけて自動的に設備画像データに蓄積することができる。これによって、設備画像を用いた設備状態の管理も容易になる。
次に、図8の巡視作業支援システムのフローチャートにおけるステップ806の撮影対象設備を特定する処理について詳細を説明する。
図12は、本発明の第1の実施形態の巡視作業支援システムにおいて実行される撮影対象設備を特定する処理のフローチャートであり、具体的には、図8のフローチャートのステップ806において実行される処理の詳細を示す。
図12の処理は、メモリ306に格納されている撮影対象物特定プログラム307をCPU300が実行することで開始される。撮影対象物特定プログラム307はメモリ306に格納した情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影時の条件)、及び、データベース303に格納されているデータを用いて、撮影した設備を1つ特定する、又は幾つかの候補に絞り込む(ステップ806)。対象の設備を1つに絞り込むことができない場合には、幾つかの候補をユーザに提示し、ユーザに選択を求めることで最終的に1つの設備に絞り込む。
まず、撮影対象物特定プログラム307は、メモリ306に格納されているユーザ(巡視員)の位置情報(すなわち携帯情報端末101の位置情報)及び撮影方角を用いてそれらの測定誤差を含めた範囲を指定し、設備状況データ400に格納されている設備位置情報501を用いて、撮影した設備が存在する可能性がある範囲を特定する(ステップ1200)。
図13は、本発明の第1の実施形態の撮影対象物特定プログラム307による、撮影した設備が存在する可能性がある範囲を特定する処理の説明図であり、図12のステップ1200の処理の具体的な例を示す。
図13(A)は、地図上の設備配置を示しており、設備1300が空間上に配置されている。この空間におけるユーザ位置1302は、位置情報取得部202が取得したユーザの位置情報に基づいてプロットされたユーザ位置である。撮影方角1301は、3次元デジタルコンパス207が取得した撮影方角情報に基づき、ユーザ位置1302を起点として示したものである。
位置情報と撮影方角情報が正確であれば、撮影した設備が、ユーザ位置1302から撮影方角1301の方角に存在している設備A1306であると容易に特定できる。しかし、実際には位置情報取得部202から得た位置情報及び3次元デジタルコンパス207から得た撮影方角情報には測定誤差が含まれる場合が多い。例えば、位置情報取得部202の一例であるGPSによる位置情報には最大100m程度、3次元デジタルコンパスには±5度程度の測定誤差があり、用いる製品ごとに誤差の程度が開示されている。このため、図13のような位置情報及び撮影方角情報が得られた場合であっても、実際には設備A1306以外の設備を撮影した可能性がある。そこで、実際に撮影した設備を特定するために、測定誤差を考慮して、撮影した設備が存在する可能性がある範囲を特定する必要がある。
撮影対象物特定プログラム307は、まず、ユーザ位置1302を中心として誤差範囲を含むユーザ位置情報誤差範囲1303を算出する。例えば、位置情報取得部202の誤差として「100m」が開示されている場合、ユーザ位置1302を中心とする半径100mの円がユーザ位置情報誤差範囲1303として算出される。このユーザ位置情報誤差範囲1303内にユーザの実際の位置が含まれることとなる。
次に、撮影方角1301についても誤差を考慮すると、撮影方角の誤差範囲1305を求めることができる。例えば、3次元デジタルコンパス207の誤差として「±5度」が開示されている場合、ユーザ位置1302を基点とする、撮影方角1301に対して±5度の範囲が撮影方角誤差範囲1305として算出される。
撮影方角誤差範囲1305はユーザ位置1302を基点とする撮影方角1301の誤差であるが、ユーザ位置1302にも上記のユーザ位置情報誤差範囲1303として算出された誤差がある。すなわち、撮影した設備は、ユーザ位置情報誤差範囲1303内のいずれかの地点を基点とする、撮影方角誤差範囲1305と同等の方角範囲内の設備のいずれかである。このため、撮影対象物特定プログラム307は、ユーザ位置情報誤差範囲1303に対して撮影方角誤差範囲1305を考慮することによって、両データの誤差範囲1304を算出する。これは、ユーザ位置情報誤差範囲1303内の全ての点を起点とする撮影方角誤差範囲1305の和集合に相当する。
図13(B)の斜線部1307は、両データの誤差範囲1304に相当し、この範囲内に撮影した設備が存在する可能性がある。言い換えると、実際の測定誤差が、開示されている誤差の範囲内である限り、斜線部1307の外側の設備を撮影した可能性はない。
次に、撮影対象物特定プログラム307は、撮影した画像から対象設備を抽出し、その高さを測定する(ステップ1201)。ここでは、対象設備の一例として電柱を示す。電柱は円柱状の設備であるため、撮影対象物特定プログラム307は、簡単なテンプレートマッチング等によって撮影画像から容易に設備を抽出でき、画像中の設備の高さ(すなわち、撮影された画像に含まれる設備の部分の画像の下端から上端までの長さ)を測定する。ここで画像中の設備の高さとは、撮影された画像に含まれる設備の部分の画像の下端から上端までの長さである。電柱の例を説明すると、ユーザが電柱の基部(地面と交差する部分)から先端までの全体が撮影画像に含まれるように撮影し、撮影対象物特定プログラム307が撮影画像から電柱の部分の画像を抽出し、その基部から先端までの画像の長さを測定する。
あるいは、そのような抽出処理を行わずに設備の高さを測定する方法も考えられる。例えば、ユーザに、携帯情報端末101のディスプレイの高さが画像中の設備の高さとなるように撮影するように制約を設けておけば、高さを測定するまでもなく、ディスプレイの高さが画像中の設備の高さとなる。
次に、撮影対象物特定プログラム307は、撮影した設備が存在する可能性がある範囲1307内にあるそれぞれの設備が、ユーザが携帯情報端末101を用いて撮影した設備であると仮定し、撮影した設備が存在する可能性がある範囲1307内にあるそれぞれの設備に対し、設備状況データ400に格納されている実際の設備の高さ504と、処理ステップ1201で算出した撮影画像中の設備の高さと、カメラの撮影条件(焦点距離、ズーム率、撮像素子サイズ)と、誤差情報と、を用いてユーザの撮影位置の範囲を推定する(ステップ1202)。
図14は、本発明の第1の実施形態の撮影対象物特定プログラム307による、ユーザの撮影位置を推定する処理の説明図であり、図12のステップ1202の具体的な処理イメージを示す。
図12のステップ1200で求めた、撮影した設備が存在する可能性がある範囲1401(図13の範囲1307に相当する)内にある各設備について、撮影対象物特定プログラム307は、ユーザが携帯情報端末101を用いて撮影した設備であると仮定し、それぞれの設備が撮影した画像のように写る場合のユーザ(巡視員)の撮影位置を算出する。
例えば、図14における設備a1402についてこの処理を行うと、まず、設備a1402が携帯情報端末101の撮影部203の被写体であると仮定した場合、設備a1402の実際の高さHと、前記ステップ1201で求めた撮影画像中の設備の高さと、撮影時の条件(カメラのズーム率x、カメラの焦点距離f、撮像素子サイズ(高さh×幅w))の関係を用いて被写体までの距離dを算出する。
図15は、本発明の第1の実施形態の撮影対象物特定プログラム307による、ユーザから被写体までの距離の算出方法の説明図であり、具体的には、撮影画像の高さが画像中の設備の高さと等しい場合の、被写体までの距離dと、焦点距離fと、撮像素子サイズ(高さh×幅w)との関係を示した図である。図15に示す被写体1500の高さH、撮像素子1501の高さh、及びカメラの焦点距離f1503が与えられた場合、被写体までの距離d1502は式(1)によって求めることができる。
カメラのズーム率xの値からズーム機能を用いたことが判明している場合には、その値に応じて焦点距離等を補正すればよい。また、式(1)は、ユーザが、撮像素子1501の高さhと、撮影された画像中の設備の高さとが同一になるように撮影した場合に適用されるものであるが、実際にはユーザがそのような条件で撮影することができない場合もある。このように、撮影画像の高さが画像中の設備の高さと等しくない場合には、画像中の設備の高さと実際の設備の高さから画像中の高さ方向の撮影範囲を推定すればよい。具体的には、式(1)における撮像素子1501の高さhを、撮影された画像中の設備の高さによって置き換えることによって、被写体までの距離d1502を求めることができる。
式(1)によって、図14の設備a1402に関して、ユーザから被写体までの距離(撮影距離)dが推定される。仮に、撮影距離d及び撮影方角情報のいずれにも誤差がないとすれば、ユーザの撮影位置は、設備a1402を中心とする半径dの円上に存在する点であって、かつ、その点を基点とする撮影方角1301上に設備a1402が存在する、という条件を満たす点である。しかし、実際には、撮影方角情報は上記の誤差範囲1305のような誤差を含み、さらに、撮影距離dも通常は誤差を含んでいる。このため、撮影対象物特定プログラム307は、これらの誤差を考慮して、ユーザの撮影位置の範囲を推定する。
まず、撮影対象物特定プログラム307は、撮影距離dの誤差範囲を推定する。例えば、撮影対象物特定プログラム307は、予め与えられた誤差範囲推定用のパラメータを用いて撮影距離dの誤差範囲を計算してもよい。例えば、撮影対象物特定プログラム307は、撮影距離d±10mといった所定の距離の加算、又は、撮影距離d±10%といった所定の比率の乗算によって誤差範囲を推定してもよい。この場合、「±10m」又は「±10%」が予め与えられた誤差範囲推定用のパラメータである。これによって、例えば図14に示すように、上記のようにして求められた撮影距離dの誤差範囲が、設備a1402の設置位置を中心とした二つの同心円にはさまれた範囲1403として求められる。
さらに、撮影対象物特定プログラム307は、撮影距離の誤差範囲1403に撮影方角情報及びその誤差の情報を用いることで、設備aの推定撮影位置1404を算出する。具体的には、撮影対象物特定プログラム307は、範囲1403に含まれる点であって、かつ、その点を基点とする撮影方角の誤差範囲1305に設備a1402が含まれる点の集合を、ユーザが設備a1402を撮影したと推定される位置の範囲、すなわち推定撮影位置1404として算出する。
図14における設備b1405について同様な処理を実行することによって、例えば、設備bの推定撮影位置1406が算出される。設備によって高さが異なるため、推定される撮影距離を示す円の大きさも設備によって異なる。撮影対象物特定プログラム307は、範囲1401内の他の設備についても同様の方法でユーザの撮影位置の範囲を推定する。
次に、撮影対象物特定プログラム307は、各設備について推定された撮影位置の範囲の少なくとも一部が、ユーザ位置情報誤差範囲1400に含まれているか否かを検証することで、設備候補を絞る(ステップ1203)。撮影対象物特定プログラム307は、ステップ1202において、撮影した設備が存在する可能性がある範囲1401内にある各設備に対して、推定撮影位置1404及び1406等を推定した。これらは、例えば、実際の誤差が計算に用いられた誤差を超えない限り、設備a1402が推定撮影位置1404以外の位置から撮影された可能性がないことを意味する。すなわち、撮影された時点で、ユーザが推定撮影位置1404の範囲内にいた可能性がない場合、撮影された設備が設備a1402である可能性はない。
このため、撮影対象物特定プログラム307は、推定撮影位置の少なくとも一部が、GPSによって求めたユーザ位置情報誤差範囲1400に含まれているか否かを検証し、その検証結果に従って設備候補を絞っていく。例えば、図14における設備aの推定撮影位置1404の少なくとも一部がユーザ位置情報誤差範囲1400に含まれているので、両者の重複範囲内のいずれかの位置からユーザが設備a1402を撮影した可能性がある。すなわち、撮影した設備が設備a1402である可能性があるため、撮影対象物特定プログラム307は、設備a1402を候補として残しておく。一方、設備bの推定撮影位置1406は、ユーザ位置情報誤差範囲1400に含まれていないため、撮影対象物特定プログラム307は、設備b1405は撮影した設備ではないと判定し、設備候補から除外する。撮影対象物特定プログラム307は、範囲1401内の他の設備についても同様の検証を行い、設備候補を絞り込む。
次に、撮影対象物特定プログラム307は、ステップ1203の絞り込みの結果、設備候補を1つに絞り込むことができたか否かを判定する(ステップ1204)。
ステップ1204において、設備候補がまだ複数残っていると判定された場合には、撮影対象物特定プログラム307は、地図データを用いて、地理的条件から推定した巡視員位置の妥当性を検証することで設備候補をさらに絞る(ステップ1205)。
図16は、本発明の第1の実施形態の撮影対象物特定プログラム307による、地理的条件に基づいてユーザ位置の妥当性を検証する処理の説明図であり、具体的には、ステップ1205の処理の一例を示す図である。
ステップ1205において、撮影対象物特定プログラム307は、設備候補として残っている複数の設備に対して、それぞれ地図情報を用いて、推定されたユーザの位置から候補設備を物理的に撮影可能であるか否かを検証することでさらに設備候補を絞り込む。例えば、図16(A)では、撮影対象物特定プログラム307は、設備候補1600とその推定撮影位置1601に対して、これらの位置をキーとして地図データ403から設備候補1600とその推定撮影位置1601の間に建造物又は山等の障害物が存在するかどうかを検索する。その結果、例えば図16(A)のように建造物等1602が存在する場合、推定撮影位置1601から設備候補1600を撮影することは不可能となるため、設備候補1600を候補から除外する。なお、この検索を行うために、地図データ403は、地形及び建造物の形状等の情報を含んでいる必要がある。
具体的には、例えば、撮影対象物特定プログラム307は、地図データ403に含まれる建造物等1602の形状に基づいて、設備候補1600を見通し可能な範囲1604を特定し、その見通し可能な範囲1604と推定撮影位置1601の少なくとも一部とが重複しない場合、設備候補1600を候補から除外する。
また、図16(B)の例では、撮影対象物特定プログラム307は、設備候補1600の推定撮影位置1601が、ユーザが通ることができる場所であるかを検証することで、推定位置の妥当性を確認する。具体的には、図16(B)では、撮影対象物特定プログラム307は、推定撮影位置1601上に道路があるかどうかを地図データ403から検索し、図16(B)のように道路があれば、ユーザが推定撮影位置上に存在できるため、推定撮影位置1601は妥当である(すなわち設備候補1600を候補から除外する必要がない)ということが確認できる。もし、推定撮影位置1601が、道路以外の(すなわちユーザが通れない)場所であれば、撮影対象物特定プログラム307は、設備候補1600を撮影不可能と判定して、候補から除外する。
図16(B)は道路の例を示したが、地図データ403から、ユーザが立ち入りできる範囲(例えば公共の領域)と、ユーザが立ち入りできない範囲(例えば私有地など)とを特定できる場合には、推定撮影位置1601の少なくとも一部が、ユーザが立ち入りできる範囲と重複するか否かを判定し、重複しない場合には設備候補1600を候補から除外することができる。このように、撮影対象物特定プログラム307は、設備と推定撮影位置の間の遮蔽物、又は、推定撮影位置に対するユーザの存在可能性を検証することで、候補を絞り込む。
撮影対象物特定プログラム307は、以上のステップの絞り込みの結果、候補として残った一つ又は複数の設備を、撮影した設備候補として出力する(ステップ1206)。
図17は、本発明の第1の実施形態の撮影対象物特定プログラム307による、複数の設備の位置関係に基づいてユーザの撮影位置を推定する処理の説明図である。
図17の撮影画像1700のように一つの画像内に設備c1701及び設備d1702といった複数の設備が写っている場合には、撮影対象物特定プログラム307は、これらの位置関係を用いて、設備c1701及び設備d1702の位置関係を撮影可能なユーザの撮影位置1703を特定するという処理をステップ1205等で行ってもよい。
具体的には、撮影対象物特定プログラム307は、例えば、設備c1701及び設備d1702のそれぞれについて、図14を参照して説明した方法によって推定撮影位置を特定してもよい。二つの設備の推定撮影位置が重複し、かつ、重複した範囲の少なくとも一部がユーザ位置情報誤差範囲1400に含まれる場合には、設備c1701及び設備d1702を同一画像内に撮影できた可能性があるため、撮影対象物特定プログラム307は、それらの設備を候補として残す。一方、二つの設備の推定撮影位置が重複しないか、又は、重複した範囲のどの部分もユーザ位置情報誤差範囲1400に含まれない場合には、設備c1701及び設備d1702を同一画像内に撮影することが不可能である(すなわち撮影された画像に含まれる二つの設備は設備c1701と設備d1702の組ではない)と判定して、設備c1701及び設備d1702の少なくとも一方を候補から除外してもよい。
以上に説明したように、本発明の第1の実施形態によると、電力配電設備における電柱等、特に高密度で広範囲に数多く散在する設備の保全作業である巡視、点検の際に、撮影した対象設備に関連する情報を自動で提示することで作業を支援するシステムについて、撮影機能及び測位機能を備える携帯端末が取得した位置情報、方角情報及び撮影画像を用いて、測位情報の測定誤差を考慮して自動的にかつ高精度で対象物を特定することができる。そして、それを利用して電力配電設備における電柱等の巡視、点検の際に、撮影した対象設備に関連する情報を自動で提示することができ、それによって巡視、点検の効率を向上させることができる。さらに撮影した設備画像に設備IDを自動で対応付けることができるため、効率良く設備画像を蓄積することができる。
<第2の実施形態>
本実施形態では、第1の実施形態とは異なったシステム構成及び処理手順を持つ巡視作業支援システムの一例を説明する。第1の実施形態では、携帯情報端末101がサーバシステム100に必要な情報を送信し、サーバシステム100側で撮影した設備を特定し、その結果を携帯情報端末101に送信する。これに対して、第2の実施形態では、携帯情報端末とサーバシステムがネットワークで接続されていない。ユーザはクライアントPCに携帯情報端末を接続し、該当日(すなわち巡視・点検等の作業を行う日)に巡視、点検予定の地域の関連データをダウンロードしてから巡視、点検に行く。点検時に、携帯情報端末内部で撮影設備の特定処理が行われる。該当日の巡視、点検が全て終了してから、携帯情報端末がクライアントPCを介してサーバシステムに結果をアップロードする。
図18は、本発明の第2の実施形態の巡視作業支援システムの全体構成の一例を示すブロック図である。
本実施形態の巡視作業支援システムにおいて、サーバシステム1800とクライアントPC1802が有線又は無線のネットワーク1801を介して接続されており、複数の携帯情報端末1803がクライアントPC1802を介してサーバシステム1800との間でデータのアップロード及びダウンロードを行う。図18の例では3台の携帯情報端末1803が接続されているが、接続される携帯情報端末1803の台数はこれに限定されない。以下、本システムの構成要素について説明する。
図19は、本発明の第2の実施形態の巡視作業支援システムに含まれる携帯情報端末1803の構成の一例を示すブロック図である。
携帯情報端末1803は、USB等の、外部機器と接続するためのI/O1900、ディスプレイ等の表示部1901、GPS衛星1910から位置情報を取得する位置情報取得部1902、撮影対象設備1908を撮影するデジタルスチルカメラ等の撮影部1903、全体の処理を制御するCPU1904、ユーザが入力操作を行うボタン又はタッチパネル等の操作部1905、画像データ及び設備情報等を保存するフラッシュメモリ等の不揮発性記憶装置であるメモリ1906、及び、携帯情報端末1803の向いている方角を取得するための3次元デジタルコンパス1907から構成される。
CPU1904は、位置情報取得部1902から位置情報を取得し、撮影部1903から撮影画像及び撮影状況の情報を取得し、3次元デジタルコンパス1907から撮影方角の情報を取得し、取得したそれらの情報をメモリ1906に格納する。また、CPU1904は、対象設備に関する情報が付加された画像を表示部1901に表示させる。これらの処理については後述する。
携帯情報端末1803は、具体的には、デジタルカメラ、携帯電話機、又はPDA等の携帯端末が該当する。位置情報取得部1902は、受信回路等から構成され、GPS衛星1910からの電波を受信し、受信した電波から距離を測定することで、携帯情報端末の位置する緯度及び経度の位置情報を取得する。メモリ1906には撮影対象設備の特定処理を行うための撮影対象物特定プログラム1909が格納されており、CPU1904がこの撮影対象物特定プログラム1909をメモリ1906から読み出し、実行する。
なお、メモリ1906には、さらに、誤差情報(図示省略)が保持される。この誤差情報は、第1の実施形態のメモリ306等に格納されるものと同様に、位置情報取得部1902によって取得された位置情報の誤差、3次元デジタルコンパス1907によって取得された方角情報の誤差、及び、撮影対象設備208までの距離情報の誤差を示す情報を含む。
図20は、本発明の第2の実施形態の巡視作業支援システムに含まれるサーバシステム1800及びクライアントPC1802の構成の一例を示すブロック図である。
サーバシステム1800は、サーバシステム1800の全体を制御するCPU2000、ネットワークインタフェース2001、USBなどの、外部機器と接続するためのI/O2002、設備に関する情報、地図情報及び設備画像等が保存されているデータベース2003、ユーザが入力するためのキーボード及びマウス等の操作部2004、処理の結果及びログ等を表示するための表示部2005、不揮発性記憶装置であるメモリ2006、及びデータバス2007から構成され、上記の各部2000〜2006がそれぞれデータバス2007と接続されている。データベース2003は、例えばハードディスクドライブのような記憶装置によって構成されてもよい。
クライアントPC1802は、クライアントPC1802の全体を制御するCPU2012、ネットワークインタフェース2008、USBなどの、外部機器と接続するためのI/O2009、ユーザが入力するためのキーボード及びマウス等の操作部2013、処理の結果及びログ等を表示するための表示部2011、不揮発性記憶装置であるメモリ2010、及びデータバス2014から構成され、上記の各部2008〜2013がそれぞれデータバス2014と接続されている。サーバシステム1800とクライアントPC1802は有線又は無線のネットワーク1801で接続されており、ネットワーク1801を介して両者が相互にデータの送受信を行う。
本実施形態では、携帯情報端末1803とサーバシステム1800とがネットワーク1801を介して接続されていない。ユーザはクライアントPC1802に携帯情報端末1803を接続し、該当日に巡視、点検予定の地域の関連データをダウンロードしてから巡視、点検に行く。点検時にユーザは撮影対象設備1908を撮影部1903によって撮影し、それと同時に位置情報取得部1902がGPS衛星1910から位置情報を取得し、3次元デジタルコンパス1907が撮影方角を取得する。CPU1904はこれらの情報を用いて、メモリ1906内の撮影対象物特定プログラム1909を実行し、撮影した設備を特定し、撮影した設備に関する情報を表示部1901に表示する。そして該当日の巡視、点検が全て終了してから、携帯情報端末1803がクライアントPCを介してサーバシステム1800に結果をアップロードする。サーバシステム1800では、撮影画像を設備IDと対応づけてデータベース2003に蓄積する。処理の詳細については後述する。データベース2003の構成等、ここで特に説明していないものは第1の実施形態と同じであるため、説明は割愛する。
以上の構成を有する、本実施の形態における巡視作業支援システム全体の処理について説明する。
まず、図21を参照して、巡視、点検の作業に行く前にユーザ(巡視員)がサーバシステム1800とクライアントPC1802を用いて関連データをダウンロードする処理について説明する。
図21は、本発明の第2の実施形態の巡視作業支援システムのユーザが巡視又は点検の作業前に関連データをダウンロードする処理のフローチャートである。
まず、ユーザ(巡視員)がクライアントPC1802のI/O2009と携帯情報端末1803のI/O1900とをUSBケーブル等の接続手段によって接続する(ステップ2100)。これは一例であり、他の方法、例えばフラッシュメモリのような外部記憶媒体を介することによってデータの受け渡しを行ってもよい。
ユーザがクライアントPC1802の操作部2013を操作し、サーバシステム1800にネットワーク1801を介してアクセスし、該当日の巡視予定地区にある設備に関するデータをデータベース2003から検索する(ステップ2101)。巡視予定地区にある設備に関するデータとは、データベース2003に格納されている設備状況データ400、履歴データ402、周辺の地図データ403である。
ユーザは、ステップ2101によって検索したデータをサーバシステム1800におけるデータベースからネットワーク1801を介してクライアントPC1802にダウンロードし、そのデータをクライアントPC1802内のメモリ2010に一時格納し、さらに、クライアントPC1802のI/O2009及び携帯情報端末1803のI/O1900を介して携帯情報端末1803のメモリ1906に格納する(ステップ2102)。
ステップ2102が終了したら、ユーザがクライアントPC1802から携帯情報端末1803を取り外す。
以上の処理フローによって、該当日に巡視予定の設備に関するデータが携帯情報端末1803にダウンロードされたので、ユーザは携帯情報端末を持って現場に巡視、点検に行く。
次に、図22を用いて、巡視作業中の携帯情報端末1803の処理について説明する。
図22は、本発明の第2の実施形態の携帯情報端末1803が実行する処理のフローチャートである。
巡視、点検を行っているユーザ(巡視員)が撮影対象設備の付近で携帯情報端末1803の操作部1905を操作して撮影部1903に撮影対象設備1908の撮影を指示する(ステップ2200)。
ユーザの撮影指示を受けた撮影部1903が撮影対象設備1908を撮影し、撮影した画像及び撮影時の条件(カメラのズーム率、カメラの焦点距離、撮像素子サイズ、撮影日時情報等)を取得し、メモリ1906に格納する(ステップ2201)。
ユーザからの撮影指示をトリガとして、位置情報取得部1902がGPS衛星1910から携帯情報端末1803の位置情報を取得し、メモリ1906に格納する(ステップ2202)。具体的には、位置情報取得部1902はGPS衛星1910から電波を受信し、受信した電波から距離を測定することで、携帯情報端末1803の位置する緯度及び経度を算出する。
ユーザからの撮影指示をトリガとして、3次元デジタルコンパス1907が水平方向の方角及び垂直方向の角度を計測し、メモリ1906に格納する(ステップ2203)。
次に、CPU1904がメモリ1906に格納されている撮影対象物特定プログラム1909を実行し、撮影対象物特定プログラム1909はメモリ1906に格納されているデータ(撮影画像、携帯情報端末の位置情報、撮影方角、撮影時の条件、及びサーバシステムからダウンロードしたデータ)を用いて、撮影した設備を特定する(ステップ2204)。撮影対象物特定プログラム1909の処理内容は第1の実施形態で説明した撮影対象物特定プログラム307の処理内容と同様であるため、説明を割愛する。
次に、撮影対象物特定プログラム1909の処理の結果、対象の設備を1つに特定できたか否かを判定する(ステップ2205)。
ステップ2205の結果、撮影対象の設備候補が複数あると判断された場合、携帯情報端末1803は、複数の候補を表示部1901に周辺地図とともに提示して、ユーザ(巡視員)に幾つかの候補から1つの設備を選択するように求め、ユーザは操作部1905を操作することで設備を1つ選択する(ステップ2206)。表示部1901の表示方法については第1の実施形態の表示部201の表示方法と同様であるため、説明を割愛する(図10参照)。
ステップ2205の結果、対象の設備を1つに特定できた場合、又は、ステップ2206によって複数の設備候補から1つが選択された場合、携帯情報端末1803は、撮影した画像と特定した設備IDを対応づけてメモリ1906に再び格納する(ステップ2207)。
次に、携帯情報端末1803は、特定した撮影設備に関連する設備状況データ及び履歴データをメモリ1906から検索する(ステップ2208)。
次に、携帯情報端末1803は、検索したデータを表示部1901に表示することでユーザ(巡視員)に提示する(ステップ2209)。表示例については第1の実施形態と同様であるため、説明を割愛する(図11参照)。
次に、図23を参照して、該当日の巡視、点検作業が終了した後に、ユーザ(巡視員)がサーバシステム1800とクライアントPC1802を用いて関連データをアップロードする処理について説明する。
図23は、本発明の第2の実施形態の巡視作業支援システムのユーザが巡視又は点検の作業後に関連データをアップロードする処理のフローチャートである。
まず、ユーザ(巡視員)がクライアントPC1802のI/O2009と携帯情報端末1803のI/O1900とをUSBケーブル等の接続手段によって接続する(ステップ2300)。これは一例であり、他の方法、例えばフラッシュメモリのような外部記憶媒体を介することによってデータの受け渡しを行ってもよい。
ユーザがクライアントPC1802の操作部2013を操作し、携帯情報端末のメモリ1906に格納されている該当日の巡視結果及び設備の撮影画像を、クライアントPC1802のI/O2009及び携帯情報端末1803のI/O1900を介してクライアントPC1802のメモリ2010に格納する(ステップ2301)。
次に、クライアントPC1802は、メモリ2010に格納されたデータを有線又は無線ネットワーク1801を介してサーバシステム1800に送信する。サーバシステム1800は、クライアントPC1802から受信したデータをメモリ2006に一時格納し、そこからデータベース2003の各データにメモリ2006内のデータを振り分けて格納することでデータベース2003を更新する(ステップ2302)。例えば、サーバシステム1800は、今回巡視、点検を行った設備に関する設備状況データ400の前回巡視年月506を上書きし、今回撮影した設備画像を、設備画像データ401の、対応する設備IDを有するレコードに格納する。
ステップ2302が終了したら、ユーザは、クライアントPC1802から携帯情報端末1803を取り外す(ステップ2303)。
以上に説明したように、本発明の第2の実施形態によると、携帯情報端末1803とサーバシステム1800とがネットワーク1801によって接続されていない。ユーザはクライアントPC1802に携帯情報端末1803を接続し、該当日に巡視、点検予定の地域の関連データをダウンロードしてから巡視、点検に行く。点検時には携帯情報端末1803内部で撮影設備の特定処理が行われ、該当日の巡視、点検が全て終了してから、携帯情報端末1803がクライアントPCを介してサーバシステムに結果をアップロードする。
以上の本発明の第2の実施形態によると、電力配電設備における電柱等、特に高密度で広範囲に数多く散在する設備の保全作業である巡視、点検の際に、撮影した対象設備に関連する情報を自動で提示することで作業を支援するシステムについて、撮影機能及び測位機能を備える携帯端末が取得した位置情報、方角情報及び撮影画像を用いて、測位情報の測定誤差を考慮して自動的にかつ高精度で対象物を特定することができる。そして、それを利用して電力配電設備における電柱等の巡視、点検の際に、撮影した対象設備に関連する情報を自動で提示することができ、それによって巡視、点検の効率を向上させることができる。さらに撮影した設備画像に設備IDを自動で対応付けることができるため、効率良く設備画像を蓄積することができる。
<第3の実施形態>
本実施形態では、商店街等においてユーザが撮影機能及び測位機能を備える携帯情報端末を用いて店舗を撮影すると、撮影した店舗を自動で特定し、特定した店舗に関する情報をユーザに自動で提示する店舗情報提示システムの一例を説明する。
本実施形態の店舗情報提示システムの全体システム構成は図1の第1の実施形態の巡視作業支援システムの全体構成を示すブロック図と同様であるため、説明は割愛する。以下、本システムの構成要素について説明する。
図24は、本発明の第3の実施形態の店舗情報提示システムにおける携帯情報端末101の構成の一例を示すブロック図である。
第1の実施形態及び第2の実施形態においては、撮影対象となるものが、例えば電力配電設備における電柱等のように、形状が予めわかっている物体であるため、撮影画像中から設備を抽出するのが比較的容易であり、その設備の高さを算出するのも容易であった。また、設備状況データにも設備毎の高さ情報が管理されていた。しかし、本実施形態では、撮影対象となるものが商店街等における店舗であり、店舗は形状も様々あるので抽出処理が複雑になる可能性があり、さらに店舗毎の高さ情報が管理されているとは考えにくい。もちろん、店舗毎の高さ情報が管理されているなら、第1の実施形態、第2の実施形態と同様に、撮影画像中から高さを算出して、高さを用いて撮影対象との距離を算出してもよい。
本実施形態では、店舗毎の高さ情報が管理されていないことを前提とする。本実施形態の携帯情報端末101は、撮影対象物との距離を算出する手段として測距部を有し、これによって撮影対象物と携帯情報端末101との間の距離を計測する。測距部は例えば、音波を送信して対象物に反射して戻ってくるまでの時間を計測することで距離を算出する超音波距離センサ、又は、同様のことを赤外線によって行う赤外線距離センサ等を用いればよい。
携帯情報端末101は、無線通信部2400、撮影画像及び設備情報等をユーザに提示するディスプレイ等の表示部2401、GPS衛星2410から位置情報を取得する位置情報取得部2402、撮影対象店舗2408を撮影するデジタルスチルカメラ等の撮影部2403、全体の処理を制御するCPU2404、ユーザが入力操作を行うボタン又はタッチパネル等の操作部2405、画像データ及び設備情報等を保存するフラッシュメモリ等の不揮発性記憶装置であるメモリ2406、携帯情報端末101の向いている方角を取得するための3次元デジタルコンパス2407、及び上記の測距部2409から構成される。
位置情報取得部2402は、受信回路等から構成され、GPS衛星2410からの電波を受信し、受信した電波から距離を測定することで、携帯情報端末の位置する緯度及び経度の位置情報を取得する。
CPU2404は、位置情報取得部2402から位置情報を取得し、撮影部2403から撮影画像の情報を取得し、3次元デジタルコンパス2407から撮影方角の情報を取得し、測距部2409から撮影距離の情報を取得し、取得したそれらの情報をメモリ2406に格納する。さらに、CPU2404は、それらの情報を、無線通信部2400及びそこに接続されたネットワーク102を介してサーバシステム100に送信する。また、CPU2404は、無線通信部200及びそこに接続されたネットワーク102を介してサーバシステム100から対象店舗に関する情報を取得し、それをメモリ2406に格納し、さらに、取得した対象店舗に関する情報が付加された画像を表示部2401に表示させる。これらの処理については後述する。
本実施形態の店舗情報提示システムにおけるサーバシステム100の内部構成は図3の第1の実施形態のサーバシステム構成を示すブロック図と同様であるため、説明は割愛する。ただし、本実施形態のサーバシステム100が保持する誤差情報は、測距部2409が取得する撮影距離の誤差の情報を含む。さらに、本実施形態のデータベース303の内部構成は第1の実施形態のデータベース303および第2の実施形態のデータベース2003のいずれとも異なる。
図25は、本発明の第3の実施形態におけるデータベース303の構成の一例を示すブロック図である。本実施形態のデータベース303は、店舗データ2500及び地図データ2501から構成される。
図26は、本発明の第3の実施形態のデータベース303に含まれる店舗データ2500の構成の一例を示す説明図である。
店舗データ2500は、店舗ID2600、店舗の位置情報2601、店舗名2604、店舗種類2605、コメント2606、及び店舗URL2607によって構成されるが、これに限定する必要はなく、店舗に関してユーザに提示可能な情報を含むことができる。店舗の位置情報2601は、緯度2602及び経度2603を含む。
データ2608、2609及び2610は格納されている店舗データの一例を示す。例えば、データ2608には、店舗ID2600の値「234」によって識別される店舗についてのデータが格納されている。店舗ID「234」の店舗は緯度35.6579、経度139.7443に位置し、店舗名は「○○商店」であり、店舗の種類は雑貨店であり、該店舗においては、12月は全商品が5%OFFであり、店舗のWebサイトのURLはhttp://www...であることが分かる。データ2609、2610についても同様にそれぞれの店舗に関する情報が含まれる。
地図データ2501には、一般的なGISデータベースと同様に、道路や建物等の位置情報が格納されており、これについての詳細な説明は割愛する。
以上の構成を有する本実施形態における店舗情報提示システム全体の処理について説明する。
図27は、本発明の第3の実施形態の店舗情報提示システムにおいて実行される処理を示すフローチャートである。
以下、それぞれの処理ステップについて順番に説明する。ステップ2700、2701、2702、2703、2704、2705、2710、2711、2712及び2713が、本実施形態の携帯情報端末101による処理ステップ2714であり、ステップ2706、2707、2708及び2709が、本実施形態のサーバシステム100による処理ステップ2715である。以下、携帯情報端末101における各処理はCPU2404が実行、制御し、サーバシステムにおける各処理はCPU300が実行、制御するものとする。
まずは携帯情報端末101による処理ステップ(2700、2701、2702、2703、2704及び2705)が開始される。
携帯情報端末101を持ったユーザが撮影対象店舗の付近で携帯情報端末101の操作部2405を操作して撮影部2403に撮影対象店舗2408の撮影を指示する(ステップ2700)。
ユーザの撮影指示を受けた撮影部2403が撮影対象店舗2408を撮影し、撮影した画像を取得し、メモリ2406に格納する(ステップ2701)。
ユーザからの撮影指示をトリガとして、位置情報取得部2402がGPS衛星2410から携帯情報端末101の位置情報を取得し、メモリ2406に格納する(ステップ2702)。具体的には、位置情報取得部2402はGPS衛星2410から電波を受信し、受信した電波から距離を測定することで、携帯情報端末101の位置する緯度及び経度を算出する。
ユーザからの撮影指示をトリガとして、3次元デジタルコンパス2407が水平方向の方角と垂直方向の角度を計測し、メモリ2406に格納する(ステップ2703)。
ユーザからの撮影指示をトリガとして、測距部2409が携帯情報端末101と撮影対象店舗との間の距離を計測し、メモリ2406に格納する(ステップ2704)。具体的には測距部2409は例えば、音波を送信して対象物に反射して戻ってくるまでの時間を計測することで距離を算出する超音波距離センサ、又は、同様のことを赤外線によって行う赤外線距離センサ等を用いて計測する。
携帯情報端末101は、ステップ2700〜2704によってメモリ2406に格納された情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影対象店舗との距離)を、無線通信部2400からネットワーク102を介してサーバシステム100に送信する(ステップ2705)。
次にサーバシステム100による処理ステップ(2706、2707、2708及び2709)に移行する。
サーバシステム100は携帯情報端末101から受信した情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影対象店舗との距離)を一旦メモリ306に格納する(ステップ2706)。
CPU300がメモリ306に格納されている撮影対象物特定プログラム307を実行する。撮影対象物特定プログラム307は、メモリ306に格納した情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影対象店舗との距離)及び、データベース303に格納されているデータを用いて、撮影した設備を特定する(ステップ2707)。本実施形態では、撮影対象物特定プログラム307は、メモリ306に格納した情報(撮影画像、携帯情報端末の位置情報、撮影方角、撮影対象店舗との距離)及び、データベース303に格納されているデータを用いて、対象の店舗を1つ特定するか、又は幾つかの候補に絞り込む。対象の店舗を1つに絞り込むことができない場合には、幾つかの候補をユーザに提示し、ユーザに選択を求めることで最終的に1つの店舗に絞り込む。本実施の形態における撮影対象物特定プログラム307の処理内容の詳細は後述する。
次に、サーバシステム100は、特定した1つ、または幾つかの店舗候補に関連するデータを店舗データ2500から検索する(ステップ2708)。ここで、サーバシステム100は、店舗が1つに特定された場合には、その1つの店舗に関するデータのみを、幾つかの候補が残っている場合には、それらの対象店舗候補に関するデータを検索する。
次に、サーバシステム100は、ステップ2708で検索した店舗候補に関するデータをネットワークインタフェース301、ネットワーク102を介して携帯情報端末101に送信する(ステップ2709)。
ここから携帯情報端末101による処理ステップ(2710、2711、2712及び2713)が実行される。
携帯情報端末101の無線通信部2400は、サーバシステム100から送信された店舗候補に関するデータを、ネットワーク102を介して受信する。受信したデータはメモリ2406に格納される(ステップ2710)。
次に、携帯情報端末101は、撮影対象の店舗候補を1つに特定できているか否かを判別する(ステップ2711)。具体的には、もしサーバシステム100から受信した店舗候補に関するデータが1つの店舗だけに関するデータであったら、店舗候補を1つに特定できていると判断してよい。反対に、複数の店舗に関するデータであったなら、まだ幾つか店舗の候補が残っていると判断できる。
ステップ2711の処理の結果、撮影対象の店舗候補が複数あると判断された場合、携帯情報端末101は、複数の候補を表示部2401に周辺地図とともに提示して、ユーザに幾つかの候補から1つの店舗を選択するように求め、ユーザは操作部2405を操作することで店舗を1つ選択する(ステップ2712)。この具体的な表示例は、表示される対象が店舗すなわち建造物となっていることを除いて、実施の形態1及び2と同様であるので、詳細な説明は割愛する(図10参照)。図10では、吹き出しで設備IDを提示しているが、本実施形態では対象が店舗であることから、同様に店舗IDを提示してしまうとユーザが理解しにくいため、店舗名と店舗の種類等を提示することが好ましい。
ステップ2711の処理の結果、撮影対象の店舗が1つに特定されていると判断された場合、またはステップ2712の処理が実行された場合、店舗は1つに特定されているので、携帯情報端末101は、特定した撮影店舗に関するデータをメモリ2406から読み出し、表示部2401に表示することでユーザに提示する(ステップ815)。
図28は、本発明の第3の実施形態の携帯情報端末101の表示部2401に表示される撮影対象店舗に関するデータの一例を示した図である。
携帯情報端末2803の表示部2800に、撮影された撮影対象店舗の画像2801が表示され、さらに、撮影対象店舗に関するデータ2802が表示される。図28では、特定された店舗は図26の店舗データにおける店舗ID「234」によって識別される店舗であり、特定された店舗の撮影画像2801に、店舗ID「234」によって識別される店舗に関するデータ2802が重畳表示される。
例えば、図26の設備状況データ400における店舗ID「234」に関するデータ2608における店舗名2604、店舗の種類2605、コメント2606及び店舗のwebサイトのURL2607の情報が表示されている。例えば、店舗のwebサイトのURLをクリックすると、該当するwebサイトが表示されるように、表示されたURLにリンクを張ってもよい。
このようにユーザが商店街等において対象の店舗を携帯情報端末で撮影するだけで、撮影した店舗を自動で特定し、その店舗に関するデータを検索し、携帯情報端末上に提示し、ユーザはその情報を参照することができる。これによって、ユーザが店舗を選択することを支援することができる。図28の例では、撮影画像に店舗に関するデータが重畳表示されているが、本実施形態における表示方法はこれに限られない。例えば、画像ではなく、店舗に関するデータを纏めた表を表示部2401に提示する等、様々な方法が考えられる。
図29は、本発明の第3の実施形態の店舗情報提示システムにおいて実行される撮影対象店舗を特定する処理のフローチャートであり、具体的には、図27のフローチャートのステップ2707において実行される処理の詳細を示す。
図29の処理は、メモリ306に格納されている撮影対象物特定プログラム307をCPU300が実行することで開始される。具体的な処理内容は第1及び第2の実施形態と同様であるが(図12参照)、本実施形態では携帯情報端末に搭載の測距部2409を用いて、撮影対象店舗との距離を求めるので、距離を求めるステップが無く、測定済みの距離データが用いられる。
まず、撮影対象物特定プログラム307は、メモリ306に格納されているユーザの位置情報(すなわち携帯情報端末101の位置情報)及び撮影方角を用いてそれらの測定誤差を含めた範囲を指定し、店舗データ2500に格納されている店舗位置情報2601を用いて、撮影した店舗が存在する可能性がある範囲を特定する(ステップ2900)。この処理は、図12のステップ1200と同様に実行される(図13参照)。
次に、撮影対象物特定プログラム307は、撮影した店舗が存在する可能性がある範囲内にあるそれぞれの店舗が、ユーザが携帯情報端末101を用いて撮影した店舗であると仮定し、撮影した店舗が存在する可能性がある範囲内にあるそれぞれの店舗に対し、測距部2409で計測した対象店舗との距離データを用いてユーザの撮影位置を推定する(ステップ2901)。この処理は、対象店舗の高さの情報を用いて算出された距離を使用する代わりに、測距部2409によって計測された距離データを使用する点を除いて、図12のステップ1202と同様に実行される(図14参照)。
次に、撮影対象物特定プログラム307は、各店舗について推定された撮影位置が、ユーザ位置情報誤差範囲に含まれているか否かを検証することで、店舗候補を絞る(ステップ2902)。この処理は、図12のステップ1203と同様に実行される。
次に、撮影対象物特定プログラム307は、ステップ2902の絞り込みの結果、店舗候補を1つに絞り込むことができたか否かを判定する(ステップ2903)。
ステップ2903において、店舗候補がまだ複数残っていると判定された場合には、撮影対象物特定プログラム307は、地図データを用いて、地理的条件から推定したユーザ位置の妥当性を検証することで店舗候補をさらに絞る(ステップ2904)。この処理は、図12のステップ1205と同様に実行される(図16参照)。
撮影対象物特定プログラム307は、以上の処理ステップの絞込みの結果、候補として残った一つ又は複数の店舗を、撮影した店舗候補として出力する(ステップ2905)。
以上で説明したように、本実施形態における店舗情報提示システムによれば、ユーザが商店街等において対象の店舗を携帯情報端末で撮影するだけで、撮影した店舗を、測位誤差を考慮した上で自動、かつ高精度で特定し、その店舗に関するデータを検索し、携帯情報端末上に提示し、ユーザにその情報を参照させることによって、ユーザに確かな情報を提示することができる。
以上、本発明の実施形態について、添付の図面を参照して詳細に説明したが、本発明はこのような具体的構成に限定されるものではなく、添付した請求の範囲の趣旨内における様々な変更及び同等の構成を含むものである。例えば、本発明は、電力配電設備における電柱等の巡視、点検等、数多く高密度に分布している設備の巡視、点検等の保全業務に適用可能であるし、また、買い物、旅行等の状況において、ユーザに撮影対象物に対する情報を自動的に提示するような情報提示用途にも適用可能である。