JP6607987B2 - 情報提供システム、サーバ装置、及び情報提供方法 - Google Patents

情報提供システム、サーバ装置、及び情報提供方法 Download PDF

Info

Publication number
JP6607987B2
JP6607987B2 JP2018051470A JP2018051470A JP6607987B2 JP 6607987 B2 JP6607987 B2 JP 6607987B2 JP 2018051470 A JP2018051470 A JP 2018051470A JP 2018051470 A JP2018051470 A JP 2018051470A JP 6607987 B2 JP6607987 B2 JP 6607987B2
Authority
JP
Japan
Prior art keywords
building
information
image
mobile terminal
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018051470A
Other languages
English (en)
Other versions
JP2019163998A (ja
Inventor
祐司 伊東
明子 横山
慧 菊池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lifull Co Ltd
Original Assignee
Lifull Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lifull Co Ltd filed Critical Lifull Co Ltd
Priority to JP2018051470A priority Critical patent/JP6607987B2/ja
Publication of JP2019163998A publication Critical patent/JP2019163998A/ja
Application granted granted Critical
Publication of JP6607987B2 publication Critical patent/JP6607987B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)
  • Telephonic Communication Services (AREA)
  • Navigation (AREA)

Description

本発明は、携帯端末のカメラにより撮像された建物の建物情報を当該携帯端末の画面に表示する技術分野に関する。
従来、モバイル機器のカメラにより撮像された建物の位置情報(緯度及び経度)を算出し、この位置情報に基づいて地図情報から建物を特定し、特定した建物の建物情報をモバイル機器上に表示する技術が知られている。例えば特許文献1では、ユーザにより携帯されるモバイル機器が、現在位置の位置情報、撮像された建物の方向情報、及び撮像された建物の距離情報をそれぞれ検出し、検出された位置情報、方向情報、及び距離情報に基づいて建物の位置情報を算出するように構成されている。これにより、ユーザは、モバイル機器のカメラで建物を撮像する操作を行うだけで、その建物がどのような建物であるかをモバイル機器上で確認することができる。
特表2013−502593号公報
ところで、特許文献1に開示されるようなモバイル機器により検出される位置情報、距離情報、及び方向情報には少なからず誤差が存在する。さらに、モバイル機器により検出される距離情報は、当該モバイル機器から建物表面(つまり、光の反射面)部分までの距離情報であるため、当該モバイル機器により算出される建物の位置情報は建物表面部分までの位置情報となる。一方、地図情報中に予め登録される建物の位置情報は、建物底面上の何れか1点(例えば、中心点)であることが多い。そのため、この場合、モバイル機器により算出される建物の位置情報と、地図情報中に予め登録される建物の位置情報とは、そもそもズレがある。従って、上述したように算出された位置情報に基づいて建物を特定する場合、ユーザの意向に沿わない建物が特定され、その建物の建物情報が表示されてしまうという不都合がある。しかも、ユーザは、このように表示された建物情報が自身の意向に沿った建物の建物情報であるかどうかを瞬時に判断することは容易でない。また、ユーザは、画面に表示されている建物よりもむしろ後ろ側にある建物(例えば、画面に表示されている建物の間から少しだけ視認できる建物、画面に表示されている建物の背後に完全に隠れている建物、または撮像範囲外の上方にある建物)の建物情報を望む場合もある。
そこで、本発明は、以上の不都合等に鑑みてなされたものであり、ユーザの意向に沿った建物の建物情報を表示させることが可能な情報提供システム、サーバ装置、サーバ用プログラム、端末用プログラム、及び情報提供方法を提供することを目的とする。
上記課題を解決するために、請求項1に記載の発明は、携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報を取得する距離取得手段と、前記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報を取得する方位取得手段と、前記撮像されたときの前記携帯端末の位置を示す端末位置情報を取得する端末位置取得手段と、前記端末位置情報、前記距離情報、及び前記方位情報に基づいて、前記撮像された建物の位置を示す撮像建物位置情報を特定する建物位置特定手段と、数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索する検索手段と、前記撮像された建物が表れる撮像画像を取得する画像取得手段と、前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定する判定手段と、前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末の画面に表示させ、記携帯端末のユーザにより選択された当該写真画像の前記建物情報を当該画面に表示させる提示手段と、を備えることを特徴とする。
この発明によれば、ユーザの意向に沿った建物の写真画像を見易く且つ指定し易く表示させることができる。
請求項2に記載の発明は、請求項1に記載の情報提供システムにおいて、前記検索手段は、前記撮像建物位置情報が示す緯度及び経度を基準として前記検索範囲内に緯度及び経度が含まれる建物があるか否かを判定することにより前記建物の前記写真画像を検索することを特徴とする。
この発明によれば、効率良く写真画像を検索することができる。
請求項3に記載の発明は、請求項2に記載の情報提供システムにおいて、前記検索範囲は、前記撮像された建物の位置から前記方位情報が示す方位と並行する方向に拡張された範囲であることを特徴とする。
この発明によれば、画面に表示されている建物よりもむしろ後ろ側にある建物の写真画像を効率良く検索することができる。
請求項に記載の発明は、請求項1乃至3の何れか一項に記載の情報提供システムにおいて、前記撮像建物位置情報が示す位置から、前記一致度が閾値以上ではないと判定された前記写真画像に対応付けられた前記建物位置情報が示す位置までの距離を算出する距離算出手段を更に備え、前記提示手段は、前記距離算出手段により算出された距離を、前記一致度が閾値未満であると判定された写真画像に関連付けて前記携帯端末の画面に表示させることを特徴とする。
この発明によれば、ユーザが現在見ている建物からどの遠い場所に自身が望む建物があるかを瞬時に判断させることができる。
請求項に記載の発明は、、請求項1乃至3の何れか一項に記載の情報提供システムにおいて、前記撮像建物位置情報が示す位置から、前記一致度が閾値以上ではないと判定された写真画像に対応付けられた前記建物位置情報が示す位置までの距離を算出する距離算出手段を更に備え、前記提示手段は、前記一致度が閾値未満であると判定された写真画像を、前記距離算出手段により算出された距離が長いほど小さいサイズで前記携帯端末の画面に表示させることを特徴とする。
この発明によれば、ユーザが現在見ている建物からどの遠い場所に自身が望む建物があるかをおおよそ判断させることができる。
請求項に記載の発明は、請求項1乃至の何れか一項に記載の情報提供システムにおいて、前記提示手段は、前記一致度が閾値未満であると判定された写真画像に表れる建物内に取引対象物件があるか否かを示す情報を、当該写真画像に関連付けて前記携帯端末の画面に表示させることを特徴とする。
この発明によれば、携帯端末を持つユーザが取引対象物件を探す場合において建物内に取引対象物件があるか否かの情報を当該ユーザに提示することができる。
請求項に記載の発明は、請求項に記載の情報提供システムにおいて、前記建物内に取引対象物件があることを示す情報が前記携帯端末のユーザにより指定された場合、前記提示手段は、当該取引対象物件の固有情報を前記画面に表示させることを特徴とする。
この発明によれば、携帯端末のユーザが興味をもった建物内の取引対象物件の固有情報を当該ユーザに対して迅速に提示することができる。
請求項に記載の発明は、請求項に記載の情報提供システムにおいて、前記建物内に取引対象物件がないことを示す情報が前記携帯端末のユーザにより指定された場合、当該建物の識別情報を当該ユーザの識別情報に対応付けて登録し、当該登録された後に当該建物内に取引対象物件が発生した場合、当該ユーザに対して当該取引対象物件の固有情報を通知することを特徴とする。
この発明によれば、携帯端末のユーザが興味をもった建物内で、後から取引対象物件が発生した場合に当該取引対象物件の固有情報を当該ユーザに対して迅速に提示することができる。
請求項に記載の発明は、携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報を取得する距離取得手段と、前記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報を取得する方位取得手段と、前記撮像されたときの前記携帯端末の位置を示す端末位置情報を取得する端末位置取得手段と、前記端末位置情報、前記距離情報、及び前記方位情報に基づいて、前記撮像された建物の位置を示す撮像建物位置情報を特定する建物位置特定手段と、数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索する検索手段と、前記撮像された建物が表れる撮像画像を取得する画像取得手段と、前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定する判定手段と、前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末の画面に表示させ、記携帯端末のユーザにより選択された当該写真画像の前記建物情報を当該画面に表示させる提示手段と、を備えることを特徴とする。
請求項10に記載の発明は、携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報、前記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報、及び前記撮像されたときの前記携帯端末の位置を示す端末位置情報に基づいて特定された、前記撮像された建物の位置を示す撮像建物位置情報を前記携帯端末から取得する建物位置取得手段と、数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索する検索手段と、前記撮像された建物が表れる撮像画像を取得する画像取得手段と、前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定する判定手段と、前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末へ送信し、前記写真画像が前記携帯端末のユーザにより選択された当該写真画像の前記建物情報を前記携帯端末へ送信する送信手段と、を備えることを特徴とする。
請求項11に記載の発明は、コンピュータにより実行される情報提供方法であって、携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報を取得するステップと、前記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報を取得するステップと、前記撮像されたときの前記携帯端末の位置を示す端末位置情報を取得するステップと、前記端末位置情報、前記距離情報、及び前記方位情報に基づいて、前記撮像された建物の位置を示す撮像建物位置情報を特定するステップと、数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索するステップと、前記撮像された建物が表れる撮像画像を取得するステップと、前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定するステップと、前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末の画面に表示させ、記携帯端末のユーザにより選択された当該写真画像の前記建物情報を当該画面に表示させるステップと、を含むことを特徴とする。
本発明によれば、ユーザの意向に沿った建物の建物情報を表示させることができる。
情報提供システムSの概要構成の一例を示す図である。 建物情報データベース221に登録されている情報の一例を示す図である。 システム制御部23の機能ブロックの一例を示す図である。 携帯端末1の制御部18により実行される処理の一例を示すフローチャートである。 建物が存在する実空間が携帯端末1のカメラ13により撮像されたときの様子及び画面表示例を示す図である。 建物が存在する実空間が携帯端末1のカメラ13により撮像されたときの様子及び画面表示例を示す図である。 建物が存在する実空間が携帯端末1のカメラ13により撮像されたときの様子及び画面表示例を示す図である。 建物が存在する実空間が携帯端末1のカメラ13により撮像されたときの様子及び画面表示例を示す図である。 建物の位置と検索範囲との関係の一例を示す図である。 建物の位置と検索範囲との関係の一例を示す図である。 (A)〜(E)は、画面に表示された写真画像が指定されたときの様子及び画面表示例を示す図である。 携帯端末1からの情報取得要求が受信されたときの建物特定及び建物情報提供処理の一例を示すフローチャートである。 携帯端末1からの詳細情報取得要求が受信されたときの建物詳細情報提供処理の一例を示すフローチャートである。 (A)は、携帯端末1からのウィッシュリスト登録要求が受信されたときのウィッシュリスト登録処理の一例を示すフローチャートであり、(B)は、ウィッシュリスト登録後の物件情報提供処理の一例を示すフローチャートである。
以下、図面を参照して本発明の一実施形態について詳細に説明する。
[1.情報提供システムSの構成及び機能概要]
先ず、図1等を参照して、本発明の一実施形態に係る情報提供システムSの構成及び概要機能について説明する。図1は、情報提供システムSの概要構成の一例を示す図である。図1に示すように、情報提供システムSは、携帯端末1、及び情報提供サーバ2(サーバ装置の一例)等を備えて構成されている。携帯端末1と情報提供サーバ2とは、ネットワークNWを介して通信可能になっている。ネットワークNWは、例えば、電話用回線交換ネットワーク、及びインターネットに接続するためのデータ通信用パケット交換ネットワークを含む。なお、図1の例では、1つの携帯端末1を示しているが、実際には複数の携帯端末が存在する。
(1−1.携帯端末1の構成及び機能概要)
携帯端末1は、無線通信部11、GPS(Global Positioning System)受信機12、カメラ13、距離センサ14、方位センサ15、表示・操作部16、記憶部17、及び制御部18等を備え、これらの構成部分はバス19を介して電気的に接続されている。なお、携帯端末1の例として、携帯電話機,スマートフォン,タブレット,携帯ゲーム機等が挙げられる。
無線通信部11は、制御部18の制御の下、最寄りの基地局(図示せず)との間で無線通信を行い、当該基地局及びネットワークNWを介して情報提供サーバ2との間で通信を行う。
GPS受信機12は、GPS衛星から出力される航法電波を受信し、携帯端末1の現在位置(緯度及び経度)を検出し、検出した位置を示す端末位置情報を制御部18へ出力する。
カメラ13は、例えば、レンズ及び撮像素子等から構成され、カメラ13の画角に収まる範囲内の実空間を撮像素子により連続的に撮像し、撮像した撮像画像(RGB画像)を制御部18へ出力する。なお、撮像素子として、例えば、CCD(Charge Coupled Devices)やCMOS(Complementary Metal Oxide Semiconductor)等が用いられる。
距離センサ14は、投射したレーザまたは赤外線が物体を往復する時間から距離を撮像画像の画素毎に計測(つまり、TOF(Time Of Flight)方式を用いて計測)し、計測した距離(つまり、携帯端末1から上記物体までの距離)を画素毎に示す距離画像を制御部18へ出力する。ここで、本実施形態で対象とする物体は、カメラ13により撮像される建物等の被写体である。なお、距離センサ14として、2台のカメラの撮像画像の視差に基づいて距離画像を出力するステレオカメラを用いてもよい。
方位センサ15は、例えば、3軸地磁気センサ等から構成され、携帯端末1を基準とする上記物体の方位を検出し、検出した方位を示す方位情報を制御部18へ出力する。ここで、物体の方位とは、物体の方位とは、方位センサ15から見た物体への方角(つまり、携帯端末1の画面と反対側の面が向いている方角)であり、当該方位は、カメラ13により物体が撮像されているときの当該カメラ13のレンズの光軸方向を示す。
表示・操作部16は、携帯端末1のユーザの指やペン等による操作指示を受け付ける入力機能と、画像及びテキスト等を表示する画面を有するタッチパネルとを備える。表示・操作部16は、ユーザからの操作指示を受け付け、当該操作指示を制御部18に与える。
記憶部17は、例えば、不揮発性メモリ等から構成され、OS(Operating System),及びアプリケーション等を格納する。アプリケーションは、アプリケーションプログラム(本発明の端末用プログラムを含む)等をメモリに展開して実行可能な状態にインストールされたアプリケーションインスタンスである。このようなアプリケーションには、例えば、物体認識アルゴリズム及びAR(Augmented Reality:拡張現実)アルゴリズム等が規定される。
物体認識アルゴリズムにより、撮像画像から建物等の物体を認識することができる。また、ARアルゴリズムにより、撮像画像に表れる建物等の物体に対して建物情報等の付加情報を関連付けてユーザに提示することができる。なお、アプリケーションプログラムは、所定のサーバから携帯端末1にダウンロードされてもよいし、CD、DVD等の記録媒体に記録(つまり、コンピュータにより読み取り可能に記録)されており、当該記録媒体から読み込まれて記憶部17に格納されるようにしてもよい。
制御部18は、CPU(Central Processing Unit),ROM(Read Only Memory),及びRAM(Random Access Memory)等から構成され、CPUがOS上で動作するアプリケーションにしたがって各種処理を実行する。
具体的には、制御部18は、カメラ13から撮像画像を取得するとともに、距離センサ14から距離画像を、方位センサ15から方位情報を、GPS受信機12から端末位置情報をそれぞれ取得する。なお、距離画像の座標系は撮像画像の座標系に合せられ、撮像画像(距離画像)を構成する各画素は、座標(x,y)、色情報(R,G,Bの各輝度値)、及び距離情報を持つことになる。制御部18は、取得された撮像画像を表示・操作部16の画面に表示させる。このとき、撮像画像に建物が表れる場合、制御部18は、物体認識アルゴリズムにより当該建物を認識する。ここで認識される建物には、個人住宅(戸建)、集合住宅(マンションやアパート)、商業施設、及び複合施設等が含まれる。そして、制御部18は、当該建物が撮像(認識)されたときの距離情報を取得する。ここで、距離情報は、距離センサ14から撮像画像に表れる建物までの距離を示す。距離情報の例として、物体認識アルゴリズムにより認識された建物の表面(つまり、光の反射面)上の所定画素の距離情報が挙げられる。ここで、所定画素は、例えば、認識された建物の表面上の何れかの点(例えば、重心点や輪郭上の点)の画素である。また、画面の中央部分を含む領域に表れる建物が認識されるように構成する場合、上記所定画素は、画面に表示されている撮像画像の中心点(言い換えれば、画面の中心点)とするとよい。
さらに、制御部18は、上記建物が撮像(認識)されたときの方位情報を方位センサ15から取得し、上記建物が撮像(認識)されたときの端末位置情報をGPS受信機12から取得する。そして、制御部18は、上記認識された建物が表れる撮像画像、当該建物が撮像(認識)されたときの距離情報、当該建物が撮像(認識)されたときの方位情報、及び当該建物が撮像(認識)されたときの端末位置情報を含む情報取得要求を、無線通信部11及びネットワークNWを介して情報提供サーバ2へ送信する。
なお、撮像画像から複数の建物が認識された場合、それぞれの建物の表面上の所定画素の距離情報が情報提供サーバ2へ送信されてもよいし、或いは、認識された複数の建物のうちユーザにより指定された1つの建物の表面上の所定画素の距離情報が情報提供サーバ2へ送信されてもよい。
そして、制御部18は、上記情報取得要求に応じて情報提供サーバ2から送信された写真画像を無線通信部11を介して取得し、ARアルゴリズムにより、当該写真画像を、撮像画像を画面に表示させ、表示された写真画像が携帯端末1のユーザにより指定された場合には当該写真画像に対応付けられた建物情報を情報提供サーバ2から取得して画面に表示させる。
(1−2.情報提供サーバ2の構成及び機能概要)
情報提供サーバ2は、通信部21、記憶部22、及びシステム制御部23等を備え、これらの構成部分はバス24を介して電気的に接続されている。なお、情報提供サーバ2は、1台のサーバコンピュータにより構成されてもよいし、複数台のサーバコンピュータにより構成されてもよい。
通信部21は、システム制御部23の制御の下、ネットワークNWを介して携帯端末1との間で通信を行う。記憶部22(記憶手段の一例)は、例えば、ハードディスクドライブ等から構成され、OS,及びアプリケーション等を格納する。このようなアプリケーションには、例えば、物体認識アルゴリズム、特徴量抽出アルゴリズム、及び画像マッチングアルゴリズム等が規定される。
特徴量抽出アルゴリズムにより、画像の特徴量(特徴点ということもある)を抽出することができる。画像の特徴量として、例えば、HOG(Histograms of Oriented Gradients)特徴量が抽出される。HOG特徴量は、画像の局所領域から抽出された輝度勾配を示す特徴量である。HOG特徴量は、特徴量抽出アルゴリズムに従って、画像から局所領域を分割したセル(例えば、局所領域をn*nのブロックに分割し、分割されたブロックをm*mに分割したセル)ごとに勾配強度と勾配方向が算出され勾配方向ヒストグラムが生成、正規化されることで抽出される。或いは、画像の特徴量として、エッジに着目したEOH(Edge of Orientation Histograms)特徴量、或いは輝度に着目したHaar-like特徴量が抽出されてもよい。その他、画像の特徴量として、SIFT(Scale-Invariant Feature Transform)特徴量やSURF(Speeded Up Robust features)特徴量等、公知の種々の特徴量、またはこれらの組合せた特徴量が抽出されてもよい。また、画像マッチングアルゴリズムにより、2つの画像に表れる建物等の物体(物体認識アルゴリズムにより認識された物体)が一致(マッチング)するかどうかを判定することができる。この判定には、例えば、上記特徴量が用いられる。
また、記憶部22には、建物情報データベース(DB)221、及びユーザ情報データベース(DB)222が構築されている。なお、建物情報データベース221、及びユーザ情報データベース222は、それぞれ、情報提供サーバ2とは異なる他のサーバに備えられてもよい。
建物情報データベース221は、複数の建物のそれぞれの建物位置情報、写真画像、及び建物関連情報等を建物毎に対応付けて登録(記憶)する。図2は、建物情報データベース221に登録されている情報の一例を示す図である。図2の例において、建物位置情報は、建物の底面上の何れか任意の1点の緯度及び経度である。ここで、任意の1点とは、例えば、建物の底面上の重心点、或いは登録者のくせなどに起因して重心点から少しずれた点である。なお、建物位置情報は、建物の底面上の何れか任意の複数点の緯度及び経度であってもよい。写真画像は、情報提供サーバ2により情報提供サービスを行う運営者側で写真撮影された建物の写真画像であり、所定の画像ファイルに格納されて登録される。このような写真画像は、携帯端末1からの撮像画像との画像マッチングに用いられる。複数の異なるアングルで写真撮影された複数の写真画像が登録される場合もある。
建物関連情報には、建物ID、建物名、所在地、築年数、階数、及び建物種別等の情報が含まれる。建物IDは、建物毎に一意に付与された識別情報である。建物種別は、例えば、個人住宅、集合住宅、商業施設、複合施設の別である。また、建物種別が集合住宅である場合、建物関連情報には、図2に示すように、例えば、戸数、及び各戸(各部屋)の固有情報が含まれる。戸の固有情報には、例えば、戸ID、所在階、部屋番号、間取り、及び取引対象有無等の情報が含まれる。戸IDは、建物の戸毎に一意に付与された識別情報である。取引対象有の戸は、取引対象として登録された物件(以下、「取引対象物件」という)である。取引対象有の戸(つまり、取引対象物件)の固有情報には、さらに、取引種別、取引条件情報、及び取扱い不動産会社情報等の物件情報が含まれる。取引種別は、例えば、賃貸物件、新築物件、中古物件の別である。賃貸物件は貸出中の取引対象物件である。新築物件または中古物件は売出中の取引対象物件である。また、賃貸物件の取引条件情報には、賃料、敷金、礼金、及び契約期間等の情報が含まれる。また、中古物件の取引条件情報には、価格、管理費、及び修繕積立金等の情報が含まれる。また、取扱い不動産会社情報には、不動産会社名、所在地、電話番号、メールアドレス、及び営業時間等の情報が含まれる。
ユーザ情報データベース222は、情報提供サービスを利用する複数のユーザそれぞれのユーザ情報、ウィッシュリスト、検索履歴、及び閲覧履歴等をユーザ毎に対応付けて登録する。ユーザ情報には、ユーザID、パスワード、住所、電話番号、メールアドレス、性別、及び年齢等の情報が含まれる。ユーザIDは、ユーザ毎に一意に付与された識別情報である。ユーザID及びパスワードは、ユーザの認証情報であり、本システムへのログインのために使用される。ウィッシュリストは、ユーザが取引対象物件の登録を期待する建物を登録するためのリストである。ウィッシュリストには、ユーザにより指定された建物の建物ID、及び登録日時等の情報が登録される。
システム制御部23は、CPU,ROM,及びRAM等から構成され、CPUがOS上で動作するアプリケーションにしたがって各種処理を実行する。図3は、システム制御部23の機能ブロックの一例を示す図である。図3に示すように、システム制御部23は、受信情報取得部231、建物位置特定部232、写真画像検索部233、画像マッチング部234、情報取得・提示部235、及び情報登録部236等として機能する。ここで、受信情報取得部231は、本発明における画像取得手段、端末位置取得手段、距離取得手段、方位取得手段、及び建物位置取得手段等の一例である。建物位置特定部232は、本発明における建物位置特定手段の一例である。写真画像検索部233は、本発明における検索手段の一例である。画像マッチング部234は、本発明における判定手段の一例である。情報取得・提示部235は、本発明における距離算出手段、送信手段及び提示手段の一例である。
受信情報取得部231は、携帯端末1から送信され、通信部21により受信された情報取得要求等の各種要求(リクエスト)から処理に必要な情報を取得する。なお、情報取得要求からは、上述した撮像画像、距離情報、方位情報、及び端末位置情報が取得される。
建物位置特定部232は、受信情報取得部231により取得された距離情報、方位情報、及び端末位置情報に基づいて、撮像画像に表れる建物の位置を示す建物位置情報を特定する。例えば、建物位置特定部232は、端末位置情報が示す緯度及び経度、距離情報が示す距離、及び方位情報が示す方位を、建物の位置を算出するための計算式に代入して当該建物の緯度及び経度を算出することで建物位置情報を特定する。或いは、建物位置特定部232は、端末位置情報が示す位置から、方位情報が示す方位で且つ距離情報が示す距離にある地点の緯度及び経度を地図データから抽出することで建物位置情報を特定してもよい。
別の例として、建物位置情報は、携帯端末1により特定されてもよい。この場合、携帯端末1の制御部18が建物位置特定手段として、建物位置特定部232と同様の方法で、距離情報、方位情報、及び端末位置情報に基づいて、撮像画像に表れる建物の位置を示す建物位置情報を特定する。そして、制御部18は、特定した建物位置情報を含む情報取得要求を、無線通信部11及びネットワークNWを介して情報提供サーバ2へ送信する。
写真画像検索部233は、建物位置特定部232により特定された建物位置情報に基づいて、建物情報データベース221から建物の写真画像を検索する。例えば、写真画像検索部233は、建物情報データベース221に登録された建物位置情報を参照して、建物位置特定部232により特定された建物位置情報が示す緯度及び経度を基準として予め設定された検索範囲内に緯度及び経度が含まれる建物があるか否かを判定することにより建物の写真画像を検索する。ここで、検索範囲の一例として、建物位置情報が示す緯度及び経度を基準として半径数十m〜数百mの円または楕円の範囲が設定される。ここで、楕円の検索範囲は、建物位置情報が示す位置から方位情報が示す方位と並行する方向(言い換えれば、楕円の長軸と並行する方向であり、ユーザから遠い方向)に拡張された範囲に設定されるとよく、この場合の建物位置情報が示す位置は楕円の境界線上の端末位置情報が示す位置に最も近い点にあってもよい。或いは、写真画像検索部233は、建物情報データベース221に登録された建物位置情報を参照して、建物位置特定部232により特定された建物位置情報が示す緯度及び経度からの距離が近い順に複数の建物の写真画像を検索してもよい。
画像マッチング部234は、写真画像検索部233により検索された(つまり、検索でヒットした)写真画像に表れる建物と、受信情報取得部231により取得された撮像画像に表れる建物とが一致(マッチング)するか否かを判定(一致判定)する。例えば、画像マッチング部234は、写真画像から認識された建物の特徴量と、撮像画像から認識された建物の特徴量とを特徴量抽出アルゴリズムにより抽出する。そして、画像マッチング部234は、上記抽出された両特徴量(つまり、写真画像に表れる建物の特徴量と、撮像画像に表れる建物の特徴量)の一致度を算出し、算出した一致度が閾値(例えば、80%)以上であるかを画像マッチングアルゴリズムにより判定し、一致度が閾値以上であれば、写真画像に表れる建物と、撮像画像に表れる建物とが一致すると判定する。
情報取得・提示部235は、写真画像検索部233により検索された写真画像を携帯端末1へ送信(提供)することで当該写真画像を携帯端末1の画面に表示させ、表示された写真画像が携帯端末1のユーザにより指定された場合には、当該写真画像に対応付けられた建物情報を建物情報データベース221から取得し、当該取得した建物情報を携帯端末1へ送信(提供)することで携帯端末1の画面に表示させる。これにより、ユーザは自身のカメラアングルの調整によって撮像され画面に映し出された建物と、当該画面に表示された写真画像に表れる建物とが同じであるか否かを判断した上で、同じ建物であれば当該写真画像を指定して自らの意向に沿った建物(言い換えれば、注目する建物)の建物情報を閲覧することができる。言い換えれば、誤差等の影響を受けて正しい写真画像が検索されず、撮像され画面に映し出された建物と、当該画面に表示された写真画像に表れる建物とが同じでないとユーザにより判断されれば、当該写真画像が指定されないので、ユーザの意向に沿わない建物の建物情報の表示を防ぐことができる。なお、建物情報には、建物情報データベース221に登録された建物関連情報中の建物名、所在地、築年数、及び階数等が含まれる。また、情報取得・提示部235は、写真画像検索部233により検索された写真画像に表れる建物内に取引対象物件があるか否かを示す情報を、当該写真画像に関連付けて携帯端末の画面に表示させてもよい。そして、取引対象物件があるか否かを示す情報が携帯端末1のユーザにより指定された場合、情報取得・提示部235は、当該取引対象物件の固有情報を建物情報データベース221から取得し、当該取得した取引対象物件の固有情報を携帯端末1の画面に表示させる。
ところで、ユーザは、画面に表示されている建物よりもむしろ後ろ側にある建物(例えば、撮像範囲内において他の建物の間に少しだけ映っている建物や、撮像範囲外の上方にある建物)の建物情報を望む場合もある。この場合、撮像され画面に映し出された建物と、検索された写真画像に表れる建物とが同じである場合(つまり、誤差等の影響を受けずに正しい写真画像が検索された場合)であっても、当該写真画像を表示することはユーザにとって却って煩わしい。この場合、情報取得・提示部235は、写真画像検索部233により検索された写真画像のうち、画像マッチング部234により撮像画像に表れる建物と一致しないと判定された建物(例えば、撮像画像からは認識できない建物)が表れる写真画像を携帯端末1の画面に表示させるとよい(この場合も、当該写真画像がユーザにより指定された場合、当該写真画像に対応付けられた建物情報が携帯端末1の画面に表示される)。
さらに、情報取得・提示部235は、建物位置情報が示す位置から、画像マッチング部234により一致しないと判定された建物が表れる写真画像に対応付けられた建物位置情報が示す位置までの距離を算出し、算出された距離を、当該一致しないと判定された建物が表れる写真画像に関連付けて携帯端末1の画面に表示させるとよい。これにより、ユーザは現在見ている建物からどの遠い場所に自身が望む建物があるかを瞬時に判断することができる。また、情報取得・提示部235は、画像マッチング部234により一致しないと判定された建物が表れる写真画像を、上記算出された距離が長いほど小さいサイズで携帯端末1の画面に表示させるとよい。これにより、ユーザは現在見ている建物からどの遠い場所に自身が望む建物があるかをおおよそ判断することができる。
情報登録部236は、携帯端末1または携帯端末1以外の端末から送信された登録要求に応じて、当該登録要求された情報を建物情報データベース221、またはユーザ情報データベース222に登録する。また、情報登録部236は、建物内に取引対象物件がないことを示す情報が携帯端末1の画面に表示された場合において、携帯端末1のユーザにより当該情報が指定された場合、当該建物の建物IDを当該ユーザのユーザIDに対応付けてウィッシュリストに登録する。こうしてウィッシュリストに登録された後に当該建物内に取引対象物件が発生した場合(つまり、取引対象物件が登録された場合)、情報取得・提示部235は、当該ユーザに対して(例えば、メールアドレス宛に)、当該取引対象物件の固有情報を通知する。
[2.情報提供システムSの動作例]
次に、情報提供システムSの動作において実行される携帯端末1及び情報提供サーバ2のそれぞれの処理について説明する。
(2−1.携帯端末1の処理)
先ず、図4等を参照して、携帯端末1の制御部18により実行される処理について説明する。図4は、携帯端末1の制御部18により実行される処理の一例を示すフローチャートである。なお、以下の動作例においては、画像マッチング部234により一致すると判定された建物が表れる写真画像を表示対象外とするモード(以下、「表示制限モード」という)がオンまたはオフに設定されているものとする。
図4に示す処理は、携帯端末1のユーザからの操作指示に応じてアプリケーションが起動することにより開始される。図4に示す処理が開始されると、制御部18は、カメラ13、距離センサ14、方位センサ15、及びGPS受信機12へ起動指令を与えるとともに、画像表示処理を開始する(ステップS1)。この起動指令により、制御部18には、カメラ13から撮像画像が、距離センサ14から距離画像が、方位センサ15から方位情報が、GPS受信機12から端末位置情報が、それぞれ連続的に入力されて(取り込まれて)例えば、RAMのワーク領域に時系列で(例えば、時刻が付与されて)記憶される。また、画像表示処理において、制御部18は、カメラ13から入力されワーク領域に記憶された撮像画像を所定のフレームレートで表示・操作部16の画面に表示させる。このとき、ユーザは注目する建物に対して携帯端末1を向け、当該建物がカメラ13により撮像されるようにカメラアングルを調整する。
次いで、制御部18は、上記ワーク領域に記憶された撮像画像から、物体認識アルゴリズムにより建物が認識されたか否かを判定する(ステップS2)。例えば、画面の中央部分を含む領域に建物が表れた場合、当該建物が認識される。制御部18は、撮像画像から建物が認識されたと判定した場合(ステップS2:YES)、ステップS3へ進む。なお、制御部18は、例えば、認識された建物の輪郭を強調表示させてもよい。この場合、制御部18は、強調表示された建物がユーザにより指定(例えば、画面(タッチパネル)上でタッチ指示)された場合に、ステップS3へ進むように構成してもよい。一方、制御部18は、撮像画像から建物が認識されないと判定した場合(ステップS2:NO)、ステップS9へ進む。なお、ステップS2において、撮像画像から建物が認識されてステップS3へ進んだ後、処理がステップS2に戻った場合において、前回のステップS2の時点での撮像範囲と今回のステップS2の時点での撮像範囲との間の変更幅(つまり、前回の撮像範囲からの変更幅)が閾値未満である場合には、前回認識された建物と同一の建物は認識されないように構成される。一方、例えば携帯端末1の位置やカメラアングルが変更されたり、或いは、カメラ13のズーム倍率が上げられる(つまり、画角が狭められる)ことによって、前回のステップS2の時点での撮像範囲と今回のステップS2の時点での撮像範囲との間の変更幅が閾値以上になる場合、前回認識された建物と同一の建物が再び認識されてステップS3へ進むことになる。
ステップS3では、制御部18は、建物が認識された時点の撮像画像を上記ワーク領域から取得して情報取得要求にセットする。ここで、撮像画像は、所定のファイル形式の静止画ファイルとしてセットされる。次いで、制御部18は、建物が認識された時点の距離画像(つまり、撮像画像と同期した距離画像)における所定画素(例えば、画面の中心点の画素)の距離情報を上記ワーク領域から取得して情報取得要求にセットする(ステップS4)。次いで、制御部18は、建物が認識された時点の方位情報(つまり、撮像画像と同期した方位情報)を上記ワーク領域から取得して情報取得要求にセットする(ステップS5)。次いで、制御部18は、建物が認識された時点の端末位置情報(つまり、撮像画像と同期した端末位置情報)を上記ワーク領域から取得して情報取得要求にセットする(ステップS6)。なお、情報取得要求には、表示制限モードの設定内容(オン設定またはオフ設定)を示す設定情報がセットされる。別の例として、制御部18は、上記取得した距離情報、方位情報、及び端末位置情報に基づいて、撮像画像に表れる建物の位置を示す建物位置情報を特定してもよい。この場合、制御部18は、特定した建物位置情報及び上記設定情報を情報取得要求にセットすることになる。
次いで、制御部18は、撮像画像、距離情報、方位情報、及び端末位置情報がセットされた情報取得要求(または、撮像画像及び建物位置情報がセットされた情報取得要求)を、無線通信部11及びネットワークNWを介して情報提供サーバ2へ送信する(ステップS7)。この情報取得要求に応じて情報提供サーバ2から写真画像が送信された場合、当該写真画像は無線通信部11により受信される。このとき、写真画像と共に当該写真画像に対応付けられた建物ID等も受信される。また、写真画像と共に当該写真画像に表れる建物内に取引対象物件があるか否かを示す情報(取引対象物件がある場合、当該取引対象物件の戸IDを含む)が受信される場合もある。そして、制御部18は、ARアルゴリズムにより、当該受信された写真画像を表示・操作部16の画面に表示させ(ステップS8)、ステップS2に戻る。ここで、受信された写真画像には、ハイパーリンクが設定されており、ユーザにより指定可能になっている。また、写真画像に表れる建物内に取引対象物件があるか否かを示す情報が受信された場合、制御部18は、当該取引対象物件があるか否かを示す情報を写真画像に関連付けて表示・操作部16における画面に表示させる。なお、該当する写真画像が無い場合、情報提供サーバ2から該当無情報が送信され、表示・操作部16における画面に表示されることになる。
図5〜図8は、建物が存在する実空間が携帯端末1のカメラ13により撮像されたときの様子及び画面表示例を示す図である。図9及び図10は、建物の位置と検索範囲との関係の一例を示す図である。図9は、図5に対応し、図10は、図6に対応しており、図9及び図10において、RP1〜RP7は、それぞれ、建物B1〜B7の位置を示す建物位置情報であり、CP1及びCP2は、それぞれ、建物位置特定部232により特定された建物位置情報である。なお、CP1は誤差等の影響を受けることなく正しく特定された建物位置情報を示す一方、CP2は誤差等の影響を受けて正しく特定されなかった建物位置情報を示す。また、図9において、SR1は、建物位置情報CP1が示す位置から方位情報が示す方位と並行する方向(つまり、携帯端末1から遠い方向)に拡張された検索範囲であり、図10において、SR2は、建物位置情報CP2が示す位置から方位情報が示す方位と並行する方向に拡張された検索範囲である。
図5及び図6は、表示制限モードがオフに設定されている場合の例であり、誤差等の影響を受けず正しい写真画像が検索された場合の例である。図5に示す画面Dには、実空間に存在する建物B1〜B7のうち、カメラ13により撮像された建物B1、建物B2の一部、及び建物B3が表示されており、さらに、情報提供サーバ2から取得された写真画像F1、F2、F3、及びF7が表示されている。つまり、図5の例では、図9に示すように検索範囲SR1には、建物B1の建物位置情報RP1、建物B2の建物位置情報RP2、建物B3の建物位置情報RP3、及び建物B7の建物位置情報RP7が含まれているので、建物B1の写真画像F1、建物B2の写真画像F2、建物B3の写真画像F3、及び建物B7の写真画像F7が検索されて画面Dに表示されることになる。ここで、写真画像F2に表れる建物B2(図9に示すように実空間上では建物B1及びB3の背後に存在)は、撮像画像からは把握しにくい(画面Dに僅かに映し出されているため)が、写真画像F2から全体像を把握することができる。また、写真画像F7に表れる建物B7(図9に示すように実空間上では建物B1及びB3の背後に存在)は、撮像画像からは全く把握できないが、写真画像F7から全体像を把握することができる。なお、写真画像F2は、写真画像F7より小さいサイズで表示されている。これは、図9に示すように、建物位置情報CP1が示す位置から見て、建物B2の建物位置情報RP2が示す位置が、建物B7の建物位置情報RP7が示す位置よりも遠いためである。これにより、ユーザは現在見ている建物B1からどの遠い場所に自身が望む建物があるかをおおよそ判断することができる。
また、図6に示す画面Dには、実空間に存在する建物B1〜B7のうち、カメラ13により撮像された建物B1、建物B2の一部、及び建物B3が表示されており、さらに、情報提供サーバ2から取得された写真画像F3、F4、及び建物F7が表示されている。つまり、図6の例では、図10に示すように検索範囲SR2には、建物B3の建物位置情報RP3、建物B4の建物位置情報RP4、及び建物B7の建物位置情報RP7が含まれているので、建物B3の写真画像F3、建物B4の写真画像F4、及び建物B7の写真画像F7が検索されて画面Dに表示されることになる。図6の例では、撮像され表示された建物と、これに重畳して表示された写真画像に表れる建物が異なっていることが容易に判断することができる。
一方、図7及び図8は、表示制限モードがオンに設定されている場合の例であり、誤差等の影響を受けず正しい写真画像が検索された場合の例である。図7及び図8に示す画面Dには、実空間に存在する建物B1〜B7のうち、カメラ13により撮像された建物B1、建物B2の一部、及び建物B3が表示されており、さらに、情報提供サーバ2から取得された写真画像F2及びF7が表示されている。つまり、図7及び図8の例では、検索された写真画像のうち、撮像画像に表れる建物と一致しないと判定された建物(例えば、撮像画像からは認識できない建物)が表れる写真画像のみが表示される。言い換えれば、表示制限モードをオンに設定したユーザにとって不必要な写真画像が非表示となるので、ユーザが望む建物(例えば、画面に表示されている建物の間から少しだけ視認できる建物、画面に表示されている建物の背後に完全に隠れている建物、または撮像範囲外の上方にある建物)の写真画像を見易く且つ指定し易く表示させることができる。さらに、図8に示す例では、建物位置情報CP1が示す位置から建物B2の建物位置情報RP2が示す位置までの距離(100m)が写真画像F2に関連付けられて表示されており、建物位置情報CP1が示す位置から建物B7の建物位置情報RP7が示す位置までの距離(60m)が写真画像F7に関連付けられて表示されている。これにより、ユーザは現在見ている建物B1からどの遠い場所に自身が望む建物があるかを瞬時に判断することができる。
一方、ステップS9では、制御部18は、ユーザからの指示を受け付けたか否かを判定する。制御部18は、ユーザからの指示を受け付けた場合(ステップS9:YES)、当該指示に応じた処理を実行する(ステップS10)。例えば、ユーザが、画面に表示された写真画像を指定(例えば、画面上でタッチ指示)すると、制御部18は、ユーザからの指示を受け付けたと判定し(ステップS9:YES)、当該指定された写真画像に対応付けられた建物IDを含む詳細情報取得要求を、無線通信部11及びネットワークNWを介して情報提供サーバ2へ送信し(ステップS10)、ステップS11へ進む。或いは、ユーザが、当該写真画像に関連付けられて表示された取引対象物件があることを示す情報を指定すると、制御部18は、ユーザからの指示を受け付けたと判定し(ステップS9:YES)、当該取引対象物件の戸IDを含む詳細情報取得要求を、無線通信部11及びネットワークNWを介して情報提供サーバ2へ送信し(ステップS10)、ステップS11へ進む。一方、制御部18は、ユーザからの指示を受け付けていないと判定した場合(ステップS9:NO)、ステップS11へ進む。
図11(A)〜(E)は、画面に表示された写真画像が指定されたときの様子及び画面表示例を示す図である。図11(A)に示すように、画面Dに表示された写真画像F2がユーザにより指定された場合、この写真画像F2に対応付けられた建物IDを含む詳細情報取得要求が情報提供サーバ2へ送信される(ステップS10)。この詳細情報取得要求に応じて情報提供サーバ2から建物情報が送信されると、図11(B)に示すように、建物情報I1が画面Dに表示される。建物情報I1には、建物名、建物の所在地、築年数、及び階数が含まれているが、建物に関する他の情報が含まれてもよい。
一方、図11(C)の例では、写真画像F2に表れる建物内に取引対象物件があることを示す情報(この例では、“空室有”)が写真画像F2上に重畳表示されており、この“空室有”がユーザにより指定された場合、取引対象物件の戸IDを含む詳細情報取得要求が情報提供サーバ2へ送信される(ステップS10)。この詳細情報取得要求に応じて情報提供サーバ2から、取引対象物件の固有情報が送信されると、図11(D)に示すように、当該取引対象物件の固有情報I2が画面Dに表示される。取引対象物件の固有情報I2には、建物名及び取引対象物件の固有情報(賃貸物件情報)が含まれている。なお、取引対象物件の固有情報には、取引対象物件の取扱い不動産会社の電話番号またはメールアドレスが含まれるように構成してもよい。この場合において、画面Dに表示された固有情報I2がユーザにより指定された場合、携帯端末1は、取扱い不動産会社の電話番号に従って発呼することで、取扱い不動産会社の電話機との間で通話を行うように構成してもよい。或いは、画面Dに表示された固有情報I2がユーザにより指定された場合、携帯端末1は、取扱い不動産会社のメールアドレス宛てに取引対象物件の問合せメールを送信するように構成してもよい。
一方、図11(E)の例では、写真画像F2に表れる建物内に取引対象物件がないことを示す情報(この例では、“空室無”)が写真画像F2上に重畳表示されており、この“空室無”が例えばログイン中のユーザ(つまり、認証済のユーザ)により指定された場合、当該建物の建物ID、及び当該ユーザのユーザIDを含むウィッシュリスト登録要求が情報提供サーバ2へ送信され(ステップS10)、当該建物の建物IDが当該ユーザのユーザIDに対応付けられたウィッシュリストに登録されることになる。
ステップS11では、制御部18は、アプリケーションを終了するか否かを判定する。例えば、ユーザからアプリケーションの終了指示が受け付けられた場合、制御部18は、アプリケーションを終了すると判定し(ステップS11:YES)、図4に示す処理を終了する。一方、制御部18は、アプリケーションを終了しないと判定した場合(ステップS11:NO)、ステップS2に戻る。
(2−2.情報提供サーバ2の処理)
次に、情報提供サーバ2のシステム制御部23により実行される処理について説明する。先ず、図12を参照して、携帯端末1からの情報取得要求が受信されたときの建物特定及び建物情報提供処理について説明する。図12は、携帯端末1からの情報取得要求が受信されたときの建物特定及び建物情報提供処理の一例を示すフローチャートである。
図12に示す処理は、携帯端末1からの情報取得要求が通信部21により受信された場合に開始される。図12に示す処理が開始されると、システム制御部23(受信情報取得部231)は、通信部21により受信された情報取得要求から、撮像画像、距離情報、方位情報、端末位置情報、及び設定情報を取得する(ステップS20)。なお、情報取得要求に建物位置情報が含まれる場合、当該情報取得要求から建物位置情報が取得される。
次いで、システム制御部23(建物位置特定部232)は、ステップS20で取得された距離情報、方位情報、及び端末位置情報に基づいて、撮像画像に表れる建物の位置を示す建物位置情報を特定する(ステップS21)。例えば、上述したように、システム制御部23(建物位置特定部232)は、端末位置情報が示す緯度及び経度、距離情報が示す距離、及び方位情報が示す方位を、建物の位置を算出するための計算式に代入して当該建物の緯度及び経度を算出することで建物位置情報を特定する。なお、情報取得要求から建物位置情報が取得された場合、当該取得された建物位置情報が特定される。
次いで、システム制御部23(写真画像検索部233)は、ステップS21で特定された建物位置情報が示す緯度及び経度を基準として設定した検索範囲内の建物の写真画像を建物情報データベース221から検索する(ステップS22)。例えば、システム制御部23(写真画像検索部233)は、建物情報データベース221に登録された建物位置情報を参照して、ステップS21で特定された建物位置情報が示す緯度及び経度を基準として設定した検索範囲(例えば、図9に示すSR1)内に緯度及び経度が含まれる建物の写真画像を検索する。
次いで、システム制御部23(写真画像検索部233)は、ステップS22で写真画像が検索されたか(ヒットしたか)否かを判定する(ステップS23)。システム制御部23(写真画像検索部233)は、写真画像が検索されない(ヒットしない)と判定した場合(ステップS23:NO)、ステップS24へ進む。一方、システム制御部23(写真画像検索部233)は、写真画像が検索された(ヒットした)と判定した場合(ステップS23:YES)、ステップS27へ進む。
ステップS24では、システム制御部23(写真画像検索部233)は、再検索を行うか否かを判定する。例えば、システム制御部23(写真画像検索部233)は、予め設定された再検索実施有無を確認し、再検索実施有が設定されている場合、再検索実施有の設定と共に設定された再検索上限回数(例えば、2回)以下であるかをさらに確認し、再検索上限回数以下である場合、再検索を行うと判定し(ステップS24:YES)、ステップS25へ進む。一方、システム制御部23(写真画像検索部233)は、再検索実施無が設定されている場合、または再検索実施有が設定されているが再検索上限回数以下でない場合、再検索を行わないと判定し(ステップS24:NO)、該当する建物情報が無いことを示す該当無情報を通信部21及びネットワークNWを介して携帯端末1へ送信し(ステップS26)、図12に示す処理を終了する。
ステップS25では、システム制御部23(写真画像検索部233)は、上記検索範囲を拡張設定する。すなわち、システム制御部23(写真画像検索部233)は、直前の検索範囲(第1の範囲)より広い検索範囲(第2の範囲)を設定する。そして、システム制御部23(写真画像検索部233)は、検索範囲の拡張後、ステップS22に戻り、拡張した検索範囲内の建物の写真画像を建物情報データベース221から検索する。これにより、徐々に検索範囲を広げていくことが可能となり、最初から広い検索範囲で検索することに比べて、検索精度を向上させることができるとともに、検索ヒット数を減らすことができるので以降のステップでの処理時間を短縮することができる。
ステップS27では、システム制御部23は、ステップS20で取得された設定情報を参照して、表示制限モードがオン設定であるか否かを判定する。システム制御部23は、表示制限モードがオン設定でないと判定した場合(ステップS27:NO)、ステップS28へ進む。ステップS28では、システム制御部23(情報取得・提示部235)は、ステップS22で検索された写真画像及び建物ID(当該写真画像に対応付けられた建物ID)の組(複数組の場合もある)を通信部21及びネットワークNWを介して携帯端末1へ送信し、図12に示す処理を終了する。一方、システム制御部23は、表示制限モードがオン設定であると判定した場合(ステップS27:YES)、ステップS29へ進む。
なお、ステップS28において、システム制御部23(情報取得・提示部235)は、ステップS22で検索された写真画像に対応付けられた建物IDに対応する建物内に取引対象物件があるか否かを当該建物内の各戸の取引対象有無から判定し、当該建物内に取引対象物件があると判定した場合、当該取引対象物件の戸ID及び取引対象物件があることを示す情報を携帯端末1へ送信する。一方、システム制御部23(情報取得・提示部235)は、当該建物内に取引対象物件がないと判定した場合、取引対象物件がないことを示す情報を携帯端末1へ送信する。
ステップS29では、システム制御部23(画像マッチング部234)は、ステップS22で検索された写真画像を1つ選定する。なお、ここで選定された写真画像には選定フラグ“1”が付与される。次いで、システム制御部23(画像マッチング部234)は、ステップS29で選定された写真画像に表れる建物と、ステップS20で取得された撮像画像に表れる建物との一致判定を実行し(ステップS30)、当該写真画像に表れる建物と撮像画像に表れる建物とが一致するか否かを判定する(ステップS31)。ここで、撮像画像に複数の建物が表れている場合、それぞれの建物毎に、写真画像に表れる建物との一致判定が行われる。なお、写真画像において一致判定に利用される建物は、当該写真画像において最も面積の広い建物が認識される(通常、写真画像には1つの建物が写っているが、当該建物の周辺部分に他の建物が写り込んでいる場合もあるため)。
ステップS30の具体例として、システム制御部23(画像マッチング部234)は、写真画像から認識された建物の特徴量と、撮像画像から認識された建物の特徴量とを特徴量抽出アルゴリズムにより抽出する。そして、システム制御部23(画像マッチング部234)は、上記抽出した両特徴量の一致度を算出し、算出した一致度が閾値(例えば、80%)以上であるかを画像マッチングアルゴリズムにより判定し、一致度が閾値以上であれば、写真画像に表れる建物と、撮像画像に表れる建物とが一致すると判定する。システム制御部23(画像マッチング部234)は、写真画像に表れる建物と、撮像画像に表れる建物とが一致すると判定した場合(ステップS31:YES)、ステップS34へ進む。一方、システム制御部23(画像マッチング部234)は、写真画像に表れる建物と、撮像画像に表れる建物とが一致しないと判定(撮像画像に複数の建物が表れる場合、それぞれの建物と一致しないと判定)した場合(ステップS31:NO)、ステップS32へ進む。
ステップS32では、システム制御部23(情報取得・提示部235)は、ステップS21で特定された建物位置情報が示す位置から、ステップS29で選定された写真画像に対応付けられた建物位置情報が示す位置までの距離を算出する。次いで、システム制御部23(情報取得・提示部235)は、ステップS32で算出された距離を示す算出距離情報と、ステップS29で選定された写真画像とを対応付けて送信リストに登録し(ステップS33)、ステップS34へ進む。
ステップS34では、システム制御部23(情報取得・提示部235)は、ステップS22で検索された写真画像のうち、未だ選定していない写真画像があるか否かを、例えば、選定フラグにより判定する。システム制御部23(情報取得・提示部235)は、未だ選定していない写真画像があると判定した場合(ステップS34:YES)、ステップS29に戻る。こうして、未だ選定していない写真画像が1つ選定され、上記と同様、ステップS30以降の処理が行われる。
一方、システム制御部23(情報取得・提示部235)は、未だ選定していない写真画像がないと判定した場合(ステップS34:NO)、写真画像に付与された選定フラグを削除し、ステップS35へ進む。ステップS35では、システム制御部23(情報取得・提示部235)は、ステップS33で対応付けられて送信リストに登録された算出距離情報、写真画像及び建物ID(当該写真画像に対応付けられた建物ID)の組(複数組の場合もある)を通信部21及びネットワークNWを介して携帯端末1へ送信し、図12に示す処理を終了する。これにより、図8に示すように、算出距離情報が示す距離が写真画像に関連付けられて表示されることになる。
次に、図13を参照して、携帯端末1からの詳細情報取得要求が受信されたときの建物詳細情報提供処理について説明する。図13は、携帯端末1からの詳細情報取得要求が受信されたときの建物詳細情報提供処理の一例を示すフローチャートである。図13に示す処理は、携帯端末1からの詳細情報取得要求が通信部21により受信された場合に開始される。図13に示す処理が開始されると、システム制御部23(情報取得・提示部235)は、詳細情報取得要求から建物の建物IDを含む情報を取得する(ステップS41)。
次いで、システム制御部23(情報取得・提示部235)は、ステップS41で取得された情報から取引対象物件の戸IDを特定できるか否かを判定する(ステップS42)。システム制御部23(情報取得・提示部235)は、取引対象物件の戸IDを特定できないと判定した場合(ステップS42:NO)、ステップS43へ進む。ステップS43では、システム制御部23(情報取得・提示部235)は、ステップS41で取得された建物IDに対応付けられた建物情報(例えば、建物名、所在地、築年数、及び階数等)を建物情報データベース221から取得し、取得した建物情報を通信部21及びネットワークNWを介して携帯端末1へ送信し、図13に示す処理を終了する。こうして、図11(B)に示すように、建物情報I1が携帯端末1の画面に表示される。
一方、システム制御部23(情報取得・提示部235)は、取引対象物件の戸IDを特定できると判定した場合(ステップS42:YES)、ステップS44へ進む。ステップS44では、システム制御部23(情報取得・提示部235)は、ステップS41で取得された建物IDに対応付けられ、且つ取引対象物件の戸IDに対応付けられた建物名及び取引対象物件の固有情報(賃貸物件情報)を建物情報データベース221から取得し、取得した固有情報を通信部21及びネットワークNWを介して携帯端末1へ送信し、図13に示す処理を終了する。こうして、図11(D)に示すように、取引対象物件の固有情報I2が携帯端末1の画面に表示される。
次に、図14(A)を参照して、携帯端末1からのウィッシュリスト登録要求が受信されたときのウィッシュリスト登録処理について説明する。図14(A)は、携帯端末1からのウィッシュリスト登録要求が受信されたときのウィッシュリスト登録処理の一例を示すフローチャートである。
図14(A)に示す処理は、携帯端末1からのウィッシュリスト登録要求が通信部21により受信された場合に開始される。図14(A)に示す処理が開始されると、システム制御部23(情報登録部236)は、ウィッシュリスト登録要求から建物ID及びユーザIDを取得する(ステップS51)。次いで、システム制御部23(情報登録部236)は、ステップS51で取得された建物IDを、ステップS51で取得されたユーザIDに対応付けられたウィッシュリストに登録し(ステップS52)、図14(A)に示す処理を終了する。
次に、図14(B)を参照して、ウィッシュリスト登録後の物件情報提供処理について説明する。図14(B)は、ウィッシュリスト登録後の物件情報提供処理の一例を示すフローチャートである。
図14(B)に示す処理は、ウィッシュリスト登録後に取引対象物件の発生が検知された場合に開始される。例えば、システム制御部23は、所定時間間隔で、建物情報データベース221を参照し、戸の固有情報中の取引対象無が取引対象有に変化(例えば前回の参照から変化)していれば、取引対象物件の発生を検知する。これにより、図14(B)に示す処理が開始されると、システム制御部23(情報取得・提示部235)は、発生した取引対象物件の戸IDに対応付けられた建物IDを建物情報データベース221から取得する(ステップS61)。つまり、発生した取引対象物件を有する建物の建物IDが取得される。
次いで、システム制御部23(情報取得・提示部235)は、ステップS61で取得された建物IDを登録しているウィッシュリストをユーザ情報データベース222から特定する(ステップS62)。次いで、システム制御部23(情報取得・提示部235)は、ステップS62で特定されたウィッシュリストに対応付けられたユーザ情報をユーザ情報データベース222から取得する(ステップS63)。次いで、システム制御部23(情報取得・提示部235)は、ステップS63で取得されたユーザ情報にしたがって、上記発生した取引対象物件の固有情報を、携帯端末1のユーザへ通知する(ステップS64)。これにより、携帯端末1のユーザが例えば散歩中に興味をもった建物内で、後から取引対象物件が発生した場合に当該取引対象物件の固有情報を当該ユーザに対して迅速に提示することができる。例えば、システム制御部23(情報取得・提示部235)は、当該ユーザ情報に含まれるメールアドレス宛てに、上記発生した取引対象物件の固有情報を送信することで携帯端末1のユーザへ通知する。或いは、システム制御部23(情報取得・提示部235)は、当該ユーザ情報に含まれるユーザID及びパスワードにより携帯端末1からログインした際に、上記発生した取引対象物件の固有情報を送信することで携帯端末1のユーザへ通知する。
以上説明したように、上記実施形態によれば、情報提供サーバ2は、携帯端末1の端末位置情報と、カメラ13により撮像された建物までの距離情報と、当該建物の方位情報とから特定された建物位置情報に基づいて建物の写真画像を検索し、検索された写真画像を携帯端末1の画面に表示させ、当該写真画像が携帯端末1のユーザにより指定された場合には当該写真画像に対応付けられた建物情報を画面に表示させるように構成したので、建物が表れる撮像画像上に写真画像を重畳表示させることで建物が意向に沿うものかどうかをユーザに判断させた上で建物情報を表示させることができる。したがって、確実にユーザの意向に沿った建物の建物情報を表示させることができる。また、検索された写真画像のうち撮像画像に表れる建物と一致しないと判定された建物が表れる写真画像を携帯端末1の画面に表示させる構成によれば、画面に表示されている建物よりもむしろ後ろ側にある建物を望むユーザに対して当該ユーザの意向に沿った建物の写真画像を見易く且つ指定し易く表示させることができる。
なお、以上のように本発明の一実施形態を説明したが、本発明は上記実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲で上記実施形態から種々構成等に変更を加えてもよく、その場合も本発明の技術的範囲に含まれる。例えば、図12に示すステップS31において写真画像に表れる建物と撮像画像に表れる建物とが一致しないと判定された場合にステップS32へ進まず、ステップS33に進んで写真画像を送信リストに登録するように構成してもよい。
1 携帯端末
2 情報提供サーバ
11 無線通信部
12 GPS受信機
13 カメラ
14 距離センサ
15 方位センサ
16 表示・操作部
17 記憶部
18 制御部
19 バス
21 通信部
22 記憶部
23 システム制御部
24 バス
221 建物情報データベース
222 ユーザ情報データベース
231 受信情報取得部
232 建物位置特定部
233 写真画像検索部
234 画像マッチング部
235 情報取得・提示部
236 情報登録部
NW ネットワーク
S 情報提供システム

Claims (11)

  1. 携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報を取得する距離取得手段と、
    記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報を取得する方位取得手段と、
    記撮像されたときの前記携帯端末の位置を示す端末位置情報を取得する端末位置取得手段と、
    前記端末位置情報、前記距離情報、及び前記方位情報に基づいて、前記撮像された建物の位置を示す撮像建物位置情報を特定する建物位置特定手段と、
    数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索する検索手段と、
    前記撮像された建物が表れる撮像画像を取得する画像取得手段と、
    前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定する判定手段と、
    前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末の画面に表示させ、記携帯端末のユーザにより選択された当該写真画像の前記建物情報を当該画面に表示させる提示手段と、
    を備えることを特徴とする情報提供システム。
  2. 前記検索手段は、前記撮像建物位置情報が示す緯度及び経度を基準として前記検索範囲内に緯度及び経度が含まれる建物があるか否かを判定することにより前記建物の前記写真画像を検索することを特徴とする請求項1に記載の情報提供システム。
  3. 前記検索範囲は、前記撮像された建物の位置から前記方位情報が示す方位と並行する方向に拡張された範囲であることを特徴とする請求項1または2に記載の情報提供システム。
  4. 前記撮像建物位置情報が示す位置から、前記一致度が閾値以上ではないと判定された前記写真画像に対応付けられた前記建物位置情報が示す位置までの距離を算出する距離算出手段を更に備え、
    前記提示手段は、前記距離算出手段により算出された距離を、前記一致度が閾値未満であると判定された写真画像に関連付けて前記携帯端末の画面に表示させることを特徴とする請求項1乃至3の何れか一項に記載の情報提供システム。
  5. 前記撮像建物位置情報が示す位置から、前記一致度が閾値以上ではないと判定された写真画像に対応付けられた前記建物位置情報が示す位置までの距離を算出する距離算出手段を更に備え、
    前記提示手段は、前記一致度が閾値未満であると判定された写真画像を、前記距離算出手段により算出された距離が長いほど小さいサイズで前記携帯端末の画面に表示させることを特徴とする請求項1乃至3の何れか一項に記載の情報提供システム。
  6. 前記提示手段は、前記一致度が閾値未満であると判定された写真画像に表れる建物内に取引対象物件があるか否かを示す情報を、当該写真画像に関連付けて前記携帯端末の画面に表示させることを特徴とする請求項1乃至の何れか一項に記載の情報提供システム。
  7. 前記建物内に取引対象物件があることを示す情報が前記携帯端末のユーザにより指定された場合、前記提示手段は、当該取引対象物件の固有情報を前記画面に表示させることを特徴とする請求項に記載の情報提供システム。
  8. 前記建物内に取引対象物件がないことを示す情報が前記携帯端末のユーザにより指定された場合、当該建物の識別情報を当該ユーザの識別情報に対応付けて登録し、当該登録された後に当該建物内に取引対象物件が発生した場合、当該ユーザに対して当該取引対象物件の固有情報を通知することを特徴とする請求項に記載の情報提供システム。
  9. 携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報を取得する距離取得手段と、
    記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報を取得する方位取得手段と、
    記撮像されたときの前記携帯端末の位置を示す端末位置情報を取得する端末位置取得手段と、
    前記端末位置情報、前記距離情報、及び前記方位情報に基づいて、前記撮像された建物の位置を示す撮像建物位置情報を特定する建物位置特定手段と、
    数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索する検索手段と、
    前記撮像された建物が表れる撮像画像を取得する画像取得手段と、
    前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定する判定手段と、
    前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末の画面に表示させ、記携帯端末のユーザにより選択された当該写真画像の前記建物情報を当該画面に表示させる提示手段と、
    を備えることを特徴とするサーバ装置。
  10. 携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報、前記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報、及び前記撮像されたときの前記携帯端末の位置を示す端末位置情報に基づいて特定された、前記撮像された建物の位置を示す撮像建物位置情報を前記携帯端末から取得する建物位置取得手段と、
    数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索する検索手段と、
    前記撮像された建物が表れる撮像画像を取得する画像取得手段と、
    前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定する判定手段と、
    前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末へ送信し、前記写真画像が前記携帯端末のユーザにより選択された当該写真画像の前記建物情報を前記携帯端末へ送信する送信手段と、
    を備えることを特徴とするサーバ装置。
  11. コンピュータにより実行される情報提供方法であって、
    携帯端末から当該携帯端末のカメラにより撮像された建物までの距離を示す距離情報を取得するステップと、
    記撮像されたときの前記携帯端末を基準とする前記建物の方位を示す方位情報を取得するステップと、
    記撮像されたときの前記携帯端末の位置を示す端末位置情報を取得するステップと、
    前記端末位置情報、前記距離情報、及び前記方位情報に基づいて、前記撮像された建物の位置を示す撮像建物位置情報を特定するステップと、
    数の建物のそれぞれの建物位置情報、写真画像、及び建物情報を建物毎に記憶する記憶手段を参照して、前記撮像建物位置情報を基準として設定された検索範囲に位置する当該建物の当該写真画像を複数検索するステップと、
    前記撮像された建物が表れる撮像画像を取得するステップと、
    前記検索手段により検索された各写真画像に表れる建物の特徴量と、前記撮像画像に表れる建物の特徴量との一致度が閾値以上であるか否かを判定するステップと、
    前記一致度が閾値以上ではないと判定された前記写真画像を前記携帯端末の画面に表示させ、記携帯端末のユーザにより選択された当該写真画像の前記建物情報を当該画面に表示させるステップと、
    を含むことを特徴とする情報提供方法。
JP2018051470A 2018-03-19 2018-03-19 情報提供システム、サーバ装置、及び情報提供方法 Active JP6607987B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018051470A JP6607987B2 (ja) 2018-03-19 2018-03-19 情報提供システム、サーバ装置、及び情報提供方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018051470A JP6607987B2 (ja) 2018-03-19 2018-03-19 情報提供システム、サーバ装置、及び情報提供方法

Publications (2)

Publication Number Publication Date
JP2019163998A JP2019163998A (ja) 2019-09-26
JP6607987B2 true JP6607987B2 (ja) 2019-11-20

Family

ID=68065571

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018051470A Active JP6607987B2 (ja) 2018-03-19 2018-03-19 情報提供システム、サーバ装置、及び情報提供方法

Country Status (1)

Country Link
JP (1) JP6607987B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4029687A4 (en) 2019-09-09 2023-09-13 Agc Inc. LAMINATED AND LAMINATED GLASS
JP7147791B2 (ja) * 2020-01-17 2022-10-05 トヨタ自動車株式会社 タグ付与システム、キャッシュサーバ、およびキャッシュサーバの制御方法
JP6982659B1 (ja) * 2020-06-26 2021-12-17 株式会社ドワンゴ サーバ、端末、配信システム、配信方法、および情報処理方法
GB2602452A (en) * 2020-12-18 2022-07-06 Supra Uk Ltd Instigating communication

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2154481B1 (en) * 2007-05-31 2024-07-03 Panasonic Intellectual Property Corporation of America Image capturing device, additional information providing server, and additional information filtering system

Also Published As

Publication number Publication date
JP2019163998A (ja) 2019-09-26

Similar Documents

Publication Publication Date Title
JP6958673B2 (ja) 携帯情報機器、情報取得システム、及びプログラム
US11741706B2 (en) Imaging device and information acquisition system in which an acquired image and associated information are held on a display
JP6607987B2 (ja) 情報提供システム、サーバ装置、及び情報提供方法
JP5255595B2 (ja) 端末位置特定システム、及び端末位置特定方法
US8879784B2 (en) Terminal and method for providing augmented reality
US9076069B2 (en) Registering metadata apparatus
JP6591594B2 (ja) 情報提供システム、サーバ装置、及び情報提供方法
KR101016556B1 (ko) 증강 현실을 이용하여 인물의 정보에 접근하기 위한 방법, 서버 및 컴퓨터 판독 가능한 기록 매체
CN107870961B (zh) 空间物件搜寻排序方法、系统与计算机可读取存储装置
US20130328931A1 (en) System and Method for Mobile Identification of Real Property by Geospatial Analysis
JP2018106696A (ja) 移動オブジェクトの仮想情報構築方法、移動オブジェクトの仮想情報検索方法及びアプリケーションシステム
JP5223034B2 (ja) 情報提供装置、情報提供方法、情報提供処理プログラム、及び情報提供処理プログラムを記録した記録媒体
CN107193820B (zh) 位置信息获取方法、装置及设备
JP6600674B2 (ja) 移動オブジェクト仮想情報遠隔管理方法及び移動オブジェクト仮想情報遠隔管理システム
US20160343156A1 (en) Information display device and information display program
JP7144164B2 (ja) 情報提供システム、サーバ装置、及び端末用プログラム
KR102010252B1 (ko) 증강 현실 서비스 제공 장치 및 방법
JP2015026105A (ja) 画像評価サーバ
JP6208977B2 (ja) 情報処理装置、通信端末およびデータ取得方法
KR20150106621A (ko) 단말, 서비스 제공 장치, 그 제어 방법, 컴퓨터 프로그램이 기록된 기록 매체 및 이미지 검색 시스템
TWM565373U (zh) House price inquiry system
KR20120072033A (ko) 영상 컨텐츠의 자동 태깅 방법 및 장치
WO2023095770A1 (ja) 拡張現実表示装置、サーバ装置、拡張現実表示システム、拡張現実表示方法、及びプログラム
KR101810533B1 (ko) 영상인식 기술을 이용한 지도 서비스에 관심 지점 입력 장치 및 방법
JP2024079332A (ja) 情報提供装置、情報処理システム、情報提供方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190111

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190111

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190624

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191021

R150 Certificate of patent or registration of utility model

Ref document number: 6607987

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250