JP7015503B2 - 貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法。 - Google Patents

貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法。 Download PDF

Info

Publication number
JP7015503B2
JP7015503B2 JP2021500251A JP2021500251A JP7015503B2 JP 7015503 B2 JP7015503 B2 JP 7015503B2 JP 2021500251 A JP2021500251 A JP 2021500251A JP 2021500251 A JP2021500251 A JP 2021500251A JP 7015503 B2 JP7015503 B2 JP 7015503B2
Authority
JP
Japan
Prior art keywords
image
unit
loan
image data
comparison
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021500251A
Other languages
English (en)
Other versions
JPWO2021125294A1 (ja
Inventor
雅巳 森
倫愛 李
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Arithmer Inc
Original Assignee
Arithmer Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Arithmer Inc filed Critical Arithmer Inc
Publication of JPWO2021125294A1 publication Critical patent/JPWO2021125294A1/ja
Application granted granted Critical
Publication of JP7015503B2 publication Critical patent/JP7015503B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M11/00Telephonic communication systems specially adapted for combination with other electrical systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法に関する。
物品を貸与するサービスのサービス提供者とサービス利用者のトラブルを未然に防ぐために、対象物の貸与前後の状態を確認できるシステムが求められている。例えば、レンタカーでは、利用前後にサービス提供者とサービス利用者が、共に傷の確認を行っている。カーシェアリングでは、サービス提供者が定期的に巡回して車の状態を確認している。このように貸与には多くの手間が発生するばかりでなく、時には発見された傷等がサービス利用者によるものであるのかトラブルに発展することもある。そこで、サービスの利用前に貸与に係る対象物を撮影し、その画像データを登録するシステムが提案されている(例えば、特許文献1参照)。また、貸与前後にレンタカーを複数のカメラが設置されたゲートに通して全体の画像データを取得し、比較する装置が提案されている(例えば、特許文献2参照)。
特開2018-151825号公報 特開平11-144042号公報
サービス利用者に手持ちカメラで貸与対象物を撮影させると、確認すべき箇所のすべてが網羅された画像群をサービス提供者が得ることが難しく、場合によっては意図的に損傷箇所が撮影されないこともある。一方で、貸与物の全体を撮影するゲートのような大型装置を用意することも困難である。
本発明は、このような問題を解決するためになされたものであり、サービス提供者が貸与対象物の損傷を確実に確認できるように、適切な画像データの取得を実現する貸与対象物管理システム等を提供するものである。
本発明の第1の態様における貸与対象物管理システムは、携帯端末のカメラユニットで撮像された画像データを取得する取得部と、取得部が取得した画像データの画像に、貸与対象物に対して設定された複数の部位のいずれかが写っているかを判定する判定部と、判定部により複数の部位のいずれかが写っていると判定された画像データを記憶する記憶部と、複数の部位のうち取得部が取得した画像データの画像に写っていない未取得部位が残存する場合に、カメラユニットによる更なる撮像を催促する催促部とを備える。
また、本発明の第2の態様における貸与対象物管理プログラムは、携帯端末のカメラユニットで撮像された画像データを取得する取得ステップと、取得ステップで取得した画像データの画像に、貸与対象物に対して設定された複数の部位のいずれかが写っているかを判定する判定ステップと、判定ステップにより複数の部位のいずれかが写っていると判定された画像データを記憶する記憶ステップと、複数の部位のうち取得ステップで取得した画像データの画像に写っていない未取得部位が残存する場合に、カメラユニットによる更なる撮像を催促する催促ステップとをコンピュータに実行させる。
本発明により、サービス提供者が貸与対象物の損傷を確実に確認できるように、適切な画像データの取得を実現する貸与対象物管理システム等を提供することができる。
本実施形態に係る貸与対象物管理システムを含む、レンタカーサービスの全体構成を示す概念図である。 システムサーバの主なハードウェア構成図である。 ユーザ端末の主なハードウェア構成図である。 レンタカーサービスの利用開始時における処理フローを示す。 判定部による処理を示す概念図である。 レンタカーサービスの利用終了時における処理フローを示す。 比較部による処理を示す概念図である。 比較結果の表示例である。 第1検証例の車両使用前の画像と検知結果を示す。 第1検証例の車両使用後の画像と検知結果を示す。 第2検証例の車両使用前の画像と検知結果を示す。 第2検証例の車両使用後の画像と検知結果を示す。
以下、発明の実施の形態を通じて本発明を説明するが、特許請求の範囲に係る発明を以下の実施形態に限定するものではない。また、実施形態で説明する構成の全てが課題を解決するための手段として必須であるとは限らない。
図1は、本実施形態に係る貸与対象物管理システムを含む、レンタカーサービスの全体構成を示す概念図である。本実施形態における貸与対象物管理システムは、システムサーバ100によって実現される。システムサーバ100は、インターネット910に接続されており、インターネット910を介して、直接的または間接的に利用者のスマートフォンであるユーザ端末200、サービス拠点である店舗に設置された店舗サーバ300と情報の授受を行う。
より具体的には、ユーザ端末200は、システムサーバ100から情報を受信したり、レンタカー920を撮像して生成した画像データをシステムサーバ100へ送信したりする。ユーザ端末200は、スマートフォンに限らずタブレット端末など携帯端末であれば良い。店舗サーバ300は、システムサーバ100が貸与状況を管理するレンタカー920の情報をシステムサーバ100から受信してモニター310へ表示したり、サービス提供者の従業員であるオペレータが入力した情報をシステムサーバ100へ送信したりする。
システムサーバ100は、ユーザ端末200から画像データを取得し、当該画像データの画像に、レンタカー920に対して設定された複数の部位のいずれかが写っているかを判定する。そして、いずれかの部位が写っていると判定した場合には、当該画像データを記憶し、設定された複数の部位のうち未取得部位が残存する場合には、ユーザ端末200へ更なる画像データの送信を催促する。このような処理を、レンタカー920を貸与する前後で行う。そして、貸与後には同一部位の貸与前後の画像を比較して、その比較結果をユーザ端末200や店舗サーバ300へ呈示する。以下に、具体的な構成および処理について説明する。
図2は、システムサーバ100の主なハードウェア構成図である。システムサーバ100は、主に、システム処理部110、記憶部120、および通信部130によって構成される。システム処理部110は、システムサーバ100の制御とプログラムの実行処理を行うプロセッサ(CPU)である。システム処理部110は、記憶部120に記憶された貸与対象物管理プログラムを読み出して、レンタカー920の管理に関する様々な処理を実行する。
記憶部120は、不揮発性の記憶媒体であり、例えば大容量のHDDによって構成されている。記憶部120は、システムサーバ100の制御や処理を実行するプログラムを格納するほか、パーツ分類を判定する分類モデルや各種ルックアップテーブル、貸与対象物であるレンタカー920の画像データ等を蓄積する。なお、記憶部120は、単体のハードウェアで構成されていなくても良く、例えば、プログラム等を格納する記憶媒体と画像データを蓄積する記憶媒体が別々のハードウェアで構成されても良い。
通信部130は、インターネット910への接続および外部機器とのデータ授受を担い、例えばLANによって構成されている。通信部130は、システム処理部110の制御に従って、インターネット910との間で指示コマンドや画像データを含む情報の授受を行う。
システム処理部110は、貸与対象物管理プログラムが指示する処理に応じて様々な演算を実行する機能演算部としての役割も担う。システム処理部110は、処理手順に応じて、画像取得部111、判定部112、催促部113、管理部114、比較部115、および呈示部116として機能し得る。これらの機能演算部の具体的な演算処理については、後述する。
なお、本実施形態においては、システムサーバ100が貸与対象物管理システムの主要構成を備えるものとして説明するが、例えば記憶部120がインターネット910に直接的に接続されたネットワークHDDで構成されていても良い。そのような場合には、分散して構成された装置の全体によって貸与対象物管理システムが構築される。
図3は、ユーザ端末200の主なハードウェア構成図である。ユーザ端末200は、主に、端末処理部210、撮像部220、入力部230、通信部240、および表示部250によって構成される。端末処理部210は、ユーザ端末200の制御とプログラムの実行処理を行うプロセッサ(CPU)である。端末処理部210は、サービス利用者であるユーザの指示や、システムサーバ100から送られてくる指示コマンドに従って、レンタカーサービスに関する様々な処理を実行する。
撮像部220は、カメラユニットを含み、端末処理部210からの指示を受けて被写体の撮像を実行する。撮像部220は、光電変換した被写体画像から画像データを生成して、端末処理部210へ引き渡す。入力部230は、ユーザの入力を受け付ける入力デバイスを含み、例えば表示パネルに重畳されたタッチパネルである。入力部230は、ユーザの音声により指示を受け付ける音声認識ユニットであっても良い。
通信部240は、インターネット910への接続および外部機器とのデータ授受を担い、例えば無線LANによって構成されている。表示部250は、例えば液晶の表示パネルを含み、端末処理部210で生成されたユーザインタフェース画面や撮像部220が撮像した被写体画像を視認可能に表示する。
図4は、システムサーバ100とユーザ端末200が実行する、レンタカーサービスの利用開始時におけるそれぞれの処理フローを示す。フローは、例えば、サービス利用者がユーザ端末200でレンタカーサービスに係るアプリを立ち上げたことをシステムサーバ100が認識した時点から開始する。
システムサーバ100のシステム処理部110は、ステップS101で、サービス情報をユーザ端末200へ送信する。サービス情報は、これから貸与するレンタカー920の管理パーツ情報を含む。管理パーツ情報は、貸与対象物であるレンタカー920に対して設定された様々な部位(パーツ)に関する情報である。ユーザ端末200の端末処理部210は、サービス情報を受信すると、ステップS201で、貸与対象であるレンタカー920がいずれの車であるかをサービス利用者へ知らしめる。また、管理パーツ情報を参照してそれぞれのパーツを指定部位として表示部250に表示し、当該指定部位を撮像するように促す。
サービス利用者は、表示部250に表示された指定部位を参照して、レンタカー920のパーツを撮像する。端末処理部210は、ステップS202で、撮像部220が生成した撮像データを、通信部240を介してシステムサーバ100へ送信する。
システムサーバ100の画像取得部111は、ステップS102で、通信部130を介してユーザ端末200から画像データを取得する。判定部112は、ステップS103で、画像取得部111から当該画像データを受け取り、その画像に、レンタカー920に対して設定された部位のいずれかが写っているかを判定する。判定部112の具体的な処理については後述する。
設定された部位のいずれかが写っていると判定部112が判定した場合には、システム処理部110は、ステップS104で、当該画像データを記憶部120へ記憶する。写っていないと判定部が判定した場合には、ステップS104はスキップされる。
管理部114は、ステップS105で、レンタカー920に対して設定された部位のうち、これまでに取得した画像データの画像に未だ写っていない未取得部位が残存するか否かを確認する。残像することが確認された場合は、ステップS106へ進み、催促部113は、ユーザ端末200へ更なる画像データの送信を催促する催促信号を送信する。催促信号は、具体的にどの部位が未取得部位であるかの情報を含んでも良い。この場合、未取得部位の全てではなく、例えば次に撮像を促す特定の一部位であっても良い。催促部が催促信号を送信したら、ステップS102へ戻る。一方で、ステップS105で未取得部位が残存していないことが確認された場合は、一連の処理を終了する。その後、システム処理部110は、レンタカー920が利用を開始できる状態になったことをユーザ端末200へ通知しても良い。
ユーザ端末200の端末処理部210は、ステップS202で画像データを送信してから一定時間以内にシステムサーバ100から催促信号を受信したかを判断する(ステップS203)。受信した場合には、ステップS201へ戻り、サービス利用者へ更なる撮像を促す。催促信号が未取得部位の情報を含んでいる場合には、端末処理部210は、ステップS201で、未取得部位を明示しても良い。一定時間以内に催促信号を受信しなかったと判断した場合には、一連の処理を終了する。その後、端末処理部210は、レンタカー920が利用を開始できる状態になったことを表示部250に表示しても良い。
なお、上記のフローにおいて管理部114は、レンタカー920の貸与前の時点において、レンタカー920に対して設定された部位のそれぞれが記憶部120に記憶されているいずれかの画像データの画像に写っている状態に達するように、画像取得部111、判定部112、記憶部120および催促部113のそれぞれに処理を実行させる管理処理を担う。後述する貸与後の時点においても、同様の管理処理を担う。
図5は、判定部112による処理を示す概念図である。判定部112は、画像取得部111から受け取った画像に所定の画像処理を施す。所定の画像処理は、例えば、画像サイズの調整やコントラスト調整など、パーツ分類モデル112aへ入力可能な画像データとするための処理を含む。
次に、判定部112は、画像処理を施した画像データをパーツ分類モデル112aに入力し、その出力を参照して、入力した画像データをパーツに分類する。パーツ分類モデル112aは、学習済みのニューラルネットワークであり、車両の部分を撮像した画像の画像データを入力すると、当該画像が予め設定された複数の部位(パーツ)のそれぞれに属する確率を出力する。例えば、出力ノード0、1、2、3…を、それぞれフロントガラス、フロントバンパー、ライト、グリル…のように対応付ける。判定部112は、それぞれの出力ノードの出力値のうち最大の出力ノードを選択し、選択された出力ノードに対応するパーツを入力した画像データの分類とする。分類されたパーツ情報は、画像データに関連付けられる。例えば、分類されたパーツ情報は、当該画像データのタグ情報に書き込まれる。これに限らず、分類されたパーツ情報と画像データとが関連付けられたファイルが別に準備されてもよい。また、出力ノードは、「分類不可」のノードを含み、このノードの確率が最も大きい場合には、入力した画像データは利用不適とする。
パーツ分類モデル112aは、車両の写った画像に対し、パーツの部分をバウンディングボックスで指定するとともに当該パーツの部分に対応するピクセルを指定した教師データによる学習により構築することができる。例えば、パーツ分類モデル112aは、Mask-RCNNのような、インスタンスセグメンテーションが可能なニューラルネットワークにより構築される。ただし、パーツ分類モデル112aの構築はこれに限定されるものではなく、例えば、車両の写った画像に対し、パーツの部分をバウンディングボックスで指定した教師データによる学習により構築されるものでもよい。また、パーツ分類モデル112aは、車両の写った画像に対し、パーツの部分に対応するピクセルを指定した教師データによる学習により構築されるものでもよい。具体的には、U-Netのようなネットワーク構造により構築されるものでも良い。
判定部112は、入力した画像データにパーツ情報を付与することができれば、レンタカー920に対して設定された部位のいずれかが写っていると判定する。換言すると、判定部112は、パーツ分類モデル112aの出力で利用不適とならなければ、レンタカー920に対して設定された部位のいずれかが写っていると判定する。一方、判定部112は、利用不適となった画像データであれば、設定された部位のいずれも写っていなかったと判定する。
なお、入力した画像データにパーツ情報を付与することができるか否かは、両者を関連付ける任意の態様で実現されればよい。例えば、画像データとパーツ情報とを関連付けたファイルが生成されることで、入力した画像データにパーツ情報が付与されてもよいし、画像データのタグ情報(メタデータ)にパーツ情報が書き込まれることで、入力した画像データにパーツ情報が付与されてもよい。
図6は、システムサーバ100とユーザ端末200が実行する、レンタカーサービスの利用終了時における処理フローを示す。フローは、例えば、サービス利用者がユーザ端末200でレンタカーサービスに係るアプリに対して利用終了の入力を行ったことをシステムサーバ100が認識した時点から開始する。
システムサーバ100とユーザ端末200は、レンタカーサービスの利用終了時にも、開始時と同様に、設定された部位に対応する画像データを収集する処理を行う。すなわち、システムサーバ100におけるステップS101からステップS106までの処理は、開始時と終了時で同様であり、ユーザ端末200におけるステップS201からステップS203までの処理も、開始時と終了時で同様である。以下においては、これらの処理の説明を省き、画像データを収集した後の処理について説明する。
システムサーバ100の処理においてステップS105からNOへ進むと、レンタカー920に対して設定された全ての部位において、サービス提供開始時の画像データと終了時の画像データとが記憶部120に揃っていることになる。そこで、比較部115は、ステップS107で、サービス提供開始時と終了時で対となる各部位の画像データを記憶部120から読み出し、それぞれの画像を互いに比較する。どの画像データとどの画像データが対であるかは、それぞれの画像データに関連付けられたパーツ情報が参照されることにより決定される。比較部115の具体的な処理については後述する。
ステップS108へ進み、呈示部116は、比較部115による比較結果を呈示する。具体的には、比較結果を表す比較結果信号を生成し、ユーザ端末200や店舗サーバ300へ送信する。サービス提供者のオペレータがシステムサーバ100付近に居合わせる場合には、システムサーバ100に接続されたモニターに比較結果を呈示しても良い。システムサーバ100は、比較結果を呈示したら、一連の処理を終了する。ユーザ端末200の端末処理部210は、システムサーバ100から比較結果信号を受信したら、ステップS203で、比較結果を表示部250に表示して、一連の処理を終了する。
図7は、比較部115による処理を示す概念図である。比較部115は、まず、記憶部120から同一部位の対となる開始時画像データと終了時画像データを読み出す。そして、開始時画像データの比較対象となる第1部位領域(貸与前の画像の比較領域)と、終了時画像データの比較対象となる第2部位領域(貸与後の画像の比較領域)の大きさおよび向きを揃える正規化処理を行う。正規化処理は、大きさおよび向きを揃える他にも、コントラスト調整処理など、両画像の比較を良好に行うための調整処理を含んでも良い。第1部位領域と第2部位領域とで画素数(大きさ)が異なる場合、比較部115は画素数が少ない方の画像データを基準とし、画素数が多い方の画像データに対して正規化処理を行ってもよい。これにより、正規化処理に起因する誤検知を少なくすることができる。
補足すると、画素数が多い方の画像データを基準とし、画素数が少ない方の画像データに対して正規化処理を行うと、画素数の増加を伴う調整処理が必要となる。このような調整処理で発生する画像の補間は、損傷発生個所を判定する際に誤検知の原因となることがある。これに対して、画素数が多い方の画像データに対する正規化処理を行うことで、正規化処理に起因する誤検知を抑えることができる。
なお、同一部位の対となる開始時画像データと終了時画像データとは、当該部位を切り出した画像データであってもよいし、他の部位を含む画像データであってもよい。部位によっては正規化処理が良好に行えない場合もあり、その場合には、正規化処理が良好に行える他の部位を含む画像データを用いることで、正規化処理に起因する誤検知を抑えることができる場合もある。
次に、比較部115は、正規化処理を施した開始時画像データと終了時画像データを損傷検知モデル115aに入力し、その出力を参照して、損傷発生の有無を判定する。損傷検知モデル115aは、学習済みのニューラルネットワークであり、正規化処理を施した開始時画像データと終了時画像データを入力すると、予め設定された損傷が発生した確率とその領域座標を出力する。例えば、出力ノードのそれぞれは、へこみ、ひっかき、ひび、欠損等が対応付けられており、対応付けられた損傷が発生している確率を出力する。比較部115は、閾値を超える確率を示す出力ノードを抽出し、当該出力ノードに対応付けられた損傷が発生したと判定する。また、損傷検知モデル115aが出力する領域座標を損傷発生個所と判定する。
損傷検知モデル115aは、車両の写った画像に対し、損傷の部分をバウンディングボックスで指定するとともに当該損傷の部分に対応するピクセルを指定した教師データによる学習により構築することができる。例えば、損傷検知モデル115aは、Mask-RCNNであり、インスタンスセグメンテーションが可能なニューラルネットワークである。ただし、損傷検知モデル115aの構築はこれに限定されるものではなく、例えば、車両の写った画像に対し、損傷の部分をバウンディングボックスで指定した教師データによる学習により構築されるものでもよい。また、損傷検知モデル115aは、車両の写った画像に対し、損傷の部分に対応するピクセルを指定した教師データによる学習により構築されるものでもよい。具体的には、U-Netのようなネットワーク構造により構築されるものでも良い。
続いて比較部115は、終了時画像データの画像に損傷発生個所を取り囲む枠線を重畳したり拡大したりする強調処理を施す。比較部115は、レンタカー920に設定された各部位に対してこれらの処理を繰り返す。そして、すべての部位に対してこれらの処理を終えたら、判定した損傷情報と共に、強調処理を施した終了時画像データを比較結果として呈示部116へ引き渡す。
呈示部116は、上述のように、例えば比較結果信号を生成して店舗サーバ300へ送信する。図8は、店舗サーバ300が比較結果信号を受信してその情報をモニター310に表示した、比較結果の表示例である。図示するように、後部左ドアの一部にひっかき傷が検知された場合には、損傷が検知された部位(パーツ)の名称(ここでは「後部左ドア」)と、検知された損傷の名称(ここでは「Scratch」)が表示され、検知された領域が丸枠で囲まれる。損傷が複数の部位で検知された場合には、このような表示が順次表示されたり、並べて表示されたりする。また、オペレータの指示に従って、貸与開始時の画像と、損傷が検知された貸与終了時の画像を並べて表示しても良い。
次に比較部115を用いた検証の検証例を紹介する。図9は、第1検証例の車両使用前の画像と検知結果を示す。具体的には、図9(a)は、比較部115が検証する車両使用前の画像データの画像である。図9(b)は、損傷検知モデル115aを用いて図9(a)の画像から損傷個所を抽出した2値画像である。損傷箇所は白抜き領域として現れる。図の例では、損傷箇所が存在しないので、前画像が黒一色である。図9(c)は、損傷箇所をCGで強調表示した画像であるが、図の例では、損傷箇所が存在しないので、図9(a)の画像と同一である。
図10は、第1検証例の車両使用後の画像と検知結果を示す。具体的には、図10(a)は、比較部115が検証する車両使用後の画像データの画像である。図10(b)は、損傷検知モデル115aを用いて図10(a)の画像から損傷個所を抽出した2値画像である。検出された損傷箇所は白抜き領域として現れている。図10(c)は、損傷箇所をCGで強調表示した画像である。図示するように、図10(b)の白抜き領域に対応する箇所が矩形で囲まれている。
図11は、第2検証例の車両使用前の画像と検知結果を示す。具体的には、図11(a)は、比較部115が検証する車両使用前の画像データの画像である。図11(b)は、損傷検知モデル115aを用いて図11(a)の画像から損傷個所を抽出した2値画像である。損傷箇所は白抜き領域として現れる。図の例では、車両使用前から損傷箇所が存在することがわかる。図11(c)は、損傷箇所をCGで強調表示した画像である。図示するように、図11(b)の白抜き領域に対応する箇所が矩形で囲まれている。
図12は、第2検証例の車両使用後の画像と検知結果を示す。具体的には、図12(a)は、比較部115が検証する車両使用後の画像データの画像である。図12(b)は、損傷検知モデル115aを用いて図12(a)の画像から損傷個所を抽出した2値画像である。検出された損傷箇所は白抜き領域として現れている。図12(c)は、損傷箇所をCGで強調表示した画像である。図示するように、図12(b)の白抜き領域に対応する箇所が矩形で囲まれている。図11(c)と図12(c)を比較すれば、いずれの箇所が車両使用中に発生した損傷箇所かがわかる。もちろん、図11(b)と図12(b)のそれぞれの2値画像を比較しても良い。
なお、損傷を抽出する学習済みのニューラルネットワークを利用すれば、上記の検証例の手順で新たに発生した損傷箇所を抽出することもできる。具体的には、対となる画像を取得し、それぞれの画像に存在する損傷箇所をニューラルネットワークで抽出する。このとき抽出される結果は、例えば上述の2値画像である。そして、それらを比較し、差が生じている領域を新たに発生した損傷箇所と判断する。
上述したように、本実施形態に係る貸与対象物管理システムでは、画像の入力に応じて当該画像内に存在する損傷の種類または当該損傷の領域を出力する損傷検知モデル115a(検知モデル)を用いて、複数の部位のそれぞれにおいて貸与前の画像と貸与後の画像を互いに比較する比較部115を備えている。加えて、本実施形態に係る貸与対象物管理システムでは、比較部115による貸与前の画像と貸与後の画像との比較の結果、貸与前後の間で新たに発生した損傷の種類または損傷の領域を検知した場合、管理部114が、新たに損傷が発生した旨と検知した時刻に対応する時間情報とを関連付けて記憶部120に記憶する構成を採用してもよい。これにより、レンタカー920をユーザに貸与する毎に、貸与の前後の画像データが取得時刻に関連付けられて記憶部120に記憶される。貸与の前後の画像データを取得時刻に関連付ける方法は、画像データのメタデータへ取得時刻を書き込む方法を採用してもよい。このような構成によれば、貸与対象物管理システムの管理者は、レンタカー920の各パーツでいつ損傷が発生したかの履歴を管理することができる。
例えば、ユーザAに貸与前の画像データと、ユーザAに貸与後の画像データとを比較することで、ユーザAが利用した期間で新たに発生した損傷を特定できる。また、ユーザAに貸与後の画像データと、ユーザAの次に貸与したユーザBの貸与前の画像データとを比較することで、ユーザAへの貸与終了後ユーザBに貸与するまでの期間(レンタカー920がサービス拠点である店舗に保管されていた期間)で新たに発生した損傷を特定できる。
以上説明した本実施形態においては、サービス利用者が携帯するユーザ端末200からシステムサーバ100が画像データを取得し、システムサーバ100がユーザ端末200に更なる画像の送信を催促する構成を説明した。しかし、サービス利用者が携帯する端末自体を貸与対象物管理システムとして構成することもできる。例えば、サービス提供者が所有するタブレット端末をサービス利用者へ携帯させるような場合には、当該タブレット端末を貸与対象物管理システムとして動作させることができるし、サービス利用者が所有するスマートフォンにアプリケーションをインストールすることにより、当該スマートフォンを貸与対象物管理システムとして動作させることもできる。サービス利用者が携帯する端末自体が貸与対象物管理システムとして動作する場合には、当該端末のプロセッサ(CPU)がシステム処理部110と同様に機能する。この場合、当該端末がカメラユニットを備えるのであれば、催促部は、カメラユニットが更なる撮像を実行するように催促する。
以上説明した本実施形態においては、貸与対象物をレンタカー920としたが、もちろん貸与対象物はこれに限らない。貸与対象物は、バイクやトラックなどの車両に留まらず、工作機械、電子機器、衣類、服飾品、不動産等であっても良い。貸与対象物の性質に合わせて、想定される損傷や、検知対象とする複数の部位を設定すると良い。いずれを貸与対象物としても、上述のようなシステムを採用することにより、サービス提供者は、サービス利用者が所有するスマートフォンのような小型の端末を利用して簡易に、貸与対象物の損傷を確認するための画像データを確実に取得することができる。また、貸与対象物の近くにサービス提供者のオペレータが存在しなくても良いので、レンタルシステムをより簡易に、広範に構築することもできる。
100 システムサーバ、110 システム処理部、111 画像取得部、112 判定部、113 催促部、114 管理部、115 比較部、116 呈示部、120 記憶部、130 通信部、200 ユーザ端末、210 端末処理部、220 撮像部、230 入力部、240 通信部、250 表示部、300 店舗サーバ、310 モニター、910 インターネット、920 レンタカー

Claims (9)

  1. 携帯端末のカメラユニットで撮像された画像データを取得する取得部と、
    記取得部が取得した前記画像データの画像に、与対象物に対して設定された複数の部位のいずれかが写っているかを判定する判定部と、
    前記判定部により前記複数の部位のいずれかが写っていると判定された前記画像データを記憶する記憶部と、
    前記複数の部位のうち前記取得部が取得した画像データの画像に写っていない未取得部位が残存する場合に、前記カメラユニットによる更なる撮像を催促する催促部と
    前記複数の部位のそれぞれにおいて貸与前の画像と貸与後の画像を互いに比較する比較部と、
    を備え
    前記比較部は、貸与前の画像の比較領域と貸与後の画像の比較領域とで、画素数の多い比較領域に対して所定の情報を揃える画像処理を行い、前記画像処理後の画像を比較する、
    貸与対象物管理システム。
  2. 前記催促部は、前記未取得部位の少なくとも一つの情報を前記携帯端末へ送信する請求項1に記載の貸与対象物管理システム。
  3. 前記比較部は、画像の入力に応じて当該画像内に存在する損傷の種類または当該損傷の領域を出力する検知モデルを用いて、前記貸与前の画像と前記貸与後の画像から損傷の領域または分類を検知する、請求項1又は2に記載の貸与対象物管理システム。
  4. 前記検知モデルは、貸与対象物の写った画像に対し、当該貸与対象物における損傷の部分をバウンディングボックスで指定した教師データ又は当該貸与対象物における損傷の部分に対応するピクセルを指定した教師データのいずれか若しくは両方の教師データによる学習により構築されたものであり、前記画像の入力に応じて、前記画像における前記損傷の領域抽出と分類とを出力する、請求項に記載の貸与対象物管理システム。
  5. 前記所定の情報は、画像の大きさ、向き、コントラストのいずれか1つを含む、
    請求項1から4のいずれか1項に記載の貸与対象物管理システム。
  6. 前記貸与対象物の貸与を管理する管理部を備え、
    前記管理部は、前記貸与対象物の貸与前と貸与後のそれぞれの時点において、前記複数の部位のそれぞれが前記記憶部に記憶されているいずれかの画像データの画像に写っている状態に達するように、前記取得部、前記判定部、前記記憶部および前記催促部のそれぞれに処理を実行させる請求項1から5のいずれか1項に記載の貸与対象物管理システム。
  7. 前記管理部が、前記比較部による前記貸与前の画像と前記貸与後の画像との比較の結果、貸与前後の間で新たに発生した損傷の種類または損傷の領域を検知した場合、新たに損傷が発生した旨と検知した時刻に対応する時間情報とを関連付けて記憶する、
    請求項に記載の貸与対象物管理システム。
  8. 携帯端末のカメラユニットで撮像された画像データを取得する取得ステップと、
    前記取得ステップで取得した前記画像データの画像に、貸与対象物に対して設定された複数の部位のいずれかが写っているかを判定する判定ステップと、
    前記判定ステップにより前記複数の部位のいずれかが写っていると判定された前記画像データを記憶する記憶ステップと、
    前記複数の部位のうち前記取得ステップで取得した画像データの画像に写っていない未取得部位が残存する場合に、前記カメラユニットによる更なる撮像を催促する催促ステップと、
    前記複数の部位のそれぞれにおいて貸与前の画像と貸与後の画像を互いに比較する比較ステップと、
    を含み、
    前記比較ステップは、貸与前の画像の比較領域と貸与後の画像の比較領域とで、画素数の多い比較領域に対して所定の情報を揃える画像処理を行い、前記画像処理後の画像を比較する、
    貸与対象物管理方法。
  9. 請求項8に記載の貸与対象物管理方法をコンピュータに実行させる貸与対象物管理プログラム。
JP2021500251A 2019-12-18 2020-12-17 貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法。 Active JP7015503B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019228107 2019-12-18
JP2019228107 2019-12-18
PCT/JP2020/047277 WO2021125294A1 (ja) 2019-12-18 2020-12-17 貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法。

Publications (2)

Publication Number Publication Date
JPWO2021125294A1 JPWO2021125294A1 (ja) 2021-12-16
JP7015503B2 true JP7015503B2 (ja) 2022-02-03

Family

ID=76476855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021500251A Active JP7015503B2 (ja) 2019-12-18 2020-12-17 貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法。

Country Status (2)

Country Link
JP (1) JP7015503B2 (ja)
WO (1) WO2021125294A1 (ja)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001283224A (ja) 2000-03-31 2001-10-12 Nec Corp 顔照合方法と該照合方法を格納した記録媒体と顔照合装置
JP2001283324A (ja) 2000-03-30 2001-10-12 Teraoka Seiko Co Ltd 販売データ登録装置
US20150287130A1 (en) 2014-04-04 2015-10-08 Verc, Inc. Systems and methods for assessing damage of rental vehicle
JP2017097780A (ja) 2015-11-27 2017-06-01 富士通株式会社 端末装置、利用管理プログラム、共有物管理装置及び共有物管理方法
US20180293664A1 (en) 2017-04-11 2018-10-11 Alibaba Group Holding Limited Image-based vehicle damage determining method and apparatus, and electronic device
US20180293552A1 (en) 2017-04-11 2018-10-11 Alibaba Group Holding Limited Image-based vehicle maintenance plan
WO2019087870A1 (ja) 2017-10-30 2019-05-09 Necフィールディング株式会社 作業支援装置、作業支援方法及びプログラム
WO2020071559A1 (ja) 2018-10-05 2020-04-09 Arithmer株式会社 車両状態判定装置、その判定プログラムおよびその判定方法
JP2020113076A (ja) 2019-01-11 2020-07-27 本田技研工業株式会社 ユーザ評価装置
JP2020194481A (ja) 2019-05-30 2020-12-03 株式会社デンソー 車両の撮影方法、車両の点検支援方法、車両の貸出方法、車両撮影プログラムおよび車両管理サーバ

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102198296B1 (ko) * 2018-06-01 2021-01-05 한화손해보험(주) 자동으로 사고 차량의 파손 정도를 산출하는 장치, 방법 및 컴퓨터 프로그램

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001283324A (ja) 2000-03-30 2001-10-12 Teraoka Seiko Co Ltd 販売データ登録装置
JP2001283224A (ja) 2000-03-31 2001-10-12 Nec Corp 顔照合方法と該照合方法を格納した記録媒体と顔照合装置
US20150287130A1 (en) 2014-04-04 2015-10-08 Verc, Inc. Systems and methods for assessing damage of rental vehicle
JP2017097780A (ja) 2015-11-27 2017-06-01 富士通株式会社 端末装置、利用管理プログラム、共有物管理装置及び共有物管理方法
US20180293664A1 (en) 2017-04-11 2018-10-11 Alibaba Group Holding Limited Image-based vehicle damage determining method and apparatus, and electronic device
US20180293552A1 (en) 2017-04-11 2018-10-11 Alibaba Group Holding Limited Image-based vehicle maintenance plan
WO2019087870A1 (ja) 2017-10-30 2019-05-09 Necフィールディング株式会社 作業支援装置、作業支援方法及びプログラム
WO2020071559A1 (ja) 2018-10-05 2020-04-09 Arithmer株式会社 車両状態判定装置、その判定プログラムおよびその判定方法
JP2020113076A (ja) 2019-01-11 2020-07-27 本田技研工業株式会社 ユーザ評価装置
JP2020194481A (ja) 2019-05-30 2020-12-03 株式会社デンソー 車両の撮影方法、車両の点検支援方法、車両の貸出方法、車両撮影プログラムおよび車両管理サーバ

Also Published As

Publication number Publication date
WO2021125294A1 (ja) 2021-06-24
JPWO2021125294A1 (ja) 2021-12-16

Similar Documents

Publication Publication Date Title
US11580605B2 (en) Feedback loop in mobile damage assessment and claims processing
US11361385B2 (en) Application facilitated claims damage estimation
US10803532B1 (en) Processing insured items holistically with mobile damage assessment and claims processing
US11625791B1 (en) Feedback loop in mobile damage assessment and claims processing
US10573012B1 (en) Three dimensional image scan for vehicle
US10572944B1 (en) Claims damage estimation using enhanced display
US11915321B2 (en) Configuration and transfer of image data using a mobile device
KR102198296B1 (ko) 자동으로 사고 차량의 파손 정도를 산출하는 장치, 방법 및 컴퓨터 프로그램
CN109002786B (zh) 人脸检测方法、设备及计算机可读存储介质
US11455691B2 (en) Processing insured items holistically with mobile damage assessment and claims processing
US9232143B2 (en) Method and system for assistive photography
US10299117B2 (en) Method for authenticating a mobile device and establishing a direct mirroring connection between the authenticated mobile device and a target screen device
CN114663871A (zh) 图像识别方法、训练方法、装置、系统及存储介质
CN112532884B (zh) 识别方法、装置及电子设备
JP7015503B2 (ja) 貸与対象物管理システム、貸与対象物管理プログラム及び貸与対象物管理方法。
JP5788447B2 (ja) 保険証券の情報取得システム
CN112672102B (zh) 一种视频生成方法及装置
US20220036463A1 (en) User devices in claims damage estimation
CN110660000A (zh) 数据预测方法、装置、设备及计算机可读存储介质
JP2016045555A (ja) 接客管理システム、顧客端末、サーバー装置、接客管理方法、及び接客方法
US20220309602A1 (en) Vehicle monitoring apparatus, vehicle monitoring system, and vehicle monitoring method
CN114998043A (zh) 车辆配件定损方法、装置、电子设备及存储介质
JP2021060853A (ja) 保険に関する文書の文字認識のために用いられる該文書の画像を取得するためのシステム、方法、プログラム、プログラムを記憶した記憶媒体
KR20240043409A (ko) 차량의 외관 파손 판단 서비스 제공 방법 및 시스템
CN110795711A (zh) 身份信息识别方法、装置和设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210105

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210105

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210406

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220114

R150 Certificate of patent or registration of utility model

Ref document number: 7015503

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350