JP6913643B2 - 逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法 - Google Patents

逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法 Download PDF

Info

Publication number
JP6913643B2
JP6913643B2 JP2018026028A JP2018026028A JP6913643B2 JP 6913643 B2 JP6913643 B2 JP 6913643B2 JP 2018026028 A JP2018026028 A JP 2018026028A JP 2018026028 A JP2018026028 A JP 2018026028A JP 6913643 B2 JP6913643 B2 JP 6913643B2
Authority
JP
Japan
Prior art keywords
facility
notification
loss prevention
unit
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018026028A
Other languages
English (en)
Other versions
JP2019144652A (ja
Inventor
高橋 秀樹
秀樹 高橋
関 正彦
正彦 関
憲司 竹内
憲司 竹内
茂樹 濱野
茂樹 濱野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Faurecia Clarion Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd, Faurecia Clarion Electronics Co Ltd filed Critical Clarion Co Ltd
Priority to JP2018026028A priority Critical patent/JP6913643B2/ja
Publication of JP2019144652A publication Critical patent/JP2019144652A/ja
Application granted granted Critical
Publication of JP6913643B2 publication Critical patent/JP6913643B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Emergency Alarm Devices (AREA)
  • Alarm Systems (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法の技術に関するものである。
「車両に搭載されたナビゲーション機能を備えた車載装置と、該車載装置に無線通信可能に接続された端末装置とを備え、前記車載装置が、IDタグ付きの物品に対し非接触で当該ID情報を読み取り可能なID読み取り部と、前記車両が自宅を出てから帰ってくるまでの1回の走行の単位毎に車内に存在するIDタグ付きの物品に関する情報を逐次格納するメモリ部と、前記ID読み取り部及びメモリ部に動作可能に接続された制御部とを有し、前記制御部は、前記端末装置から忘れ物検索要求の指示を受信したときに、前記ID読み取り部を起動させて車内に存在するIDタグ付きの全物品を検索し、該検索した全物品と前記メモリ部に格納されている情報を照合して、該照合に基づいた検索結果を前記端末装置に送信することを特徴とする車内忘れ物管理システム」に係る技術が、特許文献1に記載されている。
特開2006−301909号公報
上記の特許文献1に係る技術では、IDタグ付きの物品であれば忘れ物管理を行うことができるが、IDタグが付いていない物品の忘れ物管理は考慮されていない。そのため、すべての管理対象物品には事前にタグをつける必要があるが、そのような管理は煩雑な場合が多く、管理上の漏れ等の問題が発生しがちである。
本発明の目的は、煩雑なIDタグの管理を必要としない逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法を提供することにある。
本発明は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。上記課題を解決すべく、本発明に係るサーバー装置は、施設の属性情報と、上記施設の属性に応じて逸失防止対象物を特定する通知対象情報と、を記憶する記憶部と、所定の車載機および該車載機に対応付けられた所定の携帯端末とネットワークを介して通信する通信部と、上記車載機から、該車載機が搭載された車両から降車した乗員を撮像した画像を受信する画像受信部と、上記画像の被写体のうち、降車位置にある前記施設の属性に応じて前記逸失防止対象物を通知対象と特定する通知対象特定部と、上記通知対象について、所持を確認するための表示および音声による通知情報を作成する通知情報作成部と、上記携帯端末に上記通知情報を送信する通知情報配信部と、を備えることを特徴とする。
本願発明によれば、煩雑なIDタグの管理を必要としない逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法を提供することが可能となる。上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
本発明に係る実施形態を適用した逸失防止システムの構成例を示す図である。 車載機のハードウェア構造例を示す図である。 携帯端末のハードウェア構造例を示す図である。 通知管理情報のデータ構造例を示す図である。 施設情報のデータ構造例を示す図である。 通知対象情報のデータ構造例を示す図である。 通知情報のデータ構造例を示す図である。 降車時処理の流れを示す図である。 施設退出時処理の流れを示す図である。 逸失防止システムの利用シーンの例を示す図である。 本発明に係る実施形態を適用した逸失防止システムの別の例を示す図である。 本発明に係る実施形態を適用した逸失防止システムのさらに別の例を示す図である。
以下に、本発明に係る、逸失防止システムについて、図面を参照して説明する。なお、図1〜図12は、逸失防止システム1の全ての構成を示すものではなく、理解容易のため、適宜、構成の一部を省略して描いている。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する場合がある。また、以下の実施の形態において、その構成要素(要素ステップ等も含む)は、特に明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではないことは言うまでもない。また、「Aからなる」、「Aよりなる」、「Aを有する」、「Aを含む」と言うときは、特にその要素のみである旨明示した場合等を除き、それ以外の要素を排除するものでないことは言うまでもない。同様に、以下の実施の形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合および原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。
図1に、本発明に係る実施形態を適用した逸失防止システムの構造を示す。本発明に係る実施形態を適用した逸失防止システム1においては、車載機100、携帯端末200の制御の一部に、アプリケーションソフトウェアによる制御が含まれる。後述する変形例を適用した逸失防止システム1´では、サーバー装置300の制御の一部に、アプリケーションソフトウェアによる制御が含まれる。また、車載機100においては、アプリケーションソフトウェアの機能は、車載機100のOS(Operating System)等の管理下で動作するアプリケーションソフトウェアプログラムによりハードウェアが制御されて実現されるものとする。一方で、携帯端末200およびサーバー装置300においては、アプリケーションソフトウェアの機能は、携帯端末200およびサーバー装置300のOS等の管理下で動作するアプリケーションソフトウェアプログラムによりハードウェアが制御されて実現されるものとする。
車載機100は、車両に搭載され各種のソフトウェアを実行可能な情報処理装置である。なお、車載機100は、本実施形態においては、OSを備え、複数のソフトウェア等のコンテンツをウェブブラウザ等において使用可能であり、並列してアプリケーションソフトウェア等のコンテンツを実行することも可能であるものとするが、これに限られず、ASIC(Application Specific Integrated Circuit)等のハードウェアで実現されてもよい。ただし、車載機100は、車載の状態で使用される専用の装置に限られず、パーソナルコンピューターやスマートフォン、タブレット端末等の各種の独立動作可能な装置であってもよい。
車載機100は、記憶部110と、制御部120と、通信部130と、を含んで構成される。記憶部110には、通知管理情報111と、施設情報112と、通知対象情報113と、が含まれる。制御部120には、降車検知部121と、画像取得部122と、画像認識部123と、通知対象特定部124と、通知情報作成部125と、カメラ制御部126と、の処理部が含まれる。
図4は、通知管理情報のデータ構造例を示す図である。通知管理情報111は、車載機100を特定する情報と、携帯端末200と、の対応付けを含む。具体的には、通知管理情報111は、車載機100を識別可能な番号(MACアドレス等)である車載機識別子111aと、携帯端末200を識別可能な番号(MACアドレス等)である携帯端末識別子111bと、を対応付けて記憶する。
図5は、施設情報のデータ構造例を示す図である。施設情報112は、施設を特定する情報と、施設の位置と、施設の属性の情報を含む。具体的には、施設情報112は、施設識別子112aと、位置(施設屋内出入口)112bと、施設属性(屋内外)112cと、施設属性(平均滞在時間)112dと、施設属性(敷地面積)112eと、を含む。
位置(施設屋内出入口)112bは、施設の代表位置および屋内施設が付属する場合に当該施設の屋内へ入り口の位置を特定する情報であり、緯度経度でそれぞれ表された座標を含む。なお、位置(施設屋内出入口)112bでは、施設の代表位置の座標と、屋内施設が付属する場合にはカッコ記号により施設の屋内への入り口の位置が表される。すなわち、「緯度、経度(緯度、経度)」の形式であれば屋内施設あり、「緯度、経度」の形式であれば屋内施設がないか不明であることを表す。
施設属性(屋内外)112cは、施設が屋内施設であるか否かを示す情報である。施設属性(平均滞在時間)112dは、施設の訪問者の平均滞在時間である。施設属性(敷地面積)112eは、施設の敷地面積を所定の有意な区分(本実施形態では、「小規模」「中規模」「大規模」の3区分)のいずれであるかを示す情報である。施設の広さ(規模)は、施設での服装や持ち物の変更に相関する要素となりうるためである。
図6は、通知対象情報のデータ構造例を示す図である。通知対象情報113は、予測滞在時間に応じた通知対象と、施設の規模に応じた通知対象と、施設の屋内外に応じた通知対象と、を含む。
具体的には、予測滞在時間に応じた通知対象は、予測滞在時間の第一の区分である5分未満113aに応じた通知対象と、予測滞在時間の第二の区分である5分以上20分未満113bに応じた通知対象と、予測滞在時間の第三の区分である20分以上60分未満113cに応じた通知対象と、予測滞在時間の第四の区分である60分以上113dに応じた通知対象と、を含む。
また、施設の規模に応じた通知対象は、規模の第一の区分である小規模施設113eに応じた通知対象と、規模の第二の区分である中規模施設113fに応じた通知対象と、規模の第三の区分である大規模施設113gに応じた通知対象と、を含む。
また、施設の屋内外に応じた通知対象は、屋外施設113hに応じた通知対象と、屋内施設113iに応じた通知対象と、を含む。
図1の説明に戻る。降車検知部121は、車載機100が搭載された車両から乗員が降車すると、これを検知する。検知の方法には、例えば着座センサー、温度センサー、ドア開閉センサー等による降車状態の検出等、公知の各種の技術を採用可能である。画像取得部122は、降車が検知されると、カメラ制御部126に撮像を指示し、車載機100が搭載された車両から降車した乗員を撮像した画像データを取得する。画像認識部123は、画像取得部122が取得した画像データを公知の物体認識方法により解析し、被写体の物体を認識する。
通知対象特定部124は、降車が検知された位置を特定して、当該位置が属する施設あるいは最寄の施設を、施設情報112を参照して検索し、特定する。そして、当該施設の属性に応じて、通知対象情報113を参照して、通知対象の候補を特定する。具体的には、通知対象特定部124は、施設の予想滞在時間に応じて通知対象の候補を特定し、施設の規模に応じて通知対象の候補を特定し、施設の屋内外の区別に応じて通知対象の候補を特定し、これらの通知対象候補の和を算出する。そして、通知対象特定部124は、当該和に含まれる対象物と、画像データの被写体の物体との共通部分を算出し、これを通知対象と特定する。
例を挙げると、施設識別子「FC000001」が最寄の施設で降車が検知された場合には、通知対象特定部124は、当該施設の属性「平均滞在時間60分」から「傘、マフラー、帽子、手袋、サングラス、バッグ、靴、コート」(60分以上113d)、当該施設の属性「中規模」から「傘、帽子、手袋、サングラス」(中規模施設113f)、当該施設の属性「屋内」から「傘、マフラー、帽子、手袋、サングラス、バッグ、靴、コート」(屋内施設113i)、を特定し、これらの和「傘、マフラー、帽子、手袋、サングラス、バッグ、靴、コート」を算出する。
そして、通知対象特定部124は、画像データの被写体の物体が「傘、マフラー、時計」である場合には、これとの共通部分となる「傘、マフラー」を通知対象として特定する。
通知情報作成部125は、通知対象特定部124が特定した通知対象について、施設から退場する際と、乗車の際に所持を確認するための表示および音声による通知情報を作成する。具体的には、通知情報作成部125は、施設屋内出入口および車両の通知位置ごとに、通知条件と、通知内容(言語情報)と、通知時の表示画像(画像情報)と、を対応付ける。なお、通知情報作成部125は、通知条件、通知内容(言語情報)は、予め定められたテンプレートに従い作成し、通知時の表示画像は、画像取得部122が取得した画像データから通知対象ごとにトリミング(または拡大)した画像を作成する。
そして、通知情報作成部125は、通信部130を介して無線通信経由で携帯端末200に、作成した通知情報を送信する。
カメラ制御部126は、後述する車載カメラである撮像装置107の動作を制御する。例えば、車両のサイドミラーに取り付けられた側方を撮影する撮像装置107の、撮像タイミング、撮像範囲(画角)、撮像距離(フォーカス)、撮影感度(ISO感度)、シャッタースピード(露光時間)等の制御を行う。
通信部130は、無線通信(WiFiあるいはBluetooth(いずれも登録商標)等)を経由して、携帯端末200と通信を行う。しかし、これに限られず、通信部130は、有線のHDMI(High−Definition Multimedia Interface)、USB(Universal Serial Bus)等の通信を経由して携帯端末200と通信を行うものであってもよい。
携帯端末200は、記憶部210と、制御部220と、通信部230と、を含んで構成される。記憶部210には、通知情報211が含まれる。制御部220には、施設退場検出部221と、通知制御部222と、入力制御部223と、画面制御部224と、の処理部が含まれる。携帯端末200は、いわゆるスマートフォンやタブレット、あるいはパーソナルコンピューター等の情報処理端末である。
図7は、通知情報のデータ構造例を示す図である。通知情報211は、通知位置を特定する情報と、通知条件と、通知内容(メッセージ)と、通知時に表示する画像と、を含む。具体的には、通知情報211は、通知位置211aと、通知条件211bと、通知内容211cと、通知時表示画像211dと、を含む。
通知位置211aは、「施設屋内出入口」または「車両接近時」のいずれかを特定する情報である。通知対象物ごとに、降車時の施設が屋内施設である場合にはそれぞれのレコードが格納され、施設が屋外施設である場合には車両接近時のみのレコードが格納される。
通知条件211bは、通知対象物ごとに、通知する条件が予め定められている場合にその条件を特定する情報である。例えば、「傘」が通知対象物である場合には、「降水なし」が通知の条件として格納される。これは、降水がない場合(つまり、傘を差す必要がない場合)には、傘を施設に置き忘れて逸失するケースが頻繁にあることを踏まえて、予め定められる条件である。同様に、「マフラー」が通知対象物である場合には、「気温10度以上」が通知の条件として格納される。気温が高い場合には、防寒装備を脱いだまま逸失するケースがあるためである。ただし、これに限られず、気候や風習に応じて予め定められるものであってもよい。
通知内容211cは、通知対象物ごとに、通知する内容(文言)を特定する情報である。具体的には、通知内容211cには、「傘」が通知対象物である場合には、「傘を忘れていませんか?」というメッセージが格納される。
通知時表示画像211dは、通知対象物ごとに、通知する際に表示する画像を特定する情報である。具体的には、通知時表示画像211dには、「傘」が通知対象物である場合には、画像取得部122により撮像された画像のうち、認識された「傘」を拡大あるいはトリミングした画像が格納される。
図1の説明に戻る。施設退場検出部221は、施設からの退場を検出する。具体的には、施設退場検出部221は、携帯端末200の位置を検出し、当該位置が降車時の最寄の施設の出入り口にあたるか否か判定し、出入り口にあたると判定した場合に、初回を除いて当該施設からの退場として検出する。
通知制御部222は、通信部230を介して車載機100から通知情報を受信すると、通知情報211に格納する。そして、降車時の最寄の施設からの退場時に、通知条件を満たしていれば通知情報(通知対象物ごとのメッセージと画像)を画面制御部224に出力させる。また、通知制御部222は、降車した車両付近に戻った場合等、車載機100との無線通信あるいは有線通信が確立されると、通知条件を満たしていれば通知情報(通知対象物ごとのメッセージと画像)を画面制御部224に出力させる。
入力制御部223は、画面のタッチやソフトウェアキーへの入力、あるいはハードウェアボタン等への入力を受け付ける。画面制御部224は、画面出力を制御する。
通信部230は、無線通信(WiFi/Bluetooth等)を介して、車載機100等の他の装置と通信する。しかし、これに限られず、通信部230は、有線のHDMI、USB等の通信を経由して携帯端末200と通信を行うものであってもよい。
図2は、車載機のハードウェア構造例を示す図である。車載機100は、入力受付装置101と、演算装置102と、通信装置103と、主記憶装置104と、外部記憶装置105と、表示装置106と、撮像装置107と、位置検出装置108と、これらをつなぐバス109と、を含んで構成される。
入力受付装置101は、ハードウェアボタンやタッチパネル等の各種入力装置である。演算装置102は、例えばCPU(Central Processing Unit)などの演算装置である。
通信装置103は、無線ネットワーク等を介して、他の装置と通信経路を確立し情報を送受信するネットワークモジュール等の装置である。
主記憶装置104は、例えばRAM(Random Access Memory)などのメモリ装置である。
外部記憶装置105は、例えばハードディスクやSSD(Solid State Drive)、その他各種の不揮発性記憶媒体に情報を書き込み、あるいは不揮発性記憶媒体から所定の情報を読み出す装置である。
表示装置106は、例えば液晶ディスプレイや、有機EL(Electro Luminescence)ディスプレイ等の表示出力を行う装置である。
撮像装置107は、例えば光学カメラや、赤外線カメラ等の暗視カメラであり、例えば車両に取り付けられて所定の方向を撮影する。なお、撮像装置107は、一つに限られず、複数車両に取り付けられ、それぞれは他の撮像装置107から独立して制御されるものであってもよい。
位置検出装置108は、車載機100の位置を検出する装置である。例えば、GPS(Global Positioning System)、ロシアのGLONASS(Global Navigation Satellite System)、欧州のGalileo、中国の北斗衛星導航系統等の衛星測位システムや、準天頂衛星システムを用いて、車載機100の座標を取得する。
上記した制御部120の各機能部、すなわち降車検知部121、画像取得部122、画像認識部123、通知対象特定部124、通知情報作成部125、カメラ制御部126は、演算装置102が所定のプログラムを読み込み実行することにより構築される。そのため、主記憶装置104には、各機能部の処理を実現するためのプログラムが記憶されている。
また、上記した記憶部110は、主記憶装置104あるいは外部記憶装置105により、通信部130は、通信装置103により、それぞれ実現される。
なお、上記した各構成要素は、車載機100の構成を、理解を容易にするために、主な処理内容に応じて分類したものである。そのため、構成要素の分類の仕方やその名称によって、本願発明が制限されることはない。車載機100の構成は、処理内容に応じて、さらに多くの構成要素に分類することもできる。また、1つの構成要素がさらに多くの処理を実行するように分類することもできる。
また、制御部120の各機能部は、CPUに限らずハードウェア(ASIC、GPU(Graphics Processing Unit)など)により構築されてもよい。また、各機能部の処理が一つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。
図3は、携帯端末のハードウェア構造例を示す図である。携帯端末200は、入力受付装置201と、演算装置202と、通信装置203と、主記憶装置204と、外部記憶装置205と、表示装置206と、位置検出装置207と、これらをつなぐバス209と、を含んで構成される。
入力受付装置201は、ハードウェアボタンやタッチパネル等の各種入力装置である。演算装置202は、例えばCPUなどの演算装置である。
通信装置203は、無線ネットワーク等を介して、他の装置と通信経路を確立し情報を送受信するネットワークモジュール等の装置である。
主記憶装置204は、例えばRAMなどのメモリ装置である。
外部記憶装置205は、例えばハードディスクやSSD、その他各種の不揮発性記憶媒体に情報を書き込み、あるいは不揮発性記憶媒体から所定の情報を読み出す装置である。
表示装置206は、例えば液晶ディスプレイや、有機EL(Electro Luminescence)ディスプレイ等の表示出力を行う装置である。
位置検出装置207は、携帯端末200の位置を検出する装置である。例えば、GPS、ロシアのGLONASS、欧州のGalileo、中国の北斗衛星導航系統等の衛星測位システムや、準天頂衛星システムを用いて、携帯端末200の座標を取得する。
上記した制御部220の各機能部、すなわち施設退場検出部221、通知制御部222、入力制御部223、画面制御部224は、演算装置202が所定のプログラムを読み込み実行することにより構築される。そのため、主記憶装置204には、各機能部の処理を実現するためのプログラムが記憶されている。
また、上記した記憶部210は、主記憶装置204あるいは外部記憶装置205により、通信部230は、通信装置203により、それぞれ実現される。
なお、上記した各構成要素は、携帯端末200の構成を、理解を容易にするために、主な処理内容に応じて分類したものである。そのため、構成要素の分類の仕方やその名称によって、本願発明が制限されることはない。携帯端末200の構成は、処理内容に応じて、さらに多くの構成要素に分類することもできる。また、1つの構成要素がさらに多くの処理を実行するように分類することもできる。
また、制御部220の各機能部は、CPUに限らずハードウェア(ASIC、GPUなど)により構築されてもよい。また、各機能部の処理が一つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。
[動作の説明]次に、降車時の処理に関する動作について説明する。図8は、降車時処理の流れを示す図である。降車時処理は、車載機100の起動時に開始される。
まず、降車検知部121は、降車を検知したか否か、判定する(ステップS001)。降車を検知していない場合(ステップS001にて「No」の場合)には、降車検知部121は、制御をステップS001に戻す。
降車を検知した場合(ステップS001にて「Yes」の場合)には、画像取得部122は、搭乗者の画像を取得する(ステップS002)。具体的には、画像取得部122は、カメラ制御部126に撮像を指示し、車載機100が搭載された車両から降車した乗員を撮像した画像データを取得する。
そして、画像認識部123は、画像を認識(被写体を特定)する(ステップS003)。具体的には、画像認識部123は、画像取得部122が取得した画像データを公知の物体認識方法により解析し、被写体の物体(傘、マフラー、手袋等の予め定められた物体)を認識する。
そして、通知対象特定部124は、通知対象を特定する(ステップS004)。具体的には、通知対象特定部124は、位置検出装置108を介して降車が検知された位置を特定して、当該位置が属する施設あるいは最寄の施設を、施設情報112を参照して検索し、特定する。そして、当該施設の属性に応じて通知対象情報113を参照して、通知対象の候補を特定する。具体的には、通知対象特定部124は、施設の予想滞在時間に応じて通知対象の候補を特定し、施設の規模に応じて通知対象の候補を特定し、施設の屋内外の区別に応じて通知対象の候補を特定し、これらの通知対象候補の和を算出する。そして、通知対象特定部124は、当該和に含まれる対象物と、画像データの被写体の物体との共通部分を算出し、これを通知対象と特定する。
そして、通知情報作成部125は、通知対象に応じた通知情報を作成する(ステップS005)。具体的には、通知情報作成部125は、通知対象特定部124が特定した通知対象について、施設から退場する際と、乗車の際に所持を確認するための表示および音声による通知情報を作成する。より具体的には、通知情報作成部125は、施設屋内出入口および車両の通知位置ごとに、通知条件と、通知内容(言語情報)と、通知時の表示画像(画像情報)と、を対応付ける。なお、通知情報作成部125は、通知条件、通知内容(言語情報)は、予め定められたテンプレートに従い作成し、通知時の表示画像は、画像取得部122が取得した画像データから通知対象ごとにトリミング(または拡大)した画像を作成する。また、通知情報作成部125は、当該施設が屋内施設ではない場合には、車両への乗車時の通知情報のみを作成する。
そして、通知情報作成部125は、通知情報を送信する(ステップS006)。具体的には、通知情報作成部125は、通知管理情報111を参照して、当該車載機100に対応する携帯端末200を特定し、通信部130を介して無線通信経由で携帯端末200に作成した通知情報を送信する。
そして、通知制御部222は、通知情報を受信する(ステップS007)。
そして、通知制御部222は、施設が屋内か否か判定する(ステップS008)。具体的には、通知制御部222は、位置検出装置207を介して位置を特定して、当該位置が属する施設あるいは最寄の施設が屋内であるか否かを、通知情報に車両への乗車時の通知情報と施設内外出入口の通知情報が共に含まれるか否かにより判定する。施設が屋内でない場合(ステップS008にて「No」の場合)には、通知制御部222は、制御をステップS010へ進める。
施設が屋内の場合(ステップS008にて「Yes」の場合)には、通知制御部222は、施設屋内退出時の通知情報を登録する(ステップS009)。具体的には、通知制御部222は、通知情報から通知位置が「施設屋内出入口」である通知情報を特定して、通知情報211に格納する。
そして、通知制御部222は、車両接近時の通知情報を登録する(ステップS010)。具体的には、通知制御部222は、通知情報から通知位置が「車両接近時」である通知情報を特定して、通知情報211に格納する。
以上が、降車時処理の流れである。降車時処理に寄れば、車両から降車した場合に、降車した乗員を撮像した画像を用いて、通知情報を携帯端末に転送できる。
図9は、施設退出時処理の流れを示す図である。施設退出時処理は、携帯端末200において、通知情報が登録されている間、実施される。
まず、施設退場検出部221は、施設の屋内から退場したか否か判定する(ステップS101)。具体的には、施設退場検出部221は、携帯端末200の位置を位置検出装置207を介して検出し、当該位置が降車時すなわち通知情報を受信した際の最寄の施設の出入り口にあたるか否か判定し、出入り口にあたると判定した場合に、初回を除いて当該施設からの退場として検出する。施設の屋内からの退場が検出されていない場合(ステップS101にて「No」の場合)には、施設退場検出部221は、制御をステップS105へ進める。
施設の屋内からの退場が検出された場合(ステップS101にて「Yes」の場合)には、通知制御部222は、通知情報211を読み出す(ステップS102)。具体的には、通知制御部222は、通知情報211を参照して、施設屋内出入口が通知位置となっている通知を抽出して読み出す。
そして、通知制御部222は、通知条件を満たすか否かを判定する(ステップS103)。具体的には、通知制御部222は、ステップS102にて読み出した通知に関して、通知条件211bを参照して通知条件を特定し、降水が通知条件である場合には湿度が所定の条件を満たすか否かを、気温が通知条件である場合には外気温が所定の条件を満たすか否かを、それぞれ判定することで、通知条件を満たすか否かを判定する。なお、湿度、温度等に関しては、図示しない湿度センサーや温度センサーを用いるものとする。その他、インターネット上の気象情報提供サービスを用いて近隣の湿度や温度を取得するものであってもよい。通知条件を満たさない場合(ステップS103にて「No」の場合)には、通知制御部222は、制御をステップS105へ進める。
そして、通知条件を満たしている場合(ステップS103にて「Yes」の場合)には、通知制御部222は、通知情報(通知対象物ごとのメッセージと画像)を出力する(ステップS104)。具体的には、通知制御部222は、ステップS102にて読み出した通知情報(通知対象物ごとのメッセージと画像)を画面制御部224に出力させる。
そして、通知制御部222は、車両に接近したか否か判定する(ステップS105)。具体的には、通知制御部222は、携帯端末200の車両への接近を、車載機100との通信の再開を検出することで判定する。例えば、通知制御部222は、車載機100との間での無線LAN(WiFi)、BluetoothあるいはNFC(Near Field Communication)等による無線通信、あるいはUSBやHDMI等の有線通信の確立を検出すると、車両に接近したと判定する。車両に接近していない場合(ステップS105にて「No」の場合)には、通知制御部222は、制御をステップS101へ戻す。
車両に接近した場合(ステップS105にて「Yes」の場合)には、通知制御部222は、通知情報211を読み出す(ステップS106)。具体的には、通知制御部222は、通知情報211を参照して、車両接近時が通知位置となっている通知を抽出して読み出す。
そして、通知制御部222は、通知条件を満たすか否かを判定する(ステップS107)。具体的には、通知制御部222は、ステップS106にて読み出した通知に関して、通知条件211bを参照して通知条件を特定し、降水が通知条件である場合には湿度が所定の条件を満たすか否かを、気温が通知条件である場合には外気温が所定の条件を満たすか否かを、それぞれ判定することで、通知条件を満たすか否かを判定する。なお、湿度、温度等に関しては、図示しない湿度センサーや温度センサーを用いるものとする。その他、インターネット上の気象情報提供サービスを用いて近隣の湿度や温度を取得するものであってもよい。通知条件を満たさない場合(ステップS107にて「No」の場合)には、通知制御部222は、施設退出時処理を終了させる。
そして、通知条件を満たしている場合(ステップS107にて「Yes」の場合)には、通知制御部222は、通知情報(通知対象物ごとのメッセージと画像)を出力する(ステップS108)。具体的には、通知制御部222は、ステップS106にて読み出した通知情報(通知対象物ごとのメッセージと画像)を画面制御部224に出力させる。
以上が、施設退出時処理の流れである。施設退出時処理によれば、施設から移動するために車両に接近した際と、施設に屋内の出入り口がある場合にはその屋内から退出する際とに、それぞれ、携帯端末200の画面および音声により、降車時に保持していた傘やマフラー等の物品の逸失防止のための注意喚起を通知することができる。また、携帯端末200の画面に表示される画像は、降車した乗員を撮像した画像に含まれる画像の一部であるため、具体的にどの物品の逸失の可能性があるかを知らせることができるため、より逸失防止効果を高めることができる。
図10は、逸失防止システムの利用シーンの例を示す図である。逸失防止システム1を利用すると、降車時に降車時処理が実施され、屋内施設から退出時および乗車時に施設退出時処理が行われる。降車時処理では、車載機100が搭載された車両100Aの撮像装置107により、傘とマフラーを含む乗員の姿が撮像され、通知情報が作成され、携帯端末200に通知情報が送信される。
そして、屋内施設から退出時および乗車時に、携帯端末200に画面400が表示される。画面400には、通知内容211cに格納されていたメッセージ401と、通知時表示画像211dに格納されていた傘の画像402、マフラーの画像403と、が含まれる。
以上が、本発明の第一の実施形態に係る逸失防止システム1である。逸失防止システム1によれば、煩雑なIDタグの管理を必要としない逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法を提供することができる。具体的には、施設の退出時に、施設到着時に保持していた所定の装備の保持を確認することができるため、逸失を未然に防止しうる。
ただし、本発明は、上記の実施形態に制限されない。上記の実施形態は、本発明の技術的思想の範囲内で様々な変形が可能である。例えば、車載機100にて通知情報を作成しているが、所定のサーバー装置にインターネット等のネットワークを介して接続し降車位置と降車した乗員の画像とを送信し、当該サーバー装置にて通知情報を作成して携帯端末200に配信するようにしてもよい。あるいは、車載機100から携帯端末200に降車位置と降車した乗員の画像とを送信し、当該携帯端末200にて通知情報を作成するようにしてもよい。
図11は、このような本発明に係る実施形態を適用した逸失防止システムの別の例を示す図である。逸失防止システム1´は、基本的に上記の実施形態と同様であり、相違点を中心に以下に説明する。逸失防止システム1´では、車載機100´には、制御部120´と通信部130´とが含まれ、通信部130´は携帯電話網(LTE:Long Term Evolution)、あるいは無線LAN(WiFi)等を介してサーバー装置300と通信を行う。
制御部120´には、降車検知部121と、画像取得部122と、カメラ制御部126と、が含まれる点は第一の実施形態と同様である。しかし、制御部120´にはさらに、画像送信部127が含まれる。画像送信部127は、降車位置と、車載機100´の識別子と、画像取得部122が取得した画像と、を通信部130´を経由してサーバー装置300に送信する。
サーバー装置300は、インターネット等のネットワークを介して車載機100´および携帯端末200と通信可能に接続される。サーバー装置300は、いわゆるコンピューターサーバー装置であり、記憶部310と、制御部320と、通信部330と、を備える。
記憶部310には、通知管理情報311と、施設情報312と、通知対象情報313と、が格納される。通知管理情報311と、施設情報312と、通知対象情報313とは、それぞれ、上述の実施形態における通知管理情報111と、施設情報112と、通知対象情報113と同様のデータ構造を備える。
制御部320には、画像受信部321と、画像認識部322と、通知対象特定部323と、通知情報作成部324と、通知情報配信部325と、が含まれる。
画像受信部321は、車載機100´から画像と、降車位置と、車載機100´の識別子と、を受信する。画像認識部322は、画像受信部321が受信した画像データを公知の物体認識方法により解析し、被写体の物体を認識する。
通知対象特定部323は、降車が検知された位置が属する施設あるいは最寄の施設を、施設情報312を参照して検索し、特定する。そして、当該施設の属性に応じて、通知対象情報313を参照して、通知対象の候補を特定する。具体的には、通知対象特定部323は、施設の予想滞在時間に応じて通知対象の候補を特定し、施設の規模に応じて通知対象の候補を特定し、施設の屋内外の区別に応じて通知対象の候補を特定し、これらの通知対象候補の和を算出する。そして、通知対象特定部323は、当該和に含まれる対象物と、画像データの被写体の物体との共通部分を算出し、これを通知対象と特定する。
通知情報作成部324は、通知対象特定部323が特定した通知対象について、施設から退場する際と、乗車の際に所持を確認するための表示および音声による通知情報を作成する。具体的には、通知情報作成部324は、施設屋内出入口および車両の通知位置ごとに、通知条件と、通知内容(言語情報)と、通知時の表示画像(画像情報)と、を対応付ける。なお、通知情報作成部324は、通知条件、通知内容(言語情報)は、予め定められたテンプレートに従い作成し、通知時の表示画像は、画像受信部321が取得した画像データから通知対象ごとにトリミング(または拡大)した画像を作成する。
そして、通知情報配信部325は、通信部330を介してインターネット等の無線通信経由で携帯端末200に、作成した通知情報を送信する。
通信部330は、携帯電話網(LTE)、あるいは無線LAN(WiFi)等を介して車載機100´および携帯端末200と通信を行う。
携帯端末200は、基本的に上述の実施形態における携帯端末200と同様であるが、通信部230´は、携帯電話網(LTE)、あるいは無線LAN(WiFi)等を介してサーバー装置300と通信を行う点に相違がある。
以上が、上述の実施形態の別の例である。この例によれば、処理能力や施設情報の質・量等に勝ることが多いサーバー装置300により車載機の処理負担を減らすことが可能となり、車載機100´のハードウェア要求レベルを下げること、あるいは車載機100´の応答速度を高めることができる。
図12は、本発明に係る実施形態を適用した逸失防止システムのさらに別の例を示す図である。逸失防止システム1´´は、基本的に上記の実施形態と同様であり、相違点を中心に以下に説明する。逸失防止システム1´´では、車載機100´´には、記憶部110´と、制御部120´と、通信部130と、が含まれる。記憶部110´には、通知管理情報111が含まれる。上述の実施形態のように施設情報112と通知対象情報113は記憶部110´には含まれるものではなく、この例では、携帯端末200´の記憶部210´に施設情報212と通知対象情報213として含まれる。
制御部120´には、降車検知部121と、画像取得部122と、カメラ制御部126と、画像送信部127と、が含まれる。制御部120´には、画像認識部123と、通知対象特定部124と、通知情報作成部125と、は含まれず、携帯端末200´の制御部220´にそれぞれ画像認識部226と、通知対象特定部227と、通知情報作成部228として含まれる。
携帯端末200´は、記憶部210´と、制御部220´と、通信部230と、を備える。記憶部210´には、通知情報211と、施設情報212と、通知対象情報213と、が含まれる。通知情報211と、施設情報212と、通知対象情報213とは、それぞれ上述の実施形態における、通知情報211と、施設情報112と、通知対象情報113と同様のデータである。
制御部220´には、施設退場検出部221と、通知制御部222と、入力制御部223と、画面制御部224と、画像受信部225と、画像認識部226と、通知対象特定部227と、通知情報作成部228と、が含まれる。
画像受信部225は、車載機100´´から画像と、降車位置と、車載機100´´の識別子と、を受信する。画像認識部226は、画像受信部225が受信した画像データを公知の物体認識方法により解析し、被写体の物体を認識する。
通知対象特定部227は、降車が検知された位置が属する施設あるいは最寄の施設を、施設情報212を参照して検索し、特定する。そして、当該施設の属性に応じて、通知対象情報213を参照して、通知対象の候補を特定する。具体的には、通知対象特定部227は、施設の予想滞在時間に応じて通知対象の候補を特定し、施設の規模に応じて通知対象の候補を特定し、施設の屋内外の区別に応じて通知対象の候補を特定し、これらの通知対象候補の和を算出する。そして、通知対象特定部227は、当該和に含まれる対象物と、画像データの被写体の物体との共通部分を算出し、これを通知対象と特定する。
通知情報作成部228は、通知対象特定部227が特定した通知対象について、施設から退場する際と、乗車の際に所持を確認するための表示および音声による通知情報を作成する。具体的には、通知情報作成部228は、施設屋内出入口および車両の通知位置ごとに、通知条件と、通知内容(言語情報)と、通知時の表示画像(画像情報)と、を対応付ける。なお、通知情報作成部228は、通知条件、通知内容(言語情報)は、予め定められたテンプレートに従い作成し、通知時の表示画像は、画像受信部225が取得した画像データから通知対象ごとにトリミング(または拡大)した画像を作成する。
以上が、上述の実施形態のさらなる別の例である。この例によれば、処理能力や施設情報の質・量等に勝ることが多い携帯端末200により車載機の処理負担を減らすことが可能となり、車載機100´´のハードウェア要求レベルを下げること、あるいは車載機100´´の応答速度を高めることができる。
1・・・逸失防止システム、100・・・車載機、110・・・記憶部、111・・・通知管理情報、112・・・施設情報、113・・・通知対象情報、120・・・制御部、121・・・降車検知部、122・・・画像取得部、123・・・画像認識部、124・・・通知対象特定部、125・・・通知情報作成部、126・・・カメラ制御部、130・・・通信部、200・・・携帯端末、210・・・記憶部、220・・・制御部、221・・・施設退場検出部、222・・・通知制御部、223・・・入力制御部、224・・・画面制御部、230・・・通信部

Claims (12)

  1. 施設の属性情報と、前記施設の属性に応じて逸失防止対象物を特定する通知対象情報と、を記憶する記憶部と、
    所定の車載機および該車載機に対応付けられた所定の携帯端末とネットワークを介して通信する通信部と、
    前記車載機から、該車載機が搭載された車両から降車した乗員を撮像した画像を受信する画像受信部と、
    前記画像の被写体のうち、降車位置にある前記施設の属性に応じて前記逸失防止対象物を通知対象と特定する通知対象特定部と、
    前記通知対象について、所持を確認するための表示および音声による通知情報を作成する通知情報作成部と、
    前記携帯端末に前記通知情報を送信する通知情報配信部と、
    を備えることを特徴とするサーバー装置。
  2. 請求項1に記載のサーバー装置であって、
    前記施設の属性情報には、前記施設ごとに予め定められた滞在時間が含まれ、
    前記通知対象特定部は、前記滞在時間に応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とするサーバー装置。
  3. 請求項1に記載のサーバー装置であって、
    前記施設の属性情報には、予め定められた前記施設の規模が含まれ、
    前記通知対象特定部は、前記施設の規模に応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とするサーバー装置。
  4. 請求項1に記載のサーバー装置であって、
    前記施設の属性情報には、屋内施設か否かが予め定められており、
    前記通知対象特定部は、前記施設が屋内施設か否かに応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とするサーバー装置。
  5. 請求項1に記載のサーバー装置であって、
    前記施設の属性情報には、前記施設ごとに予め定められた滞在時間、予め定められた前記施設の規模、または屋内施設か否か、が予め定められており、
    前記通知対象特定部は、前記施設の少なくとも2以上の属性情報の組み合わせに応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とするサーバー装置。
  6. サーバー装置と、車載機と、該車載機に対応付けられた携帯端末と、を通信可能にネットワークで接続する逸失防止システムであって、
    前記車載機は、
    乗員の降車を検知する降車検知部と、
    降車した前記乗員を撮像して画像を取得する画像取得部と、
    前記画像を前記サーバー装置へ送信する画像送信部と、を備え、
    前記サーバー装置は、
    施設の属性情報と、前記施設の属性に応じて逸失防止対象物を特定する通知対象情報と、を記憶する記憶部と、
    前記車載機から、前記画像を受信する画像受信部と、
    前記画像の被写体のうち、降車位置にある前記施設の属性に応じて前記逸失防止対象物を通知対象と特定する通知対象特定部と、
    前記通知対象について、所持を確認するための表示および音声による通知情報を作成する通知情報作成部と、
    前記携帯端末に前記通知情報を送信する通知情報配信部と、を備え、
    前記携帯端末は、
    前記通知情報を前記サーバー装置から受信する通知制御部と、
    前記施設からの退場を検出する施設退場検出部と、
    画面制御部と、を備え、
    前記通知制御部は、
    前記施設からの退場時に、前記通知情報を前記画面制御部に出力させる、
    ことを特徴とする逸失防止システム。
  7. 車両に搭載される車載機であって、
    施設の属性情報と、前記施設の属性に応じて逸失防止対象物を特定する通知対象情報と、を記憶する記憶部と、
    乗員の降車を検知する降車検知部と、
    降車した前記乗員を撮像して画像を取得する画像取得部と、
    前記画像の被写体のうち、降車位置にある前記施設の属性に応じて前記逸失防止対象物を通知対象と特定する通知対象特定部と、
    前記通知対象について、所持を確認するための表示および音声による通知情報を作成する通知情報作成部と、
    を備えることを特徴とする車載機。
  8. サーバー装置を用いた逸失防止方法であって、
    前記サーバー装置は、
    施設の属性情報と、前記施設の属性に応じて逸失防止対象物を特定する通知対象情報と、を記憶する記憶部と、
    所定の車載機および該車載機に対応付けられた所定の携帯端末とネットワークを介して通信する通信部と、制御部と、を備え、
    前記制御部は、
    前記車載機から、該車載機が搭載された車両から降車した乗員を撮像した画像を受信する画像受信ステップと、
    前記画像の被写体のうち、降車位置にある前記施設の属性に応じて前記逸失防止対象物を通知対象と特定する通知対象特定ステップと、
    前記通知対象について、所持を確認するための表示および音声による通知情報を作成する通知情報作成ステップと、
    前記携帯端末に前記通知情報を送信する通知情報配信ステップと、
    を実施することを特徴とする逸失防止方法。
  9. 請求項8に記載の逸失防止方法であって、
    前記施設の属性情報には、前記施設ごとに予め定められた滞在時間が含まれ、
    前記通知対象特定ステップでは、前記滞在時間に応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とする逸失防止方法。
  10. 請求項8に記載の逸失防止方法であって、
    前記施設の属性情報には、予め定められた前記施設の規模が含まれ、
    前記通知対象特定ステップでは、前記施設の規模に応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とする逸失防止方法。
  11. 請求項8に記載の逸失防止方法であって、
    前記施設の属性情報には、屋内施設か否かが予め定められており、
    前記通知対象特定ステップでは、前記施設が屋内施設か否かに応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とする逸失防止方法。
  12. 請求項8に記載の逸失防止方法であって、
    前記施設の属性情報には、前記施設ごとに予め定められた滞在時間、予め定められた前記施設の規模、または屋内施設か否か、が予め定められており、
    前記通知対象特定ステップでは、前記施設の少なくとも2以上の属性情報の組み合わせに応じて前記逸失防止対象物を前記通知対象と特定する、
    ことを特徴とする逸失防止方法。
JP2018026028A 2018-02-16 2018-02-16 逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法 Active JP6913643B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018026028A JP6913643B2 (ja) 2018-02-16 2018-02-16 逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018026028A JP6913643B2 (ja) 2018-02-16 2018-02-16 逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法

Publications (2)

Publication Number Publication Date
JP2019144652A JP2019144652A (ja) 2019-08-29
JP6913643B2 true JP6913643B2 (ja) 2021-08-04

Family

ID=67772344

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018026028A Active JP6913643B2 (ja) 2018-02-16 2018-02-16 逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法

Country Status (1)

Country Link
JP (1) JP6913643B2 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009020731A (ja) * 2007-07-12 2009-01-29 Denso Corp 車内忘れ物警告システム
JP2011164665A (ja) * 2010-02-04 2011-08-25 Panasonic Corp 車両周囲変化検出装置
JP5681877B2 (ja) * 2010-03-03 2015-03-11 レノボ・イノベーションズ・リミテッド(香港) 遺失情報通知システム、携帯端末、サーバ、遺失情報通知方法、及びプログラム
JP2012123491A (ja) * 2010-12-06 2012-06-28 Fujitsu Ten Ltd 車載装置および忘れ物確認サービス
US9449488B2 (en) * 2011-12-29 2016-09-20 Intel Corporation Object recognition and notification
CN103310597A (zh) * 2013-06-08 2013-09-18 安徽工程大学 出租车乘客物品防丢提示系统
JP6217172B2 (ja) * 2013-06-25 2017-10-25 日産自動車株式会社 車室内監視装置

Also Published As

Publication number Publication date
JP2019144652A (ja) 2019-08-29

Similar Documents

Publication Publication Date Title
US20210339708A1 (en) Identifying and authenticating autonomous vehicles and passengers
US11514784B2 (en) Systems and methods for detecting vehicle movements
US20190279440A1 (en) Fleetwide vehicle telematics systems and methods
JP6870584B2 (ja) 救援システムおよび救援方法、ならびにそれに使用されるサーバおよびプログラム
US10671068B1 (en) Shared sensor data across sensor processing pipelines
JP7403546B2 (ja) 遺留対象検出
US20140192085A1 (en) Head mounted display and method for controlling the same
US20160086391A1 (en) Fleetwide vehicle telematics systems and methods
JP2021517320A (ja) 乗客関連物品の紛失軽減
US20140327791A1 (en) Imaging systems, moving bodies, and imaging control methods for remote monitoring of a moving target
US20190377343A1 (en) Picking up and dropping off passengers at an airport using an autonomous vehicle
US10717413B2 (en) Actuation of vehicle systems using device-as-key and computer vision techniques
US20190141948A1 (en) Animal rescue system and animal rescue method, and server used for animal rescue system and animal rescue method
JP2014126912A (ja) 情報処理装置、通信端末装置および記憶媒体
US11270570B2 (en) Vehicle and method of managing cleanliness of interior of the same
CN111615721A (zh) 基于车辆与乘客之间进行识别的接送服务
JP7459916B2 (ja) 物体追跡方法、物体追跡装置、及びプログラム
US20210406546A1 (en) Method and device for using augmented reality in transportation
US20210171046A1 (en) Method and vehicle system for passenger recognition by autonomous vehicles
US20200050858A1 (en) Method and apparatus of providing information on item in vehicle
US20220044574A1 (en) System and method for remote viewing of vehicles using drones
US10928922B2 (en) Vehicle and operation method of vehicle
US20190005565A1 (en) Method and system for stock-based vehicle navigation
JP6913643B2 (ja) 逸失防止サーバー装置、逸失防止システム、車載機、逸失防止端末および逸失防止方法
KR20200100524A (ko) 자율주행 차량을 이용한 부동산 서비스 제공 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200818

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210416

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210622

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210712

R150 Certificate of patent or registration of utility model

Ref document number: 6913643

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150